Důležité rozhodnutí
Evropský AI Act ještě ani nezačal plně platit a už se objevují první rozhodnutí, která jeho pravidla uvádějí do praxe. Nedávný případ týkající se použití umělé inteligence pro biometrickou identifikaci osob ukazuje, že regulace AI nebude jen „papírovým strašákem“. Naopak – orgány veřejné moci ji berou vážně a už dnes řeší, kde končí inovace a začíná nepřiměřený zásah do základních práv.
Umělá inteligence pracující s biometrickými údaji (například rozpoznávání obličejů) patří podle AI Actu k nejrizikovějším technologiím. Důvod je zřejmý: Umožňuje identifikovat konkrétní osoby, sledovat jejich pohyb a chování a potenciálně vytvářet detailní profily bez jejich vědomí.
AI Act proto biometrickou identifikaci na dálku v reálném čase ve veřejně přístupných prostorech v zásadě zakazuje. Připouští však výjimky, typicky pro účely prevence závažné trestné činnosti nebo pátrání po konkrétních osobách. Právě tyto výjimky jsou formulovány poměrně obecně – a jejich praktická aplikace byla dosud spíše teoretická.
Nedávné rozhodnutí soudu je zajímavé tím, že se výslovně opírá o bod 35 preambule AI Actu. Ten zdůrazňuje, že při posuzování přípustnosti použití biometrické identifikace je nutné zohlednit konkrétní okolnosti případu a dopady na základní práva dotčených osob.
Orgán, který o povolení rozhodoval, se nezaměřil jen na to, zda je technologie technicky funkční. Posuzoval zejména:
Tento přístup potvrzuje, že preambule AI Actu není jen „nezávazným úvodem“, ale důležitým interpretačním vodítkem.
Rozhodnutí je jasným signálem pro všechny, kdo uvažují o využití AI systémů pracujících s biometrickými údaji. Nestačí spoléhat na to, že technologie sama o sobě přinese bezpečnost nebo efektivitu. Klíčová je právní a etická rovina.
Firmy i veřejné instituce by měly počítat s tím, že plošné a preventivní sledování osob pomocí AI bude velmi problematické a každé nasazení biometrické AI musí mít jasný, legitimní a úzce vymezený účel. Navíc bude nutné provést důkladné posouzení dopadů na základní práva a dokumentace a interní pravidla budou hrát zásadní roli při případné kontrole.
Jedním z nejdůležitějších aspektů rozhodnutí je důraz na proporcionalitu. Jinými slovy: i když je cíl legitimní (např. ochrana bezpečnosti), nelze bez dalšího použít jakýkoli technologický nástroj.
Použití AI pro biometrickou identifikaci může být nepřiměřené například tehdy, pokud:
Pokud zvažujete zavedení AI systémů s vyšším rizikem, vyplatí se postupovat obezřetně. Analyzujte, do jaké rizikové kategorie AI Actu váš systém spadá. Připravte se na posouzení dopadů na základní práva a ochranu osobních údajů a nastavte interní procesy tak, aby bylo možné doložit zákonnost a proporcionalitu řešení. Následně konzultujte záměr s odborníky ještě před nasazením technologie.
Nejste si jistí, zda je vaše AI řešení v souladu s právem? Obraťte se na nás a získejte rychlou právní analýzu.
Vyřešte libovolný právní problém s týmem Dostupného advokáta! Do 24 hodin vám navrhneme řešení vaší situace a spočítáme, kolik vás to bude stát. Cena za vypracování návrhu je 390 Kč. Když si u nás navržené služby objednáte, máte vypracování návrhu zdarma.
Osobně i online. Stačí si vybrat vhodnou službu, nebo zvolit nezávislou konzultaci když si nejste jistí.
