Akt EU o umělé inteligenci: Jak se dotkne české legislativy?

S pádivým vývojem umělé inteligence se začaly vynořovat také obavy o tom, co přinese. Bude nás sledovat na každém kroku? Manipulovat s námi? Nebo nás všechny postupně připraví o práci? Evropská Unie se proto jako první na světě rozhodla o regulaci a v současné době je projednáván takzvaný Akt EU o umělé inteligenci neboli AI Act. Pojďme se na něj podívat blíž.

5 minut čtení

Kapitoly článku

Proč je vůbec úprava třeba?

Spousta aspektů a změn, které vývoj AI přináší, jsou přínosné – zrychlují a zefektivňují práci i využívání zdrojů, zbavují nás repetitivních úkolů či automatizují řadu procesů. Celkově by se dalo říct, že možná znamenají další vývojový stupeň lidstva. A jak se říká “pokrok nezastavíš“. Je ale nutné podívat se i na druhou stranu mince.

Umělá inteligence s sebou totiž může přinášet i řadu rizik. To nemluvíme o katastrofických vědeckofantaskních vizích. Už teď existují problémy s podvodníky využívající AI k tomu, aby z lidí vytáhli peníze nebo osobní údaje. Také je čím dál složitější určit pravost fotografií a videí a AI tento problém posouvá na další úroveň. Toto je však nic oproti tomu, co AI v budoucnosti dost možná dokáže – mluvíme zde o manipulaci s lidmi či úplné ztrátě soukromí. Pokud by se totiž tyto technologie neregulovaly, mohlo by to znamenat podobný vývoj, který vidíme v Číně.

Zde totiž funguje tzv. Systém sociálního kreditu, který boduje čínské obyvatele na základě jejich ekonomického a společenského chování. To znamená, že jsou lidé hodnoceni na základě řady faktorů – negativní body dostanou např. za to, že kouří na zakázaných místech nebo tráví příliš mnoho času hraním počítačových her. Na základě vyhodnocení jim pak nemusí být přiznaná půjčka, přijdou o možnost využívat některé služby a podobně.

Máte otázku?

Máte otázku týkající se právní úpravy umělé inteligence a možného budoucího vývoje? Napište nám ji a do 48 hodin budete mít k dispozici odpověď od některého z našich advokátů.

Co AI Act upravuje

Samotný akt ještě nemá finální podobu, je už ale známo, co bude jeho obsahem. EU nemá zájem na přiškrcení inovací, ale chce přesto regulovat umělou inteligenci tak, aby zajistila její transparentnost, bezpečnost, sledovatelnost, nediskriminační povahu a nenáročnost na životní prostředí. AI je rozdělena do kategorií na základě míry potenciálního rizika:

Nepřijatelné riziko

Sem patří systémy AI, které jsou považovány za hrozbu pro člověka a EU je plánuje zakázat. Patří mezi ně manipulace s lidmi či určitými zranitelnými skupinami lidí (např. dětmi či seniory), přidělování sociálního kreditu (který jsme již zmínili ve vztahu s Čínou) nebo biometrické identifikační systémy fungující na dálku a v reálném čase.

U biometrických identifikačních systémů však EU zvažuje povolit určité výjimky například pro potřeby policejního vyšetřování. Takové sledování lidí na dálku a v reálném čase by totiž dokázalo značně ulehčit třeba pátrání po zločincích nebo obětích únosu. “Velký bratr” bude jistě velké téma budoucnosti.

Tip: To, že na nás míří kamery na ulicích, ve vrátnicích velkých společností či ve vchodech bytových domů, se pomalu stává běžnou realitou s níž počítáme. Stále více lidí si ale instaluje kamery přímo do svých domovů. Co je k tomu vede a co na to říká zákon? A jak je to obecně s používáním záznamů v soukromí? To se dozvíte v našem dalším článku.

Vysoké riziko

Do této kategorie patří systémy AI, které mají negativní dopad na bezpečnost a základní lidská práva. Tato kategorie se pak dělí na dvě další podkategorie:

  1. Systémy AI, které se používají ve výrobcích, na něž se vztahují právní předpisy EU o bezpečnosti výrobků: Jedná se tedy o hračky, automobily, zdravotnické prostředky, výtahy, letecký a kosmický průmysl.
  2. Systémy AI spadající do osmi oblastí, které budou muset být registrovány v databázi EU.

U obou těchto podkategorií plánuje EU nutnost posouzení před jejich vstupem na evropský trh a následnou pravidelnou kontrolu.

Generativní AI

Jedná se o typ umělé inteligence, která něco vytváří. Spadá sem proto např. dobře známý ChatGPT. Tento typ AI bude muset splňovat požadavky na transparentnost. Bude tedy muset být jasně uvedeno, že byl obsah vytvořen pomocí umělé inteligence. Další pravidla se týkají také dat chráněných autorským právem a zamezování vytváření nezákonného obsahu.

Tip: Je obrázek vytvořený AI autorským dílem? Tímto problémem jsme se zabývali v našem dalším článku.

Mírné riziko

Sem patří ostatní systémy umělé inteligence s mírným rizikem. Na ty budou kladeny požadavky zejména, co se týče transparentnosti – lidé by tak měli být informováni o tom, že to co vidí či slyší, bylo vytvořeno umělou inteligencí. Toto se tedy bude týkat zejm. tzv deepfakes videí, obrázků či zvukových záznamů.

Co to pro nás znamená?

Dokončení AI aktu se předpokládá někdy na polovinu tohoto roku s tím, že státy budou mít vyhrazenou dobu na implementaci pravidel, stejně jako u jiných unijních pravidel. Není však pochyb, že bude mít regulace velký vliv, a to zejména na společnosti, které mu budou muset přizpůsobit své fungování. Ve hře jsou totiž kromě samotných pravidel také vysoké pokuty za jejich nedodržování. Mluvíme zde o pokutách ve výši až 35 milionů eur nebo 7 % z celosvětových tržeb. Na druhou stranu je ale potřeba zmínit, že k používání umělé inteligence spousta českých firem zatím vůbec nedošla, a proto pro ně bude aplikace nových pravidel pravděpodobně celkem nenáročná.

Tip: Dostupný advokát umělou inteligenci už nějakou dobu aktivně používá a můžete jí využít i vy. Říkáme ji AIDA a nachází se na konci každého článku. Stačí jí položit otázku a vyjede vám odpověď, včetně nabídky odpovídajících služeb a článků na dané téma.

Je možné, že umělá inteligence ovlivní také praxi u českých soudů. Pokud je totiž v současnosti u soudu předložena fotografie nebo video jako důkaz, soudce to většinou nijak nerozporuje a bere je automaticky jako reálné záběry. Protistrana sice může namítnout, že se jedná o padělek, v praxi se to ale často nestává. V Dostupném advokátovi jsme se s tím například za celou dobu naší práce setkali jen v jednotkách případů. S tím, jak se ale umělá inteligence každým dnem vyvíjí a rozšiřuje mezi široké publikum, se bude zajisté objevovat i v důkazních materiálech u soudu. A tento problém bude třeba řešit. Žádné video nebude věrohodné.

Jak umělá inteligence a její regulace ovlivní český trh i celou společnost, je teprve ve hvězdách. Je ale třeba počítat s tím, že se bude AI nadále vyvíjet a není nemožné, že společně s ní bude přicházet i čím dál přísnější regulace. Je tedy otázkou, jak se k tomuto český i unijní právní systém postaví.

Neodpověděl vám článek na váš problém? Zeptejte se umělé inteligence


Řešíte obdobný problém?

Tým online právníků Dostupný advokát vám jej vyřeší.

Konzultace s advokátem

Hledáte odpověď na konkrétní právní otázku? Napište nám ji a do 48 hodin budete mít k dispozici odpověď od některého z našich advokátů. Máme specialisty na všechny oblasti práva a garantujeme tak vysokou odbornost našich advokátů.

Předem dané ceny
Od začátku víte, kolik a za co platíte.
Vše zvládneme online
Takže ušetříte čas i peníze za dopravu.
Pracujeme rychle
90 % požadavků vyřešíme do druhého dne.
Zkušený tým
Pro každý právní obor máme specialistu.

Pomohl vám tento obsah? Přidejte mu hodnocení

průměrné hodnocení: 4.5
hodnoceno: 2 krát

…nebo jej sdílejte

Autor článku

JUDr. Ondřej Preuss, Ph.D.

Ondřej je ten člověk, v jehož hlavě uzrál nápad poskytovat advokátní služby online. Právním službám se věnuje již déle než 10 let a rád klientům pomáhá, když si nevědí rady s právními problémy.

Vzdělání
  • Právo, doktorské studium (Ph.D), Pf UK v Praze
  • Právo, L’université Nancy-II, Nancy
  • Právo, magisterské studium (Mgr.), Pf UK v Praze
  • Mezinárodní teritoriální studia (Bc.), FSV UK v Praze

Reference služby Dostupný advokát

Recenze služby

Ing. Peter Čunderlík

před 8 měsíců

Není to poprvé, co spolupracuji s touto právní kanceláří. Má zadání jsou od jednoduchých výpovědí ke složitějším uzavíráním smluv, zejména ve skutečnostech, na které zákon nepamatuje. Ani toto není problémem pro tuto právní kancelář. Pokud klient akceptuje to, že i záporná odpověď – ve smyslu dál do toho nepůjdeme – je vlastně řešením. A tady (zobrazit více) Není to poprvé, co spolupracuji s touto právní kanceláří. Má zadání jsou od jednoduchých výpovědí ke složitějším uzavíráním smluv, zejména ve skutečnostech, na které zákon nepamatuje. Ani toto není problémem pro tuto právní kancelář. Pokud klient akceptuje to, že i záporná odpověď – ve smyslu dál do toho nepůjdeme – je vlastně řešením. A tady jako klient pociťuji sílu právní kanceláře, že je věc konzultována z různých úhlů a pozor, peníze zde nejsou na prvním místě. Zastupitelnost kvality kvalitou doplněním z jiné oblasti- já říkám za rohem, co se přirozeně hned nevidí – může být rada od právníka pro klienta nesrozumitelnou, ale pokud klient věnuje maximální péči konzultaci a skutečně odevzdává pravdivé a snaží se i úplné informace, nemůže být negativní odpověď – ve smyslu dál do toho nepůjdeme – negativní, ale konstruktivní. A proto souhlasím s názorem že pravdivé informování kanceláře již od počátku (člověk sám bez vzdělání a právnické praxe není neomylný) zjednodušuje další postup a řešení vznikají takříkajíc současně, ve spolupráci. Zastupitelnost, ochota pomoci, rychlost, dozeptání se bez obavy z navýšení ceny vytváří prostor 50% na 50%. Obě strany jsou stejně zainteresované na výsledku. Proto si i příště vyberu toto právní kancelář.

Recenze služby

Michal D.

před 5 měsíců

Rychla odpoved (telefonicky kontakt s pravnikem). Navrhli nekolik variant reseni, serazeno dle pomeru vykon / cena. Rozumne vysvetleno, nic netlacili.

Recenze služby

Luboš Zeman

před 5 měsíců

Obrátil jsem se o právní poradu – moje žádost byla vyřízena velmi rychle, kvalitně a hlavně kvalifikovaně. Všichni byli milí a ochotní. Mohu jen doporučit!

Zobrazit všechny reference

Mohlo by vás také zajímat

Znáte nás z médií
Logo Česká advokátní komora Apek Logo Advokátní kancelář roku 2023
Sledujte novinky
Facebook Dostupný advokát Twitter / X Dostupný advokát
Dostupný advokát © 2013-2024