S pádivým vývojem umělé inteligence se začaly vynořovat také obavy o tom, co přinese. Bude nás sledovat na každém kroku? Manipulovat s námi? Nebo nás všechny postupně připraví o práci? Evropská Unie se proto jako první na světě rozhodla o regulaci a v současné době je projednáván takzvaný Akt EU o umělé inteligenci neboli AI Act. Pojďme se na něj podívat blíž.
Spousta aspektů a změn, které vývoj AI přináší, jsou přínosné – zrychlují a zefektivňují práci i využívání zdrojů, zbavují nás repetitivních úkolů či automatizují řadu procesů. Celkově by se dalo říct, že možná znamenají další vývojový stupeň lidstva. A jak se říká “pokrok nezastavíš“. Je ale nutné podívat se i na druhou stranu mince.
Umělá inteligence s sebou totiž může přinášet i řadu rizik. To nemluvíme o katastrofických vědeckofantaskních vizích. Už teď existují problémy s podvodníky využívající AI k tomu, aby z lidí vytáhli peníze nebo osobní údaje. Také je čím dál složitější určit pravost fotografií a videí a AI tento problém posouvá na další úroveň. Toto je však nic oproti tomu, co AI v budoucnosti dost možná dokáže – mluvíme zde o manipulaci s lidmi či úplné ztrátě soukromí. Pokud by se totiž tyto technologie neregulovaly, mohlo by to znamenat podobný vývoj, který vidíme v Číně.
Zde totiž funguje tzv. Systém sociálního kreditu, který boduje čínské obyvatele na základě jejich ekonomického a společenského chování. To znamená, že jsou lidé hodnoceni na základě řady faktorů – negativní body dostanou např. za to, že kouří na zakázaných místech nebo tráví příliš mnoho času hraním počítačových her. Na základě vyhodnocení jim pak nemusí být přiznaná půjčka, přijdou o možnost využívat některé služby a podobně.
Máte otázku týkající se právní úpravy umělé inteligence a možného budoucího vývoje? Napište nám ji a do 48 hodin budete mít k dispozici odpověď od některého z našich advokátů.
Samotný akt ještě nemá finální podobu, je už ale známo, co bude jeho obsahem. EU nemá zájem na přiškrcení inovací, ale chce přesto regulovat umělou inteligenci tak, aby zajistila její transparentnost, bezpečnost, sledovatelnost, nediskriminační povahu a nenáročnost na životní prostředí. AI je rozdělena do kategorií na základě míry potenciálního rizika:
Sem patří systémy AI, které jsou považovány za hrozbu pro člověka a EU je plánuje zakázat. Patří mezi ně manipulace s lidmi či určitými zranitelnými skupinami lidí (např. dětmi či seniory), přidělování sociálního kreditu (který jsme již zmínili ve vztahu s Čínou) nebo biometrické identifikační systémy fungující na dálku a v reálném čase.
U biometrických identifikačních systémů však EU zvažuje povolit určité výjimky například pro potřeby policejního vyšetřování. Takové sledování lidí na dálku a v reálném čase by totiž dokázalo značně ulehčit třeba pátrání po zločincích nebo obětích únosu. “Velký bratr” bude jistě velké téma budoucnosti.
Tip: To, že na nás míří kamery na ulicích, ve vrátnicích velkých společností či ve vchodech bytových domů, se pomalu stává běžnou realitou s níž počítáme. Stále více lidí si ale instaluje kamery přímo do svých domovů. Co je k tomu vede a co na to říká zákon? A jak je to obecně s používáním záznamů v soukromí? To se dozvíte v našem dalším článku.
Do této kategorie patří systémy AI, které mají negativní dopad na bezpečnost a základní lidská práva. Tato kategorie se pak dělí na dvě další podkategorie:
U obou těchto podkategorií plánuje EU nutnost posouzení před jejich vstupem na evropský trh a následnou pravidelnou kontrolu.
Jedná se o typ umělé inteligence, která něco vytváří. Spadá sem proto např. dobře známý ChatGPT. Tento typ AI bude muset splňovat požadavky na transparentnost. Bude tedy muset být jasně uvedeno, že byl obsah vytvořen pomocí umělé inteligence. Další pravidla se týkají také dat chráněných autorským právem a zamezování vytváření nezákonného obsahu.
Tip: Je obrázek vytvořený AI autorským dílem? Tímto problémem jsme se zabývali v našem dalším článku.
Sem patří ostatní systémy umělé inteligence s mírným rizikem. Na ty budou kladeny požadavky zejména, co se týče transparentnosti – lidé by tak měli být informováni o tom, že to co vidí či slyší, bylo vytvořeno umělou inteligencí. Toto se tedy bude týkat zejm. tzv deepfakes videí, obrázků či zvukových záznamů.
Dokončení AI aktu se předpokládá někdy na polovinu tohoto roku s tím, že státy budou mít vyhrazenou dobu na implementaci pravidel, stejně jako u jiných unijních pravidel. Není však pochyb, že bude mít regulace velký vliv, a to zejména na společnosti, které mu budou muset přizpůsobit své fungování. Ve hře jsou totiž kromě samotných pravidel také vysoké pokuty za jejich nedodržování. Mluvíme zde o pokutách ve výši až 35 milionů eur nebo 7 % z celosvětových tržeb. Na druhou stranu je ale potřeba zmínit, že k používání umělé inteligence spousta českých firem zatím vůbec nedošla, a proto pro ně bude aplikace nových pravidel pravděpodobně celkem nenáročná.
Tip: Dostupný advokát umělou inteligenci už nějakou dobu aktivně používá a můžete jí využít i vy. Říkáme ji AIDA a nachází se na konci každého článku. Stačí jí položit otázku a vyjede vám odpověď, včetně nabídky odpovídajících služeb a článků na dané téma.
Je možné, že umělá inteligence ovlivní také praxi u českých soudů. Pokud je totiž v současnosti u soudu předložena fotografie nebo video jako důkaz, soudce to většinou nijak nerozporuje a bere je automaticky jako reálné záběry. Protistrana sice může namítnout, že se jedná o padělek, v praxi se to ale často nestává. V Dostupném advokátovi jsme se s tím například za celou dobu naší práce setkali jen v jednotkách případů. S tím, jak se ale umělá inteligence každým dnem vyvíjí a rozšiřuje mezi široké publikum, se bude zajisté objevovat i v důkazních materiálech u soudu. A tento problém bude třeba řešit. Žádné video nebude věrohodné.
Jak umělá inteligence a její regulace ovlivní český trh i celou společnost, je teprve ve hvězdách. Je ale třeba počítat s tím, že se bude AI nadále vyvíjet a není nemožné, že společně s ní bude přicházet i čím dál přísnější regulace. Je tedy otázkou, jak se k tomuto český i unijní právní systém postaví.
Tým online právníků Dostupný advokát vám jej vyřeší.
Hledáte odpověď na konkrétní právní otázku? Napište nám ji a do 48 hodin budete mít k dispozici odpověď od některého z našich advokátů. Máme specialisty na všechny oblasti práva a garantujeme tak vysokou odbornost našich advokátů.
Ondřej je ten člověk, v jehož hlavě uzrál nápad poskytovat advokátní služby online. Právním službám se věnuje již déle než 10 let a rád klientům pomáhá, když si nevědí rady s právními problémy.
Rychla odpoved (telefonicky kontakt s pravnikem). Navrhli nekolik variant reseni, serazeno dle pomeru vykon / cena. Rozumne vysvetleno, nic netlacili.
Spokojenost s přístupem advokátů, s jejich trpělivostí i naceněním.
Službu jsem opakovaně využil s maximální spokojeností. Mohu doporučit.
