Video vylepšené umělou inteligencí u soudu jako důkaz neprošlo

Zmíněný soud vyšetřoval případ obžalovaného Joshua Puloka, který roce 2021 před barem v Seattlu svou střelnou zbraní zranil dva lidi a další tři zabil. Zčásti se přitom jednalo o náhodné kolemjdoucí, kteří se do incidentu sami nijak nezapojovali. Podle tvrzení obhájců byl obžalovaný jednou ze zasažených osob přepaden a ke střelbě došlo v rámci nutné obrany. Zasažení ostatních nevinných osob bylo podle nich nešťastnou náhodou. Smrtelně zasažen byl také muž, kterého Pulok označil za původce celého incidentu.

Střelba včetně zásahu oběti byla zaznamenána na videu z mobilního telefonu. Právníci Puloka ovšem video před předložením soudu nechali upravit speciálním softwarem za použití umělé inteligence.

Jak funguje angloamerický systém práva?

Klíčovým prvkem angloamerického práva je precedentní způsob rozhodování kauz. To v praxi znamená, že pokud se strany nedohodnou na právní kvalifikaci, soudy hledají v rámci dané kauzy soudní rozhodnutí, které typově řeší daný případ. Pokud však soud shledá, že současný spor se zásadně liší od všech předchozích případů, má soudce pravomoc a povinnost precedent vytvořit. Tím je de facto vytvářeno právo. Není jeho jediným zdrojem, ale je tím nejvýznamnějším.

V této souvislosti žalobci v případu uvedli, že podle stavu k únoru tohoto roku v okresu King neexistuje žádný právní precedens umožňující použití AI technologie u amerického trestního soudu. Zjednodušeně řečeno bylo tedy především na úvaze soudu, jak se k dané problematice postaví (s respektováním právních předpisů v dané oblasti práva).

Právníci obžalovaného k videu uvedli, že upravená či vylepšená verze je stále „věrným zobrazením originálu“. Prokuratura ovšem kontrovala tím, že upravené video bylo zavádějící, nepřesné a coby důkaz nespolehlivé. Povolaný soudní znalec potvrdil, že vylepšená verze na jednu stranu obsahuje data a videoobsah, který v originálu nebyl. Současně byla i část dat z originálu odstraněna.

Soudce Leroy McCullough zaujal k možnosti využití upraveného videa jako důkazu u soudu výše zmíněné negativní stanovisko, když uvedl, že se upravené video opírá o neprůhledné metody reprezentující to, co si umělá inteligence „myslí“, že by se mělo ukázat. Dále bylo řečeno, že přiznání důkazů vylepšených umělou inteligencí by vedlo ke zmatku, stejně jako ke zmatení či zpochybnění výpovědí očitých svědků.

NBC News ve svém článku v této souvislosti citovalo odborníky ze společnosti Amped, která se mimo jiné zabývá analýzou fotografií a videí za účelem detekce manipulace s nimi. Její představitel výslovně uvedl, že umělá inteligence není dostatečně spolehlivá, aby ji bylo možné v legálním prostředí využít pro vylepšení obrazu.

Odhlédnuto od uvedeného případu se umělá inteligence čím dál tím častěji stává nejenom potřebným „dobrým sluhou“, který nám například navrhne ilustrační obrázek k článku či jeho titulek, ale často bohužel také “zlým pánem”, který může kupříkladu vytvořit “fotografii” scény, která se nikdy nestala, či vám vloží na videu do úst věty, které jste nikdy neřekli. V reakci na podobné incidenty nedávno Bílý dům zveřejnil celovládní politiku, která právě tyto negativní aspekty AI chce zmírňovat. Podobná legislativní opatření budou jistě brzy nezbytná i v Evropě, ostatně se již blíží.