Deepfake technologie se v posledních letech stává čím dál větším problémem, nejen na internetu, ale i v soudních síních. Možnost snadno vytvořit realisticky vypadající falešné video, audio nebo fotografii představuje zásadní výzvu pro právní systém, který se spoléhá na autenticitu důkazů. Jak si s tím poradí justice, která čelí náporu manipulací?
Soudkyně Pamela Gates z Arizony vyjádřila obavy z rostoucí dostupnosti nástrojů pro manipulaci důkazů. „Dřív bylo snazší rozpoznat pravdu – použili jste selský rozum a vizuální hodnocení,“ říká Gates. „Tohle nám technologie vzala.“ Fotografie nebo nahrávky mohou být během pár minut zmanipulované a zásadně ztěžuje soudní rozhodování.
Představte si, že oběť předloží fotografii s modřinami a obžalovaný tvrdí, že snímek byl upraven. Nebo obviněný zpochybní zvukový záznam s tím, že jeho hlas někdo digitálně napodobil. Porota, která má rozhodnout, co je pravda, může být snadno zmatená.
Kdo by měl posuzovat pravost důkazů?
V současném systému často rozhoduje o autenticitě důkazů porota. Podle právních expertů, jako je Maura Grossman, je to ale neudržitelné. Grossman navrhuje, aby odpovědnost za ověřování důkazů převzali soudci ještě před samotným soudním procesem. Tento přístup by mohl ochránit poroty před manipulacemi, které by mohly ovlivnit jejich rozhodování.
Ne každý však s tímto návrhem souhlasí. Kritici upozorňují, že by to mohlo vést k delším a složitějším procesům. Na druhou stranu je jasné, že současný systém nestačí na to, aby zvládl nápor falešných důkazů generovaných umělou inteligencí.
Nová hrozba: „liar’s dividend“
Deepfake technologie přináší ještě jednu znepokojivou výzvu. Obvinění mohou tvrdit, že skutečné důkazy jsou falešné – což odborníci nazývají „liar’s dividend“. Tento argument byl použit například během procesů po útoku na Kapitol v roce 2021. Tato taktika může vést k nekonečnému zpochybňování důkazů a výraznému prodloužení soudních procesů. Právní experti varují, že tento fenomén může ještě více podkopat důvěru v právní systém.
Hledání řešení: technologie nebo pravidla?
Řešení deepfake problému hledají akademici i technologické firmy. Vyvíjejí se nástroje na detekci falešných obsahů, jako jsou digitální vodoznaky nebo deepfake detektory. Ty však zatím nejsou dostatečně spolehlivé. Testy ukázaly, že současné detektory označují mezi 71 a 99 % falešných videí za autentická.
Právníci, jako je Rebecca Delfino, proto navrhují změny pravidel. Podle ní by soudy měly vyžadovat forenzní analýzu důkazů ještě před procesem. Strana, která tvrdí, že důkaz je falešný, by musela zajistit posudek experta. Tento krok by mohl odradit od zneužívání technologie k neopodstatněným tvrzením.
Je jasné, že deepfake technologie mění pravidla hry. Otázkou zůstává, zda právní systém dokáže držet krok. „Nemáme potřebné nástroje, abychom s tím bojovali,“ přiznává Grossman. Změny budou vyžadovat čas – ať už půjde o technologická nebo právní opatření. Jedno je však jisté: boj s deepfaky bude ještě dlouho aktuální.
