Evropská unie přišla s prvním návrhem pravidel, jak regulovat obecné modely umělé inteligence (GPAI). Jedná se o velké modely, které mají výkon nad 10²⁵ FLOPs (jednotka měřící počet operací za sekundu). Jinými slovy, mluvíme o velkých AI systémech, které vyvíjejí firmy jako OpenAI, Google, Meta a další technologičtí giganti. Tento dokument určuje, co budou tyto firmy muset splnit, aby se v budoucnu vyhnuly obřím pokutám.
Větší transparentnost
Jedna z klíčových věcí, na kterou se EU zaměřila, je transparentnost. Všichni, kdo se pohybují ve vývoji AI, budou muset podrobně vysvětlit, jaké zdroje a webové crawlery (software pro prohledávání webu) použili pro trénování svých modelů. To je klíčové hlavně kvůli autorským právům, protože umělci a další tvůrci si často stěžují, že AI využívá jejich práci bez povolení.
Rizikové hodnocení a bezpečnostní opatření
Kromě transparentnosti se dokument zabývá i tím, jak předcházet rizikům spojeným s AI. Konkrétně se mluví o tom, jak se vyhnout kybernetickým útokům, diskriminaci a ztrátě kontroly nad AI. Firmy budou muset přijmout tzv. Safety and Security Framework (SSF), aby analyzovaly rizika svých AI a přizpůsobily opatření podle toho, jak velký dopad mohou mít.
Pokuty a další postup
Ti, kdo pravidla poruší, mohou očekávat tučné pokuty. Může to být až 35 milionů eur nebo až sedm procent z jejich ročních globálních výdělků – což je v případě tech gigantů opravdu velká suma.
Evropská unie teď dává šanci všem, aby se k těmto pravidlům vyjádřili a pomohli je doladit. Své připomínky můžou poslat do 28. listopadu přes platformu Futurium. Finální verze těchto pravidel by měla být hotová do 1. května 2025.
Takže pokud vás zajímají právní předpisy týkající se AI, nebo máte pocit, že to může ovlivnit vaši práci – teď je ten správný čas se ozvat!
