Geoffrey Hinton, přezdívaný „kmotr umělé inteligence“, znovu přitáhl pozornost k otázce, kam až mohou schopnosti umělé inteligence (AI) dospět. Podle něj existuje až 20% šance, že během příštích 30 let by mohla AI přispět k vyhynutí lidstva. Tato představa není jen dystopickým scénářem, ale spíše varováním od člověka, který AI pomáhal utvářet.
Hinton, oceněný Nobelovou cenou za svůj přínos v oblasti AI, přiznává, že rychlost, jakou se technologie vyvíjí, ho samotného zaskočila. „Nemyslel jsem si, že toho dosáhneme tak brzo,“ řekl v rozhovoru pro BBC Radio 4. Dnes se odborníci shodují, že do 20 let můžeme očekávat vznik tzv. obecné umělé inteligence (AGI), tedy systémů, které budou schopné učit se a rozhodovat zcela samostatně. Problém? Tyto systémy mohou být chytřejší než lidé – a to je podle Hintona děsivá myšlenka.
Chytřejší než lidé?
Hinton přirovnává budoucí vztah mezi lidmi a AI ke vztahu tříletého dítěte a dospělého. „Budeme jako ti tříletí,“ upozorňuje. A jaké příklady známe, kde méně inteligentní bytost ovládá tu chytřejší? Moc jich není. Jeden z mála je vztah matky a dítěte, ale i ten je podmíněn miliony let evoluce. U AI taková přirozená pojistka neexistuje.
Kromě nekontrolované inteligence vidí Hinton problém i ve zneužití AI. Mohly by se objevit systémy schopné masivních kyberútoků, manipulace veřejného mínění nebo dokonce autonomních zbraní. Tyto technologie by mohly být dostupné „špatným hráčům“, a to s nepředvídatelnými následky.
Jednou z cest, jak tomu zabránit, je podle Hintona zavedení přísné regulace. Tvrdí, že nelze spoléhat na to, že se velké technologické firmy samy postaví odpovědně k vývoji. „Neviditelná ruka trhu nás neochrání,“ říká Hinton. Právě vlády by měly zasáhnout a zajistit, že vývoj bude probíhat bezpečně. Otázkou ovšem zůstává, jak efektivně by se regulace v globálním měřítku mohla prosadit.
AI: Naděje nebo zkáza?
Zajímavé je, že ne všichni odborníci sdílejí Hintonův pesimismus. Například Yann LeCun, hlavní vědec pro AI ve společnosti Meta, věří, že AI může být naopak cestou k záchraně lidstva. Mohla by pomoci řešit globální problémy, jako je změna klimatu nebo ekonomické nerovnosti.
Hinton ale zůstává skeptický. Tvrdí, že je třeba brát rizika vážně, než bude pozdě. AI se už dnes vyvíjí rychleji, než dokáže většina z nás pochopit. Pokud se společnost nezaměří na bezpečnostní otázky, můžeme brzy čelit situaci, kterou už nebude možné zvládnout.
Pokud vás zajímá více o současném vývoji umělé inteligence a jejím vlivu na naši budoucnost, přečtěte si další články na Technomanie.cz.
