Britský nositel Nobelovy ceny varuje: Superinteligence zničí lidstvo
Foto: Pexels
4 min
Geoffrey Hinton, průkopník umělých neuronových sítí a nositel Nobelovy ceny, volá po zákazu vývoje superinteligentních systémů. Británie možná bude první zemí, která jejich tvorbu zakáže zákonem.
Reklama
Když tvůrce varuje před vlastním dílem
Geoffrey Hinton strávil celý profesní život budováním základů technologie, která dnes mění svět. Britsko-kanadský informatik položil klíčové kameny umělých neuronových sítí – systémů, které dnes řídí vše od rozpoznávání obličejů až po lékařské diagnózy. V roce 2024 za tento přínos získal Nobelovu cenu za fyziku.
Přesto dnes tento muž stojí v čele těch, kdo před dalším vývojem AI bijí na poplach. Jeho varování zní jasně: pokud lidstvo ztratí kontrolu nad systémy chytřejšími, než jsme my sami, může to znamenat naši katastrofu. Dokonce hovoří o možném vyhynutí celého druhu.
Co přesně se změnilo? Hinton sleduje tempo, jakým se technologie vyvíjí, a vidí nebezpečný bod na obzoru – okamžik, kdy umělá inteligence překročí hranici pouhého nástroje a stane se superinteligencí. Tímto pojmem odborníci označují systém, který by svými schopnostmi převýšil nejen jednotlivce, ale i celé společnosti či národy.
Británie chce zakázat vývoj superinteligence
Britský parlament bude nyní skutečně projednávat návrh zákona, který by vývoj superinteligentní AI na území Spojeného království zcela zakázal. Legislativu připravila organizace ControlAI společně s labouristickým poslancem Alexem Sobelem. Více než 135 britských parlamentářů napříč politickým spektrem už kampaň podpořilo.
Návrh se ale neomezuje jen na lokální zákaz. Obsahuje také závazek britské vlády aktivně usilovat o globální mezinárodní dohodu, která by zakázala vývoj superinteligence po celém světě. Jde o bezprecedentní krok – poprvé v historii by stát mohl právně zakázat určitý směr technologického pokroku ještě předtím, než se plně realizoval.
Hinton k návrhu říká:
Bylo by velmi pošetilé vyvíjet superinteligenci nyní, když neexistuje vědecká shoda na tom, zda ji lze vyvíjet bezpečně a kontrolovaně. Ztráta kontroly nad AI chytřejší než lidstvo by mohla být katastrofální a vést až k našemu vyhynutí.
Kampaň ControlAI ve svém prohlášení zdůrazňuje:
Laureáti Nobelovy ceny, vědci a ředitelé předních AI společností se shodují, že zmírnění rizika vyhynutí v důsledku AI musí být globální prioritou. Specializovaná AI v oblasti vědy a medicíny podporuje růst a veřejné služby, zatímco superinteligentní systémy by ohrozily národní i globální bezpečnost.
Technologičtí giganti tlačí na volnou ruku
Ne všichni v oboru ale souhlasí s přísnější kontrolou. Sam Altman, šéf společnosti OpenAI, která stojí za chatbotem ChatGPT, ještě loni v Senátu volal po větší regulaci. Dnes jeho postoj zní diametrálně odlišně. Před senátory v květnu minulého roku prohlásil, že regulace podobné těm v Evropské unii by byly katastrofální. Technologické firmy podle něj potřebují prostor pro inovace a rychlý postup.
Na konferenci o ochraně soukromí o měsíc dříve Altman šel ještě dál. Tvrdil, že je nemožné zavést bezpečnostní záruky dříve, než se objeví konkrétní problémy. Jinými slovy: musíme nejprve vidět, co se pokazí, teprve pak můžeme reagovat.
Hinton tento přístup považuje za nebezpečný. "Pokud lidstvo nenajde řešení, jak přežít vedle mnohem chytřejší a mocnější technologie, budeme vyřízení," varoval už dříve. A dodává: "Potřebujeme protitlak vůči technologickým nadšencům, kteří tvrdí, že by pro AI neměly platit žádné regulace."
Británie se tak může stát první zemí, která řekne: ne všechno, co lze vytvořit, by mělo být vytvořeno. Otázka zní, zda ji ostatní státy budou následovat – nebo zda se superinteligence narodí jinde, mimo dosah jakéhokoli zákona.
