Proč Stephen Hawking tak urgentně varoval před umělou inteligencí?

Kdo byl Stephen Hawking

Stephen Hawking se narodil v roce 1942 do lékařské rodiny. V dětství mnoho nenasvědčovalo tomu, že z něj vyroste jeden z nejznámějších vědců historie, kterého mnozí řadili a řadí po bok takových velikánů, jako jsou Isaac Newton nebo Albert Einstein. Časem se u něj ale začaly projevovat vlohy pro matematiku a fyziku, což zúročil v průběhu svého vysokoškolského studia.

V době, kdy pracoval na své disertační práci, se u něj začala projevovat zhoubná nemoc – amyotrofická laterální skleróza, zkráceně ALS. Prognóza byla děsivá a lékaři mu nedávali naději na přežití. Hawking ale nejen, že přežil – byť postupem času ztratil schopnost se pohybovat i mluvit – ale začal se plně soustředit na vědeckou práci.

Mezi nejvýznamnější příspěvky Stephena Hawkinga k vědeckému poznání vesmíru patří ty týkající se černých děr, především pak teoretická předpověď tzv. Hawkingova záření. Popularitu mimo vědeckou obec mu zajistilo jak autorství populárně vědeckých knih (z nich je nejznámější kniha Stručná historie času), tak nepochybně i jeho fyzická podoba. Stephen Hawking zemřel v roce 2018 a je pochován v londýnském Westminsterském opatství.

Stephen Hawking a umělá inteligence

Stephen Hawking se často vyjadřoval i k tématům mimo jeho vlastní obor a specializaci. Nezřídka jsme tak mohli číst jeho statě o mimozemském životě anebo o umělé inteligenci. V obou případech byly jeho názory poměrně netradiční a varující před možnými riziky, která pro lidský druh ze setkání s těmito fenomény plynou.

Hawking rozhodně nebyl odpůrce umělé inteligence (anglicky artificial intelligence, zkráceně AI) jako takové. Vždy jasně říkal, že AI se může stát tou největší a neprospěšnější technologií, kterou kdy člověk vytvořil. Současně se ale může umělá inteligence stát naší Nemesis a tou technologií, která nás nakonec zničí. I když by AI mohla spíše jen hypoteticky ohrozit naší existenci, není vyloučeno, že bychom k ní mohli jednou dospět. A proto je toto třeba mít na paměti již teď.

Stephen Hawking shrnul své obavy do následujícího výroku:

„Zatímco dnes spočívá hlavní problém umělé inteligence v tom, kdo jí ovládá, v budoucnosti půjde o to, zda půjde vůbec jakkoliv ovládat“

Scénáře, ve kterých umělá inteligence není limitována zákony evoluce a může se měnícím se podmínkám přizpůsobovat prakticky v reálném čase, můžou spolu s obrovským výpočetním výkonem znamenat, že AI se dostane na úroveň inteligence, která se od nás bude odlišovat stejně, jako se my odlišujeme od nižších živočichů (Hawking zmiňoval konkrétně šneky).

Navrhl Stephen Hawking nějaké řešení?

Jak již bylo zmíněno, Stephen Hawking rozhodně nevolal po zastavení vývoje umělé inteligence. Koneckonců, již nyní se AI podílí na řešení celé řady problémů a může nakonec znamenat, že nás před těmi největšími hrozbami zachrání.

Stephen Hawking volal po tom, aby již nyní započal proces tvorby regulací mířených na umělou inteligenci a její používání. To, že může jít o potenciální problém, je patrné z toho, jak se k problému staví veřejnost i odborníci. I v dnešní době se s pojmem regulace umělé inteligence prakticky nepracuje a regulovány jsou až finální produkty (typicky samořiditelné auto jako takové).

A jiné důvody?

Je pravdou, že Hawkingovo varování může být skutečně relevantní, současně je ale třeba vnímat jej v určitém kontextu. Stephen Hawking byl známý tím, že měl poměrně komplikovanou povahu. Mimo jiné miloval být středem pozornosti a podle toho se také často choval.

Intenzitu jeho varování je proto možné do jisté míry přisoudit i snaze dostat se - jako již tolikrát předtím - na přední stránky novin. Ať tak či onak, racionální jádro v jeho chmurných předpovědích nalézt nepochybně lze.