Cítíte to? Obecná umělá inteligence je za dveřmi

Personálním půtkám dozorčích rad s řediteli firem se obvykle věnuje nanejvýš odborný tisk. Dramatu, jež v uplynulých dnech provázelo nečekané odvolání populárního vizionáře a průkopníka umělé inteligence Sama Altmana z vedení firmy OpenAI a jeho následný návrat do funkce, však přihlížel s otevřenými ústy celý svět. Mocenská hra několika jednotlivců totiž může mít dalekosáhlé následky.

Ve hře jsou miliardy dolarů, jež mohou vzejít ze zbrusu nové technologie. A pokud se skutečně blížíme vynálezu obecné umělé inteligence, tedy takové, která by byla všestranná a srovnatelná s lidskou, jde tu také o obrovskou moc, která by průkopníkům spadla do klína. Možný pád člověka z trůnu nejchytřejší bytosti na naší planetě zároveň budí obavy veřejnosti i odborníků. Ve vzdálené americké firmě se tak odehrává drama, jež může mít dopady na život nás všech. Džin nové technologie byl zjevně vypuštěn z lahve a udržet nad ním kontrolu bude velmi těžké.

Vizionář versus „duchovní vůdce“

V prorocké povídce Stanisława Lema Sto třicet sedm vteřin ze sedmdesátých let minulého století využívají američtí novináři počítač, který umí psát zprávy o nejnovějších událostech – a jak se ukáže, zvládá to i v situaci, kdy je odpojen od informací z terénu. Navíc dovede v krátkém časovém horizontu předvídat budoucnost. Je to tím, že složitost systému přesáhla určitou mez, za níž se objevila nečekaná, emergentní vlastnost vrhající nové světlo na povahu umělé inteligence i světa.

Budoucnost tu před necelými padesáti lety předpověděl i sám Lem. Ani ve 21. století nikdo předem netušil, jak překvapivé vlastnosti budou mít pokročilé jazykové modely, z nichž první byl světu představen teprve před rokem právě firmou OpenAI. Nevědělo se například, že budou umět programovat a překládat mezi jazyky, aniž by je to někdo učil. Mnozí vědci vidí v těchto náhle se vynořivších jevech průlom na cestě ke zmíněné obecné umělé inteligenci. A protože taková inteligence nemusí být k naší civilizaci nutně přátelská, bylo jasné, že je nutné postupovat opatrně. Snažili se o to i pracovníci OpenAI, když loni v tichosti vyvíjeli převratný jazykový model GPT-4, který by si uměl povídat s člověkem, psát verše i prózu nebo stanovit lékařskou diagnózu.

OpenAI vznikla v roce 2015 jako nezisková společnost, tedy jako protiklad velkým firmám typu Googlu; jako firma, jejímž cílem nebude generování peněz, ale snaha vyvinout umělou inteligenci (AI), která by lidstvu neškodila, ale pomáhala. Bezpečnost měla být společným jmenovatelem všech snah. Neziskový model však vydržel jen do roku 2019, kdy v rámci firmy vznikla dceřiná společnost, která vytvářet zisk směla. Byl to logický krok, protože vývoj AI stojí obrovské částky. Jen cenu tréninku modelu typu GPT-4 odhadují experti na více než 100 milionů dolarů. „Prosakují přitom zprávy, že další generace modelů může být ještě dražší. Konkurenční firma Anthropic vybrala na trénink modelů od investorů řádově miliardu,“ přibližuje soupeření odborník na globální rizika z Centra pro teoretická studia UK Jan Kulveit, který vývoj umělé inteligence sleduje.

Na dceřinou společnost v OpenAI, v jejímž čele stanul zmíněný osmatřicetiletý vizionář a podnikatel Sam Altman, nicméně stále dohlížela dozorčí rada, která měla hájit původní ideu, totiž že umělá inteligence musí sloužit ku prospěchu lidstva a zisk nemá být hlavním cílem snah. Podle časopisu The Atlantic, jehož redaktoři hovořili s řadou pracovníků OpenAI, rada také měla ve firmě vyvažovat rostoucí napětí mezi dvěma „kmeny“ odborníků: technooptimisty přísahajícími na rychlý vývoj umělé inteligence a její komercionalizaci, k nimž patří i Altman, a těmi, kdo se nové technologie obávají a jsou pro pomalejší postup. Jejich představitelem byl například šéf vývoje a člen dozorčí rady Ilya Sutskever.