Nick Bostrom: Čeká nás krok do neznáma. AI může změnit skoro vše, co znamená být člověkem

Vaše kniha Deep Utopia: Life and Meaning in a Solved World (Hluboká utopie: Život a smysl v vyřešeném světě) je do velké míry spojená s klasickou filozofickou otázkou po smyslu lidského života. Tak jaký je teď smysl nebo hlavní účel života Nicka Bostroma?

Tak tomu říkám opatrná úvodní otázka. Asi vám raději nejdřív řeknu, jaký je smysl mé poslední knihy Deep Utopia, což s tím souvisí. V roce 2014 vyšla Superinteligence, kde jsem především rozebíral, co všechno by se mohlo v souvislosti s vývojem umělé inteligence pokazit. Její potenciální obří pozitivní dopady tam zmiňuju spíše nepřímo. Víc se věnuju zásadní otázce, jak vyřešit problém sladění umělé inteligence s lidmi (tzv. AI alignment), a dalším věcem. V nejnovější knize se dívám na opačnou stranu mince a rozebírám, co by se mohlo stát, pokud se věci naopak budou vyvíjet dobře. Byl jsem trochu zklamaný úrovní debaty o téhle otázce. Přišla mi velmi povrchní. Lidé mluví o tom, že kvůli AI možná poroste nezaměstnanost a že by pak řešením mohla být nějaká forma základního nepodmíněného příjmu nebo něco podobného. A tam se úvahy většinou zastaví. Ale pokud opravdu vezmeme v potaz vážně scénáře, že umělá inteligence jednoho dne dokáže dělat úplně všechno to, co my, tak to bude mít mnohem hlubší důsledky. Změní to význam toho, co znamená být člověkem. A otázkou pak je, jaký život bychom mohli vést a o co bychom měli usilovat. To jsem se ve své nové knize rozhodl prozkoumat.

Jako filozof se řadíte mezi představitele transhumanismu a longtermismu. Jak jste se jím stal? Fascinovaly vás myšlenky na „překonání člověka“ už jako chlapce, když jste ještě žil ve Švédsku?

Asi tak v patnácti jsem prožil jakési intelektuální probuzení. Jako dítě jsem nesnášel školu, ale pak jsem jedno odpoledne náhodou vkročil do místní knihovny. Tam jsem si najednou uvědomil, že existuje svět myšlenek, vzdělávání, vědy, filozofie a umění, který se velmi liší od toho, co jsme se učili ve škole. Tehdy jsem měl pocit, že jsem promarnil dosavadní léta života. Soustředil jsem se na to, abych to dohonil. Vzpomínám, že už v sedmnácti jsem četl jednu knihu o neuronových sítích, k níž jsem se dostal díky meziknihovní výpůjčce. To byla jedna z ranných prací o tomhle tématu. Dnešní generace AI je samozřejmě založená na neuronových sítích. Ale tehdy byl tenhle obor ještě v plenkách a mě to téma fascinovalo. Věnoval jsem se mu i v rámci univerzitního studia počítačové neurovědy v Göteborgu. A když jsem pak v roce 1996 odjel studovat do Londýna, poprvé jsem poznal další lidí, které zajímaly stejné otázky. Může to znít překvapivě, protože už jste asi vyrůstal s internetem. Ale tehdy to tak nebylo – zvlášť když žijete ve Švédsku a nepocházíte z rodiny akademiků, což byl můj případ. Když jsem začal používat internet, tak jsem rychle zjistil, že „tam venku“ jsou roztroušení lidé s podobnými zájmy, různé knihy a konference. Byl to takový zárodek komunity.

Vaše kniha Superinteligence o vývoji umělé inteligence, která by mohla překonat člověka ve všech aspektech, vyšla před více než deseti lety. Rozebíráte tam zejména temné scénáře i možnosti, jak jim předejít. Jak se v tomhle světle díváte na současný vývoj AI? Například tu popisujete dynamiku podobné té, kterou známe ze závodů ve zbrojení. Toho jsme teď svědky, ne?

Ano, uplynulo jen deset let a skutečně se to děje. Je pozoruhodné, že tehdy to zajímalo úzkou skupinu lidí a bylo to bráno spíš jako nějaké sci-fi nebo druh futurologie. A dnes už všechny přední laboratoře mají výzkumné týmy, které řeší problém sladění AI s cíli a zájmy lidí na co nejširší úrovni. Některé vlády přicházejí s prohlášeními o existenčních rizicích nebo o tom, že AI považují za klíčovou geopolitickou veličinu. Těmto otázkám se dnes věnuje mnohem víc lidí než před jedenácti lety. Ale stále si myslím, že většině lidem to ještě úplně nedošlo. Mnozí mluví o umělé inteligenci, jako by to byl web 2.0, mobilní internet nebo třeba cloud – jedna z těch cool a trochu nadhodnocených věcí, kolem nichž se dělává humbuk. Ale myslím, že AI se zásadně liší od jakýchkoli předešlých procesů.