Nick Bostrom: Čeká nás krok do neznáma. AI může změnit skoro vše, co znamená být člověkem

Vaše nejnovější kniha Deep Utopia je do velké míry spojená s klasickou filozofickou otázkou po smyslu lidského života. Tak jaký je teď smysl nebo hlavní účel života Nicka Bostroma?

Tak tomu říkám opatrná úvodní otázka. Asi vám raději nejdřív řeknu, jaký je smysl mé poslední knihy Deep Utopia, což s tím souvisí. V roce 2014 vyšla Superinteligence, kde jsem především rozebíral, co všechno by se mohlo v souvislosti s vývojem umělé inteligence pokazit. Její potenciální obří pozitivní dopady tam zmiňuju spíše nepřímo. Víc se věnuju zásadní otázce, jak vyřešit problém sladění umělé inteligence s lidmi (tzv. alignment problem), a dalším věcem. V nejnovější knize se dívám na opačnou stranu mince a rozebírám, co by se mohlo stát, pokud se věci naopak budou vyvíjet dobře. Byl jsem trochu zklamaný úrovní debaty o téhle otázce. Přišla mi velmi povrchní. Lidé mluví o tom, že kvůli AI možná poroste nezaměstnanost a že by pak řešením mohla být nějaká forma základního nepodmíněného příjmu nebo něco podobného. A tam se úvahy většinou zastaví. Ale pokud opravdu vezmeme v potaz vážně scénáře, že umělá inteligence jednoho dne dokáže dělat úplně všechno to, co my, tak to bude mít mnohem hlubší důsledky. Změní to význam toho, co znamená být člověkem. A otázkou pak je, jaký život bychom mohli vést a o co bychom měli usilovat. To jsem se ve své nové knize rozhodl prozkoumat...

Předplatitelé mají k dispozici také celý přepis podcastového rozhovoru: