Ján Markoš: Hodně se mluví o tom, jak sladit AI s lidmi. Kdo však sladí lidi s AI?

V současnosti mnoho moudrých hlav přemýšlí nad tím, jak zajistit, aby umělá inteligence byla (a zůstala) v souladu s lidskými hodnotami a potřebami. Mnohé totiž děsí představa, čeho by byla AI schopna, kdyby byla mnohdy inteligentnější než dnes, a zároveň v nesouladu (anglicky unaligned) se základními etickými principy lidstva.

Již méně se však mluví o tom, že mnozí jednotlivci jsou již dnes až děsivě „nesladěni“ se vším tím, co považujeme za hodnotový základ naší civilizace. Vezměme si například takového Elona Muska, nejbohatšího člověka na planetě a jednu z klíčových postav světa AI.

Koncem července se ho šéfredaktorka časopisu The Economist Zanny Minton Beddoes zeptala, zda stále trvá na svém nedávném odhadu, že existuje asi 10–20procentní šance vyhubení lidstva, kterou zapříčiní umělá inteligence. Musk nonšalantně, s lehkým úsměvem odpověděl:

„Můj filozofický závěr je dívat se na to z té lepší stránky. Nevidím žádný způsob, jak skutečně zastavit tento neuvěřitelný rozmach umělé inteligence a robotů. A občas si říkám, že možná, i kdyby existovalo tlačítko na zastavení, nejspíš bychom ho neměli zmáčknout, protože nejpravděpodobnějším výsledkem je neuvěřitelný dostatek a blahobyt pro všechny. (…) Myslím, že moje filozofie v tuto chvíli je: Užijme si tuto jízdu. (…) Z dlouhodobého hlediska jsme všichni samozřejmě mrtví. (…) Podle standardního modelu fyziky končí existence našeho vesmíru jakousi řídkou šedou polévkou, která se postupně ochlazuje. Říká se tomu tepelná smrt vesmíru. (…) Takže pokud je tepelná smrt vesmíru skutečně osudem naší reality, pak je nejpodstatnější samotná cesta, protože cíl je hrozný.“