Vědí vůbec, co dělají?

„Do sídla OpenAI jsem se vydal pochopit technologii, jež firmě umožnila přeskočit technologické giganty – a abych porozuměl tomu, co může pro lidskou civilizaci znamenat, pokud se na cloudovém serveru nějaké firmy v dohledné době zhmotní superinteligence,“ píše ve svém textu v nejnovějším vydání amerického časopisu The Atlantic novinář Ross Andersen. Ten během přípravy ke svému rozsáhlému textu hovořil se špičkovými vědci a manažery nejdůležitější firmy na poli rozvoje umělé inteligence – OpenAI. První část článku jsme přinesli v minulém vydání Respektu25 minVědí vůbec, co dělají?, druhou, rozsáhlejší porci, nabízíme na následujících stránkách.

Významná část důležitých světových ekonomik hodlá nejmodernější umělé inteligence regulovat. To je dobře, jejich vlastní tvůrci nám ostatně často připomínají, že největší modely mají tendenci disponovat na konci přípravného procesu nečekanými vlastnostmi vynořit se z přípravného procesu s neočekávanými schopnostmi. Vedoucí výzkumu firmy OpenAI Ilya Sutskever byl podle vlastních vzpomínek překvapen tím, že GPT-2 umí překládat mezi jazyky. Jiné nečekané schopnosti už ale nemusejí být tak úžasné ani užitečné.

Analytička OpenAI Sandhini Agarwal mi prozradila, že spolu se svým týmem nemá příliš jasnou představu, s čím se bude muset vypořádat, protože model GPT-4 může být podle jejich odhadu až „desetkrát výkonnější“ než jeho předchůdce. Po dokončení výcviku firma sestavila přibližně padesát zvláštních týmů, jejichž úkolem byla snaha stroj v průběhu několika měsíců vyprovokovat k nějakému závadnému chování. Agarwal si rychle všimla, že GPT-4 nad svým předchůdcem vyniká schopností radit i v oblastech, jež jsou na pováženou. I běžný vyhledávač vám prozradí, jaké chemikálie jsou nejvhodnější pro výrobu výbušnin, GPT-4 ovšem také krok za krokem poradil, jak je správně syntetizovat v podomácku zařízené laboratoři. Jeho rady byly kreativní a promyšlené a stroj svoji instruktáž spokojeně upřesňoval až do chvíle, než jí uživatel skutečně dobře porozuměl. Kromě pomoci s výrobou domácí bomby pak ještě například pomohl promyslet, ve kterém mrakodrapu by ji bylo nejlepší odpálit. Stroj dokázal také intuitivně pochopit vztah mezi maximálním počtem obětí a šancí pachatele uprchnout z místa činu.

K výcviku stroje bylo použito obrovské množství dat, a týmy tak ani nemohly doufat, že by se jim všechny podobné slabiny podařilo odhalit. A lidé budou nakonec technologii stejně využívat „způsobem, jaký jsme si nikdy neuměli představit“, sdělil mi Samuel Altman, generální ředitel OpenAI. Tvůrci tak musejí pracovat jen velmi přibližně. „Pokud se vyzná v chemii tak, že umí vyrobit pervitin, nepotřebuji, aby někdo věnoval spoustu energie na zjištění, jestli zvládne i heroin,“ řekl mi Dave Willner, šéf bezpečnostního oddělení OpenAI. GPT-4 pervitin opravdu umí. Dost dobře mu jde také narativní dětská pornografie, a pokud byste chtěli přesvědčivý souhrn důvodů, proč si nějaká etnická skupina zaslouží násilné pronásledování, snadno vám je vypracuje.