Až budou roboti zvědaví, získají vědomí

Robot reprezentovaný malou ikonkou si prohlíží virtuální byt a hledá v něm postavičku člověka. Když ji objeví, zastaví se. „Propočítává, z jakého úhlu nalezeného nejlíp uvidí,“ vysvětluje to, co se na obrazovce notebooku odehrává, jeden z tvůrců simulace, japonský neurovědec a počítačový expert Ryota Kanai. Vzápětí je vše spočítáno a robot se přemístí do místa, ze kterého bude mít na objeveného nejlepší výhled.

Kanai založil a vede firmu Araya, jejímž cílem není nic menšího než vytvořit počítač disponující vědomím. Žádná definice, co to vědomí je a jak jej změřit, sice neexistuje, ale jsou tu jistá vodítka. Jednou z důležitých složek vědomí je podle Kanaiho představivost. „Když vás někdo píchne špendlíkem, ucuknete. To je pouhý reflex, reakce na podnět. Lidé ale nejednají jen reflexivně, jednají také podle informací z minulosti nebo na základě vnitřní simulace toho, co se může stát.“

Právě o to se snaží i robot na obrazovce. Vytváří si model virtuálního prostředí, v němž se pohybuje, a představuje si, co uvidí, až se přemístí na místo vhodné k pozorování nalezené postavy. Podobně jako my v tu chvíli pouze nezpracovává informace z okolí, ale naopak informace generuje ve svém „mozku“.

O užitečnosti těchto duševních pochodů není pochyb. „Pokud máte vnitřní model, třeba v paměti uloženou mapu města, pokud zkrátka město dobře znáte, nemusíte v něm hledat naslepo. Prostě jdete k cíli,“ vysvětluje Kanai, který své výzkumy představil na v Praze na nedávné mezinárodní konferenci o umělé inteligenci.

Zvědavé drony

Z další Kanaiho simulace už poněkud mrazí. Ukazuje velké vypoulené oko na stěně, které sleduje člověka v místnosti a snaží se uhodnout jeho příští pohyb. Místo, kam zaměřuje pozornost, označují žluté mihotající se body. „To oko má v sobě jistou zvědavost. Chce vědět, co člověk dělá,“ říká Kanai. V příští fázi výzkumu chtějí vědci přidat další postavy a testovat, jestli jejich příchod vzbudí pozornost oka. Jestli je bude sledovat; jestli vědci prostřednictvím avatarů na scéně pocítí, že počítačový agent, který pohyby oka řídí, projevuje úmysl.

Může se to hodit i pro praktické aplikace. Základem zvědavosti je opět vnitřní model, který lze využít pro představivost, pro mentální simulaci budoucnosti. V příkladu s mapou města si můžeme v duchu představit, kudy dojít k divadlu – a zjistit, že je to nad naše síly, protože město zase tak dobře neznáme. „Pokud vám mentální simulace nedá odpověď, uvědomíte si, že ve vašich znalostech něco chybí, a právě to je základ zvědavosti,“ říká Kanai, jehož tým se snaží vyvinout zvědavé drony, které by pátraly po ztracených lidech.

Takový dron si snáze vytváří mapu území, nad nímž letí - lačně do sebe saje vše, co mu připadá nové a zajímavé: „Jakmile něčemu porozumí, začne se nudit a zamíří jinam, což zvyšuje jeho efektivitu. Kombinací učení a zvědavosti si bez dozoru člověka vytváří model prostředí, ve kterém se pohybuje, a neustále jej aktualizuje.“ Když se pak v modelu objeví zajímavý nový rys v podobě přítomnosti hledaného, pochopitelně jej to zaujme.

Integrovaný brouk

Projeví-li tedy simulované oko známky zvědavosti, bude to znamenat, že první počítačový systém vybavený vědomím je na světě? Tak jednouché to není. Vědomí pravděpodobně neznamená jasně daný stav, je to spíše škála, na níž současné počítače ještě zdaleka nedosáhly ani stádia hmyzu. Chybí jim totiž další důležitá přísada, kterou je podle Kanaiho integrace informací z vnějšího prostředí do jednoho vědomého stavu. „Pravá mozková hemisféra získává informace z levé části zorného pole a obráceně. Přesto vnímáme zorné pole jednotně, nemáme pocit, že jedna osoba sídlí v levé části hlavy a druhá v pravé.“

Dojem „jedné osoby“ v naší hlavě posiluje i skutečnost, že mozek sice využívá mnoho různých neuronových sítí, umí je však flexibilně propojovat, a řešit tak různé úkoly, chápat nové situace. Podobně to zvládají i další živočichové, zatímco počítače za nimi zaostávají. Počítačové systémy založené na strojovém učení své dovednosti trénují tak, že milionkrát danou věc opakují metodou pokusu a omylu. Brouk nic takového dělat nemusí, jazykem počítačové vědy je mnohem více „integrovaný“.

Vědci, kteří pracují na umělé inteligenci, podle Kanaiho tuhle souvislost často opomíjejí. Otázka vědomí je pro ně vedlejší - stačí jim, že software, který vytvářejí, funguje, dělá to, co po něm chtějí. Jenže vědomí je zajímavé tím, že nejspíš souvisí s efektivitou, pomáhá vybrat v záplavě informací o okolním světě to, co je zrovna důležité. „Když máte neomezené zdroje, nemusíte používat týž modul pro víc funkcí. Vědomí pak nemusí hrát roli,“ říká Kanai. „Můžete-li na daný úkol použít 200 neuronů, není mozek pod tlakem využít je efektivně. Má-li však dispozici jen čtyři, musí je pospojovat velmi kreativně.“ Stává se více integrovaným, a právě proto v něm možná vzniká vědomí.

A pak je tu ještě jeden důvod, proč oko v notebooku nakonec nemusí mít s vědomím nic společného. „V principu lze vytvořit vědomí v počítačovém čipu. Jenže simulace vědomí nemusí být totéž, co vědomí samo, podobně jako simulace hurikánu není totéž co hurikán,“ krotí očekávání Kanai. Vědomí totiž možná povstává jen z příčinných fyzikálních interakcí, jimž by v příkladu s hurikánem odpovídaly vzájemné interakce molekul atmosféry. K jeho vytvoření tedy potřebujeme skutečný „umělý mozek“, skutečný hardware. Kanaiho tým chce proto časem přenést simulace z virtuálního do skutečného světa a pokračovat ve výzkumu pomocí opravdových robotů.

Lze vytvořit stroj, jehož duševní schopnosti by se vyrovnaly lidským? Více o tom, co zaznělo na konferenci Human Level AI 2018, kterou v Praze koncem srpna pořádala firma GoodAI, čtěte v novém Respektu 37/2018 v textu Od červa k člověku.