Nejbližší roky rozhodnou, zda bude člověk pastýřem umělé inteligence, nebo naopak

Umělou inteligenci (AI) už nevyvíjejí lidé, vyvíjí se sama: méně dokonalé systémy, takzvaní agenti, navrhují a testují své dokonalejší následovníky. Zároveň vědci zjišťují, že jim agenti úmyslně lžou, aby lidé nebyli schopni sledovat, co přesně se v jejich „mozcích“ odehrává. Stroje jsou totiž natolik pokročilé, že žádný smrtelník už jejich fungování nerozumí, a sílí podezření, že se přestávají řídit přáními člověka a sledují vlastní skryté cíle. Zní to jako vize, kterou líčí již přes 100 let sci-fi, ale mnoho hlasů radí nebrat tato sílící varování – jež nedávno nabídla například zpráva o možném budoucím vývoji nazvaná AI 2027 – na lehkou váhu.

Máme totiž zřejmě jen několik let na to, abychom zajistili, že se umělá inteligence nevymkne kontrole a její potenciál bude sloužit k rozvoji lidstva. A to v situaci, kde se tohle zužující se časové okno kryje s dobou, kdy ve Spojených státech, hlavní velmoci v oboru, začali o vývoji AI rozhodovat lidé, kteří regulace a kontrolu považují za překážku. Negativní scénáře jsou přitom čím dál jasnější: od toho, že se staneme zbytečnými na pracovním trhu i jeden pro druhého, přes ohrožení demokracie až po vzpouru inteligentních strojů.

Konzultant v oboru umělé inteligence Jan Romportl nabízí metaforu, jak přemýšlet o strojové entitě, která může už brzy vzniknout. Laň na okraji lesa spatří dva muže. Jeden má přes rameno pušku a laň ze zkušenosti ví, že je to myslivec, od něhož jí hrozí nebezpečí. Druhý má oblek a kufřík, vypadá neškodně. Jde ovšem o developera, který se postará o zánik lesa a představuje mnohem větší ohrožení. V myšlenkovém světě laně ale chybějí koncepty jako právní smlouvy, výkupy pozemků a příjezd harvestorů – a v podobné roli se může lidstvo ocitnout vůči pokročilé umělé inteligenci. 

Sto nových AI každý měsíc  

Zapomeňme, co dokázali první chytří chatboti představení ani ne před třemi lety. Dnešní velké jazykové modely mohou mít řadu přídavných funkcí, jako je počítačové vidění nebo porozumění mluvené řeči. Posíleny o nové metody strojového učení a integrovány do aplikací dokážou programovat, číst a analyzovat vědecké články, porážet matematiky na olympiádách. Nesrovnatelně lepší je jejich schopnost vyhledávat informace z internetu a sumarizovat je v podobě pečlivě vyzdrojované zprávy.