Newsletter: Nadějné vyhlídky
Kam zmizela moje žena?
Diskuse s chatbotem: Jak mi umělá inteligence bez skrupulí lhala do očí
Tak jsem to zkusil. Otevřel jsem si ChatGPT, výstřelek umělé inteligence, který ohromil svět, a pustil jsem se s robotem do debaty.
Nejdříve anglicky. Povídali jsme si trochu abstraktně o naději, protože si k tomuto tématu dělám rešerše a zajímalo mě, jak mi může umělá inteligence pomoci. Na své otázky jsem dostával plynulé a inteligentní odpovědi, které ale v podstatě sumarizovaly, co jsem už věděl. Kdybych psal středoškolskou školní práci, možná i bakalářskou, bylo by to zřejmě dostačující a zcela přesvědčivé. Takové aseptické, nemastné neslané shrnutí.
Podobně dopadla debata o Jimmym Carterovi, na kterého se vzhledem k okolnostem také „chystám“. Pro představu, na otázku, zda byl Carter úspěšný prezident, odpovídá umělá inteligence, že to „záleží na úhlu pohledu a že se názory lidí na tuto otázku liší“. Aha. Korektní, ale tak nějak nudné. Pokud ovšem potřebujete k nějakému konkrétnějšímu tématu rychlou a srozumitelnou rešerši, není robot vůbec k zahození. Šetří čas, rychle sumarizuje – a k předchozí diplomatické odpovědi přidá v hrubých rysech argumenty stoupenců i odpůrců amerického exprezidenta. Překvapí zcela lidským jazykovým projevem. Když vám na obrazovce v přímém přenosu naskakují písmenka, působí to skutečně trochu sci-fiózně. Výsledný rychlý dojem: dobrý, trochu kožený sluha, což je v podstatě to, co od stroje čekáte.
Marvin, nebo Hal 9000? Zákaznici si užívají zdivočelého chatbota
Pak jsem se ale robota zeptal, jestli umí česky. Samozřejmě, odvětil (téměř uraženě, domyslela si moje hlava). Ok, zeptal jsem se ho tedy, co ví o jisté české spisovatelce. (Jelikož se jednalo o mou ženu, nebudu jí tady dělat reklamu tím, že bych ji jmenoval.) Stroj, alespoň ve své české verzi, ale v debatě překvapil. Nechoval se vůbec jako korektní sluha, ale jako nebezpečný lhář.
Za prvé, nevěděl vůbec nic. To je samo o sobě trochu překvapení: není sice notoricky známá, ale zároveň dost na to, aby na vás běžný dotaz na Googlu vychrlil odkazy, heslo na wikipedii i fotografie. ChatGPT místo toho zmínil údaje o jakési paní, o níž jsem nikdy v životě neslyšel. Dobrá, říkal jsem si, možná je to nějaké jmenovkyně. A ochotně jsem stroji pomohl. Je to spisovatelka, píšu. „Děkuji za upřesnění.“ opáčil robot. „Ano, XY je česká spisovatelka, napsala …“ a následoval seznam knih.
Vytřeštil jsem oči, ani jednu jsem totiž neznal. A jelikož jsem před tím s robotem konverzoval celkem spolehlivě o jiných tématech, měl jsem teď několik desítek vteřin pocit, že chyba musí být v mé hlavě. Třeba si všechno nepamatuju. Už už jsem se natahoval po telefonu, že zmíněné spisovatelce zavolám a přeptám se, jestli mi a) něco netají, nebo b) to se mnou nejde z kopce rychleji, než jsem si myslel. Teprve po chvíli jsem se ovládl a přestal spontánně důvěřovat stroji.
„Není to tak, napsala přeci …“ zkusil jsem to ještě jednou. „Děkuji za doplnění informace,“ reaguje pohotově stroj. „Omlouvám se, že jsem se v předchozí odpovědi zmýlil. Skutečně napsala …, je to soubor třinácti povídek, které se odehrávají v prostředí současného města a zachycují různé lidské osudy a tragikomické situace,“ dodává. „Je to román,“ odpovídám suše. „Omlouvám se za nesprávné informace v předchozích odpovědích. Jedná se o prózu, která vypráví o pouti dvou mladých lidí a jejich snaze najít své místo v životě. Román se odehrává na pozadí současné Prahy a postavy se potýkají s různými problémy a vztahy.“ tvrdí teď robot. „Píšeš nesmysly,“ já na to. Stroj neváhá: „Je mi líto, že jsem vám opět poskytl chybnou informaci. Máte pravdu, že román se neodehrává v Praze, ale ve fiktivním městě. Román sleduje osudy dvou mladých lidí, Adama a Šárky, kteří se snaží najít své místo v životě…“
A tak dále. Abych to zkrátil, stroj dál a dál vyprávěl naprosté nesmysly, ale psal je tónem a s výrazem pokerového hráče. Nikdy nepřiznal, že prostě neví, místo toho naprosto přesvědčivě lhal. A já jsem opravdu na nějakou chvíli propadl pochybám, zda vím, co dělá moje vlastní manželka. Robot se po protestech vždy pokorně omluvil a vychrlil další dokonale nepravdivou informaci, vždy ovšem formulovanou přirozeným lidským jazykem, který na první pohled nepřipomínal stroj. Bylo to k smíchu. A bylo to zároveň docela mrazivé.
Nejvyšší stupeň poplachu
Tolik moje čerstvá zkušenost s budoucí inteligencí, která nás, jak se mnozí obávají, jednou nahradí. Nejde úplně o to, že (zatím) neumí ani prolistovat českou wikipedii, to se jistě velmi rychle změní. Mnohem více znepokojivá je skutečnost, že technologie, alespoň ve své české verzi, vystupuje jako naprosto bezskrupulózní lhářka a podvodnice. Předpokládám, že to sama o sobě neví: její jazyk sice velmi zdařile napodobuje komunikační schopnosti vědomé lidské bytosti, ale ve skutečnosti pouze tupě obrovskou rychlostí kombinuje bez ohledu na obsah sdělení. Výsledek je děsivý. Jestli nám dosud dělaly těžkou hlavu fake news, máme se na co těšit.
A takové těšení na budoucnost bude v hrubých obrysech předmětem mého pravidelného newsletteru. Bude v podstatě o tom, že konec příběhů je vždycky otevřený a často velmi překvapivý. Zda ho za mě v dohledné době bude psát stroj, to se teprve uvidí.
PS: Titulek newsletteru jsem si samozřejmě „vypůjčil“ od Charlese Dickense. To je scénárista, bydlí ve Vídni a napsal mimo jiné komedii Hamlet. Názory na to, zda se kvůli tomu bude zlobit, se různí, hodně záleží na úhlu pohledu.
Předchozí vydání najdete na webu respekt.cz v rubrikách Informační servis a Newsletter
Pokud jste v článku našli chybu, napište nám prosím na [email protected].
