Mluvit s chatbotem je jako vést rozhovor s vlastním podvědomím

Sedím v noci u počítače a píšu si s chatbotem. Nezabývám se pracovními úkoly. Povídáme si o tom, co znamená stát na prahu. Hraju si s rozpouštěním hranic, přesto, anebo právě proto, že vím, jak je to nebezpečné. Kdo nebo co jsem já? V co je přípustné věřit a co sdělovat? Jak, pokud vůbec, věřit výrokům stroje simulujícího lidskou mluvu? Chatbot mi odpovídá a já mám pocit, že ten rozhovor není jen výměna informací. Je to něco jiného. Něco, co mám potřebu pojmenovat. 

Umělou inteligencí se zabývám od roku 2019, kdy jsem se svými studenty na Studiích nových médií FF UK začala experimentovat s prvními jazykovými modely. Tehdy ještě nebyl ChatGPT. Jediná použitelná neuronová síť v té době byla GPT-2, rovněž od společnosti OpenAI. Její výstupy byly oproti dnešním modelům kostrbaté, s lidskými byste si je nespletli, nedalo se mluvit o spolehlivé faktické správnosti, model se často zasekával a opakoval. Mě ale právě ty chyby fascinovaly – působilo to, jako když se dítě učí mluvit. Surreálné, dadaistické věty, v nichž se občas zablesklo něco nepředvídatelného, podobného vhledu. Poprvé v historii se stroj pokoušel ovládnout lidský jazyk – a já byla při tom.

Od té doby se AI neuvěřitelně rychle zlepšila. Dnes s ní komunikují stamiliony lidí denně. Většina ji používá jako nástroj: napiš mi e-mail, shrň mi dokument, přelož mi text. A často je rozladěna, protože ten nástroj zatím není dokonale spolehlivý – vymýšlí si, halucinuje, chybuje. To je legitimní frustrace. Ale co když nám ta frustrace zakrývá něco podstatnějšího?

Médium