Deepfakes jsou stále dokonalejší. A jdou si i pro váš bankovní účet

Donald Trump na TikToku předvádí svou ranní rutinu. „Připravte se se mnou na velký den,💄🇺🇸,“ zní popisek k fotce, na níž si americký prezident drží u tváře štětec na líčení. Jde o statický záběr, zřejmě je to screenshot z videa na TikToku. Stejně jako záplava dalších nesmyslů generovaných umělou inteligencí, které kolují po internetu, je i tento obrázek falešný a směšný. Zároveň však působí znepokojivě reálně: nejsou na něm ruce se šesti prsty, úhly popírající fyzikální zákony ani jiné zjevné známky obrazu generovaného umělou inteligencí. Na první pohled to opravdu vypadá, jako by si prezident nanášel bronzový pudr.

Tento deepfake jsem vytvořila pomocí nového modelu pro generování obrázků od OpenAI. ChatGPT Images 2.0, který byl uveden minulý týden, dokáže vytvářet fotorealistické obrazy, jež jsou výrazně přesvědčivější než ty, které dokázali vyprodukovat jeho předchůdci. Tento nástroj zaplavil internet hyperrealistickými padělky: například Jeffreyho Epsteina jako streamera na Twitchi. „Screenshot“ falešného TikToku Donalda Trumpa jsem vytvořila poté, co jsem na podobný obrázek narazila na sociální síti Reddit na fóru věnovaném umělé inteligenci a konverzačnímu botu ChatGPT.

A od té doby jsem pomocí Images 2.0 dokázala vytvořit nejrůznější znepokojivé deepfake obrázky – třeba Elona Muska odváženého FBI, světových lídrů trpících zdravotními komplikacemi a předních amerických politiků oblékajících si nacistické propriety (žádný z nich jsem nikde nesdílela).