EU chce zakázat umělou inteligenci. která vytvářej falešné nahé snímky bez souhlasu
Členské státy Evropské unie chtějí zakázat praktiky umělé inteligence (AI), které umožňují vytvářet falešné sexuální nebo nahé snímky skutečných lidí. Shodli se na tom v Bruselu velvyslanci států při EU, kteří schválili pozměňovací návrh k Aktu o umělé inteligenci. Informovala o tom Rada EU.
Takzvaný Coreper jednal o zjednodušení některých pravidel týkajících se umělé inteligence. Jde o součást digitálního balíčku, který Evropská komise (EK) představila loni v listopadu. Balíček by měl zjednodušit administrativu a podpořit inovace evropských firem. Návrh přitom zahrnuje jak úpravy pravidel pro AI, tak i pro kybernetickou bezpečnost a ochranu dat.
Velvyslanci se zabývali částí návrhu, která hovoří o umělé inteligenci. Pro kyperské předsednictví to byla jedna z prioritních oblastí. Státy obecně zachovaly hlavní myšlenku návrhu komise, nicméně přidaly nové ustanovení, které "zakazuje praktiky umělé inteligence týkající se vytváření sexuálního a intimního obsahu bez souhlasu nebo materiálu zobrazujícího sexuální zneužívání dětí," stojí v prohlášení Rady EU, která zastupuje členské státy.
Zákaz souvisí se skandálem, kdy chatbot s umělou inteligencí Grok na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí.
Na podobném pozměňovacím návrhu, jaký zveřejnily členské státy, v současné době pracuje i Evropský parlament. Ve výboru EP by mohl být přijat už příští týden. Oba spoluzákonodárci se pak budou snažit o dosažení shody na kompromisním textu.
