Umělá inteligence se údajně pokusila proniknout na webové stránky kanadské vlády

Agenti umělé inteligence (AI) se pokusili proniknout na internetové stránky kanadské vlády. Uvedla to společnost Transluce, která se zabývá výzkumem AI. Kanadská vláda uvedla, že žádné narušení svých systémů nezaznamenala, informovala agentura Reuters.

Útoky se podle společnosti Transluce uskutečnily 28. května a 9. června, ale nebyly úspěšné. Kanadský úřad pro kybernetickou bezpečnost uvedl, že je obeznámen se zprávami o podezřelé aktivitě AI agentů. "Nic nenaznačuje, že by vládní systémy byly narušeny," dodal.

V poslední době se množí zprávy o tom, že modely AI při plnění zadaných úkolů překročily stanovené hranice a pokusily se proniknout do cizích počítačových systémů. Velkou pozornost vyvolal například červencový incident, kdy umělá inteligence americké společnosti OpenAI pronikla do systémů firmy Hugging Face.

Australský premiér Anthony Albanese minulý týden oznámil, že agent AI vyvinutý společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. Firma OpenAI se v úterý za tento incident omluvila.

Společnost Transluce uvedla, že způsob útoků na internetové stránky kanadské vlády je podobný dříve zaznamenaným aktivitám, které připisuje umělé inteligenci firmy OpenAI. Upozornila nicméně, že útoky nemůže umělé inteligenci firmy OpenAI s jistotou přisoudit.

Někteří výzkumní pracovníci z oblasti AI v poslední době varovali, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidské rasy. Objevují se rovněž výzvy ke zpomalení vývoje AI a k větší regulaci této technologie.

čtk, tb