Přelom v regulaci umělé inteligence: Spojené státy se inspirují Evropou

„Kdy jsem to sakra řekl?“ ptal se americký prezident Joe Biden nedávno svých spolupracovníků – poté, co mu pustili zvukový záznam jeho hlasu pronášejícího slova, která si nepamatoval. Neřekl je nikdy; šlo o další tzv. deepfake, audio vytvořené umělou inteligencí. Předminulé pondělí Biden podepsal exekutivní příkaz, který je výsledkem více než roční práce několika amerických ministerstev a který by měl – mimo jiné – podobné neoznačené podvrhy postavit mimo zákon.

Obavami z umělé inteligence (AI) byli vedeni také pořadatelé dvoudenní bezpečnostní konference, která se minulý týden konala v Bletchley Parku v Británii, venkovském sídle, kde byl za druhé světové války rozluštěn německý kód Enigma. Výsledkem je deklarace vyzývající ke sledování rizik spojených s rozvojem chytrých počítačových systémů, kterou podepsalo 28 zemí včetně Spojených států a Číny a také Evropská unie (ta navíc dokončuje vlastní zákon o umělé inteligenci). Podle zastánců regulace AI jsou to všechno důležité snahy, které pomohou udržet na uzdě, případně postavit mimo zákon přinejmenším již existující systémy, jako jsou právě generátory „deepfake“.

Kam dospěly snahy o regulaci, lze nejlépe vysvětlit na připravovaném evropském zákoně, jenž by měl být dle plánu definitivně přijat do konce tohoto roku. Potenciálně nebezpečnou umělou inteligenci rozděluje do tří skupin podle rizikovosti. Do té nejhorší, kterou se chystá úplně zakázat, patří například systémy, které mohou na sociálních sítích doporučovat sebevraždu a další způsoby sebepoškozování, algoritmy, které by umožňovaly vládám dohled nad svými občany na způsob čínského systému „sociálního kreditu“, nebo manipulativní „deepfake“ videa. Dalším příkladem je všudypřítomný kamerový dozor spojený s rozpoznáváním tváří, který by měl zákon povolovat jen v jasně definovaných situacích, třeba v případě nebezpečí teroristického útoku.

V o stupeň méně rizikové kategorii bude muset být AI certifikována. Patří sem například systémy, které budou posuzovat výsledky přijímacích zkoušek na střední či vysoké školy, rozhodovat o udělení azylu nebo řídit kritickou infrastrukturu. Certifikace nemá být formalitou, list The New York Times ji přirovnal ke komplikovanému schvalování nově vyvíjených léků. V nejméně nebezpečné kategorii pak bude stačit, aby měl uživatel jasnou informaci o tom, zda „na druhém konci linky“ je, nebo není robot. Sem mohou spadat i „deepfake“ videa, která jsou označená a vytvořená jako politická satira.