Evropa chce zmírnit regulaci umělé inteligence. Připraví se tím o svou unikátní roli ve světě?

Personalizovaná reklama na sebe může někdy vzít docela cynickou podobu. Rakouská platforma NOYB, která se zabývá ochranou osobních údajů v Unii, řešila případ ženy, jež během těhotenství přišla o dítě. Nadále však viděla na internetu reklamu na dětské zboží, které se v průběhu času měnilo – přizpůsobovalo se věku, v němž by v danou dobu dítě bylo, kdyby přežilo. Tato žena nikdy nikam nepsala, že je těhotná. Sofistikované reklamní algoritmy to jednoduše odvodily z toho, že si vyhledávala konkrétní informace a produkty ještě v době, kdy těhotná byla. Její příběh dokládá, že informace o našem zdravotním stavu nebo třeba o tom, jestli jsme členy odborů, jaká je naše sexuální orientace či zda plánujeme změnu práce, dokážou algoritmy odhadovat stále přesněji jen z toho, co anonymně provádíme v digitálním prostoru.

Není to novinka a minimálně v Evropě v tom nejsme úplně bezbranní. Legislativa se pokouší občany Unie chránit před tím, aby se takto odvozené informace dostaly například k našemu zaměstnavateli – spadají totiž pod ochranu osobních údajů podle GDPR a dalších evropských předpisů určených k ochraně privátních informací. V praxi to znamená, že zaměstnavatelé, pojišťovny, poskytovatelé úvěrů, marketingové firmy, sociální sítě, zdravotní instituce nebo státní úřady – všechny tyto subjekty nesmějí takto odvozené informace shromažďovat, ukládat ani používat bez souhlasu uživatele a musí dodržovat aktuální přísná pravidla pro zpracování osobních dat.

To by se však mohlo časem změnit – Evropská komise před dvěma týdny navrhla nová digitální pravidla. A takzvaný digitální omnibus, který je součástí dlouhodobé snahy komise odstranit byrokratické překážky v různých oblastech, přináší pár konkrétních změn: Menší podniky by měly méně byrokracie a povinností, aby dokázaly vstoupit na trh i po boku těch gigantů, pro něž není takový problém potýkat se s papírováním. Některé systémy, jež by původně spadaly mezi „vysoce rizikové“, by mohly mít mírnější režim a firmy by měly více času na splnění všech povinností plynoucích z jejich podnikání.

Firmy by také nově mohly používat některá naše data pro trénink AI – návrh sice umožňuje použití osobních údajů pro trénink AI pouze v omezených situacích a nevztahuje se na zvláštní kategorie dat podle GDPR (například zdraví či sexuální orientaci), kritici přesto před rozvolňováním pravidel varují. Čím víc osobních dat totiž budou firmy moci legálně používat k tréninku AI modelů, tím přesnější budou modely při odhadování informací, jež jsme nikdy nikam nenapsali – například zda očekáváme potomka, jaké máme zdravotní problémy nebo jestli plánujeme změnu práce. A pokud by zároveň přestaly být takto odvozené údaje chráněné jako citlivé – jak navrhuje komise –, výrazně by rostlo riziko, že se podobné závěry mohou objevit i tam, kde je rozhodně nechceme.