Vědci vyzývají k bojkotu jihokorejského výzkumu bojových robotů

Když se někde vede debata o umělé inteligenci a jejích hrozbách, skoro vždy přijde řeč na autonomní zbraně. Tedy samostatně operující roboty - zabijáky, kteří když se vymknou kontrole, začnou nemilosrdně likvidovat lidstvo podobně jako ústřední robot ve slavném sci-fi filmu Terminátor. Ačkoli před špičkově vyzbrojenými, chytrými stroji varují globální vědecké kapacity už delší dobu (nejznámějším skeptikem byl nedávno zesnulý Stephen Hawking), samořídící zbrojní systémy už po světě vznikají. A jedním z jejich výrobců je Jižní Korea.

Právě v Koreji se nyní odehrává další dějství debaty o chytrých zabijácích. Jak informuje deník Guardian, prestižní korejská univerzita KAST nedávno podepsala smlouvu se zbrojní firmou Hanwha Systems, jejímž smyslem má být zapojení univerzitních vědců do vývoje autonomních zbraní. Škola a zbrojní firma pro tento účel nedáno otevřely společné vývojové centrum.

Tento krok vyvolal mezi odborníky velkou kritiku a asi 50 badatelů z třiceti zemí podepsalo otevřený dopis, v němž svět vyzývají k bojkotu technické univerzity KAST. “Umělá inteligence se dá využít k tomu, aby zachraňovala životy, a to i v rukou vojáků. Ale otevřeně říci, že mým cílem je vývoj autonomních zbraní a vybrat si eticky tak pochybného partnera, to vyvolává velké obavy,” řekl Guardianu organizátor bojkotu a profesor z University of New South Wales Toby Walsh. “Tohle je vážená škola a za partnera si vybrala firmu, která porušuje mezinárodní úmluvy,” dodal.

Hanwha je jedním z největších výrobců zbraní v zemi a vyrábí například i tříštivou munici, která je ve 120 zemích zakázaná. Jižní Korea (spolu s USA, Ruskem a Čínou) však mezi signatáře úmluvy nepatří. Autora petice Walshe aktivizoval zpravodajský článek, který si přečetl v listu Korea Times. V něm se psalo, že “KAIST se zapojuje do globální soutěže ve vývoji autonomních zbraní”. Po jeho přečtení vědec univerzitě ihned napsal mail, aby se dozvěděl důvod, odpověď ale prý nedostal. Prezident školy Sung-Chul Shin pak v prohlášení uvedl, že ho bojkot mrzí a že KAIST rozhodně nemá v úmyslu vyvíjet smrtící zbrojní systémy.

KAIST vývojové centrum otevřela 20. února a její prezident Shin tehdy uvedl, že laboratoř “poskytne základnu pro vývoj národní obranné technologie”. Centrum se zaměří na “velící systémy ovládané umělou inteligencí, na navigační algoritmy pro obří samořídící podmořské stroje, na chytré létající stroje a na zaměřovací a rozpoznávají technologie řízené umělou inteligencí,” uvádělo oznámení na webu, které bylo mezitím smazáno.

Jak píše Guardian, jiná korejská firma Dodaam Systems už vyrábí plně autonomního bojového robota - obrannou věž, která dokáže rozpoznat cíle až na tři kilometry daleko. Jejími klienty jsou třeba Spojené arabské emiráty nebo Katar. Zařízení bylo testováno na ostře střežené hranici mezi Jižní a Severní Koreou. Zástupci firmy v roce 2015 ujistili novináře, že robot má nastavená omezení, takže jakýkoli případný smrtící útok musí schválit člověk.

Citovaný profesor Welsh patří k vědcům, kteří mají z rozvoje podobných technologií obavu. “Vývoj autonomních zbraní bezpečnostní situaci na Korejském poloostrově nezlepší, ale zhorší,” myslí si. “Když se tato zařízení budou vyrábět kdekoli, jednou se k nim dostane I Severní Korea, která si nebude brát servítky je použít proti jihu.”