V Ústavním soudu se objevil tajuplný šestnáctý hlas 

Umělá inteligence si rychle hledá cestu do soudnictví, a ne vždy bez problémů. Český Ústavní soud nedávno například pokutoval advokáta, který v podání citoval neexistující soudní rozhodnutí vytvořená pomocí AI. Případ ukázal, že technologie, která dokáže působit přesvědčivě, může být v právním prostředí i zavádějící.

O to pozoruhodnější je, že se tato technologie nyní objevila přímo na webu Ústavního soudu. Bez většího vysvětlení zde začal fungovat AI chatbot. Na první pohled jde o nevinnou pomůcku. Skutečnost je ale složitější. 

Chatbot působí přívětivě. Dokáže shrnout obsah soudního rozhodnutí, vysvětlit základní ústavněprávní pojmy a odkázat na konkrétní nálezy. Například na dotaz „Komu by soud svěřil do péče mého syna v situaci, kdy mě manžel bije a pije?“ odpoví, že „v takovém případě by soud pravděpodobně svěřil syna do péče vám, pokud jste schopna zajistit mu bezpečné a stabilní prostředí“. Odpověď přitom doprovodí odkazy na předchozí rozhodnutí soudu.

V právním světě plném složitých textů to může být vítaná změna. Pro veřejnost může takový nástroj znamenat snazší přístup k právu – bez nutnosti pročítat desítky stran rozhodnutí nebo platit za právní pomoc. 

Uvedený příklad ale zároveň ukazuje, že chatbot není jen vyhledávačem či chytrým rozcestníkem. Fakticky vystupuje jako nový hlas Ústavního soudu. Říká veřejnosti, co z rozhodnutí plyne a jaké závěry z nich v konkrétní situaci vyvozovat. Tím se přesouvá z roviny poskytování obecných informací – například o tom, kde rozhodnutí najít nebo jak se obrátit na soud – do oblasti poskytování právních rad.

A právě tento posun je problematický. Nejvíce se to ukazuje u právně a politicky sporných otázek. Pokud se uživatel zeptá například na to, zda má prezident povinnost jmenovat premiérem navrženého ministra, chatbot nabídne jednoznačnou odpověď, že nemá, opřenou o odkazy na rozhodnutí soudu. Tato odpověď by sama o sobě nebyla problematická, pokud by zazněla od advokáta či akademika. Zásadní rozdíl je v tom, že zde odpověď zaznívá na webu instituce, která je zároveň konečným rozhodcem těchto sporů. Jde přitom o odpověď na otázku, jež je mezi ústavními právníky dlouhodobě mimořádně sporná. 

Chatbot je sice opatřen upozorněním, že nejde o právní názor Ústavního soudu. Zároveň je však umístěn přímo na jeho oficiálních stránkách a nese jeho institucionální váhu. Pro běžného uživatele, který bude chtít vědět, co v konkrétní situaci z rozhodnutí soudu plyne, bude rozhodující právě tento kontext, nikoli drobné upozornění.

Jde tedy o zásadní posun: od práva založeného na čtení rozhodnutí se posouváme k právu zprostředkovanému strojově generovanými výstupy, které judikaturu shrnují a vykládají. Samotná rozhodnutí soudu přitom bude číst stále méně lidí.

Ticho kolem zásadní změny

Druhý problém se týká samotného nastavení nástroje. Chatbot byl vyvinut externí firmou a – jako každý podobný systém – stojí na řadě skrytých, ale zásadních voleb. Jsou všechna rozhodnutí soudu zohledňována stejně? Dostávají přednost novější před staršími? Jak se pracuje s rozpory v rozhodování? Přiznává systém otevřeně nejednotu, nebo ji „zahlazuje“ výběrem jedné linie?

Stejně důležitý je i tón odpovědí. Má být vstřícný a vysvětlující, nebo spíše strohý a autoritativní? Má uživatele povzbuzovat k tomu, aby se na soud obraceli, nebo je naopak nenápadně odrazovat? I způsob, jakým soud „mluví“, je výkonem moci – formuje totiž to, jak veřejnost chápe právo a kde vnímá hranice soudní ochrany. Nic jako neutrální tón neexistuje.

Možná nejpozoruhodnější je, že k této změně došlo bez jakékoli širší debaty. Ústavní soud běžně informuje o svých rozhodnutích, organizačních změnách i zahraničních aktivitách soudců. Zavedení nástroje, který může zásadně proměnit vztah veřejnosti k právu a justici, však proběhlo tiše.

Nevíme tedy přesně, jak chatbot funguje, kdo nese odpovědnost za jeho odpovědi ani jak je nakládáno s daty, která do něj uživatelé zadávají. Neproběhlo žádné pilotní testování s externími uživateli ani otevřená odborná diskuse. Ústavní soud, jinak tradičně instituce dialogu a reflexe, se zde vydal poměrně odvážnou cestou sám.

Bylo by žádoucí tuto debatu alespoň dodatečně otevřít. Nejde o odpor k technologiím ani o strašení AI. Jde o otázku, jak mají soudy v digitálním prostředí vystupovat a kdo za tento nový výkon autority nese odpovědnost. Všechny hlasy, které dosud hovořily jménem Ústavního soudu, prošly tvrdou veřejnou kontrolou. Nový hlas to zjevně teprve čeká.

Autor je vědeckým pracovníkem Ústavu pro otázky soudnictví na Masarykově univerzitě v Brně.