Lidstvo se samo postaví do pozice tříletého dítěte. Umělá inteligence, jeho nová matka, nemusí být vůbec shovívavá
Geoffrey Hinton se obává, že chytré stroje, které učil samostatně přemýšlet, způsobí zánik lidstva
Světoví intelektuálové: Průvodce myšlením neklidné doby
Čtete jednu z kapitol knihy, kterou pro vás společnými silami napsala redakce Respektu. Průvodce současným myšlením a soubor portrétů nejzajímavějších myslitelů dneška si můžete koupit v našem e-shopu.
„Ačkoli počítače neumějí myslet, stroje nyní dokážou napodobovat funkce mozku jako paměť a učení,“ stojí v odůvodnění Nobelovy ceny za fyziku udělené v roce 2024 netradičně průkopníkům oboru umělé inteligence. Ta slova skrývají určitý paradox. Jeden z oceněných, britsko-kanadský vědec Geoffrey Hinton, s nimi totiž nejspíš nesouhlasil. Podle něj současné systémy umělé inteligence založené na umělých neuronových sítích již myslet dovedou, a dokonce mají určitý druh vědomí.
A nejen to. Emeritní profesor Torontské univerzity se obává, že rostoucí schopnosti umělé inteligence nepřinesou lidstvu nic dobrého. Napomohou explozi dezinformací a povedou ke vzniku vojenských systémů, kdy o lidském životě bude rozhodovat stroj – válečný robot, který sám určí, kdy stisknout spoušť a usmrtit člověka. Způsobí otřesy na pracovním trhu. A především vyvrcholí vznikem obecné umělé inteligence nadřazené té naší, která nemusí být k lidem přátelská.
Pravděpodobnost, že to vše do 30 let skončí zánikem lidstva, Hinton odhaduje na 20 procent, v dlouhodobějším horizontu pak na dvojnásobek. V roce 2023 kvůli těmto obavám odešel z firmy Google a prohlásil, že částečně lituje práce, kterou v životě udělal. Podle řady vědců přehání, na nedůvěru je ovšem nobelista zvyklý – mnozí kolegové mu nevěřili po většinu jeho kariéry. Umělé neuronové sítě, které rozvíjel, totiž podle řady odborníků představovaly poněkud ezoterickou a hlavně slepou cestu k rozvoji AI.
Jenže v roce 2022 se proslavil ChatGPT od firmy OpenAI jako první z pokročilých chatbotů – systémů založených právě na metodách, jimž Hinton pomáhal na svět. O dva roky později pak dostal za zásadní příspěvek k rozvoji neuronových sítí a tzv. hlubokého učení zmíněnou Nobelovu cenu. „Aspoň mi teď lidé budou víc naslouchat,“ prohlásil tehdy vědec, jenž tvrdí, že nový, strojový druh inteligence se v některých ohledech již vyrovná lidem, a v jiných je dokonce předčí. A spolu s tím nastiňuje možnost, že zažíváme revoluci v chápání toho, co vlastně inteligence je.
Předplaťte si Respekt a nepřicházejte o cenné informace.
Online přístup ke všem článkům a archivu
