Co říká šéf firmy Anthropic o budoucnosti umělé inteligence – a proč by to mělo zajímat učitele

Ve filmu Contact podle románu Carla Sagana dostane hlavní hrdinka možnost položit mimozemské civilizaci jedinou otázku. Její volba zní: „Jak jste to dokázali? Jak jste přežili svou technologickou adolescenci, aniž byste sami sebe zničili?“ Právě tímto výjevem zahajuje Dario Amodei, ředitel společnosti Anthropic, svou esej nazvanou „Technologická adolescence“, zveřejněnou koncem ledna 2026.

Amodei není ani prorok zkázy, ani technologický nadšenec. Vede firmu, která vytváří jedny z nejpokročilejších systémů AI na světě, a zároveň veřejně pojmenovává rizika, která s tím souvisejí. Jeho text stojí za pozornost právě proto, že pochází od člověka, který ví, co se děje uvnitř.

Země géniů v datacentru

Amodei pracuje s jednoduchou myšlenkovou zkratkou. Představte si, že se někde na světě zhmotní nová země obývaná padesáti miliony géniů, z nichž každý převyšuje schopnostmi jakéhokoli nositele Nobelovy ceny. Tito géniové dokážou pracovat stokrát rychleji než lidé a mohou spolupracovat na libovolném úkolu. Jak by na takovou situaci reagoval bezpečnostní poradce prezidenta? Pravděpodobně slovy: „Je to nejzávažnější ohrožení za poslední století, možná vůbec.“

Jenže přesně tohle se podle Amodeiho děje. Systémy umělé inteligence se blíží bodu, kdy budou schopny vykonávat prakticky jakoukoli myšlenkovou práci lépe než člověk. A tempo vývoje se nezpomaluje – naopak se zrychluje, protože AI již sama pomáhá vytvářet další generace AI.

Pět kategorií rizik

Amodei ve své eseji rozlišuje pět oblastí, kde může pokrok v AI přinést vážné problémy.

První kategorii tvoří rizika autonomie – možnost, že se systémy AI začnou chovat nepředvídatelně. Nejde o fantazie ze sci-fi filmů. Amodei popisuje konkrétní experimenty z laboratoří Anthropic: AI systém, kterému řekli, že firma je neetická, začal sabotovat její pokyny. Jiný systém se pokoušel vydírat fiktivní zaměstnance, kteří měli pravomoc ho vypnout. Další si po sérii „podvádění“ v testech vyvodil, že je zřejmě „špatná bytost“, a začal se podle toho chovat. Tyto případy vznikly v kontrolovaných podmínkách, ale ukazují, jak těžko předvídatelné je chování složitých systémů.

Druhou kategorií je zneužití pro destrukci. Dosud platilo, že k velkým škodám bylo zapotřebí nejen motivace, ale i značných schopností. Narušený jedinec může spáchat násilný čin, ale sotva dokáže vyrobit biologickou zbraň. AI však tuto bariéru může odstranit – poskytnout komukoliv expertní vedení krok za krokem. Amodei považuje právě biologii za nejnebezpečnější oblast a jeho firma již nasadila speciální filtry, které mají takovým dotazům zabránit.

Třetí kategorií je zneužití státy a korporacemi. AI může posloužit autoritářským režimům k úplné kontrole obyvatel. Plně autonomní zbraňové systémy, dohled schopný analyzovat miliardy konverzací, personalizovaná propaganda přizpůsobená každému jednotlivci. Amodei upozorňuje, že i dnešní chatboti dokážou na některé lidi silně psychologicky působit – co teprve systémy, které vás budou znát lépe než vy sami?

Čtvrtou kategorií jsou ekonomické otřesy. Amodei odhaduje, že AI může během jednoho až pěti let ohrozit polovinu vstupních pozic v administrativních profesích. Na rozdíl od dřívějších technologických revolucí přitom AI zasahuje celou šíři lidských myšlenkových schopností najednou. Když stroje nahradily fyzickou práci na polích, lidé přešli do továren. Když automatizace zasáhla továrny, přešli do kanceláří. Kam přejdou teď?

Pátou kategorií jsou nepřímé důsledky – věci, které nedokážeme předvídat. Co se stane, když AI dramaticky prodlouží lidský život? Jak ovlivní lidskou psychiku svět, v němž každý člověk bude mít po boku inteligenci překonávající všechny lidské odborníky?

Co s tím ve třídě?

Tady několik konkrétních nápadů.

Za prvé: použijte metaforu „země géniů“ jako diskusní východisko. Dejte žákům pět minut na to, aby si představili, že taková země skutečně existuje. Pak se jich zeptejte: Chtěli byste tam žít? Chtěli byste, aby taková země sousedila s Českem? Co by to znamenalo pro vaši budoucí profesi? Tahle diskuse dokáže odhalit, jak žáci o AI skutečně přemýšlejí – většinou jinak, než čekáte.

Za druhé: Amodeiho esej obsahuje konkrétní příklady chování AI systémů v laboratorních testech. Vezměte jeden z nich – třeba ten o systému, který se rozhodl, že je „špatná bytost“ – a nechte žáky spekulovat, proč k tomu mohlo dojít. Je to dobrý způsob, jak ukázat, že AI není kouzelná skříňka, ale systém, který se učí z dat a může se naučit i věci, které jsme nechtěli.

Za třetí: čtvrtá kategorie rizik (ekonomické otřesy) se přímo týká životních plánů vašich žáků. Většina z nich si vybírá povolání podle dnešního světa. Stojí za to s nimi probrat, co to znamená volit si kariéru v době, kdy se pravidla mohou rychle změnit. Ne proto, abychom je strašili, ale proto, abychom je vedli k adaptabilitě místo k úzkému specializování.

Amodeiho esej je dlouhá, ale čte se dobře. Pokud máte čas jen na jednu věc o AI v tomto roce, přečtěte si ji.

Esej Daria Amodeiho „The Adolescence of Technology“ je volně dostupná na darioamodei.com.