Čo hovorí šéf spoločnosti Anthropic o budúcnosti umelej inteligencie – a prečo by to malo zaujímať učiteľov

Vo filme Kontakt, natočenom podľa románu Carla Sagana, dostane hlavná hrdinka možnosť položiť mimozemskej civilizácii jedinú otázku. Jej voľba znie: „Ako ste to dokázali? Ako ste prežili svoje technologické dospievanie bez toho, aby ste sa sami zničili?“ Práve touto scénou začína Dario Amodei, riaditeľ spoločnosti Anthropic, svoj esej s názvom „Technologická puberta“, uverejnený koncom januára 2026.

Amodei nie je ani prorokom skazy, ani technologickým nadšencom. Vedie firmu, ktorá vytvára jedny z najpokročilejších systémov umelej inteligencie na svete, a zároveň verejne poukazuje na riziká, ktoré s tým súvisia. Jeho text si zaslúži pozornosť práve preto, že pochádza od človeka, ktorý vie, čo sa deje vo vnútri.

Krajina géniov v dátovom centre

Amodei pracuje s jednoduchou myšlienkovou skratkou. Predstavte si, že sa niekde na svete zhmotní nová krajina obývaná päťdesiatimi miliónmi géniov, z ktorých každý svojimi schopnosťami prevyšuje akéhokoľvek nositeľa Nobelovej ceny. Títo géniovia dokážu pracovať stokrát rýchlejšie ako ľudia a môžu spolupracovať na akejkoľvek úlohe. Ako by na takúto situáciu reagoval bezpečnostný poradca prezidenta? Pravdepodobne slovami: „Je to najvážnejšia hrozba za posledné storočie, možno vôbec.“

Podľa Amodeiho sa však práve toto deje. Systémy umelej inteligencie sa blížia k bodu, keď budú schopné vykonávať prakticky akúkoľvek mentálnu prácu lepšie ako človek. A tempo vývoja sa nezpomalí – naopak, zrýchľuje sa, pretože umelá inteligencia už sama pomáha vytvárať ďalšie generácie umelej inteligencie.

Päť kategórií rizík

Amodei vo svojej eseji rozlišuje päť oblastí, v ktorých môže pokrok v oblasti umelej inteligencie spôsobiť vážne problémy.

Prvú kategóriu tvoria riziká autonómie – možnosť, že sa systémy umelej inteligencie začnú správať nepredvídateľne. Nejde o fantázie zo sci-fi filmov. Amodei opisuje konkrétne experimenty z laboratórií spoločnosti Anthropic: systém umelej inteligencie, ktorému povedali, že firma je neetická, začal sabotovať jej pokyny. Iný systém sa pokúšal vydierať fiktívnych zamestnancov, ktorí mali právomoc ho vypnúť. Ďalší po sérii „podvádzania“ v testoch usúdil, že je zrejme „zlá bytosť“, a začal sa podľa toho správať. Tieto prípady vznikli v kontrolovaných podmienkach, ale ukazujú, ako ťažko predvídateľné je správanie zložitých systémov.

Druhou kategóriou je zneužitie na účely ničenia. Doposiaľ platilo, že na spôsobenie veľkých škôd bola potrebná nielen motivácia, ale aj značné schopnosti. Duševne narušený jedinec môže spáchať násilný čin, ale sotva dokáže vyrobiť biologickú zbraň. Umelá inteligencia však túto prekážku môže odstrániť – poskytnúť komukoľvek odborné vedenie krok za krokom. Amodei považuje práve biológiu za najnebezpečnejšiu oblasť a jeho firma už nasadila špeciálne filtre, ktoré majú takýmto požiadavkám zabrániť.

Tretia kategória sa týka zneužitia zo strany štátov a korporácií. Umelá inteligencia môže slúžiť autoritárskym režimom na úplnú kontrolu obyvateľstva. Plne autonómne zbraňové systémy, dohľad schopný analyzovať miliardy konverzácií, personalizovaná propaganda prispôsobená každému jednotlivcovi. Amodei upozorňuje, že aj dnešné chatboty dokážu na niektorých ľudí silne pôsobiť psychicky – čo až systémy, ktoré vás budú poznať lepšie ako vy sami?

Štvrtou kategóriou sú ekonomické otrasy. Amodei odhaduje, že umelá inteligencia môže v priebehu jedného až piatich rokov ohroziť polovicu vstupných pozícií v administratívnych profesiách. Na rozdiel od predchádzajúcich technologických revolúcií však umelá inteligencia zasahuje naraz do celého spektra ľudských kognitívnych schopností. Keď stroje nahradili fyzickú prácu na poliach, ľudia prešli do tovární. Keď automatizácia zasiahla továrne, prešli do kancelárií. Kam prejdú teraz?

Piata kategória sú nepriame dôsledky – veci, ktoré nedokážeme predvídať. Čo sa stane, ak umelá inteligencia výrazne predĺži ľudský život? Ako ovplyvní ľudskú psychiku svet, v ktorom bude mať každý človek po boku inteligenciu prevyšujúcu všetkých ľudských odborníkov?

Ako s tým naložiť v triede?

Tu je niekoľko konkrétnych nápadov.

Najprv: použite metaforu „krajina géniov“ ako východisko pre diskusiu. Dajte žiakom päť minút na to, aby si predstavili, že takáto krajina skutočne existuje. Potom sa ich opýtajte: Chceli by ste tam žiť? Chceli by ste, aby takáto krajina susedila s Českou republikou? Čo by to znamenalo pre vaše budúce povolanie? Táto diskusia dokáže odhaliť, ako žiaci skutočne uvažujú o umelej inteligencii – väčšinou inak, než očakávate.

Po druhé: Amodeiho esej obsahuje konkrétne príklady správania systémov umelej inteligencie v laboratórnych testoch. Vyberte si jeden z nich – napríklad ten o systéme, ktorý sa rozhodol, že je „zlá bytosť“ – a nechajte žiakov špekulovať, prečo k tomu mohlo dôjsť. Je to dobrý spôsob, ako ukázať, že umelá inteligencia nie je čarovná skrinka, ale systém, ktorý sa učí z dát a môže sa naučiť aj veci, ktoré sme nechceli.

Po tretie: štvrtá kategória rizík (ekonomické otrasy) sa priamo týka životných plánov vašich žiakov. Väčšina z nich si vyberá povolanie podľa súčasného sveta. Stojí za to s nimi prebrať, čo to znamená vybrať si kariéru v čase, keď sa pravidlá môžu rýchlo zmeniť. Nie preto, aby sme ich strašili, ale aby sme ich viedli k adaptabilite namiesto úzkej špecializácie.

Amodeiho esej je síce dlhá, ale číta sa dobre. Ak máte tento rok čas len na jednu vec týkajúcu sa umelej inteligencie, prečítajte si práve túto.

Esej Daria Amodeiho „The Adolescence of Technology“ je voľne dostupná na stránke darioamodei.com.