Při užívání nástrojů AI dětmi je třeba zohlednit jak obecnou právní úpravu, tak podmínky jednotlivých služeb.
Obecně lze říci, že nástroje AI jsou ve smyslu GDPR1 a českého zákona o zpracování osobních údajů2 službami informační společnosti, a pokud jde o jejich samostatné užívání dětmi, lze vycházet ze stejných pravidel, jaká platí např. pro registrace na sociálních sítích atp.
Účet pro službu AI si tedy dítě může zřídit samostatně (nebo-li poskytnout souhlas se zpracováním svých osobních údajů v souvislosti s nabídkou služeb informační společnosti) po dosažení věku 15 let. Toto platí i v případě, že jednotlivé nástroje AI stanoví věkovou hranici užívání nižší. Výjimkou by byla pouze služba, která by ke svému užívání nevyžadovala zřízení účtu, a tedy nezpracovávala žádné osobní údaje účastníků.
Účet ke službě AI si může dítě založit samostatně od 15 let, pokud podmínky užívání dané služby neobsahují přísnější úpravu.
Samotné užívání (za předpokladu, že účet je zřízen se souhlasem rodiče, resp. zákonného zástupce, který za jeho užívání dítětem odpovídá) pak zákonem už upraveno není. Zde je tedy třeba zohlednit podmínky jednotlivých služeb:
Děti si mohou zřídit účet ve službě AI od 15 let (pokud podmínky dané služby nestanoví vyšší věkovou hranici).
Samostatnou práci ve službě AI lze umožnit žákům od 15 let, u služeb, které to ve svých podmínkách vyžadují, pak do 18 let s předchozím souhlasem zákonného zástupce.
Skupinová práce s AI pod vedením učitele je možná s žáky jakéhokoliv věku.
Problematika autorských práv v souvislosti s AI má dva aspekty:
Stejně jako při jakémkoliv jiném užívání autorského díla je třeba i při využívání nástrojů AI dbát, aby takové užití autorského díla nebylo zásahem do autorských práv autora takového díla. Zjednodušeně lze říci, že pokud dané dílo není možné legálně kopírovat, rozmnožovat, upravovat atp., tak bude zásahem do autorských práv jeho autora nechat jej zpracovat nástrojem AI a takto zpracované dále využívat.
Autorský zákon nicméně z těchto poměrně přísných podmínek zná výjimky:
Rizikem v této souvislosti však je, že některé nástroje AI mohou autorské dílo, které dostanou v rámci zadání, využít pro své “učení,” a pokud by jej AI dále použila v jiných výstupech, tak už by k porušení autorských práv k původnímu dílu nejspíš došlo.
Pokud učitel využívá ve výuce cizí autorská díla, může je obdobně využívat i za pomoci nástroje AI.
Aby dílo bylo právem chráněno jako dílo autorské, musí být vytvořeno autorem, tedy fyzickou osobou, člověkem. Pokud jej tedy vytvoří výhradně nástroj umělé inteligence, zpravidla o autorské dílo vůbec nepůjde a k takovému “dílu” autorské právo vůbec nevznikne.
Pokud chceme, aby výstup byl chráněn autorským právem, lze AI použít jen jako nástroj k vytvoření takového díla – nástroj, který pomůže, urychlí práci, ale ten podstatný tvůrčí prvek a originalitu do procesu tvorby přinese člověk.
V případě, že na základě zadání všechnu “tvůrčí” práci odvede AI, nebude výstup autorským dílem. V praxi to znamená, že tento výstup může použít kdokoliv jakkoliv i bez souhlasu člověka, který AI dal zadání.
Pokud tedy něco vytvoří AI sama, nepůjde o autorské dílo, ale to neznamená, že to je špatně. Výtvor AI může posloužit stejně dobře jako dílo vytvořené člověkem, záleží jen na účelu a na tom, že výtvor AI může volně užívat kdokoliv.
Je důležité vědět, že se provozovatelé nástrojů AI vesměs zříkají odpovědnosti za vytvořený obsah. Je to tedy uživatel, kdo zcela odpovídá za obsah, který na základě jeho zadání AI vytvoří. Kromě odpovědnosti za porušování cizích autorských práv pak přichází v úvahu odpovědnost za vytvoření, resp. šíření nepravdivého obsahu, obsahu zasahujícího do osobnostních práv třetích osob či do ochrany osobních údajů. V neposlední řadě může obsah, resp. jeho případné šíření porušovat etická pravidla i trestněprávní předpisy (např. pokud by byl obsah rasistický, nenávistný, násilný, pornografický atp.).
Za to, co vytvoří nástroj AI, je vždy odpovědný ten, kdo výstupy vytvořené AI využívá.
S masivním nástupem využívání nástrojů generativní AI ke zjednodušení rozličné tvůrčí práce samozřejmě přichází i to, že se ji snaží využívat i studenti, aby jim pomohla např. zpracovat písemné práce.
Jsou situace, kde je takové užití AI studenty nežádoucí, nemorální a hodnocené jako podvod (např. diplomová práce vypracována AI). Na to se snaží reagovat i vývojáři s vývojem jiných nástrojů AI, které jsou nebo budou schopné rozeznat obsah vygenerovaný nástrojem AI od obsahu vytvořeného člověkem.
Pak jsou ale situace, kdy je vhodné a účelné žákům či studentům využití AI umožnit. Na to by školy měly myslet a stanovit jasná pravidla, kdy a za jakých podmínek může student pro vypracování např. domácího úkolu, projektu či písemné práce AI využít, a kdy je využití nástroje AI zakázané.
Školy by měly nastavit pravidla pro používání nástrojů žáky a studenty.
Jednoznačně lze doporučit, aby obsah generovaný nástrojem AI byl jako takový označen obdobně, jako se u autorských děl uvádí jméno autora.
Evropská komise už jasně deklarovala, že toto označování bude požadovat po velkých technologických společnostech, a lze předpokládat, že se tento požadavek dostane brzy i do platné právní úpravy.
Asociace moderních jazyků vytvořila příručku s detailním manuálem jak citovat generativní AI. Více o ní zde.
Obsah vytvořený nástrojem má být vždy označen tak, aby bylo zřejmé, že jej vytvořila umělá inteligence.
Při práci s AI je třeba myslet také na to, aby nedošlo k neoprávněnému zpracování osobních údajů. Osobním údajem je (zjednodušeně) přitom jakákoliv informace, kterou lze přiřadit ke konkrétní osobě, kromě údajů identifikačních (jméno, příjmení atd), je to ale např. i hlas či podoba člověka.
A proto i v případě, že do budeme pomocí AI zpracovávat osobní údaje (např. generovat “fotky”, či hlasovou syntézou vytvoříme fiktivní rozhovor) je nutné dodržet podmínky, které stanoví GDPR, příp. zákon o zpracování osobních údajů.
Zásadní je vždy mít právní důvod (právní titul), jakým je např. souhlas toho, o jehož údaje jde, nebo oprávněný zájem na takovém zpracování, který však nikdy nemůže převážit nad právem subjektu údajů na ochranu soukromí.
Důležitý je také legitmní účel.
Uvedeme-li příklad použití cizího hlasu či cizí podoby: Pro satiru či výuku by takové užití mohlo obstát, pokud nejde příliš za hranu. Ale pouhá zábava nebo vytváření dezinformací legitimním účelem není. I kdyby majitel hlasu dal souhlas, ale účel by nebyl legitimní, není to v pořádku.
Použití cizího hlasu, cizí podoby nebo jiných osobních údajů při práci s AI vyžaduje mít legitimní účel, právní důvod a zvažovat přiměřenost zásahu do práv majitele hlasu. Bez toho je to velmi problematické.
Na závěr je třeba upozornit, že stejně jak se rychle vyvíjejí nástroje umělé inteligence, vyvíjí se i právní pohled na ně a postupně na to bude reagovat i právní úprava. Tento text vychází z platné právní úpravy v srpnu 2023 a je možné a i vcelku pravděpodobné, že se tato pravidla do budoucna změní.
publikováno: září 2023
Učím s AI
📧 ucimsai@scio.cz
©️ 2025 SCIO