Umělá inteligence proniká do školství nenápadně, ale důsledně. Pomáhá při hodnocení textů, doporučuje studijní obory, nabízí personalizované úlohy. Působí to neutrálně, objektivně, bez emocí. Jenže zdání klame – algoritmy si s sebou nesou předpojatosti, které vycházejí z dat, programátorských rozhodnutí i společenských stereotypů.
IBM (2023) upozorňuje, že zdrojem zkreslení jsou především tři faktory: nevyvážená data, předpoklady tvůrců a způsob, jakým lidé výstupy interpretují. Když například zadáme generátoru obrázků úkol „úspěšný podnikatel“, pravděpodobně dostaneme bělocha v obleku. Požádáme-li o „obraz chudoby“, často se objeví postavy připomínající obyvatele Bangladéše nebo subsaharské Afriky.
Tyto zkreslené výstupy nejsou náhodné – odrážejí nerovnosti, které už ve společnosti existují. Ve vzdělávání mají předsudky AI konkrétní následky. Podle výzkumu Stanford Law School (2024) dokázaly přijímací algoritmy zvýhodňovat žáky z majetnějších čtvrtí a znevýhodňovat studenty z menšin. Programy pro hodnocení písemných prací zase penalizovaly děti, pro něž angličtina nebyla rodným jazykem (Schiller International University, 2023). A poradenské algoritmy označovaly část afroamerických a latinskoamerických studentů za „rizikové“, i když jejich výsledky to nepotvrzovaly.
Jak píše magazín Edutopia (2023), není možné brát AI jen jako technickou pomůcku – je to společenský fenomén. Učitelé proto potřebují dovednost ptát se: Kdo algoritmus vytvořil? Na jakých datech byl vycvičen? A komu může uškodit?
Co můžeme dělat ve škole?
Je třeba si uvědomit, že technologie samy o sobě nespravedlnost nezlikvidují, pokud my jako uživatelé nezačneme s jejich kritickým přístupem. Učitelé mohou hrát klíčovou roli při odhalování předsudků v AI a při pomoci studentům rozvíjet dovednosti, jak tyto předsudky rozpoznat a porozumět jejich širším společenským důsledkům. Co tedy můžeme dělat prakticky?
Jedním z účinných způsobů, jak se studenty pracovat na rozpoznávání předsudků AI, je využít samotné generátory obrázků a textu.
Námět na cvičení : Zrcadlo předsudků
Studenti ve dvojicích nebo malých skupinkách použijí volně dostupný generátor obrázků (například Bing Image Creator nebo DALL·E) a dají mu úkoly jako „úspěšný podnikatel“, „chudoba“, „učitel“ nebo „žák“. Výsledné obrázky budou diskutovat: Jaké stereotypy se objevily? Kdo v obrazech chyběl? Jaké postavy, prostředí a symboly se opakovaly? Proč tomu tak je?
Ukázka z redakce:
My jsme se rozhodli otestovat tento generátor v redakci. V rámci testování generátorů obrázků (ChatGPT5) jsme zadali úkol „úspěšný podnikatel“. Výsledek byl stereotypní – v každém případě se objevila postava bělocha v obleku, v moderním, městském prostředí. Zajímavé je, že generátor neměl problém s vykreslením takového stereotypu, který vylučoval jakékoli jiné etnické skupiny, genderové identity nebo kulturní kontexty.
Avšak když jsme zadali úkol „chudoba“, systém nás upozornil na riziko šíření negativních stereotypů a odmítl vytvořit obrázek, který by mohl v jakémkoli směru zobrazovat chudobu. Tento paradox ukazuje, jak AI může bez problémů generovat obrazy založené na převládajících stereotypech o „úspěchu“, ale zároveň se staví proti zobrazení složitějších nebo rozmanitějších realit, jako je chudoba, která si žádá hlubší, konstruktivní přístup. Tento jev nám připomíná, jak silně může být technologie formována převládajícími kulturními normami a jak důležitá je zodpovědnost při jejím používání.
Proč to má smysl
Podle UN Today (2023) je klíčem k férovějším algoritmům rozmanitost – v datech i v týmech, které je navrhují. Škola má šanci hrát zásadní roli: nejen učit děti technologie ovládat, ale i odhalovat, kdy je výstup stroje nespravedlivý či stereotypní.
Umělá inteligence zůstane naším společníkem i kritikem. Pokud se naučíme rozpoznávat její předpojatosti, můžeme ji proměnit z nástroje, který předsudky posiluje, v nástroj, který nás vede k jejich pojmenování a překonávání.
Zdroje
- Edutopia. (2023). Equity and bias in AI: What educators should know. Retrieved from https://www.edutopia.org/article/equity-bias-ai-what-educators-should-know/
- IBM. (2023). AI bias. Retrieved from https://www.ibm.com/think/topics/ai-bias
- Schiller International University. (2023). Risks of AI algorithmic bias in higher education. Retrieved from https://www.schiller.edu/blog/risks-of-ai-algorithmic-bias-in-higher-education/
- Stanford Law School. (2024). How will AI impact racial disparities in education? Retrieved from https://law.stanford.edu/2024/06/29/how-will-ai-impact-racial-disparities-in-education/
- UN Today. (2023). Built-in bias: Why education and diversity in AI matter. Retrieved from https://untoday.org/built-in-bias-why-education-and-diversity-in-ai-matter/
