V souvislosti se šikanou se o umělé inteligenci hovoří spíše v negativním smyslu. AI dala šikanujícím do ruky nové zbraně, kterými mohou na své oběti útočit ještě zákeřněji. Umělá inteligence ale může v oblasti šikany také zásadně pomoct. Dokáže totiž zasáhnout mnohem dříve než lidé.

Umělá inteligence jako strážce kyberprostoru?

Rozvoj umělé inteligence přinesl další komplikace v oblasti kybernetické šikany, která se do té doby omezovala hlavně na nenávistné zprávy, příspěvky a komentáře. Žáci v současných nástrojích dokážou během několika minut vytvořit nahé fotky spolužáků, zesměšňující příběhy, básničky nebo věrohodná deep fake videa.

Většina pozornosti se soustředí na zmiňované negativní aspekty AI. Nicméně umělá inteligence může v otázce kyberšikany také pomáhat – a pravděpodobně mnohem účinněji než osvětové kampaně a další tradiční metody řešení šikany.

Klíč k odhalení šikany v rané fázi

Jedním z hlavních benefitů, který umělá inteligence přináší, je efektivní moderování obsahu na sociálních sítích, online fórech nebo v chatovacích aplikacích. AI se na dostupných datech dokáže naučit rozpoznávat nevhodné chování a daný příspěvek smazat, nahlásit lidskému moderátorovi či ho vůbec nezveřejnit. Na tuto akci mohou navazovat další kroky, například zablokování uživatele nebo smazání jeho účtu.

Doby, kdy moderování obsahu spočívalo především v prostém blokování určitých slov či frází, jsou již dávno pryč. Umělá inteligence může příspěvky kontrolovat prostřednictvím široké škály kritérií. Běžně se zohledňuje například:

• předchozí chování autora na dané platformě (sdílení spamu či nenávistného obsahu, dočasné zablokování účtu),
• přítomnost slov naznačujících adresování věty jiné osobě (ty, vy, jsi, jste apod.),
• připojení obrázku či videa včetně prověření, zda byl tento soubor dříve klasifikován jako nevhodný (pro odhalení příloh s násilným či urážlivým obsahem),
• použití určitých znaků či emotikonů (množství vykřičníků, emotikony značící výsměch nebo zlobu),
• stáří účtu (nové účty jsou často vytvořené jen za účelem šikany, obtěžování či trollování),
• délka příspěvku (nenávistné komentáře se často skládají jen z několika slov).

Na základě těchto (a mnoha dalších) kritérií umělá inteligence poměrně spolehlivě odhalí nevhodné příspěvky a podnikne požadovanou akci. AI umí vyhodnotit obrovské množství dat najednou. Na rozdíl od lidských moderátorů tak zvládne identifikovat problematické příspěvky v reálném čase, tedy před či krátce po zveřejnění. To je v případě kyberšikany klíčové – nevhodný příspěvek se sdílením ostatních uživatelů může rychle dostat k velkému množství osob.

AI moderování obsahu v praxi

Umělá inteligence se již podílí na moderování obsahu na mnoha platformách. Využívá ji Facebook, Instagram i TikTok. Pozadu nezůstává ani Google s rozhraním Perspective API, které lze integrovat do různých aplikací, kde je zapotřebí analyzovat a moderovat obsah generovaný uživateli. Pochopitelně žádná z těchto platforem nezvládne zabránit publikování všech nenávistných příspěvků a komentářů. Díky strojovému učení se však moderování obsahu neustále zlepšuje a v budoucnu bude v ochraně před šikanou ještě efektivnější.

Jak může umělá inteligence pomoct se šikanou komplexněji ukázal například italský projekt Bully Buster. Ten kromě detekce rizikového obsahu v textu zahrnul:

• analýzu videozáznamu z bezpečnostních kamer (rozpoznání výrazů obličeje či rizikových jevů – fyzické násilí, násilná gesta, obklíčení oběti apod.),
• dynamiku psaní na klávesnici (parametry jako rychlost psaní, délka stisku kláves či interval mezi stisky pomáhají s identifikací osob u anonymních účtů nebo předvídáním emočních stavů dané osoby),
• detekci deepfake videí.

S rozmachem AI se objevují a budou objevovat další nástroje, které umělou inteligenci k odhalení šikany využívají. Velmi často jsou zahrnuté v aplikacích rodičovské kontroly (Bark, Qustodio), ale najdou se i nástroje speciálně navržené pro školy (Gaggle, Lightspeed Systems).

Kromě nástrojů sloužících k detekci šikany a včasnému zásahu lze umělou inteligenci využít i v rámci podpory obětí kyberšikany. Online komunikace s chatbotem může některým obětem vyhovovat více než rozhovor se skutečnou osobou – například při nahlašování problému nebo v citlivých záležitostech. Chatboti navíc fungují v režimu 24/7. V neposlední řadě může AI poskytnout komplexní analýzy případů šikany a pomoct tak k vytváření účinnějších strategií pro prevenci a intervenci.

Výzvy a problémy AI při řešení šikany

Využití umělé inteligence při řešení šikany přináší řadu etických otázek a výzev. Podobně jako v ostatních oblastech, kde se AI rozšiřuje, jde především o soukromí a bezpečnost. Systémy umělé inteligence zpracovávají obrovské množství dat. Jejich únik může být pro zainteresované osoby velmi nepříjemný a mít dalekosáhlé důsledky. V praxi může jít například o zveřejnění soukromých zpráv nebo odhalení identity obětí šikany. Hrozbu představuje i napadení hackery, kteří mohou nad AI systémy převzít dočasnou kontrolu a záměrně manipulovat výstupy systému.

Pochybnosti vzbuzuje také neprůhlednost algoritmů. V řadě případů není jasné, jak AI ke svým rozhodnutím došla. Nejasná kritéria rozhodování komplikují jasné vysvětlení závěrů, spravedlivé odvolání viníka nebo implementaci těchto technologií do oficiálních strategií kybernetické bezpečnosti. Výstupy AI navíc mohou vykazovat různá zkreslení (biases) a podporovat stávající společenské předsudky či nerovnosti.

Úskalí přináší i specifické oblasti, v nichž je umělá inteligence využívaná. Například moderování obsahu komplikuje neustále se vyvíjející internetový slang, humor a nadsázka nebo speciální znaky používané místo písmen v problematických slovech.

I z těchto důvodů se umělé inteligenci ani v budoucnu nepodaří odhalit všechny případy šikany. AI nejspíš přispěje k eliminaci tohoto jevu, ale nemůže ho zcela vyřešit. Zásadní změnu přinese jen zodpovědný přístup všech zainteresovaných stran – především žáků, rodičů, učitelů, politiků, ale i sociálních sítí a dalších komunikačních platforem.

Jak umělou inteligenci využít v boji se šikanou ve vaší třídě? Z pozice učitele stěží zavedete komplexní AI systém na celé škole. Přesto o podobných nástrojích můžete mluvit s vedením a vysvětlovat možné benefity. Důležitá je také komunikace s rodiči. Na třídních schůzkách jim můžete tyto nástroje představit a doporučit některé aplikace rodičovské kontroly. V neposlední řadě se pokuste vytvářet bezpečné prostředí, ve kterém šikana nemá místo a v němž se na vás případné oběti mohou kdykoliv bez obav obrátit.

Autor: Petr Pohůdka