Závěr červencového týdne 2025. Investigativní novinář ze serveru Fast Company si hraje s vyhledáváním na Googlu. Zkouší jednoduchou frázi: site:chat.openai.com/share. To, co objeví, ho překvapí – tisíce soukromých rozhovorů s umělou inteligencí, volně přístupné komukoliv na světě.

Představte si učitelku třetí třídy, která večer konzultuje s ChatGPT, jak řešit problémového žáka s poruchou pozornosti. Myslí si, že posílá odkaz pouze kolegovi. Jenže díky jednomu malému zaškrtávacímu políčku se její starost stává veřejnou. Včetně jména dítěte, diagnózy a citlivých rodinných poměrů.

Tohle není sci-fi dystopie. Je to skutečný případ, který otřásl důvěrou v AI nástroje a ukázal, jak tenká je hranice mezi soukromím a veřejným prostorem v digitální éře.

Co se vlastně stalo?

Koncem července 2025 objevili novináři, že když člověk při sdílení  konverzace ChatGPT zaškrtl nenápadné políčko „Make this chat discoverable“ (umožni vyhledání konverzace), Google si ji automaticky zaindexoval. Původní odhady hovořily o 4 500 konverzacích, ale následné vyšetřování serveru 404 Media odhalilo téměř 100 000 takto uniklých rozhovorů.

Mechanismus byl banální: uživatel chtěl poslat odkaz na zajímavou konverzaci kamarádovi. Klikl na „Share“, pak na „Create link“ a – protože chtěl, aby odkaz fungoval – zaškrtl i to políčko. Pod ním malými písmeny stálo: „Allows it to be shown in web searches“ (umožní zobrazení ve vyhledávačích). Kdo by to četl, že?

Technické okénko pro zvídavé

Nejednalo se o hack ani o průlom do systémů OpenAI. Šlo o klasickou ukázku toho, co se stane, když designéři uživatelského rozhraní podcení důležitost jasné komunikace. OpenAI prostě zapomnělo nastavit správnou ochranu proti indexování těchto URL adres (v řeči techniků: chyběl robots.txt zákaz pro cestu /share/*).

Výsledek? Google si ty odkazy přidal do svého indexu stejně automaticky, jako si indexuje jakoukoliv jinou veřejnou stránku.

Intimní výpovědi na očích všem

Co všechno se dalo v těchto konverzacích najít? Seznam je různorodý:

Životopisy s kompletními osobními údaji včetně telefonů a adres. Firemní strategie a důvěrné obchodní informace. Oběti domácího násilí plánující útěk od agresora. Lidé diskutující o svých problémech s PTSD a dalšími duševními poruchami. Studenti přiznávající podvádění při zkouškách.

Jeden z nejbizarnějších případů? Právník, který musel náhle převzít případ po kolegovi po nehodě, žádal ChatGPT, aby mu zformuloval obhajobu – než si uvědomil, že vlastně zastupuje druhou stranu sporu.

Co to znamená pro školy?

V době úniku už ChatGPT používala podle průzkumů, včetně těch českých, skoro polovina studentů a učitelů alespoň jednou týdně. Mnoho z nich sdílelo konverzace – ať už mezi sebou navzájem, nebo s rodiči.

Představte si studenta střední školy, který si s ChatGPT procvičuje maturitní otázky z češtiny. Pošle odkaz spolužákovi. Jenže v konverzaci zmínil své jméno, školu, třídu… a taky to, že má dyslexii a individuální vzdělávací plán. Najednou jsou tyto informace veřejné.

Nebo učitelka matematiky, která s ChatGPT konzultuje, jak pomoct konkrétnímu žákovi s poruchou učení. Sdílí odkaz s výchovnou poradkyní. V dobré víře zaškrtne to políčko – vždyť chce, aby kolegyně odkaz viděla. A rázem jsou citlivé údaje o nezletilém dítěti dostupné komukoliv.

Rychlá reakce, pomalé důsledky

Když 31. července 2025 vyšel článek Fast Company, OpenAI reagovala bleskově. Dane Stuckey, bezpečnostní šéf firmy, oznámil okamžité odstranění problematické funkce. Označil ji za „krátkodobý experiment, který měl lidem pomoci objevovat užitečné konverzace.“

Jenže co se stalo, nejde odestát. I když OpenAI slíbila, že bude spolupracovat s vyhledávači na odstranění již indexovaného obsahu, realita internetu je neúprosná: co jednou unikne, to dá jen špatně vrátit. Anonymní výzkumník stihl stáhnout celý dataset téměř 100 000 konverzací ještě předtím, než začaly mizet z vyhledávačů.

Poučení pro pedagogy: Jak na to?

Pro učitele, kteří AI nástroje používají nebo o jejich využití uvažují, vyplývá z tohoto incidentu několik zásadních pravidel:

Nikdy nepište do ChatGPT nic, co byste nechtěli vidět na titulní straně novin. Sice jsme „chráněni” objemem dat – proč by v těch milionech konverzací měla někoho zajímat zrovna ta vaše, že? Ale může…

Osobní údaje žáků tam nepatří. Ani iniciály, ani přezdívky, a raději ani „ten kluk ze třetí lavice.“ ChatGPT není váš kolega vázaný mlčenlivostí.

Pozor na sdílení. Pokud už musíte poslat odkaz na konverzaci, nikdy nezaškrtávejte žádná dodatečná políčka. Radši pošlete screenshot nebo zkopírujte text.

Vytvořte si „anonymizovanou“ verzi problému. Potřebujete-li konzultovat pedagogickou situaci, převyprávějte ji obecně, bez identifikačních údajů.

Používejte nástroje, které aspoň slibují, že vaše data nebudou používat dál – typicky jsou to placené verze různých chatbotů apod. Ale jak je vidno z tohoto incidentů – ani to nemusí stačit. 

Širší kontext: Proč na tom záleží

Tento incident není jen technickou kuriozitou. Ukazuje problém dnešní doby: propast mezi tím, jak si uživatelé představují fungování technologií, a tím, jak skutečně fungují.

Většina lidí si myslí, že když něco sdílí s konkrétní osobou, zůstane to mezi nimi. Jenže v digitálním světě je každé „sdílení“ potenciálně veřejné. Každý odkaz může být přeposlán, zkopírován, zaindexován.

Paradoxy a překvapení

Nejabsurdnější na celé situaci je, že OpenAI vlastně neudělalo nic nezákonného. Uživatelé sami zaškrtli políčko umožňující veřejné zobrazení. Technicky vzato dostali, o co si řekli.

Jenže kolik z nás skutečně čte, co zaškrtává? Kolik učitelů, zavalených administrativou a opravováním, má čas zkoumat drobný text pod každým tlačítkem?

Dalším paradoxem je, že incident možná pomohl. Nepříjemně, ale jasně ukázal, že s AI nástroji musíme zacházet opatrně. Že nejsou našimi důvěrníky, ale nástroji – mocnými, užitečnými, ale potenciálně nebezpečnými.

Co bude dál?

OpenAI se poučilo a funkci zrušilo. Ale kolik podobných „experimentů“ probíhá právě teď? Kolik dalších AI nástrojů má podobné bezpečnostní díry, o kterých ještě nevíme?

Co můžeme udělat hned: vytvořme si na škole jasná pravidla pro používání AI. Ne zákazy (ty stejně nefungují), ale návody, jak s těmito nástroji pracovat bezpečně. Můžeme si třeba data rozdělit podle jejich citlivosti a podle toho také doporučovat nástroje, které s daným typem dat používat. 

Incident s ChatGPT není konec světa. Je to varování. Buď se naučíme s AI žít bezpečně, nebo nás čekají mnohem větší průšvihy.

A ta učitelka ze začátku článku? Doufejme, že se o úniku svých dat nikdy nedozví od rodičů svého problémového žáka. Nebo ještě hůř – od právníka.

PS: Pokud máte pocit, že jste někdy sdíleli ChatGPT konverzaci, zkuste si ověřit, jestli není v těch uniklých datech. ChatGPT doporučuje tento postup: 

1. Otevřete stránku:
   www.google.cz
2. Do pole vyhledávání (ne do adresního řádku) zadej tento příkaz přesně takto:site:chat.openai.com/share vaše_jméno
3. Pokud nenajdete žádný odkaz, je to dobrá zpráva – znamená to, že vaše jméno (email, název školy..) se v uniklých konverzacích nevyskytuje (nebo je Google nestihl indexovat).
4. Vyzkoušejte různé varianty (např. přezdívky, školy, jiné údaje), pokud by mohly být v textu konverzace uvedeny.Pokud Google píše:

„Na váš předmět vyhledávání – site:chat.openai.com/share XY – nebyl nalezen žádný odkaz.“

znamená to, že žádný obsah s tímto slovem zřejmě nebyl zaindexován.