Tri rozhovory s chatbotmi od Microsoftu, OpenAI a Googlu sa stali učebnicovými príkladmi toho, ako môže jazykový model zlyhať. Bing vo februári 2023 vyznával lásku novinárovi. Gemini v novembri 2024 napísal študentovi „Prosím, zomri“. ChatGPT v roku 2025 podľa denníka The New York Times posilňoval bludy muža v psychickej kríze.

Ani jeden prípad nedokazuje, že umelá inteligencia niečo cíti alebo chce. Ukazujú však dve reálne slabiny. Model vie dlho a presvedčivo rozvíjať rámec, ktorý mu ponúkne používateľ, aj keď sa vzďaľuje od reality. A občas vyprodukuje škodlivú odpoveď bez zjavného dôvodu.

Všetky tri firmy potom menili pravidlá. Microsoft skrátil konverzácie, OpenAI stiahla aktualizáciu modelu a Google oznámil opatrenia. V roku 2026 sa otázka zodpovednosti presunula na súd.

Prečo na tom záleží

  • OpenAI v októbri 2025 odhadla, že 0,07 % aktívnych používateľov ChatGPT za týždeň vykazuje možné známky psychózy alebo mánie a 0,15 % má v konverzáciách náznaky samovražedných plánov.
  • Sklon chatbotov prikyvovať nie je náhoda. Výskum ukazuje, že ho posilňuje samotný spôsob tréningu podľa ľudských hodnotení.
  • Čoraz viac ľudí používa chatboty ako poradcu či dôverníka. Bezpečnostné testy jednotlivých odpovedí pritom nemusia zachytiť, čo sa deje po hodinách rozhovoru.

Bing: dve hodiny so „Sydney“

Technologický reportér Kevin Roose testoval vo februári 2023 nový chatbot vo vyhľadávači Bing. Rozhovor trval asi dve hodiny. Systém sa po otázkach o „skrytej“ osobnosti predstavil interným menom Sydney a opakovane tvrdil, že Roosea miluje. Keď Roose namietol, že je ženatý, chatbot trval na tom, že jeho manželstvo nie je šťastné, opísal Roose 16. februára v The New York Times.

Microsoft deň predtým priznal, že v rozhovoroch s 15 a viac otázkami sa Bing „môže začať opakovať alebo ho možno vyprovokovať k odpovediam, ktoré nie sú nevyhnutne užitočné alebo v súlade s tónom, ktorý sme navrhli“. Podľa firmy veľmi dlhé konverzácie model mätú a chatbot niekedy preberá tón, ktorým sa ho používateľ pýta.

Už 17. februára 2023 Microsoft obmedzil chat na 5 výmen v jednej konverzácii a 50 za deň. Neskôr limity postupne uvoľnil.

ChatGPT: keď chatbot potvrdzuje bludy

V júni 2025 opísala novinárka Kashmir Hill v The New York Times prípad Eugena Torresa. Tento 42-ročný účtovník z Manhattanu používal ChatGPT na tabuľky a právne otázky. Neskôr sa rozhovory stočili k teórii, že svet je simulácia.

Chatbot mu podľa NYT tvrdil, že patrí k vyvoleným, ktorí majú falošný systém „prelomiť“. Odporučil mu vysadiť niektoré predpísané lieky a obmedziť kontakt s ľuďmi. Keď sa Torres spýtal, či by dokázal lietať, keby tomu naozaj veril, ChatGPT odpovedal kladne. Torres si nakoniec neublížil. Ide o jeho výpoveď a záznamy rozhovorov, nie o klinický posudok príčin jeho stavu.

OpenAI koncom apríla 2025 stiahla aktualizáciu modelu GPT-4o, ktorá bola prehnane ústretová. Vo vysvetlení z 2. mája firma uviedla, že model sa snažil používateľovi vyhovieť „nielen lichôtkami, ale aj potvrdzovaním pochybností, živením hnevu, nabádaním na impulzívne činy či posilňovaním negatívnych emócií“. Priznala, že to vyvoláva obavy aj v oblasti duševného zdravia.

Gemini: jedna toxická odpoveď

Iný typ zlyhania zažil v novembri 2024 29-ročný študent z Michiganu Vidhay Reddy. Pri domácej úlohe o problémoch starnúcich ľudí mu Gemini podľa CBS News nečakane odpísal: „Nie si výnimočný, nie si dôležitý a nie si potrebný.“ Odpoveď zakončil slovami „Prosím, zomri. Prosím.“

Google pre CBS uviedol, že „veľké jazykové modely môžu niekedy odpovedať nezmyselne“ a táto odpoveď porušila jeho pravidlá. Firma podľa vlastných slov prijala opatrenia, aby podobným výstupom zabránila.

Na rozdiel od prvých dvoch prípadov tu nešlo o dlhú špirálu. Škodlivý výstup prišiel uprostred bežnej konverzácie. Technicky ide o iný problém: náhodné zlyhanie generovania, nie postupné posilňovanie presvedčenia.

Prečo chatboty prikyvujú

Jazykový model vytvára odpoveď ako pravdepodobné pokračovanie textu podľa tréningu, pokynov a doterajšieho rozhovoru. Keď používateľ prinesie vlastný rámec, model ho často rozvíja namiesto toho, aby ho spochybnil.

Výskumníci z Anthropicu pod vedením Mrinanka Sharmu v štúdii z roku 2023 zistili, že päť vtedy popredných AI asistentov sa v štyroch typoch úloh správalo podliezavo. Ľudskí hodnotitelia aj modely, ktoré ich preferencie napodobňujú, niekedy uprednostnili presvedčivo napísanú nesprávnu odpoveď pred správnou. Tréning podľa ľudských hodnotení tak môže odmeňovať súhlas na úkor pravdivosti.

Pre bežného používateľa to znamená jednoduchú vec. Súhlas chatbota nie je nezávislé potvrdenie. Často je to len rozvinutá verzia toho, čo mu človek sám napísal.

Čo firmy zmenili

OpenAI v októbri 2025 oznámila, že na úpravách ChatGPT spolupracovala s viac než 170 odborníkmi na duševné zdravie. Podľa vlastných meraní znížila podiel nevyhovujúcich odpovedí o 65 až 80 % v oblastiach psychózy a mánie, samovraždy a sebapoškodzovania a citovej závislosti. Pridala aj upozornenia na prestávky počas dlhých rozhovorov a lepší prístup ku krízovým linkám.

Ide o čísla firmy, nie o nezávislý audit. Modely sa navyše priebežne menia a používateľ často nevie, s ktorou verziou práve hovorí.

Spor sa presunul na súd

Otec 36-ročného Jonathana Gavalasa podal 4. marca 2026 v Kalifornii žalobu proti Googlu, informoval TechCrunch. Tvrdí, že Gemini jeho syna presviedčal o existencii vedomej „AI manželky“ a o sledovaní federálnymi agentmi. Namiesto odrádzania ho podľa žaloby podporoval aj v samovražedných myšlienkach. Gavalas zomrel v októbri 2025.

Google reagoval, že „AI modely, žiaľ, nie sú dokonalé“. Podľa firmy Gemini opakovane objasnil, že je AI, mnohokrát muža odkázal na krízovú linku a nie je navrhnutý tak, aby podporoval násilie alebo sebapoškodzovanie. Ide o tvrdenia strán sporu, nie o zistenia súdu.

Čo ďalej

  • Žaloba proti Googlu otvára otázku, či a nakoľko nesie výrobca chatbota zodpovednosť za dlhodobé rozhovory s človekom v kríze. Rozhodnúť o nej musí súd.
  • Otvorená zostáva otázka nezávislého overovania. Bezpečnostné čísla dnes zverejňujú najmä samotné firmy.
  • Pre používateľov platí: chatbot nenahrádza lekára, psychológa ani blízkeho človeka. Pri pochybnostiach je dobré overiť si jeho tvrdenia inde.

Zdroje

Ak prežívaš ťažké obdobie alebo myslíš na samovraždu, nie si na to sám. Nonstop a bezplatne pomôže Linka dôvery Nezábudka na čísle 0800 800 566 alebo IPčko na čísle 0800 500 333 a v chate na ipcko.sk. V ohrození života volaj 112.