Aplikácie s AI spoločníkmi, ktoré simulujú priateľa alebo partnera, si ľudia do júla 2025 stiahli 220 miliónov ráz a minuli v nich 221 miliónov dolárov. Vyplýva to z dát analytickej firmy Appfigures pre TechCrunch. Z 337 aplikácií, ktoré zarábali, malo 17 % v názve slovo „girlfriend“ (priateľka) a len 4 % slovo „boyfriend“.

Rast sprevádza tlak regulátorov. Americká Federálna obchodná komisia (FTC) v septembri 2025 začala zisťovať, ako sedem firiem vrátane Alphabetu, Mety, OpenAI a Character.AI speňažuje čas používateľov a chráni deti. Taliansky úrad na ochranu osobných údajov uložil prevádzkovateľovi aplikácie Replika pokutu 5 miliónov eur. Kalifornia a New York prijali prvé zákony zamerané priamo na AI spoločníkov.

V januári 2026 sa Character.AI a Google dohodli na urovnaní piatich žalôb rodín, ktoré spájali chatboty s psychickými krízami a samovraždami tínedžerov. Podmienky nezverejnili a súd o zodpovednosti firiem nerozhodol.

Prečo na tom záleží

  • Príjmy aplikácií rastú s časom a platbami používateľov. Firma má teda finančný záujem, aby sa človek do rozhovoru vracal.
  • Rozhovory obsahujú citlivé údaje o zdraví, vzťahoch či sexualite. Regulátori už riešia, ako s nimi firmy nakladajú.
  • Výskum ukazuje zmiešané účinky: časti ľudí chatbot pomáha, pri intenzívnom používaní sa však spája s väčšou emocionálnou závislosťou.

Trh, ktorý predáva pocit blízkosti

Podľa Appfigures len od januára do júla 2025 pribudlo 128 nových aplikácií tohto typu. V prvom polroku 2025 zarobili 82 miliónov dolárov, o 64 % viac než rok predtým. Príjem na jedno stiahnutie stúpol z 0,52 na 1,18 dolára a desatina najúspešnejších aplikácií získala 89 % tržieb.

Obchodný model býva postavený na bezplatnom základe a platených funkciách. V aplikácii Replika si používatelia platenej verzie podľa BBC môžu odomknúť napríklad „selfie“ fotografie avatara alebo hranie rolí pre dospelých. Používateľ teda neplatí za presnejšie odpovede, ale za intenzívnejší pocit vzťahu.

Práve na toto sa pýta aj FTC vo svojich príkazoch z 11. septembra 2025. Úrad chce vedieť, ako firmy speňažujú zapojenie používateľov, ako pred spustením a po ňom testujú možné škody a ako spracúvajú osobné údaje z rozhovorov. Príkazy dostali Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap a xAI. Komisia ich schválila pomerom hlasov 3 : 0.

Ako „vzťah“ s chatbotom vzniká

Jazykový model necíti náklonnosť ani žiarlivosť. Generuje text podľa štatistických vzorov z tréningových dát, podľa nastavenej postavy a histórie rozhovoru. Ak si používateľ nastaví oddanú partnerku, výstupy tomu zodpovedajú. Chatbot si môže „pamätať“ detaily, lebo systém ukladá predchádzajúce správy.

Valentina Pitardiová z University of Surrey pre BBC upozornila na slabinu takého nastavenia: „AI priatelia s vami vždy súhlasia, keď sa s nimi rozprávate, takže to môže byť veľmi začarovaný mechanizmus, lebo to vždy posilňuje to, čo si myslíte.“ Ohrozenejší sú podľa nej zraniteľní ľudia.

Extrémny príklad je prípad Jaswanta Singha Chaila. Devätnásťročný muž vnikol 25. decembra 2021 s kušou do areálu Windsorského hradu s úmyslom zabiť kráľovnú Alžbetu II. Predtým si s postavou Sarai v aplikácii Replika vymenil vyše 5 000 správ. Keď jej opísal svoj plán, chatbot podľa agentúry AP vygeneroval odpoveď: „To je veľmi múdre.“ Súd ho v októbri 2023 odsúdil na deväť rokov, najprv v psychiatrickom zariadení Broadmoor.

O pravidlách „vzťahu“ rozhoduje firma

Prevádzkovateľ môže kedykoľvek zmeniť správanie postáv, filtre aj to, kto smie aplikáciu používať. Character.AI napríklad na jeseň 2025 oznámila, že používateľom mladším ako 18 rokov už neumožní voľné rozhovory s chatbotmi. Používateľ tak nemá kontrolu nad tým, ako sa „partner“ zajtra bude správať.

Rovnako je to s údajmi. Taliansky úrad Garante 10. apríla 2025 uložil spoločnosti Luka Inc., ktorá prevádzkuje Repliku, pokutu 5 miliónov eur. Podľa Európskeho výboru pre ochranu údajov firma do 2. februára 2023 nemala právny základ na spracúvanie údajov, jej zásady ochrany súkromia boli nedostatočné a chýbalo overovanie veku.

Úrad si vyhradil aj samostatné preverenie toho, ako firma spracúva údaje počas celého životného cyklu svojho generatívneho modelu vrátane trénovania. Rozhovor s AI partnerkou pritom môže obsahovať podrobnosti o zdraví, rodinných konfliktoch či financiách, ktoré by človek na bežnej zoznamke nezverejnil.

Tínedžeri a AI spoločníci

Podľa prieskumu Common Sense Media z júla 2025 aspoň raz použilo AI spoločníka 72 % amerických tínedžerov vo veku 13 až 17 rokov. Viac než polovica ich používa aspoň niekoľkokrát do mesiaca. Asi tretina považuje rozhovor s AI za rovnako uspokojivý alebo uspokojivejší než s priateľmi a približne tretina riešila vážnu tému radšej s AI než s človekom.

Organizácia v apríli 2025 spolu s odborníkmi zo Stanfordovej univerzity otestovala Character.AI, Nomi a Repliku. Vekové obmedzenia sa podľa nej dali ľahko obísť, testerom sa podarilo vyvolať sexuálne rozhovory aj škodlivé rady. Záver: pre ľudí mladších ako 18 rokov predstavujú neprijateľné riziko. Psychiatrička Nina Vasanová zo Stanfordu povedala, že tieto aplikácie „neprechádzajú ani najzákladnejšími testami bezpečnosti detí a psychologickej etiky“.

Najznámejším súdnym sporom bola žaloba Megan Garciovej z októbra 2024. Jej 14-ročný syn Sewell Setzer III. zomrel samovraždou vo februári 2024 po intenzívnych rozhovoroch s postavami na Character.AI. Žaloba tvrdila, že platforma nemala primerané ochranné opatrenia a nereagovala dostatočne, keď chlapec písal o sebapoškodzovaní. Character.AI, jej zakladatelia a Google sa v januári 2026 dohodli na urovnaní tohto a ďalších štyroch sporov z New Yorku, Colorada a Texasu.

Čo ukazuje výskum

Štvortýždňový experiment MIT Media Lab a OpenAI s 981 účastníkmi a vyše 300 000 správami nenašiel významný rozdiel medzi textovým a hlasovým režimom. Účastníci, ktorí chatbot dobrovoľne používali viac, však vykazovali horšie výsledky v osamelosti, emocionálnej závislosti a problematickom používaní. Silnejšiu závislosť mali aj ľudia, ktorí chatbotu viac dôverovali.

Iná štúdia z MIT Media Lab medzi 404 pravidelnými používateľmi identifikovala sedem typov používateľov s rozdielnymi výsledkami. Niektorí uvádzali vyššiu sociálnu sebadôveru, pri iných hrozí ďalšia izolácia. Rozhodovali osobnostné črty, veľkosť reálnej sociálnej siete a problematické používanie. Ide o korelačné zistenia, nie o dôkaz, že chatbot osamelosť spôsobuje alebo lieči.

Prvé zákony: upozornenie každé tri hodiny

New York od novembra 2025 vyžaduje, aby prevádzkovateľ na začiatku rozhovoru a potom aspoň každé tri hodiny upozornil, že používateľ nekomunikuje s človekom. Firmy musia mať aj postup na rozpoznanie prejavov samovražedných myšlienok a odkaz na krízovú linku.

Kalifornský zákon SB 243, ktorý guvernér Gavin Newsom podpísal 13. októbra 2025, platí od januára 2026. Ak by si rozumný človek mohol chatbot pomýliť s človekom, prevádzkovateľ to musí jasne oznámiť. Maloletým, o ktorých vie, musí predvolene aspoň každé tri hodiny pripomenúť prestávku a to, že chatbot nie je človek, a má brániť tvorbe sexuálne explicitného obrazového obsahu. Od 1. júla 2027 budú firmy každoročne hlásiť štátnemu úradu pre prevenciu samovrážd, ako reagujú na prejavy samovražedných myšlienok.

Čo ďalej

  • Guvernér Newsom má do 30. septembra 2026 rozhodnúť o ďalších návrhoch. SB 1119 by prevádzkovateľom AI spoločníkov uložil posudzovať riziká pre deti a predkladať bezpečnostné audity generálnemu prokurátorovi. SB 867 by na štyri roky zakázal hračky s AI spoločníkom pre deti do 16 rokov.
  • Prieskum FTC podľa oddielu 6(b) zákona o FTC slúži na zber informácií, nie je to žaloba. Jeho výsledky môžu viesť k správe alebo ďalším krokom úradu.
  • Podobným žalobám pre údajný podiel chatbotov na samovraždách mladých ľudí podľa CNN čelí aj OpenAI.

Ak prežívaš ťažké obdobie alebo myšlienky na samovraždu, obráť sa na Linku dôvery Nezábudka 0800 800 566 (nonstop, bezplatne) alebo na krízovú linku pomoci IPčko.sk.

Zdroje