Film Ona (v anglickom origináli Her) rozpráva príbeh romantického vzťahu hlavnej postavy so sofistikovaným systémom umelej inteligencie (AI), ktorý sa napokon neskončí šťastne. V čase premiéry filmu v roku 2013 patril takýto príbeh ešte do sci-fi. S nástupom generatívnej AI a veľkých jazykových modelov (LLM) však už podobná predstava nie je vôbec taká vzdialená.
Počet aplikácií, ktoré fungujú ako dôverní spoločníci používateľov, v súčasnosti rýchlo rastie. Dôverné rozhovory s AI chatbotmi so sebou nevyhnutne nesú riziká. Akú máte istotu, že vaše osobné údaje nebudú poskytované tretím stranám alebo ukradnuté hekermi? Podobné otázky vám pomôžu vytvoriť si lepší obraz o tom, aké sú riziká a čo môžete stratiť.
Hľadanie (digitálnej) lásky
Aplikácie fungujúce ako dôverní spoločníci reagujú na rastúci dopyt trhu. Digitálni AI partneri dokážu s používateľmi komunikovať konverzačným štýlom s vysokou mierou personalizácie vďaka sile LLM a modelov spracovania prirodzeného jazyka. Aplikácie ako Character.AI, Nomi či Replika napĺňajú psychologické a niekedy aj romantické potreby používateľov. Pre vývojárske firmy sa tento trhový segment stáva čoraz zaujímavejším.
Na novú vlnu už naskakujú dokonca aj veľké platformy. Spoločnosť OpenAI nedávno oznámila, že čoskoro povolí erotický obsah pre dospelých po overení veku a vývojárom zrejme umožní vytvárať aplikácie pre dospelých postavené na modeli ChatGPT. Elon Musk so svojou spoločnosťou xAI už tiež spustil flirtujúce chatboty v aplikácii Grok.
Dôverné rozhovory s AI chatbotmi so sebou nevyhnutne nesú riziká.
Výskum publikovaný v júli minulého roku ukázal, že takmer tri štvrtiny tínedžerov používajú AI spoločníkov, pričom polovica z nich pravidelne. Ešte znepokojujúcejšie je, že tretina pri vážnych rozhovoroch uprednostnila AI chatboty pred ľuďmi a štvrtina im poskytla osobné informácie.
Pomaly sa začínajú objavovať konkrétne príbehy, ktoré sú jasným varovaním pre používateľov. V októbri 2025 výskumníci upozornili na dve konverzačné aplikácie (Chattee Chat a GiMe Chat), z ktorých nekontrolovane unikli veľmi citlivé dáta používateľov. Nesprávne nakonfigurovaný Kafka broker v oboch aplikáciách spôsobil, že systémy na prenos a doručovanie obsahu zostali bez kontroly prístupu. Ktokoľvek tak mohol získať prístup k viac než 600-tisíc fotografiám, IP adresám a miliónom intímnych konverzácií viac ako 400-tisíc používateľov.
Riziká vzťahu s botom
Pre útočníkov sa črtá nový spôsob, ako zarobiť peniaze. Všetko, čo obeť poskytne v romantickej konverzácii s AI chatbotom, možno využiť na jej vydieranie. Fotografie, videá či audionahrávky môžu útočníci vložiť do deepfake nástrojov a výsledok použiť na sexuálne vydieranie (angl. sextortion). Osobné údaje môžu zasa predať na dark webe alebo ich rovno využiť na podvody s ukradnutou identitou. V závislosti od zabezpečenia aplikácie sa hekeri môžu dostať aj k číslam platobných kariet uloženým pri nákupoch v aplikácii. Podľa Cybernews niektorí používatelia na takéto nákupy míňajú tisíce.
Celý článok nájdete v časopise Quark 6/2026.
Vďaka predplatnému si ho však môžete dočítať už teraz a získať aj prístup k exkluzívnemu obsahu!
Máte predplatné?
Prihlásiť saViac zaujímavých článkov z oblasti digitálnej bezpečnosti nájdete na stránke bezpecnenanete.eset.com.
