Hoci väčšina Američanov tvrdí, že umelej inteligencii (AI) nedôveruje, vedci zistili, že ľudia si skôr niečo kúpia po prečítaní súhrnu recenzií, ktorý napísala AI, ako pôvodných recenzií. Vedci z Kalifornskej univerzity v San Diegu vyzvali AI, aby zhrnula recenzie produktov. Potom ju požiadali, aby overila fakty, pričom zadali pravé aj sfalšované popisy produktov. Chatboty ukázali pretrvávajúcu neschopnosť spoľahlivo rozlíšiť fakty od výmyslov. Majú tendenciu viac sa sústrediť na začiatok textu, čo je jav nazývaný stratený uprostred a sú menej spoľahlivé pri spracovaní informácií, ktoré neboli v ich trénovacích dátach. Chatboty zmenili vyznenie 26,5 % reálnych používateľských recenzií a až v 60 % prípadov halucinovali.
Účastníci testov však oveľa častejšie prejavovali záujem o kúpu produktu po prečítaní súhrnu vygenerovaného AI ako recenzií napísaných ľuďmi. Keď čítali pozitívne súhrny vytvorené AI, uviedli, že by si produkt kúpili v 83,7 % prípadov v porovnaní s 52,3 % pri prečítaní pôvodných recenzií. Podľa vedcov aj jemné zmeny v rámcovaní môžu výrazne skresliť úsudok spotrebiteľov. Testy boli nastavené na scenár s nízkymi rizikami, dosah by však mohol byť aj extrémnejší. Medzi scenáre s vysokými rizikami patrí zhrnutie zdravotných dokumentov alebo profilov študentov pri prijímaní do škôl, upozornila vedúca výskumu Abeer Alessová. V týchto kontextoch môžu zmeny v rámcovaní ovplyvniť to, ako sú osoba alebo prípad vnímané.
Redakčný článok spracovaný zo stránky Live Science
Viac takýchto článkov a exkluzívneho obsahu môžete získať vďaka predplatnému.
Máte predplatné?
Prihlásiť sa