Facebook papers a dezinformácie

Koncom októbra minulého roku začali niektoré zahraničné médiá publikovať sériu investigatívnych článkov, ktoré sa zaoberali problematickými praktikami sociálnej siete Facebook. V súčasnosti tieto články poznáme ako Facebook files alebo Facebook papers.

Foto Unsplash/Dmitry Ratushny

Aby sme lepšie pochopili súvislosti, musíme sa vrátiť do mája 2017, keď denník The Guardian uverejnil sériu článkov s názvom Facebook files. Tie boli založené na výpovediach whistleblowerov a opisovali ich skúsenosti s prácou vo Facebooku (teraz už platforma Meta, pre lepšiu zrozumiteľnosť budeme v článku hovoriť o Facebooku) na pozícii moderátorov obsahu. Títo zamestnanci prejavili svoju nespokojnosť s nevhodnými pracovnými podmienkami v spoločnosti. Išlo o nedostatočnú prípravu na vykonávanie tejto práce, ale aj o psychologické traumy spôsobené tým, že sú vystavení extrémnemu a škodlivému obsahu. Uvedené negatívne skúsenosti zamestnancov poukázali na širší problém Facebooku v súvislosti s moderovaním obsahu, ktorý je uverejňovaný na sociálnej sieti. Problémy súvisiacie s Facebookom zvýraznil aj škandál okolo spoločnosti Cambridge Analytica, ktorý naplno odhalil zneužívanie sociálnych sietí aj na politické účely.

Glosár

Whistleblower (oznamovateľ) je osoba, ktorý ohlási zlú (protiprávnu, nezákonnú alebo neetickú) činnosť svojho zamestnávateľa, a to najmä vládnemu orgánu alebo orgánu činnému v trestnom stíhaní.
Cambridge Analytica bola spoločnosť, ktorá z Facebooku vyzbierala dáta o viac ako 80 miliónoch používateľov a tie následne používala na marketingové účely a cielené politické kampane, ako napríklad počas prezidentských volieb v USA v roku 2016 alebo počas referenda o brexite.
Frances Haugenová je whistleblowerka, ktorá stojí za únikom dokumentov známych ako Facebook papers. K tým sa dostala počas svojej práce vo Facebooku, kde pôsobila ako dátová inžinierka a produktová manažérka.
Ekonomika pozornosti (attention economy) je obchodný model, pri ktorom sa sleduje maximalizácia pozornosti používateľa, napríklad vo forme stráveného času na sociálnej sieti alebo webovej stránke. Väčšia pozornosť znamená vyšší peňažný zisk generovaný predovšetkým prostredníctvom reklám, ale aj z obchodovania s dátami o používateľoch. Algoritmy sú nastavené tak, aby maximalizovali pozornosť: do rozhodovania algoritmu môžu vstupovať faktory ako popularita obsahu, osobné preferencie používateľa, ale aj emocionalita, kontroverznosť obsahu či emocionálny stav používateľa.
Akt o digitálnych službách (Digital Services Act) je súbor opatrení, ktoré navrhla Európska komisia a schválil Európsky parlament. Sú zamerané proti nelegálnemu online obsahu, majú posilňovať zodpovednosť platforiem za ich algoritmy a zlepšovať moderovanie obsahu. Smerom k veľkým platformám (napr. Facebook) sa majú zaviesť okrem iného aj nezávislé audity transparentnosti tzv. odporúčacích systémov (algoritmov, ktoré určujú, čo používatelia vidia).

Uniknuté dokumenty

V septembri 2021 na povrch vyplávali ďalšie kontroverzie týkajúce sa problematických praktík sociálnych sietí. Tentoraz to bol denník The Wall Street Journal, ktorý začal ako prvý publikovať sériu článkov pod spoločným názvom Facebook files. Jadrom tejto série bolo 16 článkov, ktoré vychádzali z uniknutých interných dokumentov a výskumných údajov spoločnosti Facebook. Všetky tieto dokumenty sa v médiách začali kolektívne označovať ako Facebook papers. V čase zverejnenia ešte nebolo jasné, ako a od koho tieto dokumenty unikli. No krátko na to, 3. októbra, oznámila Frances Haugenová, bývalá zamestnankyňa Facebooku, že tým záhadným whistleblowerom bola ona a uviedla aj svoje dôvody, keď otvorene priznala, že: Došlo ku konfliktu záujmov medzi tým, čo bolo dobré pre verejnosť, a tým, čo bolo dobré pre Facebook. A Facebook sa znova a znova rozhodol pre svoje vlastné záujmy, a to viac zisku.
Uniknuté dokumenty, ktoré odtajnila F. Haugenová, obsahujú nielen interné prezentácie či výskumné štúdie, ale aj diskusné vlákna zamestnancov a strategické poznámky spoločnosti Facebook. Neskôr boli Facebook papers sprístupnené konzorciu medzinárodných tlačových agentúr, ktoré na základe získaných údajov začali podrobne informovať o problematických postupoch Facebooku. Rozsah tém, ktoré sa spomínajú vo Facebook papers je široký – od údajnej neschopnosti Facebooku moderovať problematický obsah v niektorých jazykoch a krajinách až po údajné využívanie Facebooku ilegálnymi skupinami, napríklad pašerákmi ľudí. My sa však zameriame na otázky, ktoré sa týkajú šírenia dezinformácií a moderovania obsahu na základe algoritmov umelej inteligencie.

Nedotknuteľné účty

Foto Unsplash/Brett Jordan

V tomto ohľade jedným z najzávažnejších zistení bolo, že v rámci moderovania škodlivého obsahu Facebook vytvoril VIP triedu svojich používateľov, tzv. XCheck. Do XChecku triedy patrili napríklad celebrity, politici, ale aj niektorí novinári. Pre tieto vysokopostavené účty sa Facebook rozhodol nastaviť vyššiu úroveň ochrany, aby zabezpečil, že pri ich posudzovaní nevznikne zbytočná negatívna mediálna pozornosť. Vo výsledku sa však vytvorila kategória nedotknuteľných účtov, pre ktoré neplatili štandardné pravidlá používateľa sociálnej siete. Inými slovami, ak bol ich obsah nahlásený inými používateľmi pre porušenie podmienok Facebooku, zvyčajne nenasledovalo zo strany spoločnosti žiadne ďalšie posúdenie ani sankcie. Databáza XCheck pritom nebola zanedbateľná, obsahovala najmenej 5,8 milióna VIP používateľov, ktorí v prípade šírenia problematického obsahu nečelili žiadnym dôsledkom.

Maximalizácia pozornosti

V súčasnosti už nie je tajomstvo, že obchodný model Facebooku funguje na základe ekonomiky pozornosti. Pre obsahovú platformu, akou je Facebook, je preto prvoradé udržať si pozornosť používateľa čo najdlhšie. Na to je potrebné prezentovať obsah, ktorý je pre používateľa zaujímavý. O to sa starajú odporúčacie algoritmy Facebooku, ktoré rozhodujú o tom, aký obsah sa používateľom sociálnej siete zobrazí. Do rozhodovania algoritmu môžu vstupovať faktory ako popularita obsahu, osobné preferencie používateľa, ale aj emocionalita, kontroverznosť obsahu či emocionálny stav používateľa.
Algoritmus sociálnej siete môže zobrať do úvahy viac ako 10 000 rôznych parametrov, ktoré následne posudzuje tak, aby poskytol používateľovi personalizovaný obsah, ktorý udrží jeho pozornosť po čo najdlhšiu dobu. Konkrétne hodnoty a váhy priradené týmto parametrom nie sú verejne známe, čím sa algoritmus stáva nepriehľadným a netransparentným.
Z Facebook papers navyše vyplýva, že od roku 2017 algoritmus hodnotenia Facebooku považoval reakcie používateľov prostredníctvom emotikonov (napr. emotikon hnevu) za päťkrát hodnotnejšie ako reakcie prostredníctvom bežných lajkov.
Pritom aj samotní zamestnanci si uvedomovali potenciálne riziká takéhoto rozhodnutia. Napríklad to znamená, že kontroverznejší obsah, ktorý vyvoláva nahnevané reakcie, sa bude po sociálnej sieti šíriť rýchlejšie a dostane sa k väčšiemu počtu používateľom ako obsahovo hodnotnejší, ale nekontroverzný obsah. Z uniknutých dokumentov sa dá predpokladať, že spoločnosť Facebook si bola vedomá skutočnosti, že kontroverzný obsah bude s väčšou pravdepodobnosťou obsahovať dezinformácie, toxické či nekvalitné správy, no vzhľadom na vyšší záujem používateľov sledovať takéto správy nemala potrebu rázne zakročiť.

Foto Unsplash/George Pagan III

Algoritmy v úlohe moderátora

Facebook verejne deklaroval, že na odhaľovanie a moderovanie problematického obsahu na svojej platforme používa algoritmy umelej inteligencie. Z uniknutých dokumentov však vyplýva, že úspešnosť tohto automatizovaného moderovania bola prinajmenšom diskutabilná. Dokumenty naznačujú, že ich algoritmy mali často problém správne označiť aj extrémny obsah, ako sú videá s násilnými streľbami. V skutočnosti algoritmy umelej inteligencie odstraňovali len 0,6 % obsahu, ktorý porušuje zásady a pravidlá Facebooku proti násiliu a podnecovaniu k nemu.
Odozvy na kontroverziu vyvolanú zverejnením Facebook papers a Facebook files boli rôzne. Na jednej strane zazneli hlasy, že takéto praktiky nie sú vôbec prekvapujúce a dali sa od spoločnosti očakávať. Iné vyjadrili nádej, že príklady osobnej odvahy whistleblowerov ako F. Haugenovej, ale aj ďalších nespokojných zamestnancov majú možnosť ovplyvniť pozíciu Facebooku v demokratickej spoločnosti. Vo svojej výpovedi v Európskom parlamente začiatkom novembra 2021 F. Haugenová ocenila zákonodarcov EÚ a ich úsilie o zvýšenie online bezpečnosti a transparentnosti algoritmov prostredníctvom návrhu Aktu o digitálnych službách (DSA). Haugenová však poukázala aj na niektoré problematické aspekty a medzery v DSA. Patria medzi ne výnimka pre tzv. spravodajské médiá alebo výnimka z obchodného tajomstva, ktoré by mohli sťažiť boj proti nenávistným prejavom a dezinformáciám či obmedziť úsilie o sprehľadnenie odporúčacích algoritmov sociálnych sietí.

Potreba externých auditov

Kauzy ako Facebook papers prinášajú do diskusií o regulácii sociálnych sietí niekoľko kľúčových poznatkov. Poukázali na to, že Facebook uprednostňoval čo najvyššiu interakciu používateľov s platformou dokonca aj v prípade, že by to znamenalo propagáciu nevhodného obsahu. Okrem toho sa ukázalo, že vo veľkej časti sveta nedokáže platforma účinne moderovať obsah a že mnohé verejné vyhlásenia Facebooku sú v rozpore so skutočnou realitou, ktorú potvrdzujú aj ich vlastné výskumné výsledky a interná komunikácia medzi zamestnancami.
Facebook je pritom jednou z platforiem, na ktorej je pre výskumníkov v súčasnosti takmer nemožné získať prístup k dátam a vykonať akýkoľvek externý audit. Je potom veľmi ťažké spoľahlivo overiť platnosť jeho verejných tvrdení o tom, ako efektívne bojuje proti dezinformáciám a problematickému obsahu, ak nedokážeme napríklad ani zmerať, ako často bol konkrétny (dezinformačný) obsah používateľom odporúčaný. Zverejnenie podrobných analýz vrátane výskumných plánov a štatistických príloh výskumu, ktorý Facebook vykonával interne, mohlo byť obzvlášť prospešné pre výskumníkov a spravodajské organizácie, ktoré boli vynechané z analýzy uniknutých dokumentov, najmä pre tie na Slovensku a v iných postkomunistických krajinách, kde je dlhodobo odolnosť proti dezinformáciám veľmi nízka. Aj preto výskumníci považujú práve externé audity sociálnych sietí a online platforiem za jeden zo základných nástrojov na zvýšenie zodpovednosti ich prevádzkovateľov k spoločnosti.

Adrián Gavorník
Kempelenov inštitút inteligentných technológií (KInIT)
Anglickú verziu článku si môžete prečítať tu.
V spolupráci s KInIT-om vám budeme prinášať zaujímavé články z oblasti inteligentných technológií.

Podcast E-tika

Sociálne siete ako Facebook, TikTok alebo Instagram sú každodennou súčasťou života mladých ľudí, ktorí sú však ich vplyvom výrazne zraniteľní. Je preto dôležité, aby ako ich používatelia rozumeli tomu, ako algoritmy sociálnych sietí fungujú, a boli schopní rozmýšľať o nich a odolávať ich nepriaznivým účinkom. Ak vás téma spoločenských dosahov digitálnych technológií a sociálnych sietí na deti a mladých ľudí zaujíma, pustite si podcast E-tika. V diele s názvom Rodičovstvo v digitálnej dobe si moderátori Juraj Podroužek a Tomáš Gál pozvali ako hosťa Andreu Cox, ktorá vedie občianske združenie Digitálna inteligencia – digiQ. To sa v rámci svojej činnosti venuje vzdelávaniu a práci s mladými ľuďmi, aby sa na internete správali a cítili bezpečnejšie.
Podcast nájdete na stránke https://kinit.sk/e-tika-podcast-parenthood-indigital-age/.

Tento článok si môžete prečítať v časopise Quark 8/2022. Ak ešte nie ste našou predplatiteľkou/naším predplatiteľom a chcete mať prístup k exkluzívnemu obsahu, objednajte si predplatné podľa vášho výberu tu.
Komentáre