Digitálny humanizmus

Digitálny humanizmus je myšlienkový prúd, ktorý sa pýta, ako navrhovať technológie tak, aby slúžili ľuďom – nie naopak. Nejde o odmietanie inovácií, ale o ich premyslené smerovanie: kto rozhoduje o tom, čo algoritmy optimalizujú? Koho záujmy sú v dátach zastúpené a koho nie? A čo sa stane, keď tieto otázky nikto nepoloží?

Nasledujúce príklady ukazujú, prečo na týchto otázkach záleží a prečo by mali byť súčasťou vývoja technológií od prvého dňa.

Dôležitosť výberu datasetu

Je pondelok ráno a pracujete na novom projekte: máte natrénovať systém umelej inteligencie (AI) na včasné odhalenie melanómu. K dispozícii je rozsiahly súbor dermoskopických snímok z viacerých kliník obsahujúci desiatky tisíc obrázkov anotovaných odborníkmi. Na prvý pohľad vyzerá všetko pripravené na tréning. Pri podrobnejšom prezeraní dokumentácie si však tím všimne detail, ktorý môže zásadne ovplyvniť výsledok. Väčšina snímok pochádza od pacientov so svetlou pokožkou, konkrétne s fototypom I až III, zatiaľ čo ľudia s tmavšou pokožkou, teda fototypy V a VI, sú v dátach zastúpení len minimálne.

Možno to na prvý pohľad nevyzerá ako problém – melanóm je častejší u ľudí so svetlejšou pokožkou a algoritmus má rozpoznávať najmä tvar, okraje či farbu lézie. Lenže melanóm sa neprejavuje rovnako pri všetkých typoch pokožky. Na tmavšej koži sa často objavuje na miestach, kde ho pri svetlej populácii takmer nevidíme, napríklad na dlaniach alebo chodidlách. A kontrast medzi léziou a pokožkou je menej výrazný, čo komplikuje hodnotenie aj pre človeka, nieto pre algoritmus.

Ak teda systém trénujeme takmer výhradne na svetlej pokožke, naučí sa rozpoznávať najmä vzory typické pre tento typ kože. Tie isté znaky však na tmavšej pokožke vyzerajú odlišne. Výsledkom je znížená citlivosť modelu k melanómu u pacientov s tmavšou pleťou – na čo upozornila aj štúdia publikovaná v časopise Journal of Dermatological Treatment v roku 2021.

Tento príklad ukazuje, že technické rozhodnutia v úvodnej fáze, napríklad výber datasetu, môžu ovplyvniť presnosť modelu pre celé skupiny pacientov. To môže znamenať oneskorenú diagnózu. A pri melanóme, kde je päťročné prežitie v štádiu I nad 95 %, no v štádiu IV klesá pod 30 %, je načasovanie diagnózy zásadné.

AI odráža hodnoty svojich tvorcov

Začiatkom tohto roku sa veľká pozornosť sústredila na čínsku AI platformu DeepSeek. Technologicky išlo o pôsobivý projekt: dokázal vytvoriť pokročilý jazykový model za neporovnateľne nižšie náklady než americkí konkurenti. Rýchlo sa však objavila nepríjemná realita: používatelia zistili, že model odmieta reagovať na otázky týkajúce sa masakru na Námestí nebeského pokoja v Pekingu, internačných táborov Ujgurov či konfliktu na Taiwane. Nie preto, že by bol technicky neschopný odpovedať, ale preto, že hodnoty, obmedzenia a priority svojho politického a spoločenského prostredia mal zabudované priamo v dátach a v návrhu systému. Modely AI nie sú neutrálne nástroje – vždy do istej miery odrážajú svet, v ktorom vznikli.

Sara Solarova
Kempelenov inštitút inteligentných technológií