Technológie prinášajú nádej, že ich výstupy nebudú zaťažené kognitívnymi limitáciami a predsudkami ľudí. Tento prísľub neutrality a absolútnej objektívnosti má však aj v prípade umelej inteligencie a špecificky strojového učenia svoje nedostatky.
Technológie sú považované za neutrálny nástroj. Mnohí ich prirovnávajú ku kladivu – ak ho používame na zatĺkanie klincov, je to užitočný a dobrý nástroj. Ak ním niekoho napadneme a ublížime mu, je to zlý nástroj. Touto optikou ani umelá inteligencia (AI) nie je ani dobrá, ani zlá, ale záleží na spôsobe, akým ju ľudia využívajú. Tento argument tzv. technologickej neutrality však v prípade AI celkom nesedí.
Technológia nie je iba nástroj
Ak chceme rozmýšľať o neutralite AI, pomôckou môže byť pojem ekvilibrium, ktorý poznáme napríklad z fyziky. Taliansky filozof Luciano Floridi v tejto súvislosti hovorí o dvoch prípadoch, ktoré by sme mohli aplikovať na vývoj digitálnych technológií. Na každý objekt pôsobia externé sily, ktoré ním môžu hýbať. Ak však takéto sily neexistujú, predmet je v rovnováhe a nezačne sa pohybovať. Prípadne môžu na predmet pôsobiť protichodné sily rovnakej veľkosti a v dôsledku toho sa objekt rovnako nepohne.
Oba prípady si môžeme ukázať na príklade z bežného života. Lopta sa na rovnej podložke nezačne hýbať, pokiaľ do hry nevstúpi ďalšia sila, ktorá by ňou pohla (napríklad do nej kopneme). Tento prípad nazývame neutrálne ekvilibrium. Je však aj ďalšia možnosť, pri ktorej lopta zostane stáť na mieste, a to ak na ňu začneme tlačiť z dvoch strán rovnakou silou. Vtedy hovoríme o statickom ekvilibriu. Práve to nám môže pomôcť pri premýšľaní o údajnej neutralite umelej inteligencie.
L. Floridi tvrdí, že technológie sa nikdy nenachádzajú v stave neutrálneho ekvilibria. Do ich dizajnu vstupujú viditeľné, ale aj neviditeľné pohnútky či hodnotové postoje všetkých jednotlivcov zapojených do procesu ich tvorby.
Zodpovedný vývoj
Každá technológia sa vždy vyvíja v istom kultúrnom kontexte, konkrétnymi ľuďmi, pre konkrétnych používateľov, s cieľom využiť ju na špecifické účely a nie na niečo iné, aj keby to bolo technicky alebo logicky možné. To platí aj pre už spomenutý dizajn kladiva. Hoci tento nástroj možno zneužiť, vo svojej podstate bol vyvinutý na robenie niečoho užitočného – napríklad na zatĺkanie klincov. Aj napriek tomu, že môže byť v niektorých situáciách kladivo zneužité, jeho primárnym účelom je pomôcť ľuďom vykonať isté činnosti.
Na druhú stranu to neznamená, že zodpovednosť preberajú len tí, ktorí takýto technologický nástroj použijú, resp. použijú nesprávnym spôsobom. Práve naopak. Množstvo ľudí sa totiž nechá zmiasť myšlienkou neutrálneho ekvilibria, pričom nevidia, že ide o ekvilibrium statické. Už v procese tvorby môžeme pôsobiť na to, akým spôsobom sa bude daná technológia primárne používať. Tento prístup nás upozorňuje na to, akú veľkú moc majú ľudia zapojení v dizajne a vývoji AI a ako by s ňou mali nakladať, aby sme pri používaní technológií smerovali k pozitívnemu naplneniu spoločenských a ľudských hodnôt.
Celý článok nájdete v časopise Quark 9/2025.
Vďaka predplatnému si ho však môžete dočítať už teraz a získať aj prístup k exkluzívnemu obsahu!
Máte predplatné?
Prihlásiť saLUCIA KOBZOVÁ
Kempelenov inštitút inteligentných technológií
