Mýty o umelej inteligencii

Prečo umelá inteligencia (AI) nemyslí ako človek a prečo je vzdelávanie v tejto oblasti nevyhnutné pre budúcnosť, vysvetľuje v knihe profesorka Mária Bieliková, riaditeľka Kempelenovho inštitútu inteligentných technológií.

AI uvažuje ako človek. Je to pravda?

To je jeden z najkrajších mýtov. A nie je to pravda. My ani nevieme, ako presne uvažuje človek – vieme síce celkom dosť, ale neustále veľmi málo o našom ľudskom mozgu.
Ale určite to nie je tak, že AI uvažuje ako človek. Už len z princípu, aké všetky mechanizmy do uvažovania človeka zasahujú. Na druhej strane, neurónové siete boli často inšpirované tým, ako si myslíme, že funguje časť nášho usudzovania.

Ďalší mýtus: umelá inteligencia je neomylná.

To je nezmysel. Základnou vlastnosťou väčšiny algoritmov umelej inteligencie je to, že sú v konečnom dôsledku neurčité a nejednoznačné. Pri iných technológiách to vôbec nemusí platiť.
Pozrime sa na lietadlo. Samozrejme, že aj na ňom sa môže pokaziť súčiastka, ale jeho súčasti sú deterministické a je jasné, že sú. A pokiaľ sa niečo pokazilo a neostali stopy, tak vtedy nevieme zistiť, čo sa stalo, no v iných prípadoch áno.
Pre AI platí jedna základná vec, ktorú by si všetci mali uvedomiť: keď pracujem s umelou inteligenciou, vždy je výsledok správny len s nejakou presnosťou. A je na tvorcoch, aby to vedeli človeku vhodne vysvetliť. Lebo nakoniec človek by mal mať dohľad.

A zodpovednosť.

To sa pri umelej inteligencii často rieši. Stroj nemôže byť zodpovedný za niečo, čo urobil. Čo s ním spravíme? Dáme ho do väzenia, rozbijeme ho kladivom alebo ho za trest vypneme z elektriny? Za súčasné technológie musí byť vždy zodpovedný človek.

Tým nadviažeme na ďalšiu domnienku: umelá inteligencia je nezávislá a nepotrebuje ľudský dohľad.

Áno, vieme vytvoriť systémy, ktoré budú autonómne a budú fungovať aj bez ľudského dohľadu. Čiže to závisí aj od typu úlohy a situácie a v mnohých prípadoch ide skôr o filozofickú otázku. No nemali by sme vo všeobecnosti chcieť nezávislú umelú inteligenciu. Tak ďaleko sa ešte technológia nedostala.

Umelá inteligencia si uvedomuje vlastné ja.

No, ja neviem, či si vôbec vy uvedomujete vlastné ja a ako to je s vedomím. Hlboká neurónová sieť, ktorá nám najviac pripomína človeka a jeho mozog, je v skutočnosti sieť veľkého množstva čísel. Neviem si predstaviť, na základe čoho by si mohla uvedomovať vlastné ja. Pocity, teda cítenie a uvedomenie si seba samého, nás od AI neustále odlišujú. No to neznamená, že systémy umelej inteligencie nevedia napríklad rozpoznávať ľudské emócie. To je úplne iná vec.

Je AI schopná cítiť nejaké emócie alebo mať nejaké emócie?

Nemyslím si.

Je hrozbou a povedie k apokalypse?

To nikto nevie s istotou povedať. Ja by som otázku ani takto nestavala. Je to veľmi podobné, ako keby sa niekto spýtal, či sú jadrové zbrane hrozbou a povedú k apokalypse. Keď ich bude človek používať spôsobom, ktorý to umožní, tak potom asi áno, ale vždy sa musíme pýtať, čo s tým robíme, načo a prečo. Napriek tomu, že už sme povedali celkom veľa negatívneho, ja som optimistka. Žijeme vo veľmi vzrušujúcej dobe.

Zvestovatelia súdneho dňa, ktorí hovoria, že nás to všetko zničí, dostávajú pomerne veľký priestor na šírenie apokalyptických myšlienok. Ako by sa mala komunikovať táto téma umelej inteligencie smerom k verejnosti?

V prvom rade by bolo veľmi dobre, keby ľudia vedeli trochu viac o tom, ako umelá inteligencia funguje. Organizácie, ktoré vyvíjajú, nasadzujú alebo používajú systémy AI, by mali mať ľudí s príslušnou úrovňou gramotnosti v tejto oblasti. To znamená, že majú nejaký rozsah vedomostí o tom, ako systémy AI fungujú, ako sa trénujú modely, ako fungujú algoritmy AI.
Aj AI Act (európska legislatíva k umelej inteligencii, pozn. red.) uvádza povinnosť, aby mali všetky takéto organizácie vyškolených ľudí so zohľadnením ich technických poznatkov a skúseností. Je to definované veľmi všeobecne, ale myšlienka je jasná – mať AI gramotných ľudí. Som presvedčená, že to potrebujeme nielen v biznise, ale aj v štátnej správe, v školách, všade.
Som presvedčená, že treba komunikovať pozitívne aj negatívne aspekty a čo najviac popularizovať. Aj my výskumníci by sme mali o tom čo najviac hovoriť.

Bude, respektíve mala by byť práca so systémami AI povinnou výbavou každého človeka, súčasťou akýchsi elementárnych zručností, akými sú písanie, čítanie, počítanie, práca s internetom?

Už viac ako desať rokov hovorím na všetkých možných diskusiách a v paneloch, že by sa malo v škole učiť písať, čítať, počítať a komunikovať s počítačom. A komunikácia s počítačom teraz naberá nový rozmer, keďže tu máme generatívnu umelú inteligenciu a príslušné algoritmy.

Kniha, ktorú pripravil portál Živé.sk, vyšla vo vydavateľstve Ringier Slovakia Media v roku 2025.

---

Súťažná otázka

Ak nám do 30. júna 2025 pošlete správnu odpoveď na otázku:

Koľko rozhovorov s expertmi obsahuje kniha Umelá inteligencia: Pripravte sa na budúcnosť?

zaradíme vás do žrebovania o knihu Filipa Hankera, Jána Trangela a Maroša Žofčina: Umelá inteligencia: Pripravte sa na budúcnosť z vydavateľstva Ringier Slovakia Media.
Svoje odpovede posielajte na adresu redakcie: odpovednik@quark.sk alebo Quark, Lamačská cesta 8A, 811 04 Bratislava 4.