Prítomnosť umelej inteligencie v našom každodennom živote neustále narastá. Mnohí výskumníci sa domnievajú, že to, čo sme videli doteraz, je len začiatok.
Umelá inteligencia (AI) sa uplatňuje v mnohých priemyselných odvetviach a službách, pričom sa stáva všadeprítomnou v našom každodennom živote. Digitálne technológie zlepšujú a zjednodušujú náš život, ale zároveň vyvolávajú nové etické, spoločenské a právne otázky.
Základný výskum
Systémy AI sa čoraz častejšie používajú na navrhovanie rozhodnutí alebo opatrení, čím uľahčujú prácu expertom. Keďže tieto systémy môžu ovplyvňovať naše životy a mať významný vplyv na rozhodovanie ľudí, musia byť dôveryhodné.
Využívanie umelej inteligencie prináša obrovské príležitosti. Neraz však nerozumieme, prečo umelá inteligencia navrhuje to, čo navrhuje. Preto je dôležité zosúladiť vývoj a zavádzanie systémov AI s etickými zásadami a regulačnými požiadavkami. To si vyžaduje citlivý prístup a schopnosť chápať tieto systémy v širšom spoločenskom a právnom kontexte.
Ako môže rádiológ dôverovať systému AI, ktorý analyzuje lekárske snímky? Ako môže finančný maklér dôverovať systému AI predpovedajúcemu ceny akcií? Ako môže cestujúci dôverovať samojazdiacemu autu? Môže AI rozhodnúť, kto postúpi do ďalšieho kola pracovného pohovoru? Môže AI vybrať pacientov na preventívne zdravotné prehliadky? To je len zopár príkladov, ktoré si vyžadujú hĺbkovú analýzu a základnú výskumnú činnosť. Odborníci na umelú inteligenciu by sa mali vzdelávať vo vedeckých základoch dôveryhodnej umelej inteligencie, aby boli schopní navrhovať dôveryhodné systémy AI.
O projekte TAILOR
TAILOR je projekt najprestížnejšieho grantového programu Európskej únie pre výskum a inovácie Horizont 2020 (predchodca súčasného programu Horizont Európa). Cieľom projektu je vybudovať kapacity na zabezpečenie vedeckých základov pre dôveryhodnú umelú inteligenciu v Európe. TAILOR je skratka pre Foundations of Trustworthy AI – Integrating Learning, Optimisation and Reasoning, čo v preklade znamená Základy dôveryhodnej umelej inteligencie – integrovanie učenia, optimalizácie a zdôvodnenia. Rozvíja sieť výskumných centier excelentnosti zameraných na zodpovedný výskum AI. V rámci projektu bol vypracovaný strategický výskumný a inovačný plán pre dôveryhodnú umelú inteligenciu (TAILOR Strategic Research and Innovation Roadmap) s cieľom identifikovať hlavné výskumné výzvy a pomôcť tak viesť inštitúcie financujúce výskum a rozhodovacie orgány smerom k dôveryhodnej AI budúcnosti.
TAILOR je jednou zo štyroch výskumných sietí, ktoré zriadila EÚ s cieľom posilniť výskumné kapacity a vyvinúť umelú inteligenciu budúcnosti. Sieť projektu sa skladá z 55 partnerov v rámci celej Európy. Koordinuje ju profesor umelej inteligencie Fredrik Heintz pôsobiaci na Univerzite v Linköpingu vo Švédsku.
Snažíme sa o excelentný a zodpovedný výskum inteligentných technológií. Na to, aby sme boli zodpovední vo výskume umelej inteligencie, si však musíme byť vedomí možných rizík, ktoré prináša. Je nevyhnutné, aby sme na ne boli pripravení ešte predtým, ako sa naplnia, hovorí profesorka Mária Bieliková, vedúca výskumníčka projektu slovak.ai, ktorý je slovenským partnerom projektu TAILOR.
Slovensko súčasťou siete
Na Slovensku sa na projekte zúčastňujú výskumníci z Fakulty matematiky, fyziky a informatiky Univerzity Komenského (FMFI UK) v Bratislave a Kempelenovho inštitútu inteligentných technológií. Vďaka projektu sa podieľajú na formovaní budúcnosti umelej inteligencie v Európe. Rozsiahla sieť partnerov spája špičkových výskumníkov EÚ, čím vytvára jedinečné príležitosti a interakcie pre našich výskumníkov.
Umelá inteligencia má rôzne podoby, čo sa týka použitých metód. V tomto projekte skúmame symbolovú AI založenú na explicitnej reprezentácii znalostí (ontológie), ako aj subsymbolovú AI, pre ktorú sú v súčasnosti charakteristické veľmi populárne umelé neurónové siete a hlboké učenie. Pre obe oblasti je výzvou dosiahnuť transparentnosť – a tým väčšiu dôveryhodnosť – týchto metód, čo je najmä pre neurónové siete, často označované ako čierna skrinka, veľká výzva. Projekt TAILOR je skvelou príležitosťou na spojenie síl v celoeurópskej snahe o pokrok v tomto ambicióznom a spoločensky dôležitom smere výskumu, zdôraznil profesor Igor Farkaš z Katedry aplikovanej informatiky, ktorý vedie tím FMFI UK v projekte TAILOR.
Transfer poznatkov
Plán, ktorý vznikol v rámci projektu TAILOR, je prvým krokom na ceste k štandardizácii. Rozhodovacie orgány a inštitúcie financujúce výskum vďaka nemu získajú prehľad o tom, čo je potrebné na vývoj dôveryhodnej umelej inteligencie. Aby sa to podarilo, je nutné najprv vyriešiť mnohé výskumné otázky.
Výskumníci definovali tri kritériá pre dôveryhodnú umelú inteligenciu: AI musí byť v súlade so zákonmi a predpismi, musí spĺňať rôzne etické zásady a jej implementácia musí byť odolná a bezpečná.
Tieto kritériá predstavujú veľké výzvy, predovšetkým keď ide o implementáciu etických zásad. Mnohé z právnych návrhov, ktoré boli pripravené v EÚ a členských štátoch, píšu odborníci z oblastí práva. Často im však chýbajú odborné vedomosti z oblasti AI, čo môže predstavovať problém. Právne predpisy a normy musia vychádzať z poznania oblasti, pre ktorú zavádzajú regulácie. Práve tu môžu prispieť výskumníci tak, že poskytnú informácie o súčasnom výskume, čím umožnia prijímanie dobre podložených rozhodnutí. Je veľmi dôležité, aby odborníci dostali možnosť ovplyvňovať otázky právnej povahy.
Spoločenský úžitok
Koncept dôveryhodnej umelej inteligencie je založený na etických zásadách a právnych predpisoch. Nesmieme však zabúdať na to, že dôveru si treba zaslúžiť. Do výskumu, vývoja a zavádzania systémov AI je zainteresovaných mnoho subjektov. Ich zodpovednosť by sa mala odvodzovať na základe ich schopností minimalizovať škody a maximalizovať prínosy, ktoré môžu prostredníctvom AI priniesť spoločnosti. Je dôležité, aby sa angažovali vo vývoji takej umelej inteligencie, ktorá bude prospešná pre spoločnosť, hovorí M. Bieliková.
Ľudia bežne považujú umelú inteligenciu za čisto technologickú záležitosť. V skutočnosti je však dôležité to, či z nej dokážeme vyťažiť spoločenský prospech. Ak chceme dosiahnuť umelú inteligenciu, ktorá je dôveryhodná a dobre funguje v spoločnosti, musíme sa uistiť, že je zameraná na ľudí.
Projekt sa sústreďuje na komplexné výskumné otázky a má za cieľ definovať štandardy, ktoré si môžu osvojiť všetci, ktorí pracujú s umelou inteligenciou. To sa však dá dosiahnuť len vtedy, keď sa základný výskum AI stane prioritou. Všetky informácie o projekte TAILOR nájdete na stránke tailor-network.eu.
Spoločný jazyk
Dôveryhodná umelá inteligencia je pojem, ktorý má niekoľko rozmerov. Pozostáva z mnohých aspektov vrátane vysvetliteľnosti, bezpečnosti, spravodlivosti, zodpovednosti, súkromia a udržateľnosti. Niektorými z týchto rozmerov (napr. bezpečnosť a ochrana súkromia) sa vedci zaoberajú už dlho, iné sa stali témou až v posledných rokoch (napr. vysvetliteľnosť a udržateľnosť). Všeobecne nám však chýba spoločný základ pre termíny a definície spojené s touto oblasťou.
Príručka TAILOR Handbook of Trustworthy AI obsahuje najdôležitejšie vedecké a technologické pojmy súvisiace s dôveryhodnou umelou inteligenciou. Jej hlavným cieľom je priblížiť výskumníkom, študentom aj laickej verejnosti problematiku súvisiacu s vývojom etických a spoľahlivých systémov umelej inteligencie. Nápad napísať príručku TAILOR vznikol z ambície vytvoriť spoločný jazyk pre oblasť AI. Príručka má štruktúru podobnú encyklopédii. Tá bola vytvorená na základe už existujúcich taxonómií a definícií a postupovaním v konceptuálnej hierarchii rôznych myšlienok.
Táto príručka je užitočná pre odborníkov aj začiatočníkov v problematike dôveryhodnej AI. Poskytuje aj odporúčania na čítanie, praktické príklady, odkazy na iné publikácie a prehľady, ktoré môžu čitateľovi pomôcť lepšie pochopiť túto problematiku a tiež prehĺbiť vedomosti. Celá príručka v angličtine je k dispozícii na odkaze tailor.isti.cnr.it/handbookTAI/TAILOR.html.
Michal Kompan
Kempelenov inštitút inteligentných technológií
Ilustrácie TAILOR
