Časopis Quark
https://www.quark.sk

Sofistikované klamstvo

Spracovanie dát neurónovými sieťami možno užitočne využiť mnohými spôsobmi, no existujú aj problematické aplikácie. V poslednom čase pútajú na internete čoraz väčší záujem tzv. deepfakes.

Slovo deepfake vzniklo spojením výrazov deep learning (hlboké učenie) a fake (falzifikát) a označuje technológiu na vytváranie falošného obsahu pomocou umelej inteligencie. V praxi ide o vierohodné obrázky ľudských tvárí, videonahrávky slávnych ľudí a v neposlednom rade aj správy a texty. Možnosti zneužitia tejto technológie, predovšetkým pri jej masovom sprístupnení, sú obrovské a znepokojivé a výskumníci sú často kritizovaní, že to nezohľadňujú pri svojej práci.

Niečo tu nesedí

Realistická falošná tvár, foto NVIDIA

Nedávno sa spoločnosť NVIDIA pochválila, že jej umelá inteligencia vie vytvárať fotorealistické obrázky ľudí, ktorí nikdy neexistovali. Našťastie, tváre generované umelou inteligenciou nesú isté usvedčujúce znaky, ktoré umožnia identifikovať, že ide o podvod. V januári 2019 tvorca počítačového umenia Kyle McDonald publikoval článok o tom, ako sa tieto znaky dajú odhaliť. Algoritmy často tvoria škvrny nad hlavou osoby, tváre bývajú asymetrické a neexistuje ani pravidlo, že ak je v jednom uchu náušnica, mala by byť aj v druhom. Umelá inteligencia nepozná ani počet a orientáciu zubov. Namiesto toho vychádza z príkladov zubov nasnímaných z rôznych uhlov. Záhadou sú pre ňu tiež niektoré vzory, čo môže viesť k čudným štruktúram na pozadí obrázkov alebo k podivnému oblečeniu na vygenerovanej osobe. McDonald hovorí, že obzvlášť si treba dávať pozor na text nachádzajúci sa na pozadí vytvorených obrázkov, pretože je takmer vždy chybný.

George Orwell, BBC, foto wikipédia

Generátor textov

OpenAI, nezisková organizácia podporovaná okrem iných aj Elonom Muskom, vytvorila nový model umelej inteligencie. Jeho jadrom je generátor textov tzv. GPT2. Ten je schopný dopísať vierohodné pasáže, štýlom aj témou zodpovedajúce predchádzajúcemu textu. Zriedkakedy sa pri ňom prejavia nedostatky predošlých podobných systémov, ktoré napríklad v polovici odseku zabudli, o čom sa píše, či vybočovali zo syntaxe pri dlhých vetách. Napríklad, keď systém nakŕmili vetou z Orwellovho diela 1948: Bol jasný a chladný aprílový deň a hodiny odbíjali trinástu…, rozpoznal vágny futuristický tón a románový štýl a pokračoval: Bol som vo svojom aute na ceste do novej práce v Seattli. Dal som nohu na plyn, vložil kľúč a potom som nechal motor bežať. Len som si predstavoval, aký bude deň. O sto rokov odteraz… Z výskumného hľadiska je GPT2 prelomový systém svojou veľkosťou a kvalitou. Ako hovorí Dario Amodei, riaditeľ výskumu OpenAI, modely boli 12-krát a súbory údajov dokonca15-krát väčšie a oveľa širšie, než pri predchádzajúcich najmodernejších modeloch UI. Umelá inteligencia bola vyškolená na súbore dát obsahujúcom približne desať miliónov článkov s objemom asi 40 GB. Množstvo údajov, na ktorom bol systém GPT2 trénovaný, priamo ovplyvnilo jeho kvalitu. A práve táto kvalita viedla organizáciu OpenAI k rozhodnutiu držať GPT2 za zatvorenými dverami, kým sa vyhodnotia možnosti jeho škodlivého využitia.

Oživený Dalí

Foto The Dalí Museum

Návštevníkov múzea v St. Petersburgu na Floride víta od mája 2019 digitálne oživená simulácia Salvadora Dalího. Je vytvorená tak, aby komunikovala rôznymi spôsobmi – od komentovania aktuálneho počasia až po zhotovenie selfie s návštevníkom. Návštevníci si ju môžu vyčariť na rozmernej obrazovke v životnej veľkosti jednoduchým stlačením tlačidla. Projekt s názvom Dalí Lives vznikol pri príležitosti 115. výročia narodenia legendárneho surrealistického umelca. Na vytvorenie jeho digitálne generovaného vzhľadu algoritmus UI analyzoval stovky rozhovorov, aby sa naučil jedinečné pohyby a výrazy umelcovej tváre. Pomohli mu aj videá s hercom fyzicky podobným Dalímu, nakrútené v rôznych scenároch. Potom technológia bez problémov zasadila umelo vytvorenú Dalího tvár na telo herca. Pri hlasových nahrávkach poslúžili ako podklad citácie a rozhovory s Dalím. Vzniklo tak viac ako 100 unikátnych klipov.

Tento článok si môžete prečítať v časopise Quark 08/2019.

Ak chcete mať prístup aj k exkluzívnemu obsahu pre predplatiteľov alebo si objednať tlačenú verziu časopisu Quark, prihláste sa alebo zaregistrujte.

R, foto Pixabay

V spolupráci s PC Revue, www.pcrevue.sk

Komentáre