Musíme sa pripraviť na svet, v ktorom vidieť a počuť prestáva znamenať uveriť, vraví Martin Spano.

Na začiatku pandémie na jar 2020 si moderátorka Markízy Zlatica Puškárová nasadila v priamom prenose rúško a spolu s ňou aj budúci premiér Igor Matovič a minister zdravotníctva Marek Krajčí.

Podľa psychológov tým nastolili normu, že nosiť rúško je normálne.

Lenže v novom videu Puškárová hovorí, že „rúška a očkovanie nemajú žiaden význam“. Zmenila moderátorka názor?

Nie. Video, o ktorom je reč, je deepfake. V skutočnosti ho natočili s herečkou a moderátorkou Kristínou Tormovou, no s využitím aplikácie Faceswap ženám vymenili tváre.

Vyzerá to, že rozpráva Puškárová, no repliku v skutočnosti hovorí Tormová.

Zo starších záznamov vystrihli Puškárovej slová a spojili ich do viet, ktoré nikdy nepovedala. Potom ich upravili tak, aby intonačne sedeli.

Video spoločnosti O2 chce upozorniť na manipuláciu s informáciami v onlinovom priestore a ľudí nabáda, aby „dátovali zodpovedne a zdieľali s rozumom“.

„Preto vás prosím, buďte v online priestore pozorní. Konšpirácie môžu ublížiť vám aj vašim blízkym,“ hovorí Tormová.

Denník N sa zhováral s informatikom a popularizátorom umelej inteligencie Martinom Spanom, ktorý dostal nápad deepfake vytvoriť a spolupodieľal sa na jeho tvorbe.

Spana sme sa pýtali aj na to, či deepfake predstavuje hrozbu a ako sa mu brániť. Reč bola aj o mediálnej gramotnosti či budúcnosti šírenia fám. „Keď prišla pandémia, všimol som si, aký veľký majú ľudia problém s informáciami. Za bežných okolností majú informácie cenu zlata, ale v pandémii majú cenu zdravia a životov. Veľa životov sa premárnilo, lebo ľudia uverili nezmyslom,“ vraví v rozhovore Spano.

Po zverejnení deepfake videa ste povedali, že „každý z nás má už v súčasnosti vďaka umelej inteligencii na mobile alebo v počítači možnosť vytvoriť deepfake“. Ako by som si ho vytvoril?

Záleží na individuálnej úrovni počítačových schopností. Vopred poviem, že na to nepotrebujete vyštudovať informatiku a netreba vám špeciálne poznatky. Stačia obyčajné znalosti. Najjednoduchší spôsob je, že si stiahnete aplikáciu na výmenu tváre, napríklad Reface. Dokáže vytvoriť deepfake zábavného charakteru. No pracuje len s preddefinovanými modelmi, takže môžete vyzerať iba ako Rambo či Šípková Ruženka.

Ak máte pokročilejšie počítačové znalosti, máte niekoľko možností, medzi nimi aplikácie DeepFakesWeb, DeepFaceLab či Faceswap. Ide o programy, ktoré si buď stiahnete do počítača, alebo bežia v cloude. Ak používate cloud, hodina práce stojí dva až tri doláre. Čím viac hodín necháte modely učiť sa, tým lepšie výsledky dosiahnete. Dokonalejší deepfake by stál okolo 300 dolárov, ak sa model učí okolo 100 hodín.

Aké vybavenie by som potreboval, ak by som robil deepfake na počítači?

Veľmi dôležitú rolu hrá hlavne grafika. Užívateľ síce ušetrí peniaze za cloudové práva, ale na druhej strane potrebuje veľmi výkonnú hernú kartu.

Stretli sa v minulosti slovenskí užívatelia internetu s deepfake videami?

Jednou z potenciálnych obetí – i keď nevieme, ako to naozaj bolo – sa nedávno stala Andrea Verešová. Okolo Vianoc zverejnila príspevok, že dá odmenu 50-tisíc eur tomu, kto vypátra autora deepfake videa s jej osobou. Video je určené pre ľudí vo veku 18+. Neskôr vznikli pochybnosti, či naozaj išlo o deepfake. Príspevok o odmene na druhý deň stiahla. Na Slovensku máme odborníka, ktorý sa priamo venuje deepfakom (v roku 2019 poskytol Denníku N vyjadrenia, pozn red.). Volá sa Tomáš, je z Trnavy a vystupuje pod prezývkou Ctrl Shift Face. Robí deepfake videá svetovej kvality. Nešpecializuje sa na Slovensko, má svoj YouTube kanál, kde deepfakuje známych hercov, napríklad Toma Cruisa.

Predstavuje deepfake hrozbu?

Technológie nie sú dobré ani zlé. Sme to len my ľudia, ktorí sme zlí alebo dobrí. Ako pri inej technológii, tak aj tu platí, že sa nájdu ľudia, ktorí ju môžu zneužiť. Technológia, na ktorej deepfake funguje, sa pôvodne vymyslela na to, aby počítače naučila vytvárať umelecké diela. Prvý raz sa deepfake objavil na americkej sociálnej sieti spravodajského charakteru Reddit. Vzniklo tam vlákno „deepfake“, kam sa začali pridávať videá 18+ bez súhlasu obetí.

V tlačovej správe k deepfake videu ste napísali, že sa „musíme pripraviť na svet, v ktorom vidieť a počuť prestáva znamenať uveriť“. Kam spejeme, ak hocičo môže byť falošné?

Textu hneď nedôverujeme, lebo si ho musíme prečítať a trvá istý čas, kým ho spracujeme. To už neplatí pre videá, kde existuje jav, ktorý psychológovia nazývajú plynulosť spracovania. Audiovizuálne dielo vidíme, rýchlo ho spracujeme a hneď mu aj veríme. Je to podobne ako s biblickým príbehom o neveriacom Tomášovi. Najprv neveril, ale keď uvidel, uveril. Ďalej sa už nezaoberal tým, či ho zmysly neklamú.

Ľudia s oveľa väčšou pravdepodobnosťou uveria tvrdeniu, ak ho sprevádza obrázok. Všímam si, že na stránkach s rozporuplným obsahom sa umiestňujú obrázky vytrhnuté z kontextu, ktoré však potvrdzujú to, čo sa chce medzi riadkami povedať. Pracujú s tým, že „ak niečo vidím, verím tomu“.

Ako sa proti deepfakom brániť?

Po technologickej stránke spočíva jedna z možností v autorizácii zdroja, ktorý video natočil. Dá sa to pomocou blockchainu, známeho najmä z digitálnych mien. Tie ho preslávili, no robia mu zlé meno, lebo nie všetci digitálnym menám veria. Výhodou blockchainu je, že má overovaciu schopnosť, ktorá sa nedá prelomiť ani hekerskými útokmi. Konkrétne by to mohlo vyzerať tak, že do videa by sa umiestnil vodoznak, ktorý by sa nedal napadnúť. V prípade, že by bol porušený, vedeli by sme, že ide o deepfake.

Problémom je, že – ako sa vraví – lož prebehne pol sveta, kým ju dobehne pravda. Neskôr sa môže ukázať, že ide o deepfake, ale video už stihlo napáchať škody a veľa ľudí mu uverilo. V prvom rade si musíme uvedomiť, že takýto problém vôbec existuje. To je aj cieľom kampane O2.

Aké ste mali na video reakcie?

Volala mi babka. Nie je konšpirátorka, nič také, ale povedala mi: „Martinko, nevedela som, čo je hoax, ale vďaka tebe som si to pozrela, a teraz už viem.“ Potešilo ma to.

Ako reagovali iní?

Niektorí boli prekvapení. Mnoho ľudí, ktorí nemajú skúsenosti s tým, ako fungujú médiá, nevedia, že na internete môžu byť aj vyložené lži a môže sa zámerne zavádzať. Prvým cieľom kampane O2 bolo, aby si ľudia uvedomili, že na internete sú aj lži. Potom nastane šok a znechutenie, že ničomu nemožno veriť. Ale to sa upokojí a nasleduje fáza uvedomenia, že „si budem dávať pozor“. Mám taký slogan: „Neuverím, ani keď uvidím. Uverím, až keď si to premyslím.“

S príchodom audiovizuálnej techniky sme informácie začali prijímať automaticky, čo predtým nebolo, aspoň nie v takej miere. Ak sa vyskytli nejaké chýry a fámy, ľudia sa zamýšľali, kto to hovorí, a uvažovali, o akú autoritu ide. V súčasnosti sa mnoho ľudí vyjadruje k veciam, o ktorých nevie vôbec nič. Ide o obrovský problém pandémie.

Ako vznikol nápad spraviť deepfake video?

Poviem vám príbeh, ktorý ide hlbšie do mojej minulosti. Pred pár rokmi som totálne vyhorel. Pracoval som ako programátor v korporáte, mal som dobrý plat, ale bol som nešťastný. Ochorel som, schudol som a život ma nebavil. Bolo mi strašne zle.

V mladosti som bol hlboko veriaci človek. Bol som v kostole a hovoril som k Bohu: „Pane Bože, pomôž mi, budem za to pomáhať iným.“ Povedal som to len tak do vetra. Nemusíte tomu veriť, ale dostal som vnuknutie. Po istom čase som sa z problémov vyliečil a stalo sa mi viacero duchovných vecí. Tak som si povedal, že nastal čas splatiť svoj dlh a pomáhať druhým. Premýšľal som, čo by som mohol robiť.

O čom ste uvažovali, že by ste mohli robiť?

Som informatik, celý život sa zaujímam o umelú inteligenciu, tak som si povedal, že spravím osvetu v oblasti umelej inteligencie a uvidíme, kam ma to dovedie. Do verejného priestoru som vstúpil s touto témou. Celkom sa to uchytilo. Zistil som, že ma to nesmierne baví. Zarábam menej ako predtým, ale som stokrát šťastnejší a naplnenejší.

Keď prišla pandémia, všimol som si, aký veľký majú ľudia problém s informáciami. Za bežných okolností majú informácie cenu zlata, ale v pandémii majú cenu zdravia a životov. Veľa životov sa premárnilo, lebo ľudia uverili nezmyslom.

Aké nezmysly máte na mysli?

Rôzne dezinformácie a konšpiračné teórie. Asi v auguste 2020 som mal sen o lepšom Slovensku, kde nebudú konšpirácie a zvíťazí pravda. Zase tu máme obdobie, keď musíme bojovať za pravdu, len iným spôsobom. Tak som si povedal, že to skúsim. Do politiky som ísť nechcel, hoci som mal a aj mám ponuky. Vedel som, že spoločnosť O2 dlhodobo robí projekty v oblasti technológií a bezpečnosti na internete. Známa je kampaň #Nebuď pirát, aby ľudia nepoužívali mobil v aute. Ozval som sa im, že by som chcel spraviť dokonalú lož, deepfake. Zapáčilo sa im to. Som autorom myšlienky, potom som im vysvetľoval, ako to spraviť, a bol som aj technickým odborným garantom.

Teraz o projekte hovorím v médiách. Deepfake som nevyrobil ja, ale najaté reklamné a produkčné agentúry. Výroba videa trvala niekoľko mesiacov. Samotný deepfake sme zvládli za niekoľko týždňov, ale otázka znela, čo s ním. Bolo treba premyslieť celú kampaň. Cieľom je upozorniť na to, že niečo ako deepfake existuje, a aj na to, aby ľudia dátovali zodpovedne a zdieľali s rozumom.

Čo ste chceli videom povedať?

Mojím konečným cieľom je informačne zjednotiť Slovensko. Nechcem hovoriť o konkrétnych médiách s rozporuplným obsahom či o konkrétnych hoaxoch. Človeku pomôžete oveľa viac tým, že ho naučíte klamstvo rozpoznať.

Mám známych, ktorí majú sklon veriť „alternatívnej realite“, ako tomu hovorím. Po kampani s deepfakom som videl, že sú šokovaní. Videl som na nich, že o tom premýšľajú a uvažujú, či v minulosti uverili lžiam. Mohol by som na nich zaútočiť, že čomu všetkému veria, ale v takom prípade by sa začali brániť. Nemyslím si, že ide o účinný spôsob, ako ľudí presvedčiť. Idem na to tak, nech na to prídu sami. Áno, nemusí to fungovať, ale zafunguje to skôr ako útok typu „ty si konšpirátor“.

Som konzervatívec, ktorý sa kamaráti s liberálmi. Aj v prípade dezinformácií platí, že mám blízko k ľuďom, ktorí sledujú stránky z alternatívnej scény. Chcel by som fungovať ako most. Dúfam, že cez moju osobnosť sa nad témou aspoň zamyslia.

Niekedy sa ľudia vzdajú mylných presvedčení, no oveľa ťažšie je to v prípade, že ide o jadrové presvedčenia, ktoré tvoria identitu človeka. Ako na nich?

Nemám na to odpoveď. Skutočnosť je taká, že v súčasnosti sa nevieme zhodnúť ani na tom, čo je realita. Jedni hovoria A, iní B, a pritom sa pozeráme na tú istú realitu. Viem, že som vám na otázku neodpovedal. Dospeli sme do situácie, že sa nevieme zhodnúť, čo je to vlastne realita.

Chýba ľuďom na Slovensku mediálna gramotnosť, ak mnohí šíria fámy?

Áno, no môj názor je, že všetky médiá sú istým spôsobom zaujaté, len tie konšpiračné a alternatívne sú zaujaté oveľa viac. Clickbaitom trpia aj mainstreamové médiá. To považujem za problém, lebo veľa ľudí si článok neprečíta a šíria ho len podľa názvu. Poviem o vlastnej skúsenosti. Jedno médium bulvárnejšieho charakteru nedávno napísalo o deepfake videu niečo v štýle, že „neuveríte, Zlatica Puškárová povedala, že rúška nemajú význam“. Ľudia v diskusii písali príspevky typu „celý čas som to vedela“. Tak som im napísal: Prosím, prečítajte si aj článok. Mnohí si robia názor len podľa nadpisu.

V Denníku N by sme takýto nadpis nespravili.

Nebolo to v Denníku N. Preto som poskytol rozhovor vám, lebo vás považujem za solídne noviny.

Deepfake video je uvedené vetou „Nie všetkému sa dá veriť“. Ako sa vyznať v džungli informácií na internete?

Ľudia by nemali preberať informácie len z jedného zdroja a mali by si ich overiť aj inde. Valí sa na nás také obrovské množstvo informácií, že niekedy nemáme chuť na viac ako len na nadpisy. Ale v takom prípade by sme článok nemali šíriť na sociálnych sieťach.

Povedali ste, že počas pandémie sa vyrojili falošní experti. Ale nerobia ľudia dobre, ak sa spoliehajú na vyjadrenia lekárov? Ako má človek zistiť, že lekár alebo vedec hovorí nezmysly?

Niekedy je to ešte horšie a ako autorita sa vyjadruje človek, ktorý nie je lekár, no ľudia mu aj tak veria. Keď už má osoba titul, nemám na to jednoznačnú odpoveď. Človek požíva prirodzenú autoritu, lebo odbor vyštudoval. Možno má v niečom pravdu, ale problém je, že sa mýli v ďalších 99 percentách prípadov. Je ťažké odhaliť, kde je to jedno percento. Úplne najhoršie je, keď ľudia vedome klamú. Budú si to riešiť pred Bohom na poslednom súde.

Nie je dobrý návod na orientáciu vedecký konsenzus? Ak 10-tisíc vedcov zastáva nejaký názor a jeden si myslí opak, pravdepodobnosť, že väčšina sa bude mýliť, je oveľa menšia.

To je veľmi pádny argument, s ktorým môžem len súhlasiť. Myslím si, že po pandémii nastane osvietenstvo. Nič proti politikom, ale ľudia si uvedomia, že politici zlyhali. Kto ich z pandémie dostal, boli vedci. Nebyť vedy, zomrelo by oveľa viac ľudí. Dúfam, že pozornosť sa uprie na vedcov, ktorí sa stanú väčšími autoritami. Možno je to len moje zbožné prianie, ale dúfam v to.

Podľa niektorých nie je problémom pandémie, že by bolo informácií málo, ale to, že je ich až príliš veľa. Ako sa vyznať v desaťtisícoch článkov o korone?

Asi každých 70 dní sa zdvojnásobí počet medicínskych informácií. Je to neskutočné tempo. Sme presýtení, vzniká preto otázka, čo s tým. Myslím si, že odpoveďou je umelá inteligencia v zdravotníctve – priebežne bude nasávať informácie a bude z nich robiť „výcuc“ toho podstatného. Táto technológia sa volá spracovanie prirodzeného jazyka, v angličtine natural language processing.

Čo môže robiť bežný človek? Je to klišé, ale overovať si zdroje. V súčasnosti nie sú deepfaky také pokročilé, že by sme nemuseli veriť tomu, čo vidíme. Aj náš deepfake možno odhaliť a potrvá ešte niekoľko rokov, kým budú videá také verné, že sa nebudú dať odlíšiť od reality.

Za hodnovernú autoritu v oblasti pandémie považujem napríklad pána Krčméryho. Na druhej strane, pozor. Koronavírus je nová vec a obzvlášť na začiatku pandémie sa stávalo, že to, čo platilo kedysi, nemusí platiť teraz. Nejde tu o to, že by daný človek zavádzal, ale o to, že poznanie sa vyvíja. Zmena názoru nie je chyba, lebo ukazuje, že máme nové informácie a poučili sme sa.

Kde by sa technológia deepfake dala využiť pozitívnym spôsobom?

Technológia je založená na generatívnych kontradiktórnych sieťach, v angličtine generative adversarial network. Jej zmyslom bola kreativita počítačov, aby dokázali produkovať umenie. Technológia by sa dala využiť napríklad v múzeu, kde by vás sprevádzala podobizeň s hlasom Milana Rastislava Štefánika či inej osobnosti. Mali by ste z toho autentický pocit.

Minule som bol v Banskej Štiavnici, kde je Banka Lásky – Dom Sládkovičovej Maríny. Využili takú vec, že ste sa pozerali na obraz, no v skutočnosti išlo o televízor. Vyzeralo to ako obraz, no zrazu začal rozprávať. Bolo to perfektné, no nešlo o deepfake. Táto technológia by sa dala využiť aj na dokonalý dabing, keď by sa synchronizovala reč s pohybmi pier.

Ako inak by sa technológia dala využiť?

Na stránke myheritage.com (sociálna sieť zameraná na rodinu a rodinné vzťahy, umožňuje vytvárať rodokmeň, plánovať rodinné stretnutia či vyhľadávať predkov – pozn. red.) existuje možnosť, že umelá inteligencia rozhýbe osobu z fotografie z minulosti. Niečo podobné som spravil aj ja. Môj starý otec nepoznal svojho otca, lebo zomrel počas vojny. Spravil som s ním deepfake. Starému otcovi sa tlačili slzy do očí, lebo ho prvý raz videl, ako sa hýbe. Samozrejme, bola to iba fikcia, ale bolo to dojemné.

Technológia deepfake by sa dala využiť aj v počítačových hrách. Pustíte si hru FIFA s Ronaldom a futbalista bude vyzerať tak, akoby šlo o skutočného Ronalda. Aj vo filmovom priemysle by sa táto technológia dala využiť – na oživenie postáv, zmenu veku a podobne.

Vo filme The Irishman postavy počítačovo omladli, ale prečo to nevyzeralo úplne verne?

Nepoužili deepfake. Tvorcovia použili inú technológiu – CGI (angl. computer generated imagery) –, ktorá sa používala klasicky. Tri mesiace po uvedení filmu zverejnil jeden deepfaker scény z filmu s technológiou deepfake a bolo to oveľa lepšie. A stálo to aj oveľa menej peňazí.

Ako bude vyzerať budúcnosť s ohľadom na šírenie lží a hoaxov? Problém sa ešte prehĺbi alebo z tohto štádia vyrastieme a naučíme sa pracovať so sociálnymi sieťami a s internetom?

V rámci futuristiky sa zaoberám technologickými predikciami budúcnosti. Vďaka umelej inteligencii a rozšírenej realite tu za jedno desaťročie budeme mať také zmeny, že sa zmení vnímanie a chápanie reality. Rozšírená realita začne vykresľovať nové vrstvy reality – budeme vidieť veci, ktoré v skutočnosti nie sú. Začne sa stierať realita virtuálna a digitálna s tou normálnou. Jedna z možností je, že nastane infokalypsa, čiže informatická apokalypsa. Druhou je osvietenstvo.

Ku ktorej verzii sa kloníte vy?

Som optimistom, hoci to skôr súvisí s tým, že vo všeobecnosti som optimistický človek. Dúfam, že dospejeme do osvietenej doby, ale neviem to zdôvodniť, vychádza to ľudsky zo mňa.

Technológie sú riešením pre všetky problémy ľudstva. Darmo si budeme navrávať, že nás z nich dostala politika. To je hlúposť. Politika udržuje aktuálny stav. Vďaka technológiám a priemyselnej revolúcii sme sa všetci začali mať lepšie. Keď sa majú ľudia lepšie, doprajú aj druhým. Žijeme v egoistickom altruizme – z vlastných pohnútok prajem susedovi, lebo ak sa bude dariť jemu, bude sa dariť aj mne. Nemôže mi byť jedno, či je vojna vo vzdialenej krajine, lebo sem začnú prichádzať utečenci. Nemôže mi byť jedno, že susedná krajina je v kríze, lebo prídem o odberné miesta produktov. Z egoistických dôvodov musíme chcieť, aby sa druhí mali dobre. Je skvelé, že je to tak. Dúfam, že egoistický altruizmus bude na vzostupe a príde obdobie osvietenstva.

Zdroj: https://dennikn.sk/2411904/bol-pri-tvorbe-deepfake-videa-s-puskarovou-rozsirena-realita-do-dekady-zmeni-chapanie-reality-vravi-pocitacovy-vedec-spano/