V trendech googlovského vyhledávání se termín deepfake poprvé objevil na přelomu let 2017/2018 a vrchol zaznamenal o tři roky později, kdy se na sociální platformě TikTok objevil přiznaně falešný profil Toma Cruise. Deepfake identita hollywoodské hvězdy vykonávající všednodenní činnosti se stala virální a stále dostupnější technologie pro tvorbu podobného obsahu od té doby zaznamenala značný progres. Nedávné deepfake video ukrajinského prezidenta Volodymyra Zelenského vyzývajícího národ ke složení zbraní však připomnělo, jak dalekosáhlé konsekvence může technologie mít, když dojde k jejímu zneužití.
„Zrovna tohle video po technické stránce za moc nestálo. Což ale neznamená, že nemůže uškodit. Protože vždy se najdou tací, kteří podobným materiálům uvěří a šíří je dál,“ upozorňuje Petra Mlejnková z Katedry politologie Fakulty sociálních studií MU, která se dlouhodobě zaobírá dezinformacemi a propagandou. „Navíc se objevilo ve chvíli, kdy už příliš zapůsobit nemohlo. Tou dobou už Zelenskyj vystupoval hrdinně a deklaroval, že Ukrajinci se nevzdají, že budou za nezávislost bojovat. Kdyby ho autoři vypustili v první den konfliktu, tak by jeho společenský dopad byl pravděpodobně vyšší.“
Za deepfake je obecně považován zmanipulovaný audiovizuální materiál vytvořený s pomocí umělé inteligence, která, „nakrmena“ relativně malým množstvím vstupních dat v podobě autentických fotografií, videí či hlasových záznamů, dokáže vyprodukovat falešný obsah působící dostatečně realisticky na to, abychom mu byli ochotni uvěřit.
„Deepfake je v zásadě typ dezinformace,“ ujasňuje terminologii Mlejnková a připomíná počátky v pornoprůmyslu, jehož tvůrci začali s dosazováním tváří známých osobností namísto obličejů pornoherců, aby dosáhli vyšší sledovanosti. „V budoucnu bude mít technologie, na níž deepfake stojí, řadu pozitivních využití, ale stejně jako v případě čehokoliv, co souvisí s umělou inteligencí, i zde existuje ohromné riziko zneužití.“
Jedním z posledních závažných příkladů zneužití je právě Zelenského deepfake výzva ke kapitulaci, mimo jiné připomínající, že válka neprobíhá jen na zemi, ale též v informačním prostoru, v němž jsou intenzivně vedeny dezinformační kampaně. „Většinové společnosti, která dezinformacím tolik nepodléhá, se to nemusí zdát, ale pokud bychom se podívali do sociálních bublin lidí, kteří jsou dezinformacím naklonění nebo které můžeme považovat za zranitelné, v těch ruské dezinformace rezonují mnohem víc. Ti lidé pak skutečně věří tomu, že na Ukrajině probíhá mírová operace, a že ruští vojáci přijeli Ukrajince zbavit nacistů,“ komentuje Mlejnková.
Falešné prezidentovo video je dle mnohých odborníků jen špičkou ledovce informační války, jejímž bojištěm jsou zejména internet a sociální sítě. Ty globální, Facebook, YouTube a Twitter, jej záhy stáhly s odkazem na porušení smluvních podmínek. Na ruském Telegramu a VKontakte, jehož obsah úřady důsledně monitorují, však bylo houfně rozšířeno. To dokládá, jak se v zemi, která už jen referování o konfliktu na Ukrajině jako o válce postihuje drakonickými tresty a která během pár dní zlikvidovala veškerou nezávislost médií, snadno setře rozdíl mezi dezinformací a propagandou. „Dezinformace se objevuje i v informačním prostoru, který je svobodný a funguje na demokratických principech. Ovšem ruský informační prostor je dnes čistou propagandou postavenou na lži a zkreslených informacích, přičemž ve světě propagandy nemá moc smysl rozlišovat, co je a co není dezinformace, protože propaganda je všemu nadřazená a celý informační prostor definuje,“ hodnotí situaci v Rusku.
Kritická je však i k populárním sociálním médiím, která byla už během dvou let pandemie dotlačena do pozice kontrolora obsahu a ten, který nekorespondoval s oficiální linií informování o novém koronaviru, začali jejich moderátoři doplňovat upozorněním s odkazem na oficiální zdroje. Začalo se tak přitom dít na pozadí dalších a dalších kauz souvisejících s nedostatečnou ochranou osobních dat nebo s fungováním algoritmů, které, jak se v případě Facebooku na podzim loňského roku ukázalo, ve skutečnosti prosazují zobrazování obsahu, který lze označit za toxický. „Byznys model sociálních médií je postaven na podpoře šíření takových informací, které jim přinesou zisk, tím pádem je regulace nebezpečného obsahu na nich velmi omezena,“ komentuje přístup těch, kteří pro velkou část populace představují každodenní informační filtr, Mlejnková.
Sociální sítě sice mají definovaná pravidla o šíření škodlivého obsahu, jejich výklad či míra tolerance jsou však poměrně volné, což je obzvlášť problematické, uvážíme-li, že kontrolu do značné míry stále provádějí lidé manuálně. „Pokud by do toku těch informací zasáhly nějakými svými algoritmy, bude efekt výraznější, což by ale mnohem citelněji zasáhlo taky do jejich byznysu. A to je, bavíme-li se o soukromé společnosti generující zisk, dost naivní představa,“ pokračuje Mlejnková.
A poukazuje tak na rostoucí problém, jehož adresování se s technologiemi, jako je deepfake, zdá být čím dál tím nevyhnutelnějším. Jestliže totiž dezinformaci v podobě hromadným e-mailem rozesílaného textu opatřeného dovětkem „Šiřte, než to smažou!“ dokážeme s trochou rozvahy odhalit, audiovizuální deepfake už překračuje omezené kognitivní schopnosti lidského jedince bez ohledu na jeho rozumovou či intelektovou výbavu.
„Tomu, co vidíme na vlastní oči, jsme zvyklí věřit. Videa dosud fungovala třeba i jako důkazní materiál při různých soudních procesech, ovšem při existenci deepfake důvěryhodnost audiovizuálního materiálu klesá. Ta technologie je tak pokročilá, a tak rychle se vyvíjí, že pro člověka je nemožné určit, zda je video zmanipulované, nebo ne. Takže pomoct nám můžou zase jen technologie v podobě umělé inteligence a algoritmů, které tyto podvrhy budou odhalovat a autenticitu ověřovat. Tím se ale dostáváme před vznik časové prodlevy, během které můžou být napáchány velké škody. A uvážíme-li, že nekalé subjekty bývají zpravidla o krok napřed, bavíme se jen o reakci na něco, co nás může poškozovat. Ne o prevenci,“ rozvíjí úskalí, která s sebou nové technologie přinášejí, Mlejnková.
Na otázku, zda by měl problematiku víc regulovat stát, přitom neexistuje jednoznačná odpověď. Určit, kde jsou hranice, je totiž téma na jinou, mnohem obsáhlejší debatu. Existuje přiměřená míra cenzury a zásahu do svobody projevu? Nebyl by takový zásah začátkem cesty do pekel? Anebo do Ruska?