Zazvoní telefon a ozve se naléhavý hlas blízkého s prosbou o finanční pomoc kvůli vážné nehodě. Za známým hlasem ale nestojí blízký, nýbrž podvodník. I to je scénář zneužité technologie deepfake, kterou na půdě Masarykovy univerzity představil absolvent Fakulty informatiky MU a vedoucí výzkumné skupiny Security@FIT Kamil Malinka.
Setkání z nového cyklu Spolkové čtvrtky pro studenty i absolventy zorganizoval Spolek absolventů a přátel Masarykovy univerzity ve spolupráci se studentským spolkem MUNIE.
„Ročním cyklem pěti podvečerních debat chceme přiblížit během celého akademického roku některá zajímavá témata studentům a absolventům Masarykovy univerzity. Cílem je posílit spolupráci mezi našimi spolky, ale i sounáležitost s univerzitou, protože přednášející odborníci z praxe jsou absolventi univerzity,“ představila cyklus Spolkové čtvrtky moderátorka akce Marie Sabolová ze spolku MUNIE.
Spolek absolventů má ve svých řadách hned několik zajímavých osobností. „V rámci cyklu Naše univerzita představujeme členům jednotlivá pracoviště Masarykovy univerzity a máme již delší dobu v plánu představit formou besedy některé z našich členů nebo jiných významných absolventů. Když jsem se dozvěděla, že obdobný nápad mají i studenti z MUNIE, tak jsme neváhali a pustili se do toho,“ přiblížila za Spolek absolventů a přátel Masarykovy univerzity (SAPMU) Danuše Spáčilová.
Cílem již druhé debaty ročního cyklu bylo poskytnutí komplexního přehledu o tom, jak technologie v oblasti deepfakes fungují, jaké přináší příležitosti pro kreativní a inovační využití, ale současně i jaké hrozby a etické výzvy představují pro společnost, průmysl a akademickou sféru.
Absolvent Kamil Malinka se s více než čtyřiceti účastníky podělil o své zkušenosti z praxe vedoucího výzkumné skupiny Security@FIT, která se zaměřuje na výzkum v oblasti kyberbezpečnosti. „Moje zkušenost je, že spousta lidí deepfaky zná, možná je i rozpozná, ale když jim ukážeme aktuální technologii, která se v současnosti již používá, tak jim trošku spadne brada,“ popsal Malinka.
U tvorby deepfakes se využívá umělá inteligence, jež proces jejich výroby výrazně zjednodušuje a usnadňuje. „Nutnost mít nějakou technickou znalost již nyní odpadá. Dnes to je na úrovni: nahraji fotku, stisknu enter a mám krásnou upravenou fotografii. To je ale samozřejmě problém, protože s větší dostupností se zvyšuje i počet lidí, kteří by toho chtěli zneužívat,“ vysvětlil v úvodu debaty Malinka.
Pro účastníky si připravil názorné ukázky v podobě zvukových nahrávek, videí i obrázků a na jejich příkladu demonstroval současnou vysokou úroveň kvality deepfake produktů, která se i nadále zlepšuje. „Kvalita je parádní, kdybyste nebyli na přednášce o deepfake, tak asi nebudete ani dumat nad tím, jestli jsou syntetické, nebo ne,“ řekl Malinka o fotce hrajících si psů, která byla vygenerována umělou inteligencí.
I když byla nová technologie vyvíjena za účelem přínosu, s její existencí se pojí i riziko zneužití, jako je třeba tvorba fake news, ale i zneužití pro podvody. „Je toho bohužel víc. Může jít o útoky na biometrické systémy, krádež identity, manipulaci s důkazy, a proto se i my snažíme spolupracovat s policií a vyvíjet nástroje na detekci deepfaků,“ prozradil Malinka, podle něhož v současnosti neexistuje detekční nástroj, který by dokázal odhalit všechny deepfaky.
Kromě detekce však podle něj existují i jiné možnosti ochrany. „Můžeme zavést třeba nějaké právní omezení. Chystá se zákon o umělé inteligenci AI Act, který se snaží regulovat, aby tvorba deepfaků nebyla tak jednoduše dostupná. Pozor teď na to, na co koukáte. Je dobré si být vědom, že to nemusí být pravda, a pozor na to, když se děje něco podezřelého, například když vám volá blízký a chce divné věci,“ zdůraznil Malinka.
Debata jasně ukázala dvě tváře technologie deepfake – její přínos i rizika. Zatímco vývojáři pracují na detekčních nástrojích a legislativci připravují právní rámec, běžní uživatelé by měli posílit svou digitální gramotnost.
„Snažím se chovat zodpovědně a snažím se deepfaků vyvarovat. Myslím si ale, že zanedlouho již budou tak dokonalé, že rozeznat je bude skutečně hodně těžké,“ sdělila účastnice debaty Lucie Schaferová, podle níž byla debata dobře strukturovaná a zajímavá.
Na další debatu z cyklu Spolkové čtvrtky budou moci zájemci zavítat 20. února. „Téma vybírají zástupci MUNIE a předpokládám, že i oni se budou držet hlavního kritéria – absolvent Masarykovy univerzity. I když nevylučujeme pozvat v budoucnu i další zajímavé osobnosti,“ prozradila Spáčilová.
Autorka je studentkou fakulty sociálních studií a stážistkou redakce Magazínu M.