Problematiku Deep Fakes jsme již v minulosti na těchto stránkách zmínili. Pozornost jim věnoval například článek věnovaný ostrovskému filmovému festivalu, v jehož rámci se konaly přednášky organizované Radou pro rozhlasové a televizní vysílání. Nyní bychom však chtěli čtenáře webu Děti a média seznámit s tímto fenoménem v samostatné kapitole – s fenoménem, který již není naprostou novinkou, stále se však nachází teprve ve svých počátcích. Naštěstí. Jde o převratnou technologii, o níž bychom všichni měli být informováni, ba dá se říci, že bychom před ní měli být všichni varováni. Různým dezinformacím totiž dává zcela nový rozměr. Seznamte se – Deep Fakes.
Jsme přivyklí, že zatímco obraz vytvořený malířem může obsahovat různé fantaskní prvky, fotografie či videozáznam zachycují realitu. Samozřejmě i fotografii a videa lze různě upravovat a vytvářet iluze, avšak jedná se o umělecký žánr, v případě videa o filmové triky apod. Dokumentární fotografie je něco, na co bývalo spolehnutí. Stejně tak videozáznam ukazoval realitu. Ale to vše může být brzy historií.
V případě technologie Deep Fake se – zjednodušeně řečeno – jedná o velmi přesnou videomontáž. Tato metoda využívá postupů takzvaného strojového učení hlubokých neuronových sítí. Lze ji vnímat jako formu umělé inteligence, která se na základě podkladových materiálů ve formě obrazů, videí či zvuků „učí“ hlavní rysy cílové osoby. S jejich využitím pak uměle vytváří výrazy její tváře, pohyby těla, způsob a intonaci řeči.
Zatím lze takto zfalšovat pouze videa veřejně známých osobností, u nichž existuje velké množství fotografií a obrazově-zvukových záznamů – obrazových materiálů, které lze zneužít. Celý proces výroby podvrhu je také značně složitý a vyžaduje špičkové technologie, mnoho peněz, času i rozvinuté schopnosti tvůrců. Do speciálního softwaru – autoenkodéru, který obsahuje generickou podobu lidských tváří převedenou do matematického jazyka – je třeba nahrát obrovské množství reálných obrazových podkladů spolu s podkladem pro podvrh, na nějž software nakonec „nalepí“ novou tvář. Tento proces může trvat týdny a leccos je nakonec třeba doladit ručně.
Metoda se objevila poprvé v roce 2017 a má kořeny v pornoprůmyslu na sociální síti Reddit, kde si uživatel s nickem Deep-fakes začal s ostatními uživateli vyměňovat videa, na nichž byly obličeje pornohereček upraveny tak, aby vypadaly jako reálné filmové herecké hvězdy. Naprostá většina nyní existujících Deep Fakes stále představuje pornografii. Ale tato videa nejsou nijak zvlášť precizní. Zajisté se pro herecké stars jedná o velmi nepříjemnou záležitost, ale neautenticita těchto videí je zřejmá. Je to podvod.
Existují však již i Deep Fakes, která působí velmi realisticky, dokonce do té míry, že je na první pohled nelze od skutečnosti rozeznat. Jsou to podvrhy, ale jako by nebyly. A v tom spočívá velké riziko do budoucna. Nejděsivější představou je zneužití takovýchto videí ve zpravodajství, což může ve svém důsledku vést třeba i ke zmanipulování voleb, ale neradostných možností je celá řada. Včetně ohrožení demokracie spočívající v tom, že veřejnost nebude mít jistotu, čemu věřit, a tak rezignuje na jakákoli fakta.
Dosavadní propracovaná Deep Fakes se však naštěstí snaží na problematiku upozorňovat a varovat, takže jsou přiznaná. Ukazují, co je možné. Níže uvedeme ta nejzajímavější.
Jen drobné úpravy: Malaria Must Die – vystupuje zde skutečný David Beckham
Metoda Deep Fake byla přiznaně využita v charitativní kampani z roku 2018 Malaria Must Die So Millions Can Live (Malárie musí zemřít, aby miliony mohli žít), v níž účinkoval David Beckham. Ten zde skutečně vystupoval, avšak zdánlivě „hovořil“ devíti jazyky. Ve skutečnosti byl pomocí výše uvedené technologie uzpůsoben obraz (hýbání rtů) tak, aby obraz vypadal realisticky, i když byl Beckham dabován – nebyl tedy upravován text tak, aby odpovídal pohybu rtů, jak bývá zvykem při dabingu, ale naopak byl digitálně upraven pohyb rtů, aby seděl textu.
Video je dostupné zde: https://www.youtube.com/watch?v=QiiSAvKJIHo – David Beckham speaks nine languages to launch Malaria Must Die Voice Petition
Od začátku do konce (přiznaný) fake: Projev, který se nikdy nestal – vystupuje zde falešný Miloš Zeman
Propagační spot společnosti HBO vznikl na podnět kreativní společnosti Simbio. Projektu se ujmul slovenský tvůrce vystupující pod pseudonymem Ctrl Shift Face. Projev zahrál herec Jan Vlasák, verbální složku namluvil imitátor Petr Jablonský. Na takto vzniklý podklad Ctrl Shift Face „narouboval“ zjev prezidenta Miloše Zemana, který tak ve výsledku pronáší neobvyklý projev plný respektu a porozumění. Během projevu se postava prezidenta postupně přeměňuje v herce a na konci již je zcela jasně přiznaná nerealističnost celého projektu.
Videa dostupná zde:
https://www.youtube.com/watch?v=RLGhHPDqxBk – HBO: Projev, který se nikdy nestal (Case Study)
https://www.youtube.com/watch?v=FzMnDwpKJrI – Bez vědomí (2019) Miloš Zeman a jeho falešný projev
Nelze odlišit od reality: videa, na nichž vystupuje falešný Tom Cruise
V březnu 2021 se na sociální síti TikTok objevila série klipů s hercem Tomem Cruisem, globální celebritou. Tom Cruise na videích hraje golf, gestikuluje, směje se… ale není to Tom Cruise. Jde o demonstrativní podvrh, ovšem tento podvrh už vypadá zcela jako realita. Pokud by podvrh nebyl přiznán, nebyl by diváky ani poznán. Tvůrce, Belgičan Chris Ume, vytvořil dokonalé Deep Fake.
Pravda, celou věc usnadnila skutečnost, že podkladová videa natočil profesionální imitátor Toma Cruise, který je herci velmi podobný, i tak je však zřejmé, jak obrovský technologický pokrok zde proběhl.
Videa dostupná zde:
https://www.tiktok.com/@deeptomcruise? – deeptomcruise
https://www.youtube.com/watch?v=FzMnDwpKJrI – Very realistic Tom Cruise Deepfake | AI Tom Cruise
https://www.youtube.com/watch?v=wq-kmFCrF5Q – DeepTomCruise Tiktok Breakdown
https://www.youtube.com/watch?v=LJXo4x2rnhg – TOM CRUISE 2020 Deepfake - VFX Breakdown & Side by Side
Inspirací pro tento text byl článek uveřejněný v týdeníku Respekt:
Jiří Sobota, Ondřej Kundra. Dokonalá lež: Technologie umožňují věci, kvůli kterým neuvěříte vlastním očím. RESPEKT č. 11, 2021
Tématu Deep Fakes se také věnuje např. článek Trendy v hlubinách deepfake videí na osvětovém webu Zvol si info – https://zvolsi.info/2020/02/17/deepfake/
Lenka Burešová
