29. 3. 2021

Deep Fakes aneb nový rozměr dezinformací

Problematiku Deep Fakes jsme již v minulosti na těchto stránkách zmínili. Pozornost jim věnoval například článek věnovaný ostrovskému filmovému festivalu, v jehož rámci se konaly přednášky organizované Radou pro rozhlasové a televizní vysílání. Nyní bychom však chtěli čtenáře webu Děti a média seznámit s tímto fenoménem v samostatné kapitole – s fenoménem, který již není naprostou novinkou, stále se však nachází teprve ve svých počátcích. Naštěstí. Jde o převratnou technologii, o níž bychom všichni měli být informováni, ba dá se říci, že bychom před ní měli být všichni varováni. Různým dezinformacím totiž dává zcela nový rozměr. Seznamte se – Deep Fakes.

Jsme přivyklí, že zatímco obraz vytvořený malířem může obsahovat různé fantaskní prvky, fotografie či videozáznam zachycují realitu. Samozřejmě i fotografii a videa lze různě upravovat a vytvářet iluze, avšak jedná se o umělecký žánr, v případě videa o filmové triky apod. Dokumentární fotografie je něco, na co bývalo spolehnutí. Stejně tak videozáznam ukazoval realitu. Ale to vše může být brzy historií.

V případě technologie Deep Fake se – zjednodušeně řečeno – jedná o velmi přesnou videomontáž. Tato metoda využívá postupů takzvaného strojového učení hlubokých neuronových sítí. Lze ji vnímat jako formu umělé inteligence, která se na základě podkladových materiálů ve formě obrazů, videí či zvuků „učí“ hlavní rysy cílové osoby. S jejich využitím pak uměle vytváří výrazy její tváře, pohyby těla, způsob a intonaci řeči.

Zatím lze takto zfalšovat pouze videa veřejně známých osobností, u nichž existuje velké množství fotografií a obrazově-zvukových záznamů – obrazových materiálů, které lze zneužít. Celý proces výroby podvrhu je také značně složitý a vyžaduje špičkové technologie, mnoho peněz, času i rozvinuté schopnosti tvůrců. Do speciálního softwaru – autoenkodéru, který obsahuje generickou podobu lidských tváří převedenou do matematického jazyka – je třeba nahrát obrovské množství reálných obrazových podkladů spolu s podkladem pro podvrh, na nějž software nakonec „nalepí“ novou tvář. Tento proces může trvat týdny a leccos je nakonec třeba doladit ručně.

Metoda se objevila poprvé v roce 2017 a má kořeny v pornoprůmyslu na sociální síti Reddit, kde si uživatel s nickem Deep-fakes začal s ostatními uživateli vyměňovat videa, na nichž byly obličeje pornohereček upraveny tak, aby vypadaly jako reálné filmové herecké hvězdy. Naprostá většina nyní existujících Deep Fakes stále představuje pornografii. Ale tato videa nejsou nijak zvlášť precizní. Zajisté se pro herecké stars jedná o velmi nepříjemnou záležitost, ale neautenticita těchto videí je zřejmá. Je to podvod.

Existují však již i Deep Fakes, která působí velmi realisticky, dokonce do té míry, že je na první pohled nelze od skutečnosti rozeznat. Jsou to podvrhy, ale jako by nebyly. A v tom spočívá velké riziko do budoucna. Nejděsivější představou je zneužití takovýchto videí ve zpravodajství, což může ve svém důsledku vést třeba i ke zmanipulování voleb, ale neradostných možností je celá řada. Včetně ohrožení demokracie spočívající v tom, že veřejnost nebude mít jistotu, čemu věřit, a tak rezignuje na jakákoli fakta.

Dosavadní propracovaná Deep Fakes se však naštěstí snaží na problematiku upozorňovat a varovat, takže jsou přiznaná. Ukazují, co je možné. Níže uvedeme ta nejzajímavější.

 

Jen drobné úpravy: Malaria Must Die – vystupuje zde skutečný David Beckham

Metoda Deep Fake byla přiznaně využita v charitativní kampani z roku 2018 Malaria Must Die So Millions Can Live (Malárie musí zemřít, aby miliony mohli žít), v níž účinkoval David Beckham. Ten zde skutečně vystupoval, avšak zdánlivě „hovořil“ devíti jazyky. Ve skutečnosti byl pomocí výše uvedené technologie uzpůsoben obraz (hýbání rtů) tak, aby obraz vypadal realisticky, i když byl Beckham dabován – nebyl tedy upravován text tak, aby odpovídal pohybu rtů, jak bývá zvykem při dabingu, ale naopak byl digitálně upraven pohyb rtů, aby seděl textu.

Video je dostupné zde: https://www.youtube.com/watch?v=QiiSAvKJIHoDavid Beckham speaks nine languages to launch Malaria Must Die Voice Petition

 

Od začátku do konce (přiznaný) fake: Projev, který se nikdy nestal – vystupuje zde falešný Miloš Zeman

Propagační spot společnosti HBO vznikl na podnět kreativní společnosti Simbio. Projektu se ujmul slovenský tvůrce vystupující pod pseudonymem Ctrl Shift Face. Projev zahrál herec Jan Vlasák, verbální složku namluvil imitátor Petr Jablonský. Na takto vzniklý podklad Ctrl Shift Face „narouboval“ zjev prezidenta Miloše Zemana, který tak ve výsledku pronáší neobvyklý projev plný respektu a porozumění. Během projevu se postava prezidenta postupně přeměňuje v herce a na konci již je zcela jasně přiznaná nerealističnost celého projektu.

Videa dostupná zde:

https://www.youtube.com/watch?v=RLGhHPDqxBkHBO: Projev, který se nikdy nestal (Case Study)

https://www.youtube.com/watch?v=FzMnDwpKJrIBez vědomí (2019) Miloš Zeman a jeho falešný projev

 

Nelze odlišit od reality: videa, na nichž vystupuje falešný Tom Cruise

V březnu 2021 se na sociální síti TikTok objevila série klipů s hercem Tomem Cruisem, globální celebritou. Tom Cruise na videích hraje golf, gestikuluje, směje se… ale není to Tom Cruise. Jde o demonstrativní podvrh, ovšem tento podvrh už vypadá zcela jako realita. Pokud by podvrh nebyl přiznán, nebyl by diváky ani poznán. Tvůrce, Belgičan Chris Ume, vytvořil dokonalé Deep Fake.

Pravda, celou věc usnadnila skutečnost, že podkladová videa natočil profesionální imitátor Toma Cruise, který je herci velmi podobný, i tak je však zřejmé, jak obrovský technologický pokrok zde proběhl.

Videa dostupná zde:

https://www.tiktok.com/@deeptomcruise? – deeptomcruise

https://www.youtube.com/watch?v=FzMnDwpKJrI – Very realistic Tom Cruise Deepfake | AI Tom Cruise

https://www.youtube.com/watch?v=wq-kmFCrF5Q – DeepTomCruise Tiktok Breakdown

https://www.youtube.com/watch?v=LJXo4x2rnhg – TOM CRUISE 2020 Deepfake - VFX Breakdown & Side by Side

 

Inspirací pro tento text byl článek uveřejněný v týdeníku Respekt:

Jiří Sobota, Ondřej Kundra. Dokonalá lež: Technologie umožňují věci, kvůli kterým neuvěříte vlastním očím. RESPEKT č. 11, 2021

Tématu Deep Fakes se také věnuje např. článek Trendy v hlubinách deepfake videí na osvětovém webu Zvol si infohttps://zvolsi.info/2020/02/17/deepfake/

 

 

Lenka Burešová

 

 

- ZPĚT -
predchozí
19. 5. 2021

Provozovatel AMC Networks Central Europe s.r.o. opět ohrozil maďarské dětské diváky

V období posledních dvou let jsme čtenáře webu Děti a média informovali o tom, že provozovateli televizního vysílání, společnosti AMC Networks Central Europe s.r.o., byly uděleny tři pokuty za odvysílání pořadů na programech vysílaných na území Maďarska, které mohly ohrozit psychický, fyzický nebo…
3. 5. 2021

Významný krok k posílení mediální gramotnosti v EU

Společnost Google v dubnu letošního roku rozeslala orgánům a organizacím podporujícím mediální vzdělávání a sledujícím úroveň mediální gramotnosti zprávu o zahájení činnosti Evropského mediálního a informačního fondu:
22. 4. 2021

TikTok rizikový

Rada pro rozhlasové a televizní vysílání se před nedávnem zabývala podáním, které jí adresovala spotřebitelská organizace dTest, o.p.s. Ta Radu upozornila na nezbytnost přijetí kroků proti platformě sociálních médií TikTok v souvislosti s vymáhacími opatřeními koordinovanými BEUC, Evropskou…
19. 4. 2021

Rizika pohádek pro nejmenší

Problematice audiovizuálních obsahů, které jsou ohrožující či nevhodné pro děti, jsme se na webu Děti a média věnovali mnohokrát. Pravidelně naše čtenáře seznamujeme s případy pořadů, v souvislosti s nimiž Rada dospěla k závěru, že jejich odvysíláním v denním vysílacím čase byl ohrožen psychický,…
1. 4. 2021

Sociální média jejich nástrahy

Sociální sítě jsou bezesporu fenoménem doby. Dle dostupných zdrojů je dnes užívá přes 3,96 miliardy lidí, což je zhruba polovina světové populace. V roce 2025 má počet uživatelů dosáhnout čísla 4,41 miliardy uživatelů.
následující




info@detiamedia.cz

Fórum webu děti a media