29. 3. 2021

Deep Fakes aneb nový rozměr dezinformací

Problematiku Deep Fakes jsme již v minulosti na těchto stránkách zmínili. Pozornost jim věnoval například článek věnovaný ostrovskému filmovému festivalu, v jehož rámci se konaly přednášky organizované Radou pro rozhlasové a televizní vysílání. Nyní bychom však chtěli čtenáře webu Děti a média seznámit s tímto fenoménem v samostatné kapitole – s fenoménem, který již není naprostou novinkou, stále se však nachází teprve ve svých počátcích. Naštěstí. Jde o převratnou technologii, o níž bychom všichni měli být informováni, ba dá se říci, že bychom před ní měli být všichni varováni. Různým dezinformacím totiž dává zcela nový rozměr. Seznamte se – Deep Fakes.

Jsme přivyklí, že zatímco obraz vytvořený malířem může obsahovat různé fantaskní prvky, fotografie či videozáznam zachycují realitu. Samozřejmě i fotografii a videa lze různě upravovat a vytvářet iluze, avšak jedná se o umělecký žánr, v případě videa o filmové triky apod. Dokumentární fotografie je něco, na co bývalo spolehnutí. Stejně tak videozáznam ukazoval realitu. Ale to vše může být brzy historií.

V případě technologie Deep Fake se – zjednodušeně řečeno – jedná o velmi přesnou videomontáž. Tato metoda využívá postupů takzvaného strojového učení hlubokých neuronových sítí. Lze ji vnímat jako formu umělé inteligence, která se na základě podkladových materiálů ve formě obrazů, videí či zvuků „učí“ hlavní rysy cílové osoby. S jejich využitím pak uměle vytváří výrazy její tváře, pohyby těla, způsob a intonaci řeči.

Zatím lze takto zfalšovat pouze videa veřejně známých osobností, u nichž existuje velké množství fotografií a obrazově-zvukových záznamů – obrazových materiálů, které lze zneužít. Celý proces výroby podvrhu je také značně složitý a vyžaduje špičkové technologie, mnoho peněz, času i rozvinuté schopnosti tvůrců. Do speciálního softwaru – autoenkodéru, který obsahuje generickou podobu lidských tváří převedenou do matematického jazyka – je třeba nahrát obrovské množství reálných obrazových podkladů spolu s podkladem pro podvrh, na nějž software nakonec „nalepí“ novou tvář. Tento proces může trvat týdny a leccos je nakonec třeba doladit ručně.

Metoda se objevila poprvé v roce 2017 a má kořeny v pornoprůmyslu na sociální síti Reddit, kde si uživatel s nickem Deep-fakes začal s ostatními uživateli vyměňovat videa, na nichž byly obličeje pornohereček upraveny tak, aby vypadaly jako reálné filmové herecké hvězdy. Naprostá většina nyní existujících Deep Fakes stále představuje pornografii. Ale tato videa nejsou nijak zvlášť precizní. Zajisté se pro herecké stars jedná o velmi nepříjemnou záležitost, ale neautenticita těchto videí je zřejmá. Je to podvod.

Existují však již i Deep Fakes, která působí velmi realisticky, dokonce do té míry, že je na první pohled nelze od skutečnosti rozeznat. Jsou to podvrhy, ale jako by nebyly. A v tom spočívá velké riziko do budoucna. Nejděsivější představou je zneužití takovýchto videí ve zpravodajství, což může ve svém důsledku vést třeba i ke zmanipulování voleb, ale neradostných možností je celá řada. Včetně ohrožení demokracie spočívající v tom, že veřejnost nebude mít jistotu, čemu věřit, a tak rezignuje na jakákoli fakta.

Dosavadní propracovaná Deep Fakes se však naštěstí snaží na problematiku upozorňovat a varovat, takže jsou přiznaná. Ukazují, co je možné. Níže uvedeme ta nejzajímavější.

 

Jen drobné úpravy: Malaria Must Die – vystupuje zde skutečný David Beckham

Metoda Deep Fake byla přiznaně využita v charitativní kampani z roku 2018 Malaria Must Die So Millions Can Live (Malárie musí zemřít, aby miliony mohli žít), v níž účinkoval David Beckham. Ten zde skutečně vystupoval, avšak zdánlivě „hovořil“ devíti jazyky. Ve skutečnosti byl pomocí výše uvedené technologie uzpůsoben obraz (hýbání rtů) tak, aby obraz vypadal realisticky, i když byl Beckham dabován – nebyl tedy upravován text tak, aby odpovídal pohybu rtů, jak bývá zvykem při dabingu, ale naopak byl digitálně upraven pohyb rtů, aby seděl textu.

Video je dostupné zde: https://www.youtube.com/watch?v=QiiSAvKJIHoDavid Beckham speaks nine languages to launch Malaria Must Die Voice Petition

 

Od začátku do konce (přiznaný) fake: Projev, který se nikdy nestal – vystupuje zde falešný Miloš Zeman

Propagační spot společnosti HBO vznikl na podnět kreativní společnosti Simbio. Projektu se ujmul slovenský tvůrce vystupující pod pseudonymem Ctrl Shift Face. Projev zahrál herec Jan Vlasák, verbální složku namluvil imitátor Petr Jablonský. Na takto vzniklý podklad Ctrl Shift Face „narouboval“ zjev prezidenta Miloše Zemana, který tak ve výsledku pronáší neobvyklý projev plný respektu a porozumění. Během projevu se postava prezidenta postupně přeměňuje v herce a na konci již je zcela jasně přiznaná nerealističnost celého projektu.

Videa dostupná zde:

https://www.youtube.com/watch?v=RLGhHPDqxBkHBO: Projev, který se nikdy nestal (Case Study)

https://www.youtube.com/watch?v=FzMnDwpKJrIBez vědomí (2019) Miloš Zeman a jeho falešný projev

 

Nelze odlišit od reality: videa, na nichž vystupuje falešný Tom Cruise

V březnu 2021 se na sociální síti TikTok objevila série klipů s hercem Tomem Cruisem, globální celebritou. Tom Cruise na videích hraje golf, gestikuluje, směje se… ale není to Tom Cruise. Jde o demonstrativní podvrh, ovšem tento podvrh už vypadá zcela jako realita. Pokud by podvrh nebyl přiznán, nebyl by diváky ani poznán. Tvůrce, Belgičan Chris Ume, vytvořil dokonalé Deep Fake.

Pravda, celou věc usnadnila skutečnost, že podkladová videa natočil profesionální imitátor Toma Cruise, který je herci velmi podobný, i tak je však zřejmé, jak obrovský technologický pokrok zde proběhl.

Videa dostupná zde:

https://www.tiktok.com/@deeptomcruise? – deeptomcruise

https://www.youtube.com/watch?v=FzMnDwpKJrI – Very realistic Tom Cruise Deepfake | AI Tom Cruise

https://www.youtube.com/watch?v=wq-kmFCrF5Q – DeepTomCruise Tiktok Breakdown

https://www.youtube.com/watch?v=LJXo4x2rnhg – TOM CRUISE 2020 Deepfake - VFX Breakdown & Side by Side

 

Inspirací pro tento text byl článek uveřejněný v týdeníku Respekt:

Jiří Sobota, Ondřej Kundra. Dokonalá lež: Technologie umožňují věci, kvůli kterým neuvěříte vlastním očím. RESPEKT č. 11, 2021

Tématu Deep Fakes se také věnuje např. článek Trendy v hlubinách deepfake videí na osvětovém webu Zvol si infohttps://zvolsi.info/2020/02/17/deepfake/

 

 

Lenka Burešová

 

 

- ZPĚT -
predchozí
26. 2. 2025

Knihy o nezbytnosti kritického myšlení aneb na té vědě něco je

  Pro naše čtenáře není žádnou novinkou, že čas od času přinášíme na webu Děti a média tipy na zajímavé filmy a knihy, a nejinak tomu bude i nyní; tentokrát jsme se rozhodli náhodně zvolit dva knižní tituly ze zdejšího seznamu tematických knih Doporučená literatura.
21. 2. 2025

Česká lékárnická komora varuje před ohrožující hrozbou na TikToku

  Česká lékárnická komora (ČLnK) vydala varování před výzvou na sociální síti TikTok, která může vést k předávkování paracetamolem. Prostřednictvím výzvy na této sociální platformě mají být děti vybízeny k tomu, aby zkonzumovaly co největší množství tablet léku. První zprávy médií o riziku výzvy se…
20. 2. 2025

Pozvánka do dalšího roku – Jeden svět, Zlín film festival a další akce v roce 2025

  V minulých letech zhruba v této době jsme čtenáře webu Děti a média zvali na společenské a kulturní události, které se v nadcházejícím roce chystají. Nynější článek chce na minulé pozvánky navázat, a opět nastínit možné akce, na něž bychom se mohli (nejen v souvislosti s novými médii) letos těšit.
4. 2. 2025

NÚKIB nabízí rozcestník ke zdrojům digitálního vzdělávání

Velmi často informujeme čtenáře webu Děti a média o činnosti organizací a o iniciativách, které si kladou za cíl zvyšovat bezpečnost uživatelů v digitálním prostoru. Laici i profesionálové, například pedagogové nebo IT specialisté, dnes mají na výběr ze skutečně obrovské škály výukových a…
31. 1. 2025

Co byste měli vědět o lootboxech. Nenápadná forma hazardu může být nebezpečná i pro Vaše děti

Lootboxy jsou stále běžnějšími mechanismy zpeněžení náhodných odměn v digitálních hrách. Mezi hráči a obzvláště mezi dětmi jsou oblíbené a představují různá rizika kvůli své povaze podobné hazardu, ale málo se ví a hovoří o psychosociální zranitelnosti a finančních důsledcích jejich nákupu.
následující




info@detiamedia.cz

Fórum webu děti a media