Je tomu už nějaký čas, co jsme se zde, na stránkách webu Děti a média, věnovali v té době poměrně novému a ne až tak známému fenoménu DEEP FAKE, tedy zjednodušeně řečeno falešným videomontážím, vytvářeným pomocí nástrojů umělé inteligence.
Název technologie je složeninou z anglických slov deep learning (doslova hluboké učení; jde o disciplínu v rámci strojového učení) a fake (padělek, podvrh; falešný; falšovat). Poprvé jsme se danému tématu začali věnovat v březnu roku 2021, tedy před třemi lety. Od té doby ovšem technické možnosti obrovsky pokročily, a tak je na místě se k tomuto nebezpečnému fenoménu opět vrátit a zkusit na něj pohlédnout novýma očima.
V našich předchozích zamyšleních (v článku z března 2021 a v přednášce z podzimu téhož roku) jsme konstatovali, že s obrazovými materiály se sice manipulovalo již dávno před vznikem filmu a televize, že však existence počítačů a internetu vytvořila zcela nové prostředí a přinesla dříve nepředstavitelné možnosti.
Novým a převratným postupem se stala metoda strojového učení hlubokých neuronových sítí. Tu již bylo možno vnímat jako formu umělé inteligence (Artificial Intelligence), která se na základě podkladových materiálů v podobě obrazů, videí či zvuků „učila“ či „trénovala“ – sama sebe zdokonalovala bez zásahů člověka. Tato metoda již umožňovala vytvářet první velmi věrná falešná videa, která byla realistická do té míry, že je na první pohled nebylo možné rozeznat od skutečnosti.
Ovšem musíme zdůraznit, že drtivou většinou se jednalo o falešná videa přiznaná, která buď propagovala dobrou věc (jako kampaň burcující k vymýcení malárie se skutečným fotbalistou Davidem Beckhamem, kde ve videu docházelo jen k malým úpravám), nebo která naopak varovala před zneužitím (např. přiznaně falešné video s bývalým prezidentem Spojených států amerických Barackem Obamou). Metoda také stále vyžadovala rozsáhlé znalosti, zkušenosti a nákladný software.
Nyní však přichází na scénu pokročilá umělá inteligence (AI), která znamená ohromný krok kupředu, pokud jde o generování realistických videí. Tyto nástroje se tak potenciálně dostávají či výhledově dostanou do rukou de facto každého uživatele internetu.
Výtvory generátorů obrázků jsou již nyní mnohdy k nerozeznání od skutečnosti. Tyto generátory samy sebe trénovaly a vytrénovaly na milionech fotografií i uměleckých děl z internetových zdrojů, např. fotobank s uvedenými klíčovými slovy a popisky.
Nový, v únoru 2024 představený nástroj Sora společnosti OpenAI (který pro svou zneužitelnost zatím není přístupný veřejnosti, ale jen výzkumníkům) už umí tvořit až minutové, realisticky vyhlížející klipy (s vysokým rozlišením) jen podle textového zadání. (Společnost pro výzkum umělé inteligence OpenAI je známá např. pro svůj chatbot ChatGPT.)
Sora již nyní zvládne napodobit animované filmy, počítačové hry i záběry z dronu nebo záběry přírody. Spoty stále obsahují nedokonalosti, ovšem ne vždy zřejmé na první pohled. Jindy např. pohyb nebo povrch působí lehce nepřirozeně, avšak je otázkou, zda by si toho uživatel všiml i tehdy, pokud by předem nevěděl, že se jedná o podvrh.
V jiných případech je však podivnost a nerealističnost klipu stále ještě zřejmá okamžitě – např. v případě vlčat hrajících si na štěrkové trávě uprostřed luk, přičemž to vypadá, že se štěňata v průběhu hry množí dělením, nebo v případě víceméně se samovytvářející a posléze levitující plastové židle ve spotu znázorňujícím archeologické vykopávky. Je možné podotknout, že vyjímání oné židle ze země působí opravdu velmi nepřirozeně a přízračně, neboť židle má svůj vlastní pohyb, a že s realitou si tento konkrétní spot nemůže splést opravdu nikdo.
Ukázky tohoto zatím neveřejného softwaru je možno zhlédnout zde: https://openai.com/sora
V cílených podvodech tkví největší nebezpečí stále se zdokonalujících deep fake obrázků a zejména videí. První takové případy jsme již aktuálně zaznamenali. Zhruba od přelomu roku se takových případů odehrála řada.
Na Facebooku se objevilo jiné podvržené video s českým prezidentem Petrem Pavlem. Moderátor Michal Půr a prezident Petr Pavel mluvili v „televizní reportáži“ o zázračné investiční aplikaci, díky níž budou mít všichni občané za 5700 Kč nárok na výplatu ve výši 750 000 Kč měsíčně. Z úst moderátora zde zaznělo: „Lidé jsou pobouřeni, když zjistili, že několik měsíců prezident tajně vydělává kolosální sumy na projektu, který původně byl určen pro obyčejné občany.“ Jednalo se o podvrh.
Na sociálních sítích se objevilo i video se zakomponovaným falešným hlasem premiéra Petra Fialy, který zde vykládal, jak má v plánu okrádat občany, aby si vydělal na důchod. Toto video bylo velmi amatérské a nevěrohodné na první pohled / poslech, a kromě strojové dikce umělého hlasu bylo očividným nesmyslem již to, že „premiér“ mluvil velmi poklesle a vulgárně. Přesto se zdá, že jej někteří lidé vzali vážně.
Ani bývalý premiér Andrej Babiš nebyl falšování ušetřen. I v jeho případě se na sociálních sítích objevilo video, tvářící se jako rozhovor A. Babiše s moderátorem XTV Lubomírem „Xaverem“ Veselým. A. Babiš zde měl propagovat investiční platformu, kterou vnímá jako nejlepší možnost pasivního příjmu. Více informací je k dispozici např. na webu Demagog (listopad 2023): https://demagog.cz/diskuze/andrej-babis-vyuzit-v-deepfake-manipulaci
Investiční platformu měl propagovat i Petr Fiala, opět se ovšem jednalo o podvod, viz opět např. web Demagog (listopad 2023): https://demagog.cz/diskuze/video-petra-fialy-zneuzito-v-deepfake-podvodu. Podvodné video působilo jako úryvek ze zpravodajství CNN Prima News a původně bylo sdíleno jako reklama obsahující odkaz na podvodnou stránku.
S deep fakes se, zdá se, aktuálně doslova roztrhl pytel, neboť zneužita byla i zpěvačka Monika Absolonová, a to zveřejněním podvodné reklamy na jakési kapky na hubnutí, díky nimž se jí mělo podařit zhubnout 20 kg za měsíc. Zpěvaččin hlas byl očividně vytvořen umělou inteligencí.
Ve světě zase v roce 2024 zaplavily sociální sítě fotografie a falešná videa jedné z nejpopulárnějších zpěvaček Taylor Swift. Tato deep fakes měla sexuální charakter, vyvolala zděšení a podnítila rozsáhlou diskusi. Jak uvedl zpravodajský ekonomický deník e15, událost neotřásla jen běžnými uživateli. „V šoku byli i američtí politici, kteří možná poprvé viděli v reálném čase, jak snadno a v jakém objemu se deepfakes mohou dostat do veřejného prostoru. A jak těžké je se jim bránit. Skupina senátorů proto urychleně předložila návrh zákona, který má sexuální deepfakes potírat.“ Více zde: https://www.e15.cz/zahranicni/falesne-snimky-nahe-taylor-swift-zaplavily-internet-usa-urychlene-resi-zakon-o-deepfakes-1413392
Dle serveru 404 media byly tyto deep fakes vytvořeny pomocí aplikace Microsoft Designer, která obsahovala (dnes již opravenou) chybu, umožňující vytvářet i obsah s tvářemi známých osobností. Pravděpodobně se tyto deep fakes nejprve objevily na síti Telegram, odkud se pak masově šířily dále.
Naposledy téma deep fake rezonovalo v českých médiích o druhém březnovém víkendu, kdy např. Novinky přinesly zprávu „Osmáci vytvořili pomocí AI nahé fotky svých spolužáků v Beverly Hills. Vyloučili je“. Jak bylo shrnuto v úvodu článku, „pět žáků osmých tříd ze základní školy v americkém Beverly Hills bylo vyloučeno poté, co pomocí umělé inteligence vytvořili nahé fotky svých spolužáků a šířili je prostřednictvím komunikačních aplikací“.
Obavy, že se deep fake videa stávají mocnou dezinformační silou, jsou tedy zcela na místě.
Pro zájemce odkazujeme na platformu YouTube, kde je k dispozici video nazvané „Deep fake“, jímž projekt E-Bezpečí celý fenomén názorně vysvětluje: https://www.youtube.com/watch?v=8fY9T15WbAU
Další podobný edukační odkaz, ale rozsáhlejší, který můžeme čtenářům doporučit, je opět odkaz na projekt E-Bezpečí, tentokrát na jeho webové stránky, konkrétně sekci věnující se umělé inteligenci: https://ai.e-bezpeci.cz/
Lenka Burešová
- ZPĚT -
