Čtenářům webu Děti a média bychom chtěli v tomto článku představit americké dokumentární drama Sociální dilema (The Social Dilemma) režiséra Jeffa Orlowskiho z roku 2020, které uvedl Netlflix. Film byl poprvé uveden na filmovém festivalu Sundance 2020 a zveřejněn na Netflixu dne 9. září 2020.
Ve filmu na pomezí dokumentu a dramatu varují odborníci na moderní technologie před sociálními sítěmi, které sami vytvořili.
(Netflix)
Dokument přináší jednoduché poselství, které si již nějaký čas uvědomujeme, nejde o převratnou novinku:
Naše data jsou setrvale sledována, sbírána a vyhodnocována pro komerční účely. Technologie nás spojují, ale také kontrolují a manipulují.
Obchodním modelem firem, jako jsou Facebook, Snapchat, Twitter, Instagram, YouTube, TikTok, Google, Pinterest, Reddit či Linkedin, je udržení co nejdelší pozornosti svých uživatelů. Jejich obchodní model totiž spočívá v tom zajistit co největší úspěch inzerentů. Tomu proto odpovídá firemní strategie: cílem je přinutit uživatele trávit na sociálních sítích co nejvíce času, ti jim tak de facto odevzdají kus života.
Tato témata nejsou nová, zde se však k věci vyjadřují lidé, kteří sociální sítě spoluvytvářeli. Jde o vývojáře či o vysoce postavené manažery společností jmenovaných výše:
Roger McNamee, investor do technologií, uvedl, že během prvních 50 let Silicon Valley vyráběl průmyslové produkty – hardware, software – které prodával zákazníkům. Byl to jednoduchý obchod. „Posledních deset let největší společnosti v Silicon Valley prodávají své zákazníky.“
Aza Raskin, spoluzakladatel Centra pro humánní technologie, připomíná, že za produkty, které používáme, neplatíme. Platí za ně zadavatelé reklamy. Ti jsou těmi skutečnými zákazníky. My jsme to, co se prodává.
Tristan Harris, bývalý odborník na etiku designu pro Google a spoluzakladatel Centra pro humánní technologie (Center For Humane Technology), o němž je řečeno že „ztělesňuje svědomí Silicon Valley“, poukazuje na to, že pro digitální giganty nejsou nejdůležitější zájmy uživatelů, ale inzerenti: „Pokud za produkt neplatíte, jste produktem vy sami.“ (If you're not paying for the product, then you are the product.) T. Harris uvádí: „Spousta lidí si myslí, že Google je jen vyhledávač, že na Facebooku se jen díváme, co dělají naši přátelé, ale neuvědomují si, že je to soutěž o naši pozornost.“
Tim Kendall, bývalý ředitel Pinterestu a šéf monetizace ve Facebooku (člověk, který „má vymyslet, jak tu věc zpeněžit“), hovořil o snaze získat co největší pozornost uživatele, snaze přinutit ho strávit na sociálních sítích co nejvíc času.
Justin Rosenstein, spoluzakladatel Asany a spolutvůrce tlačítka „To se mi líbí“ na Facebooku, rovněž upozornil na to, že si o spoustě produktů myslíme, že jsou zadarmo, že to však není pravda. Financují je zadavatelé reklamy, kteří platí za to, že my jakožto uživatelé můžeme vidět jejich reklamy. Jsme tedy produkt – naše pozornost se jako produkt prodává inzerentům.
Jaron Lanier – odborník na virtuální realitu, kterému se přisuzuje autorství samotného pojmu virtuální realita, autor knihy Ten Arguments for Deleting Your Social Media Accounts Right Now – má ovšem za to, že toto vidění situace je příliš zjednodušené: „Produkt je něco trochu jiného. Produktem je postupná, malá změna ve vašem chování a vnímání.“ (It's the gradual, slight, imperceptible change in your own beahvior and perception – that is the product.) „(Oni) změní to, co děláte. Jak myslíte. Kým jste. Je to postupná, drobná změna.“
Shoshana Zuboff, profesorka Harvardské univerzity, zmiňuje, že o této situaci snil každý obchodník – mít jistotu, že když zadá reklamu, bude úspěšná. A to je právě předmětem obchodu – prodej jistoty. (They sell certanity.) Abyste byli takto úspěšní, musíte mít skvělé předpovědi (great predictions), a k tomu potřebujete množství dat. Je to zcela nový druh trhu, který nikdy dřív neexistoval. Profesorka hovoří o lidských termínových kontraktech (podobně jako se obchoduje s termínovými kontrakty týkajících se bůčku nebo ropy).
Zajímavých mluvčích vystupuje v dokumentu celá řada, zde pochopitelně zmiňujeme jen některé z nich.
Celá řada expertů a bývalých zaměstnanců tak přináší svědectví o praktikách a manipulacích, které využívají psychologie a zranitelnosti lidské psychiky. Film kombinuje rozhovory s odborníky a ilustrativní hrané pasáže.
Zmínění odborníci a experti na problematiku se postupně dotýkají celé škály zásadních témat, jako je v prvé řadě podněcování závisl osti (např. již samotným designem sociálních sítí, podobou mailové schránky apod.):
Jeff Seibert vysvětluje, že vše, co děláme na internetu, je monitorováno a zaznamenáno – na jaký obrázek se zadíváme, jak dlouho se na něj díváme (délka interakce). „Vědí, kdy jsou lidé osamělí, kdy mají depresi. … Vědí, co děláte pozdě v noci, vědí vše. Zda jste introvert nebo extrovert, jaké máte neurózy, jaký máte typ osobnosti.“
Sandy Parakilas, bývalý vrcholový manažer Facebooku, zdůrazňuje, že všechna tato data, která o sobě neustále chrlíme, „jdou do systémů, které nemají téměř žádnou lidskou supervizi“. A tyto systémy „vytvářejí stále přesnější a přesnější predikce toho, kdo jsme a jak se budeme chovat dál.“
Je tu tedy snaha udržet uživatele co nejdelší dobu u obrazovky a snaha udržet uživatele v co největší interakci s ostatními uživateli. Za tímto účelem se s nimi manipuluje. Sociální média nejsou obyčejný nástroj (jako třeba jízdní kolo), který pasivně čeká, až ho člověk použije. Sociální média se aktivně připomínají – obměňují svou nabídku po novém načtení, čímž se snaží udržet pozornost uživatele, upozorňují na to, že ho někdo blízký označil na fotce atd., snaží se jej donutit reagovat.
Mimochodem, slovo uživatel se používá v kontextu „uživatel drog“ a právě „uživatel sociálních sítí“. Ostatně film explicitně pracuje s přirovnáním závislosti na sociálních sítí s drogovou závislostí.
Sami v dokumentu vypovídající experti, kteří v minulosti sami aktivně spoluvytvářeli prostředí sociálních sítí tak, aby bylo co nejvíce návykové, hovoří o své vlastní neschopnosti vyhnout se závislosti na nich, přestože samozřejmě vědí, jak tyto triky fungují: „Stejně vezmu mobil a promrhám 20 minut.“ Jeden z nich dokonce uvedl, že si musel napsat vlastní software, aby se své závislosti zbavil. Sociální média jsou totiž jako droga – „máme biologickou potřebu být v kontaktu s ostatními lidmi“, říká dr. Anna Lembke ze Stanfordské univerzity. „Má to přímý vliv na uvolňování dopaminu v mezolimbické dráze. Za tímto systémem stojí miliony let evoluce – snaží se nás spojovat a nutí nás žít v komunitách, abychom si mohli najít partnery a rozmnožit se. Takže není pochyb o tom, že sociální média, která mezi lidmi umožňují spojení, mají závislostní potenciál.“
Designéři aplikací tedy pracují s fungováním dopaminových a jiných závislostních okruhů a využívají nejzranitelnější místa psychiky, aby uživatele drželi u displeje co nejdéle. Je tu stále nový lákavý obsah vytvořený na míru, vypočítaný podle všeho, na co uživatel doposud nejvíce reagoval. „Nevíte, co vám ‚padne‘ dalšího, kdy vám to padne… Přesně takhle fungují hrací automaty v Las Vegas“, říká Harris.
Ve filmu se také probírá dopad na duševní zdraví (nejen) adolescentů – ti mají více než dříve problémy se soustředěním, úzkostmi nebo sebepoškozováním. Alarmující je i rostoucí míra sebevražd mladistvých. Existuje prokazatelný vztah sociálních fobií, depresí a sebevražd s nástupem sociálních sítí po roce 2010. Míra sebevražednosti se u předpubertálních a pubertálních dívek s nástupem sociálních médií do mobilních aplikací v USA zvýšila o 151 %.
Je to paradox. J. Rosenstein uvádí, že tlačítkem „To se mi líbí“ chtěli šířit pozitivitu. Nikdo neočekával, že „kvůli nedostatku lajků budou teenageři upadat do depresí nebo že to povede k politické polarizaci“.
Je tu i další nebezpečí. Algoritmy umělé inteligence, které filtrují, jaké obsahy se k nám na sociálních sítích dostanou. Cathy O'Neil, PhD, matematička a datová vědkyně, definuje algoritmy jako „názory vložené do kódu“. Konstatuje: „Algoritmy nejsou objektivní. Jsou optimalizovány podle nějaké definice úspěchu. Obchodní podnik sestaví algoritmus podle své vlastní definice úspěchu. Je to obchodní zájem.“
J. Seibert konstatuje: „Stanovíte pro počítač cíl – 'chci tento výsledek' – a počítač se sám učí, jak jej dosáhnout. Proto termín 'strojové učení'. A každý den se trochu zlepší. … A nikdo pořádně nerozumí tomu, jak počítač postupuje, aby tohoto cíle dosáhl.“ Bailey Richardson (Early Team of Instagram (2012–2014)) dodává, že „postavíte stroj, a ten pak sám sebe mění“. Nad těmito systémy jsme téměř ztratili kontrolu.
Algoritmy nás ve výsledku uzavírají do názorových bublin (matematické modely nabízejí uživatelům obsah podobný tomu, jaký je již zajímá, a tím upevňuje jejich názory; chybí konfrontace s odlišnými názory – „časem se začnete domnívat, že s vámi každý souhlasí“). Každý totiž pracuje s jinou sbírkou faktů.
J. Lanier uvádí: „Říkám lidem, ať si představí Wikipedii. [wikipedia.org] Když navštívíte stránku, vidíte to, co ostatní. Je to jedna z mála věcí, která je pro nás na internetu společná. Teď si představte, že by Wikipedia řekla: Každému předložíme jinou definici přizpůsobenou jemu na míru, a lidé nám za to budou platit. Takže Wikipedie by nás špehovala a odhadovala by – co můžu udělat, abych tohohle člověka trochu změnila ve jménu obchodního zájmu? A pak by pozměnila článek. … Tak tohle se děje na Facebooku. Na YouTube.“
J. Seibert: „Když do Google zadáte 'změna klimatu je' (climate change is), uvidíte různé výsledky podle toho, kde bydlíte. V některým městech to Google dokončí jako 'změna klimatu je hoax'. Jinde uvidíte: 'Změna klimatu ničí planetu'.“ Nejde tedy o pravdu – „jde o to, z jakého místa googlujete a co Google ví o vašich zájmech“.
T. Harris dodává, že dokonce i dva blízcí přátelé, kteří mají téměř stejný okruh přátel, a kteří si proto myslí, že se jim zobrazují ty samé novinky, se mýlí. „Vidí úplně různé světy, které vycházejí z výpočtů toho, co je pro každého ideální.“ Každý člověk má svou vlastní realitu. To může vyústit až k radikalizaci a rozdělení společnosti. T. Kendall se dokonce obává občanské války.
Hrozí pád do tzv. „králičí nory“ (propad do systému na sebe volně navazujícího obsahu; seriózně zpracované téma tak může uživatele postupně dovést k velmi bizarním tvrzením a konspiracím). Jak zaznělo v dokumentu, „z informačního věku jsme přešli do věku dezinformačního“.
Výše uvedené mechanismy umožňují snazší šíření konspiračních teorií a fake news. Vysloveně nebezpečným je pak ovlivňování politiky, zasahování do voleb. Hrozí informační chaos, krize důvěry, eroze demokratických systémů.
J. Lanier se domnívá, že se jedná o existenční problém: „Když bude současný status quo pokračovat řekněme dalších 20 let, nejspíš civilizaci zničíme umíněnou nevědomostí. Nejspíš se nám nepodaří čelit změnám klimatu. Nejspíš znehodnotíme světové demokracie … Nejspíš zničíme světovou ekonomiku. Nejspíš nepřežijeme.“
Týká se to tedy všech, i těch, kteří tyto produkty (tj. sociální sítě) nepoužívají.
Navíc boj o udržení pozornosti uživatelů sama od sebe nezmizí, technologie se nám budou do života promítat stále více, umělá inteligence se zlepší v předvídání. „Možná nejnebezpečnější na tom všem je skutečnost, že to řídí technologie, které se exponenciálně zlepšují,“ říká Randima (Randy) Fernando, spoluzakladatel Centra pro humánní technologie (Center For Humane Technology). „Zhruba od 60. let do dnešní doby se výpočetní výkonnost počítačů zvýšila asi bilionkrát. … Naše mozky se nevyvinuly vůbec.“ Náš hardware – mozek – je starý miliony let. „A pak je tu obrazovka a na její druhé straně tisíce inženýrů a superpočítačů, kteří mají jiné cíle, než jsou ty vaše,“ říká T. Harris. „Kdo vyhraje?“
Právě v obchodním modelu vidí bývalí experti společností stěžejní problém. Je v pořádku, že se firmy snaží vydělat peníze, není ale v pořádku, že neexistují pravidla. Společnosti říkají, že se mohou regulovat samy (autoregulace). „To je ale lež“, zazní výslovně. Současná situace chrání práva a privilegia obřích, nesmírně bohatých společností. Všichni experti v dokumentu se shodují v nutnosti nových zákonů, v nutnosti regulace, a nutnosti toho, aby platformy nesly odpovědnost. Jeden z hlasů zmiňuje dokonce zákaz trhu s daty s tím, že precedens existuje, některé trhy prostě jsou zakázány – trh s orgány a trh s otroky.
Naděje spočívá v tom, že podoba sociálních sítí je lidským dílem a lidé ji mohou zase změnit.
•
Petr Vagner v týdeníku Reflex shrnuje ve svém článku Sociální dilema: Dokument Netflixu odhaluje problém sociálních sítí, sám ale přitom padá do vlastní pasti klady dokumentu takto:
„Jako pozitivum dokumentu vnímám především jasně zformulovanou prezentaci problému. Lidé o sbírání citlivých dat slýchávají poměrně často, myslím ale, že si většinou neuvědomují, proč je to problém. Často narazíte na obavu, že „vyšpehovaná“ data budou společností prodána nebo poskytnuta třetí straně a nějakým způsobem zneužita či v budoucnu použita k poškození dotyčného uživatele. Společnosti ale nemají důvod data prodávat. Větší hodnotu pro ně totiž mají k vytvoření dokonalého reklamního prostředí ve vlastní platformě, kde poté mohou prodávat drahocenný reklamní prostor pro velmi přesně cílenou reklamu. Ve skutečnosti jsou tato data tedy již využívána, a to každý den za účelem ovlivnit náš názor, jednání, preference, nákupní tendence či jen zhlédnutí reklamy.“
Dostupné on-line zde: https://www.reflex.cz/clanek/filmy-a-serialy/103280/socialni-dilema-dokument-netflixu-odhaluje-problem-socialnich-siti-sam-ale-pritom-pada-do-vlastni-pasti.html
Autorka tohoto článku považuje za nejzávažnější sdělení díla to, které říká, že internetový vyhledavač nabízí pro různé uživatele různou verzi skutečnosti (pro jednoho je to „klimatická změna je hoax“, pro jiného „klimatická změna ničí planetu“). Ve světle těchto informací dává větší smysl sama existence leckdy prazvláštních a rychle se šířících názorů, které se zdají popírat, že dvě a dvě jsou čtyři (že je země kulatá, že proběhla evoluce atd.).
•
Rozhovory jsou ve filmu prokládány hranými pasážemi, ve kterých herci vyprávějí příběh dospívajícího chlapce a jeho závislosti na sociálních sítích. V dramatické hrané lince jsou zobrazeny osudy jedné americké rodiny a její neschopnost vypořádat se s úskalím nových technologií.
Tato část dokumentu však byla kritizována – mj. pro přílišné zjednodušení (za vše mohou algoritmy) a zejména pro neúměrné hraní na emoce, tedy stejné praktiky, před nimiž varuje (film vystupuje proti manipulaci jinou manipulací).
Problémy současného světa jsou však hlubší a složitější, zmíněné algoritmy je mohou maximálně podpořit. Sociální sítě navíc (naštěstí!) stále nejsou celým naším světem, naší bezvýhradnou realitou.
Další věcí je, že na problémy on-line světa upozorňuje právě Netflix, který sice není sociální sítí, avšak jeho obchodní model je stejný – udržet svého uživatele co nejdéle u obrazovky / u displeje.
Navzdory těmto výtkám se však samozřejmě jedná o cenné dílo, které přispívá k tolik potřebné diskuzi o problémech sociálních sítí a jejich rizicích pro jednotlivce i pro společnost.
Lenka Burešová
- ZPĚT -
