Markething.czMarkething

menu

zavřít

Deepfakes: zábava, mocný nástroj, ale i hrozba

Autor článku

Absolventka MKPR, která miluje knížky všeho druhu, svojí malou urban jungle a ráda tráví čas v muzeích a divadlech.

28. června 2020

Deepfakes – umělou inteligencí upravená videa a zvukové záznamy, v nichž může kdokoliv říkat a dělat cokoliv. Tento způsob využití moderní technologie, jehož název je složený z „deep learning“ a „fakes“ může škodit, ale také pomáhat. A začíná se objevovat i v marketingu a komunikaci se zákazníkem.

Výroba deepfakes není příliš složitá a jejich kvalita se stále zvyšuje. Deepfakes tak mají kromě schopnosti pobavit také velký potenciál pro šíření dezinformací a poškozování pověsti vyobrazených osob.

Mezi nejznámější deepfake videa patří verze Jokera s Jimem Carreym v hlavní roli, video nadávajícího Baracka Obamy nebo pornoherečky s obličejem Scarlett Johansson.

Prohoďme si obličej

Pamatujete si na obnovený zájem o Snapchat poté, co představil svůj face swap filtr? Všechny sociální sítě v té době překypovaly selfies a videy, v nichž měli lidé prohozené obličeje se svými známými nebo dokonce s celebritami. Uživatelé Snapchatu a později také mnoha dalších aplikací se tak mohli na chvíli stát Ryanem Goslingem nebo třeba Kim Kardashian. Obraz nikdy nebyl dokonalý, nezměnil se ani hlas, ale jako nástroj pro pobavení filtr posloužil skvěle.

Faceswap fotka / https://imgur.com/JgejQdI

Jak funguje deepfake?

Zjednodušeně lze říci, že na principu pozměnění obličeje fungují i takzvané deepfakes. V podstatě do jakéhokoliv videa lze vložit obličej kohokoliv, na koho si vzpomenete, nebo věrohodně pozměnit jeho výpověď ve zvukové nahrávce. S trochou snahy je totiž také možné upravit tóninu hlasu, intonaci a díky algoritmům i způsob mluvy, včetně zakomponování přízvuku.

Deepfakes tak dávají možnost mít ve videu z rodinné oslavy dost věrohodně vypadajícího Leonarda DiCapria nebo třeba příbuzného žijícího v zahraničí.

Jak už bylo naznačeno výše, zneužití deepfakes je nasnadě. Jsou totiž nástrojem, který vám umožňuje „namontovat“ obličej vašeho nepřítele nebo konkurenta do nepříliš lichotivých záběrů nebo mu dokonce do úst vložit slova, která v životě neřekl. A to je pomyslný jackpot pro dezinformace. Potenciál je v politice, porno průmyslu i mnoha dalších odvětvích.

Jak deepfake vzniká?

Ačkoliv se může zdát, že se jedná o nástroj, který se „běžných smrtelníků“ netýká, není tomu tak. Výroba deepfake videa stojí na technologii strojového učení. Velmi zjednodušeně proces výroby funguje následovně: do počítačového programu se nahraje velké množství dat, která jsou následně programem porovnávána a jsou v nich hledány vzorce a pravidla.

Těmito daty jsou výchozí videa člověka, jehož obličej bude manipulován, a cílové video, do kterého obličej bude vkládán. Videa jsou rozkouskována na jednotlivé snímky, z nichž je nutné vyselektovat pouze záznamy obličeje, které nejsou rozmazané a zobrazují pouze ty lidi, jejichž obličeje chceme manipulovat. Umělá inteligence si už sama poradí se vzhledem člověka a vyhledáváním vzorců jeho mimiky ze zdrojových videí a jejich následnou implementací do videa cílového.

Na výrobu nedokonalého deepfake tak stačí program nebo aplikace, průměrně výkonný počítač a dostatek vstupních dat.

Odhalování deepfakes

S trochou snahy jsou dnešní deepfakes stále ještě rozpoznatelné. Pokud se vám video nebo zvuková nahrávka zdá podezřelá, zaměřte se na několik věcí. U videí mezi nejčastější chyby patří nesedící odstín pleti, tvar uší nebo nepřirozené mrkání. Rozpoznání zvukových deepfakes je těžší. Zamyslete se nad kontextem a zdali promluva není pro danou osobu podezřelá – výběrem slov, nepřirozenými nádechy nebo intonací.

Vyřeší problém vývojáři?

Růst obliby deepfakes vyvolává otázky. Má vývojář zodpovědnost za to, že jeho nástroj někdo zneužije pro svůj prospěch? Kdo vyřeší technologické problémy, když se něco zvrtne? Kdo by teoreticky měl zabránit potenciálnímu vlivu deepfakes například na volební rozhodování voličů v budoucích letech?

Nenechávejme boj proti deepfakes na technologických platformách a vývojářích. Řešme jejich negativní stránky a zneužití technologických novinek v širším měřítku a dívejme se na hodnoty, cíle a morální závazky zabudované v technologiích, nabádají v The Guardian.

Světlá stránka deepfakes

Každá mince má dvě strany a nejinak je tomu i u deepfakes. Zaměříme-li se na způsoby pozitivního využití této technologie, dostaneme nástroj zjednodušující mezinárodní komunikaci nebo edukační pomůcku. Spektrum využití principů deepfakes v marketingu je široké a umožňuje zasáhnout širší publikum a vytvořit relevantní message.

Nejznámějším dosud realizovaným marketingovým projektem na způsob deepfakes je spot s Davidem Beckhamem pro kampaň „Malaria Must Die“. David ve videu představuje iniciativu a podněcuje k podepsání petice v devíti světových jazycích. Zvuková stopa videa není přizpůsobena Davidovo hlasu, ale skládá se z promluv lékařů a přeživších zákeřné nemoci.

Umělé inteligence a nástrojů používaných pro tvorbu deepfakes použilo i floridské The Dali Museum. Surrealistický umělec nejen zve návštěvníky na výstavu, ale také v omezené míře s návštěvníky interaguje, a dokonce si s nimi na rozloučenou vyfotí selfie.

Asi není potřeba diskutovat o tom, zdali na deepfakes budeme narážet i v budoucnosti. Diskuze by se měly spíše zabývat ochranou proti jejich negativním vlivům a etikou při jejich využívání. Na příkladu kampaně Malaria Must Die ale vidíme, že úplně zatracovat bychom je neměli.

Jak citovat tento článek:

HÁJKOVÁ Karolína. Deepfakes: zábava, mocný nástroj, ale i hrozba. Karolína KUBŮ editor. In: Markething [online], 2020.  ISSN 1805 – 4991. Dostupné z: http://markething.cz/deepfakes

Zdroje:

https://www.internetembezpecne.cz/deep-fakes/

https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-can-you-spot-them

https://www.marketing-interactive.com/keeping-deepfakes-real-could-they-be-used-for-good

http://www.mtv.com/news/2718983/face-swap-live-app/

https://www.youtube.com/watch?v=RP9bKAHaaAo&t=903s