Média
Deepfake: dezinformace, informační válka a právní rovina
Deepfake již známe asi všichni, a to z humorných videí na sociálních sítích nebo z aplikací, které vyměňují naše obličeje nebo mění náš hlas. Stále vyšší úroveň technologií a AI však deepfake mění v nebezpečnou zbraň. Jak se dá deepfake zneužít a jaká z něj plynou rizika?
S deepfake, tedy záměrnou úpravou audio(vizuálního) materiálu, jsme se mohli setkat například již v 90. letech 20. století v hollywoodských filmech. S ohledem na méně pokročilé technologie však jakékoliv úpravy fotek nebo videí byly velmi náročné časově, finančně i specializačně. Konečný výsledek také nemusel působit zcela věrohodně. Za desítky let se úroveň dostala zcela jinam, a to mimo jiné díky AI. Symbolem pro možnosti při použití AI se dá považovat virální fotografie papeže Františka v bílé bundě Balenciaga, která obletěla svět.
Mnoho lidí považovalo fotografii za reálně vyfocenou, navíc působila humorně. Úprava fotografie pomocí AI je ale pouze předstupněm deepfake. Nalezneme mnoho dalších příkladů využití již opravdového deepfake i v rámci marketingu právě tímto způsobem (dočtete se například v článku zde) a zdá se i jako poměrně nezávadný a zábavný. Vzhledem k neustálému rozvoji a zvyšování kvality sdílených upravených fotografií a videí však riziko zneužití AI stále stoupá.
Kdo je pro deepfake nejcitlivějším terčem?
Veřejně známé osobnosti nebo historické postavy. Právě ty se velmi často stávají terčem pro deepfake. Většinou jde o současné významné politiky, případně historické postavy, proklamující výroky nebo fakta, která bychom od nich nečekali. O to je riziko vážnější, protože jejich rozhodnutí a názory mají dopad na společnost. V té nejzávažnější formě jsou samozřejmě lživá nebo klamavá a díky úrovni audiovizuální formy velmi přesvědčivá. Jako příklad můžeme uvést video s bývalým americkým prezidentem Barackem Obamou, který se stal ústřední postavou ve videu, které demonstruje, jak přesvědčivě může deepfake působit audiovizuálně v případě významného politika.
Již nyní ale existují případy, kdy byl deepfake účelně použitý pro šíření dezinformací. V projevech státníků se pak šíří lživé informace, prohlašuje se kapitulace nebo v nich najdeme informace o vstupu do války. Příkladem nechť je deepfake projev ukrajinského prezidenta Zelenského o válečné situaci.
V českém prostoru pak rezonovalo upravené a lživé video prezidenta Petra Pavla (v té době kandidáta na prezidenta) o tom, zda země vstoupí do války. Zde nešlo přímo o deepfake, ale o účelné sestříhání jednoho z rozhovorů. I přesto se však šířilo a vyvolalo debatu. Během probíhající prezidentské kampaně se jednalo o materiál, který se očividně snažil kandidáta poškodit a virálně šířit nepravdu.
Deepfake jako nástroj dezinformací a informační války
I když jsou zmíněná videa deepfake, masivní sdílení takových materiálů lehce vede k tvorbě dezinformací. Ověřování takovýchto podezřelých informací zajišťuje, že se tato falešná tvrzení vyvrátí, ale ověřování trvá vždy déle než samotné šíření prvotní informací. V případě příkladu českého prezidenta dokonce došlo i k popření přímo na jeho profilu na sociálních sítích společně se sdílením originálního pravdivého videa. Není pravidlem, že vždy existuje taková možnost ověření informace. A v dnešní rychlé době je daleko snazší ihned věřit tomu, co vidíme a slyšíme, než strávit další čas vlastním ověřováním. Riziko chaosu a uvěření falešným zprávám je v populaci stále vysoké, a proto je deepfake vážnou hrozbou. Pokud zmíníme i rovinu využití deepfake jako nástroje v informační válce, jde o závažné riziko. Se stále vyšší kvalitou audiovizuální stránky pak bude stále těžší rozpoznat, zda jde o podvrh, nebo skutečnost. A i chvilkový chaos může být kýženým cílem.
Etická a právní stránka deepfake
Z popisu toho, jak deepfake funguje, je jasné, že mnoho forem je na hranici etické či právní přijatelnosti. V současné době ovšem neexistuje žádná právní úprava, která by přímo deepfake ošetřovala. Pokud jde o otázku práva, vybavíme si nejspíš neoprávněný zásah do osobních práv (zneužití identity) a šíření poplašných zpráv a lží apod.
I tak se problematika deepfake již řeší a právně ošetřuje. Anglie a Wales jsou například v zákonodárné oblasti části deepfake o něco dále. Od roku 2023 je nelegální používat identitu osoby bez jejího svolení v rámci deepfake intimních fotografií nebo videí. Ve Spojených státech amerických se intenzivně zaměřují na výzkum technologií, které budou moct deepfake rozpoznat a zajistit, že pravda zůstane neohrožená. Na téma regulace AI a deepfake myslí i Evropská unie. Od února 2024 vstoupí v platnost nařízení o digitálních službách, které se věnuje mimo jiné i větší transparentnosti v digitálním světě a řešení dezinformací na webových stránkách. Dále se na AI zaměřuje i Akt o umělé inteligenci. Vidíme tak, že země taktéž považují deepfake za riziko a myslí se na jeho regulaci.
Jak citovat?
ŠEDINOVÁ, Anna. Deepfake: dezinformace, informační válka a právní rovina. Ema Čapková, editor. In: Markething [online], 2023. ISSN 1805 – 4991. Dostupné z: https://markething.cz/deepfake-dezinformace-informacni-valka-a-pravni-rovina
Zdroje
https://edition.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/
https://www.forbes.com/sites/danidiplacido/2023/03/27/why-did-balenciaga-pope-go-viral/
https://www.seznamzpravy.cz/clanek/domaci-sitemi-se-vali-lzive-video-o-generalu-pavlovi-je-za-nim-prorusky-ucet-224034
https://ct24.ceskatelevize.cz/clanek/svet/deepfake-falsovana-videa-hybou-s-usty-a-dezinformace-posouvaji-na-novou-uroven-77390
https://www.theguardian.com/society/2023/jun/27/sharing-deepfake-intimate-images-to-be-criminalised-in-england-and-wales
https://www.mpo.cz/cz/podnikani/digitalni-ekonomika/digitalni-sluzby/narizeni-o-digitalnich-sluzbach/
https://www.mpo.cz/cz/podnikani/digitalni-ekonomika/co-znamena-akt-o-digitalnich-sluzbach-pro-uzivatele—268569/
https://www.irozhlas.cz/veda-technologie/technologie/ai-umela-inteligence-regulace-eu-predbezna-dohoda-trialog_2312091002_aur
Potřebujeme pravidla pro umělou inteligenci, zní z EU a USA. Zatím má vzniknout dobrovolný kodex
