Média
Deepfake: dezinformace, informační válka a právní rovina
Deepfake již známe asi všichni, a to z humorných videí na sociálních sítích nebo z aplikací, které vyměňují naše obličeje nebo mění náš hlas. Stále vyšší úroveň technologií a AI však deepfake mění v nebezpečnou zbraň. Jak se dá deepfake zneužít a jaká z něj plynou rizika?
S deepfake, tedy záměrnou úpravou audio(vizuálního) materiálu, jsme se mohli setkat například již v 90. letech 20. století v hollywoodských filmech. S ohledem na méně pokročilé technologie však jakékoliv úpravy fotek nebo videí byly velmi náročné časově, finančně i specializačně. Konečný výsledek také nemusel působit zcela věrohodně. Za desítky let se úroveň dostala zcela jinam, a to mimo jiné díky AI. Symbolem pro možnosti při použití AI se dá považovat virální fotografie papeže Františka v bílé bundě Balenciaga, která obletěla svět.
![](https://markething.cz/wp-content/uploads/960x0.jpg.webp)
Mnoho lidí považovalo fotografii za reálně vyfocenou, navíc působila humorně. Úprava fotografie pomocí AI je ale pouze předstupněm deepfake. Nalezneme mnoho dalších příkladů využití již opravdového deepfake i v rámci marketingu právě tímto způsobem (dočtete se například v článku zde) a zdá se i jako poměrně nezávadný a zábavný. Vzhledem k neustálému rozvoji a zvyšování kvality sdílených upravených fotografií a videí však riziko zneužití AI stále stoupá.
Kdo je pro deepfake nejcitlivějším terčem?
Veřejně známé osobnosti nebo historické postavy. Právě ty se velmi často stávají terčem pro deepfake. Většinou jde o současné významné politiky, případně historické postavy, proklamující výroky nebo fakta, která bychom od nich nečekali. O to je riziko vážnější, protože jejich rozhodnutí a názory mají dopad na společnost. V té nejzávažnější formě jsou samozřejmě lživá nebo klamavá a díky úrovni audiovizuální formy velmi přesvědčivá. Jako příklad můžeme uvést video s bývalým americkým prezidentem Barackem Obamou, který se stal ústřední postavou ve videu, které demonstruje, jak přesvědčivě může deepfake působit audiovizuálně v případě významného politika.
Již nyní ale existují případy, kdy byl deepfake účelně použitý pro šíření dezinformací. V projevech státníků se pak šíří lživé informace, prohlašuje se kapitulace nebo v nich najdeme informace o vstupu do války. Příkladem nechť je deepfake projev ukrajinského prezidenta Zelenského o válečné situaci.
V českém prostoru pak rezonovalo upravené a lživé video prezidenta Petra Pavla (v té době kandidáta na prezidenta) o tom, zda země vstoupí do války. Zde nešlo přímo o deepfake, ale o účelné sestříhání jednoho z rozhovorů. I přesto se však šířilo a vyvolalo debatu. Během probíhající prezidentské kampaně se jednalo o materiál, který se očividně snažil kandidáta poškodit a virálně šířit nepravdu.
Deepfake jako nástroj dezinformací a informační války
I když jsou zmíněná videa deepfake, masivní sdílení takových materiálů lehce vede k tvorbě dezinformací. Ověřování takovýchto podezřelých informací zajišťuje, že se tato falešná tvrzení vyvrátí, ale ověřování trvá vždy déle než samotné šíření prvotní informací. V případě příkladu českého prezidenta dokonce došlo i k popření přímo na jeho profilu na sociálních sítích společně se sdílením originálního pravdivého videa. Není pravidlem, že vždy existuje taková možnost ověření informace. A v dnešní rychlé době je daleko snazší ihned věřit tomu, co vidíme a slyšíme, než strávit další čas vlastním ověřováním. Riziko chaosu a uvěření falešným zprávám je v populaci stále vysoké, a proto je deepfake vážnou hrozbou. Pokud zmíníme i rovinu využití deepfake jako nástroje v informační válce, jde o závažné riziko. Se stále vyšší kvalitou audiovizuální stránky pak bude stále těžší rozpoznat, zda jde o podvrh, nebo skutečnost. A i chvilkový chaos může být kýženým cílem.
Etická a právní stránka deepfake
Z popisu toho, jak deepfake funguje, je jasné, že mnoho forem je na hranici etické či právní přijatelnosti. V současné době ovšem neexistuje žádná právní úprava, která by přímo deepfake ošetřovala. Pokud jde o otázku práva, vybavíme si nejspíš neoprávněný zásah do osobních práv (zneužití identity) a šíření poplašných zpráv a lží apod.
I tak se problematika deepfake již řeší a právně ošetřuje. Anglie a Wales jsou například v zákonodárné oblasti části deepfake o něco dále. Od roku 2023 je nelegální používat identitu osoby bez jejího svolení v rámci deepfake intimních fotografií nebo videí. Ve Spojených státech amerických se intenzivně zaměřují na výzkum technologií, které budou moct deepfake rozpoznat a zajistit, že pravda zůstane neohrožená. Na téma regulace AI a deepfake myslí i Evropská unie. Od února 2024 vstoupí v platnost nařízení o digitálních službách, které se věnuje mimo jiné i větší transparentnosti v digitálním světě a řešení dezinformací na webových stránkách. Dále se na AI zaměřuje i Akt o umělé inteligenci. Vidíme tak, že země taktéž považují deepfake za riziko a myslí se na jeho regulaci.
Jak citovat?
ŠEDINOVÁ, Anna. Deepfake: dezinformace, informační válka a právní rovina. Ema Čapková, editor. In: Markething [online], 2023. ISSN 1805 – 4991. Dostupné z: https://markething.cz/deepfake-dezinformace-informacni-valka-a-pravni-rovina
Zdroje
https://edition.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/
https://www.forbes.com/sites/danidiplacido/2023/03/27/why-did-balenciaga-pope-go-viral/
https://www.seznamzpravy.cz/clanek/domaci-sitemi-se-vali-lzive-video-o-generalu-pavlovi-je-za-nim-prorusky-ucet-224034
https://ct24.ceskatelevize.cz/clanek/svet/deepfake-falsovana-videa-hybou-s-usty-a-dezinformace-posouvaji-na-novou-uroven-77390
https://www.theguardian.com/society/2023/jun/27/sharing-deepfake-intimate-images-to-be-criminalised-in-england-and-wales
https://www.mpo.cz/cz/podnikani/digitalni-ekonomika/digitalni-sluzby/narizeni-o-digitalnich-sluzbach/
https://www.mpo.cz/cz/podnikani/digitalni-ekonomika/co-znamena-akt-o-digitalnich-sluzbach-pro-uzivatele—268569/
https://www.irozhlas.cz/veda-technologie/technologie/ai-umela-inteligence-regulace-eu-predbezna-dohoda-trialog_2312091002_aur
Potřebujeme pravidla pro umělou inteligenci, zní z EU a USA. Zatím má vzniknout dobrovolný kodex
![](https://markething.cz/wp-content/uploads/M_1.png)