Connect with us

Komunikace

Umělá inteligence slibuje lepší zítřky, ne vždy je ale vše ideální

Přestože ve vztahu k umělé inteligenci (AI) převládá v západní společnosti především optimistický postoj, nejednou se již stalo, že se nechovala vždy podle plánu vývojáře nebo uživatele. Špatně nastavená nebo nevhodně využívaná umělá inteligence se dopouští stereotypizace, diskriminace, porušuje zásady soukromí nebo špatně vyhodnocuje data. 

Technooptimismus představuje přesvědčení, že díky vývoji technologií budeme žít lépe, déle, bezpečněji a pohodlněji. Vyjadřuje pozitivní postoj k vývoji všech technologií a k novým vynálezům, jakožto k něčemu, co je pro lidstvo přínosem. A u umělé inteligence tomu není jinak. Umělou inteligencí rozumíme schopnost strojů napodobovat lidské schopnosti, která umožňuje technickým systémům reagovat na vjemy, řešit problémy a dosahovat cílů za pomoci dodaných dat. Pojem umělá inteligence je poslední roky používán skoro jako zázračné zaklínadlo, které vyřeší všechny naše problémy. A přestože může umělá inteligence přinášet skvělé výsledky, může nám život také pěkně zašmodrchat

Skvělý sluha, kterého lze zneužít

Nastavit si vůči umělé inteligenci automaticky negativní přístup jistě není ideální. Umělá inteligence totiž není inherentně dobrá nebo špatná, vždy totiž záleží na tom, jak ji využíváme. Už nyní vidíme v reálném světě skvělé výsledky a zajímavé projekty, které by bez AI neexistovaly. Jedná se například o diagnostické programy, které jsou druhýma očima lékařů a urychlují či zpřesňují diagnostiku některých onemocnění, programy bojující s dezinformacemi nebo o chytré spotřebiče, které nám šetří čas a mnohdy i peněženku. Na druhou stranu známé také technologie a produkty umělé inteligence, které je velmi jednoduché zneužít. Už před dvěma lety jsme psali například o deepfakes – umělou inteligencí upravených videích, v nichž může kdokoliv říkat a dělat cokoliv. 

V posledních týdnech jsou často skloňované také programy generující vizuální obsahy MidJourney a DALL.E, jež podle zadání vytváří fotky a obrázky, které neexistují. 

Jak si AI představuje, že by vypadala Emma Watson ve filmu 30 případů Zemana? Podle aplikace MidJourney takto.
Jak si umělá inteligence představuje, že by vypadala Emma Watson ve filmu 30 případů Zemana? Podle aplikace MidJourney takto.  /Autor promtu: Petr Ludwig; zdroj: https://www.facebook.com/photo/?fbid=10159025765018087&set=a.107769108086 

Umělou inteligencí kompletně vytvořené obrázky jsou ale pouze prvním krokem. Už nyní vznikají platformy na tvorbu videí obdobným způsobem. Technooptimista v těchto programech vidí nové způsoby kreativního vyžití i ušetření peněz za produkci autorských děl lidskými umělci. Technopesimista vidí potenciál zneužití například v politice nebo v pornografii.

Když AI podporuje stereotypy

Kromě generování obrázků a videí se ale AI potýká i s dalšími problémy. Jedním nich je zaujatost a podpora stereotypů. Příkladem mohou být genderové stereotypy při online překládání z jednoho jazyku do druhého. Kvalita překladu se odvíjí od množství a kvality překladů, který má daný software k dispozici. Pokud tedy většina překladů, ke kterým se překladač dostane, bude přikládat hezkou tvář spíše ženám než mužům. Bude větu „Má hezkou tvář“ překládat jako „She has a pretty face“ a na hezké mužské rysy úplně zapomene. Setkáme se s tím i u oblíbeného Google Translate. 

Příklady stereotypního propojení přívlastků na základě pohlaví podle AI v Google Translate
Příklady stereotypního propojení přívlastků na základě pohlaví podle AI.

Náborový algoritmus Amazonu, který se neujal

O něco praktičtější příklad nevyvedeného použití AI je náborový algoritmus Amazonu. V roce 2014 začal Amazon vyvíjet interní systém AI pro zefektivnění jejich náborového procesu. Systém se měl na základě životopisů minulých uchazečů naučit rozeznat kvalitní kandidáty, analyzovat příchozí životopisy a vybírat nové zaměstnance. Velmi rychle se však zjistilo, že systém hodnotí kandidáty na technické pozice genderově zaujatým způsobem. Zjistilo se, že systém penalizuje všechny životopisy, které uvádějí, že žadatelkou je žena. Přestože v životopis nebyla explicitně informace o pohlaví uvedena, umělá inteligence ženy vyřazovala například na základě informace, že uchazečka navštěvovala vysokou školu určenou výlučně pro ženy. I přes snahy zvrátit zaujatost systému, Amazon neuspěl a náborový systém poháněný umělou inteligencí nebyl v praxi použit.

Jak se chyby AI dotýkají marketingu?

AI se propisuje do naprosté většiny odvětví a průmyslů a marketing není výjimkou. Rychlé výpočetní systémy zefektivňují zpracování dat, umožňují nám více poznat naše zákazníky a cílit na ně kampaně. Algoritmy ovlivňují řazení produktů, političtí marketéři podle AI analýz připravují kampaně kandidátům, kteří ovlivňují politiku i naši budoucnost. Potenciál pozitivního využití ale i negativního zneužití nebo chyby je v marketingu stejně přítomný jako v jiných odvětvích. V lepším případě tak špatně zacílíte kampaň, v tom horším vaše aplikace navede zákazníka zajet přímo do lesního požáru, jako se tomu stalo u aplikace Waze. Při aplikaci AI do marketingu a produktů proto není ideální automaticky přijímat všechny technologické novinky, ale také je vhodné zvážit různá rizika, která s sebou AI přináší. Protože i dobře opečovávané značky se mohou kvůli AI dostat do potíží a pokazit si tak svou opečovávanou image, například umístěním v The AI Incident Database.

Riziko nežádoucích účinků a odpovědnost

Nakonec je nutné dodat, že nikdy problém nenastane bez člověka, který program umělé inteligence vytvoří, dodá mu data a případně jeho výsledky přijme. I proto probíhá rozsáhlá diskuze o tom, kdo by reálně měl nést odpovědnost za rozhodnutí, která umělá inteligence vykonává. Jsou to programátoři, kteří umělou inteligenci vytvoří? Je to subjekt (např. společnost Meta), který AI algoritmus využívá? Než se na tyto otázky odpoví v rámci legislativy, je na každém z nás zvážit vliv, dopady a rizika, které na nás umělá inteligence má a nepřijímat ji slepě optimisticky.

Jak citovat?

HÁJKOVÁ, Karolína. LACKOVÁ, Karin. Umělá inteligence slibuje lepší zítřky, ne vždy je ale vše ideální. Filip Thein, editor. In: Markething [online], 2022. ISSN 1805 – 4991. Dostupné z: https://markething.cz/kdyz-se-to-ai-nepovede

Zdroje:

https://www.quantcast.com/blog/bias-in-ai-understand-the-implications-for-marketing-and-advertising/

https://eu.usatoday.com/story/tech/news/2017/12/07/california-fires-navigation-apps-like-waze-sent-commuters-into-flames-drivers/930904001/

https://chiefmartec.com/2020/10/martech-show-episode-5-avoiding-bias-bs-ai/

https://scroll.in/article/991275/google-translate-is-sexist-and-it-needs-a-little-gender-sensitivity-training

https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G

https://www.oreilly.com/radar/what-to-do-when-ai-fails/

Continue Reading

Absolventka MKPR a Strategické komunikace, doktorandka na FSV, která se nadchne pro každý zajímavý projekt a téma. Kariérně se profiluje v PR a ve zdravotnictví.

More in Komunikace

To Top