Komentáře
Hračky plné umělé inteligence: ví o dětech více než jejich rodiče?
Dnešní děti se rodí do technologického světa, který z velké části ovlivňuje umělá inteligence. Není výjimkou, že předškoláci brouzdají na internetu za pomoci smartphonů rodičů nebo že školáci dělají úkoly za pomoci Alexy. Zabudovaná umělá inteligence se dokonce čím dál více objevuje přímo ve smart hračkách. Některé z nich už sklidily vlnu kritiky. Měli bychom se začít bát, že se ocitáme v době, kdy ví hračky o dětech více než jejich rodiče?
Kde všude je AI?
Přestože je skoro nemožné o slovní spojení umělá inteligence (AI) nezakopnout v téměř jakémkoliv médiu, mnohdy je její vnímání zkreslené, a proto je dobré začít definicí. Na webu Evropského parlamentu se dozvíme, že umělá inteligence je: „schopnost strojů napodobovat lidské schopnosti, jako je uvažování, učení se, plánování nebo kreativita. AI umožňuje technickým systémům reagovat na vjemy z jejich prostředí, řešit problémy a dosahovat určitých cílů. Zabudovaný počítač přijímá data, která byla již připravena, nebo jsou sbírána pomocí vlastních sensorů a kamer. Ty následně vyhodnotí a reaguje na ně. Systémy umělé inteligence jsou schopné pracovat samostatně a také měnit a přizpůsobovat své jednání na základě vyhodnocení efektů předchozích akcí.”
Přestože může tato definice působit, že umělá inteligence je něco běžnému člověku vzdáleného, opak je pravdou. Vyhledáváte-li si něco na internetu nebo máte-li Facebook, umělá inteligence vám přizpůsobuje výsledky vašeho hledání nebo scrollování. Pokud jste někdy koupili něco na internetu, dost pravděpodobně vám následně AI upravila zobrazované reklamy. V těchto případech se jedná o tzv. softwarovou umělou inteligenci.
AI může být zabudovaná v nějakém produktu. Často skloňovaným využitím AI jsou autonomní vozidla, která jsou stále pro běžného člověka hudbou budoucnosti. AI v jiných produktech má ale mnoho z nás již dávno doma. Chytré hodinky, vysávací roboti nebo smartphony jsou pro mnoho jedinců naprosto běžnou součástí života.
The Age of AI: And Our Human Future
Tři velcí myslitelé, E. Schmidt, H. Kissinger a D. Huttenlocher, ve své nové knize The Age of AI: And Our Human Future poukazují na mnoho potenciálních dopadů využívání AI. „Umělá inteligence se naučila vyhrávat šachy pomocí tahů, které lidští velmistři nikdy nevymysleli. Další AI objevila nové antibiotikum analýzou molekulárních vlastností, kterým lidští vědci nerozuměli,” poukazují na pozitivní výsledky využívání technologie. Druhým dechem je ale v anotaci dodáno: „Umělá inteligence přichází online ve vyhledávání, streamování, medicíně, vzdělávání a mnoha dalších oblastech, a tím mění způsob, jakým lidé prožívají realitu.” Autoři v knize poukazují nejen na skvělé počiny, které vznikly za pomoci AI, ale také na potenciální zneužití v rámci války nebo na další etické a morální otázky. Měli bychom se v rámci etiky zaměřit na AI produkty cílené na děti?
Chytré Tamagotchi, nebo sofistikovaný robot?
AI je mnohdy spojovaná s humanoidními roboty, kteří se pokusí ovládnout svět jako ve Schwarzeneggerově Terminátorovi. Robotí vzhled má například stolní mazlíček EMO, který si s vámi zahraje hry, rozsvítí světla v bytě nebo vás ráno vzbudí. Toto vylepšené Tamagotchi si vesele pochoduje po vašem pracovním stole, zatímco vše snímá AI širokoúhlou kamerou.
Zajímavé jsou produkty značky Sphero, která je mimo jiné autorem modelu droida ze Star Wars BB-8, jenž funguje na základě mobilní aplikace a reaguje na hlasové a pohybové příkazy pomocí zpracování přirozeného jazyka a rozpoznávání gest. Doplňkem pro droida je tzv. Force Band, chytrý náramek, který detekuje gesta paží a rukou. Těmi pak majitel droidovi přikazuje a simuluje tak „Sílu“ z franšízy Star Wars.
Kámoška Cayla, která byla v Německu zakázaná
Je potřeba se oprostit od představy, že všechny chytré hračky vypadají jako roboti. Když se zmíní děsivé hračky, pravděpodobně se vám v mysli vybaví panenka Chucky nebo Annabelle, které ve vás zasely semínka pediofobie. Mezi spouštěče úzkosti této fobie patří například představa oživlé panenky. Přestože Hello Barbie od Mattela a My Friend Cayla od Genesis Toys nejsou zatím schopny samy myslet ani aktivně konat, jejich responzivní schopnosti jsou z pohledu bezpečnosti osobních dat obdobně děsivé.
My Friend Cayla je interaktivní panenka, která nahrávala děti, reagovala na ně a vedla konverzace. Kromě rozhovorů s dětmi nahrávala rodiče, sourozence a další lidi v okolí a měla právo data sdílet se třetími stranami. Bohužel se také ukázalo, že není příliš těžké hračku hacknout. Všechny Cayliny problémy vedly k tomu, že v únoru 2017 Německá spolková síťová agentura oznámila rodičům, že jsou povinni „zničit“ jakoukoli Caylu. Norská spotřebitelská rada kritizovala, že panenka umožňuje použití shromážděných dat z řeči dítěte pro cílené reklamy a jiné komerční účely. V sousedním Švédsku panenku zařadili do Museum of Failure, ve kterém jsou vystaveny exponáty nepovedených produktů a služeb.
Zdroj: https://w1nnersclub.com/news/my-friend-cayla-doll/
Barbína, která sbírá data
Obdobný problém byl s Hello Barbie od Mattela. Ta dokonce zvládala dětem vytvořit speciální profil, podle kterého se individualizovaly další konverzace s panenkou. Tyto konverzace byly ukládány a analyzovány softwarovou společností ToyTalk. Podle článku NBC News bylo u Často kladených otázek o ochraně osobních údajů, které již nejsou dostupné, uvedeno, že ToyTalk: „Může sdílet určité přepisy nahrávek se společností Mattel, které budou použity výhradně za účelem umožnění společnosti Mattel, aby nám pomohla vylepšit skriptování Hello Barbie. (…) Zvukové nahrávky jsou sdíleny s dodavateli třetích stran, kteří pomáhají s rozpoznáváním řeči, umělou inteligencí a provádějí výzkum a vývoj.”
Strach vycházející z ukládání dat a jejich potenciálního zneužití vedl ke vzniku kampaně #HellnoBarbie na sociálních sítích. Tato kampaň poukazovala na rizika vyplývající z ukládání dat a byla doplněna seznamem osmi důvodů, proč by měla být panenka stažena z prodeje. Tato panenka se na pultech objevila v roce 2015 a ve stejném roce byla její výroba přerušena, na Ebay je ale stále dostupná ke koupi. Podle recenzí na Amazonu, které se objevují i několik let poté, co byla výroba panenky přerušena, ale mnohým rodičům problematické otázky ohledně soukromých dat nejen jejich dětí vrásky nedělají.
Potenciální zneužití dat
Jaká jsou rizika takového zapojení AI do dětských životů? Kromě personalizované reklamy ušité na míru pro konkrétní dítě, WeForum poukazuje na dlouhodobější rizika: oblíbené hračky si děti nosí s sebou kamkoliv jdou, mluví s nimi, nebo s nimi dokonce spí. Kdo ví, zda firma vyrábějící hračky neprodá data firmě, ve které bude dítě v dospělosti chtít pracovat? Zneužije majitel firmy u pohovoru informace a strachy, které uchazeč jako dítě svěřil medvídkovi nebo panence? Jak moc ovlivní personalizované zobrazování obsahu a reklamy vývoj dítěte? Způsobů zneužití dat je mnoho a nabízí se otázka, zda na potenciální řešení problémů bude stačit unijní Right to be Forgotten.
Pomoci může Smart Toy Awards
Zajímavým projektem zabývajícím se tématem chytrých hraček je iniciativa Smart Toy Awards, která vznikla ve spolupráci se Světovým ekonomickým fórem. Na webu Ocenění Smart Toy Awards se dozvíme, že se zaměřila na používání chytrých hraček, s cílem šířit povědomí a pomoci společnostem vytvářet etičtější, odpovědnější a důvěryhodnější technologie pro děti a mládež.
Hodnotitelé se nezabývají jen ochranou osobních údajů a kybernetickou bezpečností, ale i dalšími atributy. Patří mezi ně například přístupnost. Tedy to, zda je hračka dostupná dětem s fyzickým, mentálním postižením a poruchami učení, včetně neurodiverzity, a dětem mluvícím jinými jazyky než angličtinou a z jiných kultur. Dále pak konkrétní způsob využití AI, transparentnost a v neposlední řadě přiměřenost věku, zda se jedná o zdravou hru a má pozitivní vliv na rozvoj vývoje. Toto ocenění jistě může uklidnit nejisté rodiče a motivovat výrobce k etickému přístupu k výrobě smart toys, jistě ale nemá žádné vymáhací prostředky na hračky, které kritéria nesplní.
Zákaz smart toys je boj s větrnými mlýny
Nejen děti jsou dnes obklopeny technologií AI, která jim doporučuje pohádky na Netflixu a Youtube, nebo činí jejich hračky interaktivnější. Od začátku prodeje Hello Barbie uběhlo 6 let, umělá inteligence a další technologie se dále vyvíjí a zapojují se do našich životů. Ať se nám to líbí, nebo ne, lze očekávat, že v životech dětí budou mít tyto technologie stále větší roli. Vývoj urychlila i pandemie, protože rodiče hledali nové způsoby učení pro své děti v izolaci.
Bojovat proti zapojování technologií do dětských životů je tak spíše bojem s větrnými mlýny. Vzhledem k možným pozitivním vlivům na učení a také především vzhledem k budoucí konkurenceschopnosti v IT světě by byl plošný zákaz smart hraček asi spíše nesmyslný krok. Navíc hračky mohou motivovat a zjednodušovat vzdělávání, a proto není naprostý technopesimismus na místě. Na druhou stranu je důraz na legislativní úpravy chránící před zneužíváním dat a neustálým pozorováním dalších generací jistě na místě. Hračky by už nyní neměly porušovat evropské GDPR, případně americké COPPA, ale je otázka, zda se neobjeví další etické otazníky, na které dosavadní legislativa nebude stačit.
Jak citovat tento článek?
HÁJKOVÁ, Karolína. Hračky plné AI: ví o dětech více než rodiče?. Karolína KUBŮ, editor. In: Markething [online], 2022. ISSN 1805–4991. Dostupné z: https://markething.cz/smart_hracky
Zdroje:
https://www.juniperresearch.com/press/smart-toy-revenues-grow-almost-200pc-by-2023
https://www.smithsonianmag.com/innovation/strange-beauty-epic-fail-180967228/
https://www.amazon.com/Barbie-DKF74-Hello-Doll/dp/B012BIBAA2
https://www.natlawreview.com/article/smart-toys-and-how-they-may-be-invading-our-privacy
https://www.rug.nl/sciencelinx/maatschappij/generation-ai
https://www.smarttoyawards.org/index.html
https://www.cnbc.com/2021/07/11/future-ai-toys-may-be-smarter-than-parents-and-less-protective.html
https://gdpr.eu/right-to-be-forgotten/
https://www.forbrukerradet.no/siste-nytt/connected-toys-violate-consumer-laws/
https://www.forbrukerradet.no/siste-nytt/cayla-forbudt-i-tyskland-pa-salg-i-norge/
https://www.weforum.org/projects/generation-ai
https://www.unicef.org/innovation/GenerationAI
https://markething.cz/ladislav-kristoufek-o-umele-inteligenci
https://www.bbc.com/news/av/technology-31059893
https://www.bbc.com/news/world-europe-39002142
