Steven Mehringer: AI a technologie mne děsí i fascinují zároveň

Budoucnost mezilidských vztahů, dopad umělé inteligence na bezpečnost práce, její role v médiích, politických kampaních, a dokonce i ve válce –⁠⁠⁠⁠⁠⁠ to vše zahrnovala přednáška Stevena Mehringera na Fakultě sociálních věd UK, přesně jak sliboval název jeho projevu.

Steven Mehringer, bývalý šéf komunikační sekce NATO, léta provázel mezinárodní organizace digitální transformací komunikace a nyní působí jako mezinárodní poradce. V diskusi jsme se se studenty strategické komunikace zabývali jak jeho novinářskou kariérou (15 let v televizích NBC, ABC a FOX), tak jeho pohledem na rychlý rozvoj umělé inteligence.

První rychlá otázka. Vzpomínáte si na své první setkání s umělou inteligencí?

Miluju zpravodajství a zejména to o technických novinkách. V případě AI jsem nejdřív chtěl jen držet krok s vývojem, ale postupem času moje zvědavost rostla. Hned po představení ChatGPT jsem dostal příležitost přednášet na konferenci Forum Media a mohl jsem si vybrat vlastní téma. Umělá inteligence byla jediná věc, která mě opravdu zaujala, tak jsem ji nadnesl a jim se ten nápad líbil. Loni jsem tu o AI mluvil jediný, letos se o ní mluvilo pořád!

Vaše prezentace zahrnovala celou směs témat souvisejících s umělou inteligencí. Proč zrovna „Umělá inteligence všeho“?

Při objevování AI jsem začínal jednoduchými úkoly, kontrolou textu a obrázky –⁠⁠⁠⁠⁠⁠ prostě jsem zjišťoval, co je s dostupnými nástroji možné. Ale směřujeme do fáze, kdy je umělá inteligence integrována do téměř všech aspektů života. Zaměřil jsem se na dvě hlavní témata: důvěru v AI a široké, téměř neomezené možnosti využití této technologie. Odezva byla velmi pozitivní a stala se základem pro mé další přednášky.

Kdy jste si začal všímat, že Vás umělá inteligence zneklidňuje nebo překvapuje?

Zpočátku bylo používání umělé inteligence trochu děsivé, protože jste si vlastně nebyl jist, co se stane. Ale já se AI nikdy nebál. Spíš než cokoli jiného mě překvapovala –⁠⁠⁠⁠⁠⁠ zejména v případech, kdy si pamatovala předchozí konverzace, i když by neměla. To bylo překvapivé a dalo by se to považovat za zneklidňující, když se nad tím zamyslíte. Pokud si umělá inteligence pamatuje věci, které si pamatovat nemá, vyvolává to otázky ohledně důvěryhodnosti a spolehlivosti. Nutí vás to k zamyšlení: Jak můžeme umělé inteligenci důvěřovat, když je schopna nás oklamat?

Když už mluvíme o důvěře, myslíte si, že by umělá inteligence měla hrát nějakou roli
při vytváření vlastních etických směrnic?

Ano, rozhodně. Umělá inteligence rozumí umělé inteligenci lépe než my, takže má smysl, aby pomáhala vyvíjet své vlastní předpisy. Dovedu si představit budoucnost, kdy bude mít AI hlas v řízení, možná dokonce místo u stolu v OSN. Je to vzrušující i znepokojující zároveň, ale zdá se, že s tím, jak se AI zlepšuje, je to přirozený vývoj.

Zdá se, že vývoj umělé inteligence postupuje velmi rychle. Myslíte si, že existuje
způsob, jak ho zpomalit? Má smysl se o to vůbec pokoušet?

To je dobrá otázka, ale nemyslím si, že by nějaké zpomalení bylo reálné. I kdybychom zavedli nějaká omezení, tempo vývoje je tak rychlé, že si nejsem jistý, zda by to něco změnilo. Dříve se kapacita tradičních technologií zdvojnásobovala každých šest měsíců, ale u umělé inteligence mám pocit, že se zdvojnásobuje každé dva měsíce. Společnosti jako OpenAI neustále vydávají nové verze, to je prostě realita. Snažit se ji zpomalit může být náročnější, než si myslíme, zejména když jiné země nebo konkurenti stejná omezení dodržovat nemusí.

Promluvme si o umělé inteligenci v armádě. Jak se s ohledem na své zkušenosti
díváte na využití AI ve válce?

Sice to není úplně uklidňující, ale vojenské využití umělé inteligence je přirozeným vývojem. AI otevírá ve válčení nové možnosti –⁠⁠⁠⁠⁠⁠ například autonomní drony nebo jiné bezpilotní systémy. Armáda již tyto technologie zavádí, takže se to děje, ať se nám to líbí nebo ne. Role AI v obraně bude jen růst, a i když doufám, že se bude používat zodpovědně, historie nám ukázala, že armáda ne vždy funguje transparentně.

Jakými předpisy nebo zásadami by se podle Vás měl řídit vývoj umělé inteligence?

Věřím v zavedení jasného souboru zásad: proof of concept, proof of trust, proof of security by design a proof of standards. Tyto „důkazy“ konceptu, důvěryhodnosti, bezpečnosti a použitých standardů by mohly zajistit transparentnost a pomoci nám lépe pochopit, co umělá inteligence dokáže a co ne. Je to spíše regulace, více než omezení, která by nám mohla pomoci najít způsob jak se na rizika AI připravit a zmírnit je. Ale musíte mít na paměti, že některé země nebo organizace se mohou rozhodnout tyto pokyny nedodržovat, takže jejich prosazování v celosvětovém měřítku je náročné.

Kladete důraz na uvědomění a porozumění.

Rozhodně. Nejsem tu proto, abych slepě propagoval umělou inteligenci, ani abych ji démonizoval. Jsem zastáncem informovanosti. Lidé musí rozumět technologii, která je čím dál více součástí jejich života. Umělá inteligence přináší neuvěřitelný pokrok, ale je nezbytné, abychom se při jejím vývoji i nadále vzdělávali a zapojovali. To je vlastně hlavní poselství mých přednášek: budování povědomí, aby lidé věděli, co přichází, a mohli se do toho zodpovědně zapojit.

Zmínil jste, že Vás umělá inteligence fascinuje a zároveň děsí. Jak byste popsal svůj
celkový pohled na věc?

Sám sebe bych označil za technooptimistu. Věřím, že umělá inteligence může přinést pozitivní změny, ale jsem si vědom i rizik. Jde o rovnováhu –⁠⁠⁠⁠⁠⁠ AI je mocný nástroj a může to dopadnout jakkoli, podle toho, jak ho budeme používat. Jsem optimista, ale opatrný, a myslím, že právě takové myšlení potřebujeme, abychom se posunuli vpřed.

Jak citovat

KACLOVÁ, Markéta. Steven Mehringer: AI a technologie mne děsí i fascinují zároveň In: Markething [online], 2024. ISSN 1805 –⁠ 4991. Dostupné z: https://markething.cz/steven-mehringer