Vybrané články
z týdeníku The Economist

Umělá inteligence může ohrozit demokracii, ale větším rizikem jsou pořád samotní politici

Dezinformace se budou šířit ještě snáz než dosud, ale ve výsledku na tom záleží méně, než si myslíte

Donald Trump | foto mark reinstein / Shutterstock.com

Politika by měla být o přesvědčování; vždy se jí ale na paty lepila propaganda. Politici se přetvařují, přehánějí a vymýšlejí si. Všemi dostupnými kanály šíří lži na škále od nevinných po vysloveně sprosté. Antivakcinační konspirace se kdysi šířily letáky namísto podcastů. Sto let předtím, než udeřil covid-19, vedli v éře španělské chřipky odpůrci roušek dezinformační kampaň. Posílali falešné zprávy od hlavního hygienika telegramem (po drátech, ne přes smartphonovou aplikaci). Protože lidé nejsou svatí, volby se nikdy neobešly bez podvodů a pomýlených přesvědčení.

Blíží se rok 2024, v němž svět čeká série důležitých voleb, a lidem dělá starost něco nového. V minulosti byly dezinformace vždy lidským dílem. Pokroky v generativní umělé inteligenci (AI) – s modely, které dovedou vyplivnout sofistikované eseje a vytvářet realistické obrázky na základě textových podnětů – umožňují existenci uměle vyrobené propagandy. Panují obavy, že v roce 2024, kdy se k volebním urnám chystají celkem čtyři miliardy lidí z různých zemí – včetně Ameriky, Británie, Indie, Indonésie, Mexika a Tchaj-wanu –, budeme svědky masivních dezinformačních kampaní. Jak moc by se měli občané strachovat?

Jak se šíří lži

Je důležité vědět, co přesně nástroje generativní AI, jako je ChatGP, mění a co ne. Dezinformace představovaly v demokraciích problém už před jejich příchodem. Zhoubná myšlenka, že byly americké volby v roce 2020 zmanipulované, přivedla 6. ledna do Kapitolu dav demonstrantů – konvenčními prostředky ji však šířil Donald Trump, republikánské elity a konzervativní masmédia. Aktivisté Indické lidové strany (BJP) rozšiřují fámy whatsappovými vlákny. Propagandisté Komunistické strany Číny šíří své názory prostřednictvím zdánlivě legitimních zpravodajských kanálů. Nic z toho se neděje s použitím nástrojů AI.

Centralizace moci, deportace, armáda v ulicích. Co čeká USA, pokud bude prezidentem znovu Trump

„Já jsem vaše odplata!“ Exprezident Donald Trump během procesů – a před volbami – rétoricky přitvrdil

Co by mohly velké jazykové modely změnit v roce 2024? Jednou věcí je množství dezinformací: pokud se objem nesmyslů znásobí tisíckrát nebo stotisíckrát, mohlo by to lidi přesvědčit, aby volili jinak. Druhá věc se týká kvality. Hyperrealistické deepfaky mohou voliče zviklat dřív, než se podaří falešné audionahrávky, fotografie a videa vyvrátit. A do třetice je tu mikrocílení. AI může voliče zaplavit vysoce personalizovanou propagandou. Sítě dezinformačních botů by se mohly odhalovat obtížněji než aktuální dezinformační kampaně. Důvěra voličů ve spoluobčany, která v Americe klesá už desítky let, by mohla ve chvíli, kdy začnou lidé zpochybňovat úplně všechno, ještě víc utrpět.

Je to znepokojivé, ale máme důvod věřit, že AI dva a půl tisíce let starý lidský experiment s demokracií nezdecimuje. Spousta lidí se domnívá, že ostatní jsou mnohem důvěřivější než oni sami. Voliče je skutečně těžké přesvědčit, obzvlášť pokud jde o zásadní politické otázky, jako koho chtějí za prezidenta. (Zeptejte se sami sebe, jaký deepfake by dokázal změnit vaši volbu mezi Joem Bidenem a Donaldem Trumpem.) Americký multimiliardový kampaňový průmysl, který k přesvědčování voličů využívá lidi, dokáže jejich chování změnit jen nepatrně.

Nástroje k vytváření věrohodných falešných fotek a textů existují už desítky let. Přestože může generativní AI ušetřit práci trollům z internetových farem, není zcela jasné, že to byla náročnost, co omezovalo produkci dezinformací. Nové algoritmy vytvářející obraz jsou působivé, ale bez úpravy a lidského soudu mají stále tendenci produkovat fotky lidí s šesti prsty na každé ruce a personalizované deepfaky se prozatím jeví jako nemožné.

Je umělá inteligence skutečně nebezpečnější než atomová bomba?

Mluvící stroje spustily bitvu, jejíž fronty rozhodnou o pokroku, světovládě i povaze lidstva

I kdyby se tyto taktiky rozšířené o AI ukázaly jako účinné, brzy by je za své přijala spousta zainteresovaných stran: v důsledku kumulativního efektu těchto ovlivňovacích operací by kakofonie na sociálních sítích ještě zesílila, a staly by se tím pádem už dočista nepoužitelnými. Těžko se dokazuje, že nedůvěra představuje systémovou výhodu jedné strany nad druhou.

Sociální sítě, na nichž se dezinformace šíří, spolu s AI firmami tvrdí, že se na případná rizika soustřeďují. OpenAI, která vyvinula ChatGP, prohlašuje, že bude monitorovat jeho používání a bude se snažit odhalit operace související s ovlivňováním politiky. Velké platformy, jež byly kritizovány za to, že před volbami v roce 2016 šířily dezinformace, i za to, že v roce 2020 pro změnu dovolily sdílet jen máloco, se zlepšily v identifikování podezřelých účtů (byť jen velmi nerady rozhodují o pravdivosti obsahu vytvářeného skutečnými lidmi). Alphabet a Meta zakazují používání upravovaných médií v politické reklamě a říkají, že na deepfake reagují velice rychle. Jiné společnosti se snaží vytvořit technologický standard určující původ skutečných fotek a videí.

Kdo za to může

Dobrovolné regulace mají nicméně své limity a nedobrovolné v sobě nesou rizika. Modely s otevřenými zdroji, jako LLaMA od Mety, generující text, a Stable Diffusion, vytvářející fotky, se dají využívat bez dozoru. A ne všechny platformy jsou vytvořeny tak, aby si byly rovny – TikTok, společnost věnující se šíření videí na sociálních sítích, má vazby na čínskou vládu a aplikace je vytvořena tak, aby podporovala virály z jakéhokoli zdroje, včetně nových účtů. Twitter (dnes nazývaný X) omezil poté, co jej koupil Elon Musk, tým moderátorů obsahu a z platformy se stalo útočiště botů. Americký volební úřad zvažuje, že by začal požadovat, aby politické kampaně využívající uměle generované fotografie zveřejňovaly informace. To dává smysl, ale zákeřní jedinci se tím řídit nebudou.

Chaos umělé inteligence: lidé, firmy i země proti sobě vedou boj naslepo

Mluvící stroje spustily bitvu, jejíž fronty rozhodnou o pokroku, světovládě i povaze lidstva.

V Americe se ozývají hlasy volající po systému extrémní kontroly v čínském duchu. Tam musí být AI algoritmy registrované u vládního orgánu a musí určitým způsobem ztělesňovat základní socialistické hodnoty. Podobně tvrdá kontrola by Ameriku připravila o výhodu, kterou AI inovace skýtá.

Technologický determinismus, který svádí všechny slabiny lidí na nástroje, jež používají, je svůdný. A mylný. Je důležité uvědomit si, že má generativní AI potenciál narušit demokracie, ale k panice není důvod. Lidé si dokázali už před technologickým pokrokem, jehož jsme se stali svědky v posledních dvou letech, předat všemožné destruktivní a strašlivé nápady.

Americkou prezidentskou kampaň v roce 2024 zohyzdí dezinformace o vládě zákona a integritě voleb. Jejím původcem ale nebude nic tak neokoukaného jako ChatGP. Bude to Donald Trump.