Je umělá inteligence skutečně nebezpečnější než atomová bomba?
Mluvící stroje spustily bitvu, jejíž fronty rozhodnou o pokroku, světovládě i povaze lidstva
Senátor Richard Blumenthal mluvil dobře. „Příliš často vídáme, co se stane, když technologie předstihnou regulaci,“ řekl americkému Senátu 17. května na úvod slyšení na téma rozvoje umělé inteligence. „Bezuzdné využívání dat, šíření dezinformací a prohlubování společenských nerovností. Viděli jsme, jak algoritmicky dané předsudky mohou napomáhat diskriminaci a jak nedostatek transparentnosti může podkopávat důvěru veřejnosti. To není budoucnost, kterou chceme.“
Ačkoli by jeho slova většina kolegů podepsala, byla mezi nimi v tu chvíli patrná jistá nervozita. Blumenthalův mírně chraplavý hlas, jenž z jeho 77 let neubírá ani den, zněl stejně jako vždycky. Ale senátor sám seděl nehybně – a zjevně mlčel. Jeho řeč za něj napsal, nahrál a přehrál stroj zvaný ChatGPT, nadaný umělou inteligencí. K dispozici jej má každičký člověk na světě s připojením k internetu. Když Blumenthal později řekl, že by sám nepoznal, že se jedná o deepfake, a že „je to divné, až strašidelné“, nijak nepřeháněl.
Taylor Swiftová nadává
Senátoři se ten den sešli, aby si vyslechli, co si o tom myslí muž, jenž patří stran vývoje řečeného stroje k nejdůležitějším. Sam Altman je šéfem firmy OpenAI, která chatbota sestrojila, nakrmila jej daty a pravidly a loni v listopadu jej vypustila do světa.
ChatGPT se stal okamžitě hitem. Technologičtí analfabeti (jako autor těchto řádek) jej zvali na rande a smáli se, jak se mašina vykrucuje. Zdatnější začali mluvit na své známé hlasem svého oblíbeného zpěváka (obzvlášť frekventovaným terčem je v tomto směru Taylor Swiftová, v reálu mírně aseptická popová hvězdička, jejíž hlas dnes pod vedením nezbedných mladých mužů pronáší ty nejstrašlivější vulgarity, na jaké si vzpomenete). Studenti jej nechali psát eseje a lidé se zálibou v hudbě mu ukládali komponovat a nahrávat písničky.
Především však Altmanovi konkurenti-kolegové z branže skřípali zuby, protože je OpenAI předběhla. Co hůř, předběhla je pouze ve smyslu masového rozšíření ChatGPT. Nejméně dvě firmy, Facebook a Google, totiž měly podobně fungující technologie k dispozici již dříve.
Medvědi ve vesmíru
Dva týdny před nástupem ChatGPT dokonce firma Meta, provozovatel Facebooku, WhatsAppu a Instagramu, postavila vlastní podobný stroj Galactica, původně určený pro účely vědeckého výzkumu. Byl schopen psát vlastní články, řešit matematické problémy, generovat počítačový kód či anotovat obrázky.
Galactica (podobně jako ChatGPT) však nebrala fakta příliš vážně: vymýšlela matematické důkazy, chybně uváděla historická data a někdy bohapustě bájila. Jeden zlomyslný uživatel ji například přiměl, aby mluvila o historii rozšíření medvědů ve vesmíru; na otázku, kdo řídí Silicon Valley, zase Galactica odpověděla, že Steve Jobs. Slovo „nevím“ buď neuměla, nebo se jej nenaučila používat; inu, robot přebírá charakterové vlastnosti pána.
vygenerováno umělou inteligencí Fotor-ai
Tady se Marku Zuckerbergovi, šéfovi Mety, sečetla bezmála dvě desetiletí pohrdavé zpupnosti, s níž svoji firmu vedl: nešťastnou Galactiku zavalila za její omyly strašlivá kritika. (Když se později stalo totéž stroji od OpenAI, relativně malé firmy bez zlé minulosti, nikdo neprotestoval.) Společnost, která neblaze proslula šířením dezinformací prostřednictvím svých sociálních sítí, to vydržela pouhé tři dny; potom Galactiku z internetu zase stáhla.
Na konci zimy odstartoval závod o to, kdo získá na vznikajícím trhu s generativní umělou inteligencí nejširší ramena. Jeho zásadní charakteristikou je strašlivá rychlost. „Ještě před rokem bych nevěřil, že se něco takového může dít,“ řekl novinářům Eric Schmidt, dlouholetý člen vedení Googlu.
Jeden den Google uvedl, že brzy vydá experimentálního chatbota jménem Bard. (Ten později selhal, když se měl veřejnosti představit – na otázku vygeneroval zjevně chybnou odpověď. Z hodnoty Alphabetu, mateřské firmy Googlu, to vymazalo sto miliard dolarů.) O den později představil Microsoft, jenž investoval třináct miliard dolarů do OpenAI, nový internetový vyhledávač a webový prohlížeč. Nový Bing pohání stejná technologie, jakou využívá ChatGPT. Meta však zůstala stranou. Se svou pověstí si nemohla dovolit nechat veřejnosti dostupný stroj, o kterém nikdy nevíte, jestli nelže.
Amazon a Apple mezitím šly jinými cestami výzkumu umělé inteligence. Pracují na zdokonalení robotizace svých pracovišť (Amazon) a na vývoji samořiditelného automobilu (Apple). Meta již předtím vsadila na metaverzum; problém s Galactikou také nepomohl.
Meta vrací úder
Do čela závodu se tak dostala OpenAI (její dnešní hodnota čítá zhruba 28 miliard dolarů), těsně následovaná Microsoftem (částečný vlastník OpenAI) a Googlem. OpenAI v krátkém sledu zdokonalila technologii, na níž ChatGPT stojí, a zároveň zmnohonásobila počet položek, které se její modely „učí“. Poslední z nich, ChatGPT-4 (pátý je na cestě, očekávané datum vydání je někdy napřesrok), spolykal 175 miliard položek, zatímco první verze pracovala s minimem 125 milionů položek.
Za normálních okolností by taková smršť měla komukoli pozici lídra trhu spolehlivě zaručit. Jenže vývoj je zběsilý. Poslední hit spatřil světlo světa letos v březnu, když Meta uvolnila pro veřejnost kód systému známého jako LLaMA (Large Language Model Meta AI), svůj klíč k budování generativní umělé inteligence. Znamená to, že každý člověk s přístupem k internetu může dotyčný kód měnit a stavět jeho pomocí vlastní aplikace.
Meta počítá s tím, že tato možnost dodá jejímu softwaru na oblibě. Konkurence si to zjevně myslí také; Microsoft následoval její rozhodnutí stejným opatřením o měsíc později a OpenAI oznámila v půli května, že se vbrzku přidá také. To nechává Google v pozici jediného z lídrů, který stále spoléhá výlučně na své zdroje.
Ian Stoica, profesor počítačových věd na Kalifornské univerzitě v Berkeley, se domnívá, že budoucností jsou otevřené modely, které se výkonnostně „rozumně blíží“ proprietárním modelům od OpenAI a Googlu, napsal zpravodajský server The Information, specializovaný na oblast technologií. Výzkumníci to přičítají právě rozhodnutí Mety sdílet své parametry. Zatímco Google a OpenAI spoléhaly na své elitní týmy, Microsoft a Meta vsadily na masy – a zdá se, že úspěšně.
Moc je lepší než svoboda
Mírně oslabená pozice Googlu může mít paradoxně co do činění s tím, že firma má k dispozici jeden z nejschopnějších mozků v oblasti AI. Sídlí v hlavě Demise Hassabise, zakladatele firmy DeepMind. V roce 2014 ji prodal Googlu – ale neochotně. Zakladatel Googlu Larry Page jej přesvědčil k prodeji až slibem, že DeepMind bude chráněna před jakýmkoli komerčním tlakem, aby se mohla soustředit na jediný cíl. Tím bylo vytvořit software, který se (nejméně) vyrovná lidské inteligenci.
Od oné transakce v hodnotě 400 milionů liber se Hassabis staral, seč mohl, aby Page svůj slib dodržel. Šéf DeepMind zašel dokonce ještě dále – chtěl pro svoji firmu v rámci Alphabetu zavést zvláštní právní status, podobný neziskové organizaci s nezávislým představenstvem, jež mělo na budovanou technologii dohlížet.
Tyto ambice však s nástupem OpenAI a ChatGPT vzaly rychlý konec. Sundar Pichai, Pageův nástupce ve funkci šéfa Alphabetu, oznámil, že DeepMind spojí s vlastní laboratoří přes AI, Google Brain.
Hassabis se tedy z Londýna přestěhoval do Kalifornie. Vzdal se tak nezávislosti DeepMind výměnou za větší moc a vliv na budoucnost AI – nejen v Googlu, nýbrž potažmo na celé planetě. Sám vede nově vytvořenou divizi Google DeepMind s jasným posláním vyvíjet „obecné systémy umělé inteligence, jež lze integrovat do nových produktů a služeb“, řekl Pichai listu Financial Times.
To je důležité. Zatímco svět se dnes s vervou zabývá generativní AI (tou, která zvládá konverzaci, malování obrázků, a dokonce webový design podle rukou načrtnutého schématu), konečným cílem je sestrojit software, který bude umět všechno jako lidé. Jako každý počítačový program je i generativní AI závislá na tom, co jí programátor řekne. Chatbot statisticky zkoumá vztahy mezi slovy, ale „nerozumí“ jim. Hassabis a Pichai míří ještě výš.
Jak jsou daleko? Čestná odpověď je, že nikdo neví. V Googlu se našel softwarový expert, jenž přísahal, že chatbot je citlivá bytost. Parta výzkumníků z Microsoftu zase prohlašuje, že jejich software je schopen vnímat „velmi podobně jako lidé“. Většina jejich kolegů nebere takové hlasy vážně; prozatím.
Digitální mysl
Což přivádí řeč zpět na začátek, ke slyšení v americkém Kongresu. Senátoři na něm zpovídali šéfa OpenAI Sama Altmana; chtěli vědět, co všechno AI umí či může umět. Nebývá zvykem, aby důležitá figura špičkového odvětví na vrcholu lidského poznání chodila za politiky s žádostí o přistřihnutí vlastních křidélek.
A právě to Altman udělal. „Nejhorší obavy mám z toho, že my, náš obor, technologie, způsobí světu značné škody. Myslím, že pokud se s touto technologií stane něco zlého, může to být doopravdy zlé,“ řekl.
Nebyl první. Na konci března sepsaly těžké váhy z oboru otevřený dopis všem pracovištím-laboratořím AI s žádostí, aby na půl roku pozastavily veškeré pokusy. „Pokročilá umělá inteligence by mohla představovat hlubokou změnu běhu života na Zemi a měla by být plánována a řízena s přiměřenou péčí a zdroji,“ praví se v dopise, jejž podepsali akademici i byznysmeni z branže (mezi jinými Elon Musk a spoluzakladatel Applu Steve Wozniak).
„Bohužel k této úrovni plánování a řízení nedochází, když v posledních měsících se laboratoře s umělou inteligencí věnují nekontrolovatelnému závodění ve vývoji a aplikaci stále výkonnějších digitálních myslí, kterým nikdo – ani jejich tvůrci – nerozumí, neumí jejich konání předvídat či spolehlivě ovládat,“ uvádí dopis.
Kmotr otočil
Snad ještě větší poprask způsobil muž, k jehož úsudku celý obor vzhlíží natolik, že se pro něho vžila přezdívka „kmotr umělé inteligence“ (a jenž dopis nepodepsal, protože jej považoval za příliš radikální). Pětasedmdesátiletý Geoffrey Hinton odstoupil na začátku května z funkce viceprezidenta Googlu – nechtěl být neloajální vůči zaměstnavateli – s tím, že lituje své práce, protože její výsledky jsou příliš nebezpečné (viz box). Je to podobné, jako kdyby papež konvertoval k islámu.
„Utěšuji se normální výmluvou: kdybych to neudělal já, udělal by to někdo jiný,“ citovaly Hintona newyorské Timesy. „Je těžké představit si, jak můžete zabránit lidem zlé vůle ve zneužití AI ke zlým věcem,“ řekl.
vygenerováno umělou inteligencí Fotor-ai
Právě takový úkol přísluší regulátorům (protože za ně to nikdo jiný neudělá). Pokud můžete vzít jako vodítko nedávnou minulost, není jim co závidět: minimálně od roku 2016 je zjevné, že sociální sítě rozsévají zlo, ale regulační orgány vyspělého světa nenašly způsob, jak tuto jejich schopnost omezit. Každá síť si tak sama stanoví pravidla, jimiž se chce řídit; výsledky podle toho vypadají.
Politici-regulátoři jsou si toho handicapu vědomi. Evropský parlament 11. května schválil návrh eurozákona o umělé inteligenci, první svého druhu na světě. Jeho součástí je seznam „vysoce rizikových“ oblastí využití AI; firmy, které se v nich angažují, budou podléhat přísnějšímu bezpečnostnímu režimu (pokud zákon projde Evropskou radou). Na poslední chvíli doznal změn: „Když byl navržen zákon o AI, neexistovala žádná generativní umělá inteligence ani velké jazykové modely,“ řekl Gerard de Graaf, hlavní digitální vyslanec EU ve Spojených státech. Není však jasné, proč by technologický vývoj měl najednou zpomalit; existuje proto obava, že za ním bude legislativa kulhat chronicky.
Američtí regulátoři jsou ještě pomalejší. „Již nyní vidíme několik rizik. Rozšiřující se přijetí AI riskuje další osifikaci dominantního tržního postavení velkých zavedených technologických firem,“ píše pro The New York Times Lina Khanová, šéfka mocného federálního antimonopolního úřadu (Federální obchodní komise, FTC), který hodlá jednak chránit duševní vlastnictví a jednak omezovat bezpečnostní rizika z využití technologií plynoucí. Konkrétní kroky však jsou na dlouhé lokte: teprve v květnu začali senátoři Demokratické strany připravovat zákon, který by se o regulaci AI postaral.
Paradoxně nejdál došli Číňané. Vývoj AI má od tamních politických špiček zelenou (protože v AI vidí jednu z oblastí své rivality se Západem). Zároveň mají bossové jasno v tom, že nechtějí povolit nic, co by omezovalo jejich moc. Jdou proto po jednotlivých firmách a aplikacích a vydávají zákazy ad hoc. Prozatím jim to i přes zjevnou nesystémovost prochází; jak dlouho může takový model fungovat, je jiná otázka.
Srovnání úspěšnosti jednotlivých modelů regulace AI na sebe nenechá dlouho čekat. Inherentním problémem zůstane, že se jí věnují primárně politici, kdežto technologický vývoj obstarávají ty nejlepší mozky planety.
