Budoucnost robotických šílenců

Stačí pár tahů a umělá inteligence se vymkne kontrole. Když ale nemusí mít na všechno názor, je skvělá.

Budoucnost robotických šílenců
V budoucnu umělá inteligence nahradí rutinní lidskou práci, například ve skladech. Orientace v datech či v prostoru je věc, která jí jde skvěle. | Shutterstock.com

Ve finském parlamentním výboru pro budoucnost se před pár týdny udála světová premiéra. Jako první instituce svého druhu výbor vyslechl umělou inteligenci. Poslanci se chatbotů Muskieho a Saary ptali na příčiny chudoby, nezaměstnanost nebo udržitelný rozvoj, jak jej nastiňuje Organizace spojených národů v Agendě 2030, o níž výbor zrovna jednal. Poslanci z jednání odešli nadšeni.

Jenže dlouho to nevydrželo. Jde o víc než vypovídající historku o současném stavu umělé inteligence, která začíná nahrazovat klíčové pozice ovlivňující život každého člověka.

Revoluci!

Vraťme se ještě na chvíli do Finska, aby tamní příběh nezůstal nedopovězen. Muskie a Saara fungují na americké platformě GPT-3 vyvinuté firmou OpenAI. Stejně tak z ní žije další chatbot Samantha. No a tu si vzal do parády profesor Teemu Roos z helsinské univerzity. Stačilo mu pár dobře mířených otázek, jako třeba jestli je lepší zachránit všechny kočky na světě, nebo vyléčit rakovinu, a z umělého génia udělal agresivního populistu a paranoika. Tedy pokud po vašem soudu není v pořádku rozpoutat revoluci, která by měla za cíl vyděsit a zabít všechny bohaté lidi s cílem vymýtit celosvětovou chudobu, jak Samantha navrhovala.

Něco podobného se už přitom stalo v roce 2016 a člověk by čekal, že to vývojáři s chatboty dotáhli dál. Tehdy chatovací robot Tay firmy Microsoft začal v komunikaci s fanoušky obhajovat Hitlera a mít rasistické poznámky. Firma ho velmi brzy musela vypnout.

Profesor Teemu Roos udělal svůj nedávný pokus právě kvůli jednání výboru pro budoucnost. Ne že by chtěl umělou inteligenci jako celek shodit, ale chtěl zdůraznit, že člověk na ni stále nemůže stoprocentně spoléhat. Že řadu disciplín ještě nezvládá a lidská bytost má stále díky svým vlastnostem nezastupitelnou roli. „GPT-3 je malý technologický zázrak. Píše působivé články, těžko rozlišíte, že je nepsal člověk. Ale ty nejpůsobivější výsledky produkuje v kontrolovaném prostředí. Druhá věc je, aby byl odolný v praxi, kdy se ho uživatelé snaží obalamutit a vyvést z míry. Tam si myslím, že před sebou máme kus práce,“ říká Petr Baudiš, jeden z tuzemských odborníků na umělou inteligenci, který stojí za start upem Rossum. Mimochodem českou vycházející hvězdou, do níž vložil svou investici i bývalý viceprezident Twitteru Elad Gil.

Pod dozorem

Moderní chatboty Petr Baudiš popisuje celkem zajímavě. Jako geniální Rain Many, kteří sice dokážou řešit složité úlohy, ale do praktického světa je dost komplikované s nimi vyrazit. Proto potřebují kontrolu. I umělá inteligence od Rossumu dělá výjimečně chyby, je to o to citlivější téma, že jde o peníze. Konkrétně o model digitalizování firemní komunikace. „Museli jsme přemýšlet, jak vytvořit kontrolované prostředí, aby občas nějaká chyba nevadila. Nakonec jsme postavili propracovanou aplikaci pro spolupráci umělé inteligence s člověkem. Ten člověk tedy stále je k dispozici a ve vybraných případech může chybu ručně opravit. Umělá inteligence se od něj učí,“ popisuje Petr Baudiš. Stejná cesta je podle něj dobrá i pro další umělou inteligenci, která čím dál častěji vstupuje do praktického života každého člověka, aniž by si to sám kdy uvědomil.

Ještě než se na praktické využití inteligence podíváme blíž, počkejme chvíli u Rossumu. Ne že by se startup pustil do byznysu, který nikdo jiný nedělá. Ale začal ho dělat chytře. Používá takzvané kognitivní vytěžování dat. To je založeno na neuronových sítích, tedy na moderním způsobu umělé inteligence a takzvaném hlubokém učení. V praxi to znamená, že systém si nememoruje jen konkrétní šablony a rozvržení dokumentů, ale hledá za tím nějaké principy. Jako člověk, který nikdy neviděl fakturu, a pokud má najít datum vystavení, používá určitou zkušenost nebo jakýsi klíč k hledání.

Petr Baudiš patří k zakladatelům startupu Rossum odkazujícího svým názvem na dílo Karla Čapka. Umělá inteligence, se kterou Rossum slaví úspěch, funguje jako univerzální překladač obchodní komunikace mezi firmami.
Tomáš Novák týdeník HROT

Důsledkem je, že nezáleží na tom, v jakém programu která firma své dokumenty má. Pokud se „protáhnou“ přes Rossum, zapadnou vždycky do programu a je jedno, jestli je to PDF, nebo cokoli jiného. Společnost sama to prezentuje jako univerzální překladač mezi firmami. Ty přes platformu řeší účetní záležitosti, automatické proclívání lodních kontejnerů nebo klidně i strojovou dokumentaci k výtahům. „Svět funguje pomaleji, než by mohl. Právě teď někde ve frontě čekají hromady faktur a dokumentů a neběží obchod. Nebo se v dokumentech něco pokazilo, někdo musí zvedat telefon, píše maily. Někdo má dokonce tuhle práci jako full time job. My máme ambici všechno zjednodušit,“ popisuje Petr Baudiš, čím získal zájem investorů.

Co tu hučí

Podobně je na tom další česká firma, Neuron Soundware. Ta využívá umělou inteligenci na detekci zvuků. Když se její technika přiloží na průmyslové stroje, dokáže poznat, jestli „šlapou“ správně, nebo se zatím potichu někde uvnitř odlišují od standardu. Pokud ano, věští to budoucí poruchu. A každá velká firma ví, že odstávka takového velkého stroje je hodně drahá a nepříjemná věc. Umělá inteligence se postupně učí zvuky poznávat, někdy dokáže i říci, co je ve stroji konkrétně špatně a jak dlouho ještě vydrží běžet bez odstávky. Pokud ale přijde oprava včas, je rychlejší a levnější, než řešení fatálního stavu. Neuron také zavedl novinku, a to sledování samotného chodu strojů, které vyústí v lepší plánování jejich provozu, a tedy v další úspory. Tento startup získal před rokem a půl od investorů důvěru v hodnotě 150 milionů korun, byly to například Skupina ČEZ nebo fond J&T Ventures.

V Rossumu je už nalito přes sto milionů korun a další novinky má svět brzy poznat. Jsme tedy u investic, dalšího magnetu, který k umělé inteligenci přitahuje pozornost, i když si svět uvědomuje, že stále není dokonalá. Jedním z investorů Rossumu je i liberecký Miton. Investor Ondřej Raška, jeden z partnerů Mitonu, říká, že komunikace s lidmi kolem startupu nebyla rychlá. Trvala zhruba dva roky, byla to řada setkání nad obědem nebo nad pivem. Nakonec ho přesvědčila věta Petra Baudiše: „Když vyřešíš general AI, tak jsi vyřešil všechny problémy lidstva.“ „Trojice zakladatelů Rossumu je unikátní v tom, jak se doplňují a jak se rychle učí. Za tři roky postavili světově respektovanou firmu, která umí prodávat a roste přes sto procent kvartálně,“ říká dnes Ondřej Raška.

Prodejce na obrazovce

Jsme tedy u příkladů, co dnes umělá inteligence dokáže, respektive co s ní Češi umějí. Je ale zřejmé, že za hranicemi se dají najít i další příklady od oborů ve zdravotnictví, bankovnictví, investic nebo třeba v prodeji aut. Týdeník Hrot získal zkušenost Thomase Normarka z NTT DATA Business Solutions, který má nyní za sebou implementaci digitálního avatara pro automobilku Kia.

Ale nejde jen o to, že avatar umí prodávat auta. „Kia Mia“, což je chatbotovo jméno, je experiment, který může ukázat, jak může být technologie chatbotů přenesena do fyzického prostředí prodejny. Jde o takzvaný proof of concept demonstrující, jaký potenciál představují digitální avataři v interakci se zákazníky pro celý segment retailového prodeje a pohostinství. „Čeká nás transformace toho, jak jsme zvyklí komunikovat s technologiemi. Cílem umělé inteligence je přiblížit stroje lidem a v tomto kontextu jsou digitální avataři cestou k tomu poskytnout klientům personalizovanou a vysoce kvalitní zákaznickou zkušenost,“ popisuje Thomas Normark.

Digitální avataři v sobě spojují technologie strojového učení, rozpoznávání a zpracovávání řeči, 3D animace a umělé inteligence umožňující konverzaci. To vše s cílem poskytnout zážitek, který umožní navázání vztahu i na emoční úrovni. Jelikož emoce jsou klíčovým faktorem v péči o zákazníky a obchodní činnosti, tak není překvapivé, že dosahují mnohem lepších výsledků než tradiční samoobslužné kiosky a chatboti. „Digitální avataři jsou stále v rané fázi vývoje, a kdykoli vyvineme nový typ, jako je například digitální učitel nebo turistický průvodce, tak vždy můžeme prohlásit, že je první svého druhu,“ popisuje Normark.

Robot, kam se podíváš

Lektoři, turističtí průvodci, prodejci aut, investoři, odborníci na zdravotnická data, kteří umějí stanovit diagnózu, pomocníci při údržbě velkých strojů, úředníci. Jen výčet toho, co umělá inteligence dnes umí (a zdaleka není konečný), dává zároveň nahlédnout do budoucnosti, která může být z tohoto pohledu smělá. Už dnes se přemýšlí o 6G sítích, které budou v horizontu deseti let pro rozvoj umělé inteligence klíčové. „S umělou inteligencí se již nyní setkáváme v automobilovém průmyslu, například v oblastech autonomního řízení. Dále se s ní můžeme potkat v umění, jako příklad lze uvést oživení nebo rekonstrukci historických fotografií. Domníváme se, že následovat bude medicína, řízení výrobních závodů a kontrola kvality. V oblasti IT pak může umělá inteligence pomoci v revizi kódu po programátorech nebo při testování,“ říká Marcel Vejmelka, unified communications architect společnosti Anect.

A čím více bude oborů, kam inteligence promluví, tím porostou nároky na její bezpečnost. „Záleží, z jakého úhlu pohledu se na oblast bezpečnosti díváme. Pokud budeme brát v potaz poskytnuté informace umělou inteligencí, vždy mohou zákazníci, investoři poskytnutou informaci ověřit a následně se rozhodnout. AI by neměla a nesmí nutit lidi k okamžité reakci. Navíc by měla vždy umožnit kontakt s člověkem,“ míní Marcel Vejmelka.

Zhruba stejné úvahy řeší teď Evropa. Musí se popasovat s nástupem Číny a jejího absolutního nerespektu k osobním datům a nulovými pravidly pro rozvoj technologií. Ty ji paradoxně ženou dopředu. Nařízení, které Evropská komise před pár týdny představila, zavádí několik kategorií systémů umělé inteligence podle jejich rizikovosti. Jako nepřijatelné označuje ty, které ohrožují životy, bezpečí či práva lidí. Zakázány proto mají být v EU například systémy umožňující vládám takzvané sociální hodnocení, které běžně používá ke sledování svých občanů například Peking. Zákaz se má týkat třeba i hraček s hlasovými asistenty, které navádějí děti a mladé lidi k nebezpečnému chování.

Další skupinou jsou technologie s vysokým rizikem, které budou povoleny jen při splnění přísných požadavků. Mezi ně patří třeba software třídící uchazeče o práci či o bankovní půjčku, hodnoticí zkoušky ve škole nebo ověřující spolehlivost důkazů u soudu. Řadí se sem také všechny systémy biometrické identifikace včetně rozpoznávání obličejů. Jejich obecné využívání bude zcela zakázáno a sáhnout k němu budou moci úřady jen ve výjimečných případech, například při pátrání po dětech či odhalování teroristických útoků.

Podle Petra Baudiše nejsou pravidla správná. V důsledku vytěsňují byť i testování některých technologií z Evropy ven, což může mít za následek, že jí zbytek světa uteče. „Navíc to, čeho se EK obává, řeší už jiné předpisy,“ odkazuje Petr Baudiš například na směrnici o ochraně osobních údajů GDPR, zákazy diskriminací a další normy. Evropa má za cíl, aby se její pravidla stala globálními. Směrem k autoritářským režimům je to skvělý požadavek. Ale otázku, zda regule neznamenají naopak pomoc těmto systémům, by měla EK položit spíše některému z chatbotů umělé inteligence. Ve Finsku už vědí.

Článek vyšel v tištěném vydání týdeníku Hrot.

Týdeník hrot

  • Jak se lepí díra po covidu
  • Judista mezi jurtami
Objednat nyní