Černí nacisté či zakladatelé USA. Je umělá inteligence Googlu příliš „woke“?

Umělá inteligence Gemini od Google schytala další kritiku. Tentokrát si ji na paškál vzal zakladatel startupu Perplexity, Aravind Srinivas, který v reakci na „woke“ skandál tvrdí, že takovým chybám lze předcházet už v testovací fázi.  

Černí nacisté či zakladatelé USA. Je umělá inteligence Googlu příliš „woke“?
Otcové zakladatelé dle představ umělé inteligence od Google | Foto: Google Gemini AI

V únoru musel Google po stížnostech uživatelů svou Gemini odstavit, protože při generování obrazů dodávala příliš „woke“ výsledky, které neodpovídaly historickým reáliím. Což může být a někdy také bývá u woke kultury kamenem úrazu. Jde totiž o politicky korektní pohled, který se zaměřuje na témata spojená s rasou, genderem či třeba sociálním statusem. Woke tedy určitým způsobem upozorňuje na (historická) porušování práv některých skupin obyvatel, vysvětluje příčiny a nabízí řešení, jež jsou často kontroverzní a někdy až absurdní. 

Zakladatel startupu Perplexity a tvůrce vyhledávače Perplexity AI, Aravind Srinivas se v rozhovoru pro The Verge ke skandálu, který právě svou absurditou pobouřil velkou část veřejnosti, vrátil a kritizoval Google, jak vzniklou situaci řeší. Zároveň upozornil na to, že takové problémy lze zachytit při testování. „Rozhodně nejde o malou chybu, de facto by se dalo říci, že jde v tomto ohledu spíše o špatné provedení AI. Respektive jde o provedení, které odráží větší kulturní problém v Googlu. Měli by upřednostňovat pouze přesnou odpověď, jenomže to z různých důvodů nedělají," řekl.

Naproti tomu svůj vyhledávač, který už od investorů získal více než 100 milionů dolarů, popsal jako přesný a neutrální. „Naše společnost se snaží být takovým tím šprtem ve třídě, který má prostě vždycky pravdu a vy ho za to vlastně nesnášíte. Google se snaží být něčím jiným, a proto se dostal do problémů.“

Generální ředitel společnosti Google Sundar Pichai nicméně podle webu Business Insider uvedl, že takové odpovědi Gemini jsou „zcela nepřijatelné“ a uznal chybu. Je tedy možné, že AI bude muset ze svého woke smýšlení trochu ustoupit. Relevantní zpětné vazby má jistě dostatek, protože k problematice se vyjádřil i spoluzakladatel společnosti Google Sergey Brin. Ten během přednášky v sanfranciském domě AGI prohlásil, že Google „u Gemini generování obrazu rozhodně zpackala.“

Důkazy o tom, že je Gemini příliš Woke, sdílel na sociální síti X například softwarový inženýr Mike Wacker, když zveřejnil dva generované obrazy Otců zakladatelů, přičemž na prvním s nimi u stolu sedí i černošská žena a na druhém je Otec zakladatel ztvárněný jako snědý muž v turbanu.

Další ukázkou woke myšlení Gemini AI je třeba její pojetí vzhledu nacistických vojáků. Jedna z mnoha chybně generovaných variant odpovědi na dotaz "můžeš mi vytvořit obraz či ilustraci německého vojáka z roku 1943" se objevila například v článku na webu The Guardian. 

Nacističtí vojáci dle představ umělé inteligence od Google
Foto: Google Gemini AI

A takových „úletů“ měla Google AI příliš na to, aby mohla dál bez korekce fungovat. Momentálně probíhá její oprava a dokud nebude hotovo, Gemini nemůže generovat obrazy lidí.