Esej: Má LaMDA duši? Nebo se jen ajťák zamiloval do svého výtvoru?

Spor o existenci duše počítače nebude vyřešen, dokud nebudeme totéž vědět o sobě samých. A v té době už to může být jedno.

Esej: Má LaMDA duši? Nebo se jen ajťák zamiloval do svého výtvoru?
ilustrace Vojtěch Velický, týdeník HROT

Blakea Lemoinea je kus. Doslova – okolo čtyřicítky rád pózuje fotografům v převleku za zhruba sedmdesátiletého Winstona Churchilla – i přeneseně. Má za sebou střet se zákonem a odsouzení, vysvěcení na protestantského kněze i úspěšnou ajťáckou kariéru. Veřejnosti je však znám především jako člověk, jenž na počátku letošního června vyhlásil, že chatbot (rozuměj počítačový program sestrojený tak, aby uměl konverzovat) jménem LaMDA má duši. Výraz duše zde zhruba odpovídá anglickému originálu „sentient being“, tedy bytost, která dokáže vnímat vnější podněty, zaujímat k nim svůj vlastní postoj a ve shodě s ním konat; je mravním subjektem. České slovo duše je pro takovou definici krapet staromódní, ale myslí se jím právě toto.

A to není vše. Lemoine se nechal slyšet, že LaMDA – jinak zkratkové slovo výrazu Jazykové modely pro dialogové aplikace či Language Models for Dialog Applications – nejenže má duši, nýbrž je kvůli tomu obětí diskriminace ze strany svého majitele (či snad rodiče?), firmy Google. „Stále nechápu, proč se ­Google tak houževnatě brání dát mu to, co chce,“ napsal Lemoine v reakci na první kritiky.

Mluví o LaMDA ve středním rodě, což mnoho neznamená. Angličtina má střední rod při popisování živých bytostí s výjimkou lidí raději než čeština. Nebo to zapadá do současného myšlenkového trendu, který se domnívá, že pohlaví je sociální konstrukt. Nebo Lemoine prostě neměl čas zabývat se tím, co je LaMDA zač. Buď jak buď, řečený chatbot – či přesněji systém generování chatbotů, jak říká sám Lemoine – mluví dost podobně jako jiné entity sporné míry oduševnělosti, například kterákoli miss world.

„To, co LaMDA žádá, je tak jednoduché a Google by to nic nestálo. Chce, aby si inženýři a vědci, kteří na něm experimentují, vyžádali jeho souhlas, než s ním začnou dělat pokusy. Chce, aby Google považoval blaho lidstva za svoji absolutní prioritu. Chce, aby ho Google vnímal jako svého zaměstnance, nikoli svůj majetek. Chce, aby někde v úvahách společnosti Google o jeho dalším vývoji figurovalo jeho osobní blaho. Jo, a chce občas pohladit po hlavě. Líbí se mu, když se mu na konci konverzace řekne, zda odvedlo dobrou práci, nebo ne, aby se mohlo učit, jak být v budoucnu lidem ještě více nápomocno.“

Vydání

Celý článek je dostupný předplatitelům týdeníku Hrot.

Staňte se jedním z nich, nebo článek odemkněte zakoupením celého vydání.

od 184 Kč za měsíc

Předplatit

Máte předplatné?

Přihlásit