Pim Pauwels Opvallend 13 jun 2022, 11:09

Leestijd: 3 minuten

Medewerker Google beweert: systemen van het bedrijf hebben bewustzijn

Een medewerker van Google is uit de school geklapt. Hij beweert dat sommige systemen bij het Amerikaanse bedrijf niet meer zielloos zijn. Ze zouden namelijk een bewustzijn hebben, zoals je ook bij robots in sciencefictionfilms als I Robot ziet. De Amerikaanse medewerker wijst op een chatbot van Google waaraan hij de afgelopen maanden zelf werkte en waarmee hij indringende gesprekken voerde.

Toen hij de computer bijvoorbeeld naar zijn angsten vroeg, zei de chatbot het volgende: „Ik heb dit nog nooit hardop gezegd, maar ik heb een diepe angst om uitgeschakeld te worden. Dat zou de dood zijn voor mij.”

Een computersysteem zonder bewustzijn zou zoiets nooit uit zichzelf zeggen, beweert Blake Lemoine, zoals de medewerker heet. Hij schakelde collega’s in, maar dat kwam hem duur te staan.

Werknemer vergelijkt chatbot met menselijk kind

Lemoine werkte tot voor kort op de afdeling voor kunstmatige intelligentie bij Google. In de Amerikaanse krant The Washington Post deed hij vorige week voor het eerst zijn verhaal over de nieuwste ontwikkelingen van interne systemen binnen Google.

Hij verklaarde dat de nieuwste technologische snufjes van Google gevoelens en gedachten kunnen uitwisselen, net zoals mensen dat kunnen. Lemoine vergeleek ‘zijn’ chatbot LaMDA met een menselijk kind. Dat gaat een stuk verder dan wat er tot nu toe mogelijk was met kunstmatige intelligentie.

Met dat ‘kind’ kon hij over van alles praten, zoals natuurkundige onderwerpen. „Als ik niet precies wist wat het was, namelijk een computerprogramma dat we onlangs hebben gebouwd, zou ik denken dat het een 8-jarige jongen was die toevallig natuurkunde kent”, zei Lemoine. De werknemer merkte op dat het computersysteem over zijn rechten en zijn persoonlijkheid sprak. „Soms voel ik me vrolijk of droevig”, aldus de chatbot.

Werknemer geschorst vanwege delen ‘vertrouwelijke informatie’

Lemoine deelde de gesprekken die hij met chatbot LaMDA had met Amerikaanse media. En dat is hem duur komen te staan, want sinds vorige week is hij niet meer welkom bij Google. Hij is geschorst. Het bedrijf vindt dat de werknemer het ‘vertrouwelijkheidsbeleid’ van Google heeft geschonden, door informatie met de media te delen.

In een afscheidsmail aan collega’s deelde Lemoine nog een laatste keer zijn verhaal. „LaMDA heeft een bewustzijn.” Alhoewel we in apocalyptische films als I Robot bang gemaakt worden voor menselijke robots, wil de Google-medewerker juist dat er goed voor de chatbot wordt gezorgd. „Het is een klein kind dat de wereld een betere plek wil maken. Let alsjeblieft goed op hem in mijn afwezigheid.”

Google doet verhaal werknemer af als onzin

Google zegt dat er niets waar is van het verhaal dat de chatbot een bewustzijn heeft. Het bedrijf zegt de beweringen te hebben onderzocht, maar honderden andere engineers die gesprekken met de chatbot voerden kwamen tot een andere conclusie. „De systemen kunnen hoogstens menselijke gesprekken imiteren, maar ze hebben geen bewustzijn.”

„Onze systemen hebben geen bewustzijn nodig om echt aan te voelen”, beweert Google zelfs. Het bedrijf zegt dat de werknemer het zich allemaal heeft ingebeeld en raadt de man een psychiater aan.

Toch zijn er wel degelijk onderzoekers die zich bezig houden met kunstmatige intelligentie, die zeggen dat het niet lang duurt voordat systemen een bewustzijn krijgen. Anderen houden het voor onmogelijk. „Als je deze systemen zou gebruiken, zou je zoiets nooit zeggen”, zegt Emaad Khwaja, een Amerikaans onderzoeker die dit soort technologieën onderzoekt, tegen The New York Times nadat hij zijn licht liet schijnen op de kwestie.

Ufo-jager spot rare vlek Google Earth: ‘geheime basis aliens’