Het Paperclips Complex

“Ik ben zo bang” : zei de kikker,toen hij de muis zag.
De muis zong net als Guus Meeuwis : “geef me je angst” en kom naar mij toe ?
De kikker zat op het groene blad van de witte waterlelie. Als in een schilderij van Monet uit de tuinen van Giverny. Hij durfde niet van het blad in het water te plonzen. Want hij was te bang. Bang voor de denkbeeldige monsters.

De kikker durfde zelfs niet te bewegen. Hij zag de reiger, het ooievaarsnest en de loerende ogen van de uil in de boom langs de waterkant.
“Nee, ik zit hier goed” antwoordde de kikker aan de muis.

Ik moest aan dit verhaal denken toen ik een professor op Radio 1 hoorde praten over de angst dat computers de macht overnemen. Als in een Hollywoodfilm. Over kunstmatige intelligentie. Waarbij hij het klassieke voorbeeld gaf over de computer die paperclips maakte. Die deze taak zo efficiënt deed dat hij ook de fabriek ombouwde tot paperclips, het dorp, het land en vervolgens de hele wereld ombouwde tot paperclips.
Hoe hilarisch ?
Maar hoe reëel is het dat ? Kan de Computer ontsporen ?

Stel je vraagt de computer om het probleem van de overbevolking op te lossen. Zou de computer dan mensen vermoorden ?

Natuurlijk niet zou ik zeggen. Want je kan toch ethische regels meegeven van wat wel en wat niet kan. Een kunstmatig geweten bouwen. Een duidelijke begrenzing. Een grens waarbij de computer stopt als hij 10.000 paperclips heeft gemaakt. Net zoals ik stop met drinken van alcohol als ik weet dat ik nog in de auto moeten stappen. Omdat ik nog geen zelf rijdende auto bezit, die mij veilig naar huis kan brengen.

De computer is nu al slimmer als de mens. Neem de schaakcomputer of de Go-computer, die de beste spelers al verslaat in deze spelletjes. Of neem de zelf rijdende auto. Ze leren de computer om zelf te leren. En niet domweg een taak uit te voeren.

Dus je kan wachten op het moment dat de onbemande zelf rijdende auto de opdracht krijgt om een pakketje over een afstand van 100 km te bezorgen. En hij moet dan zelf uitzoeken, wat de beste route is van A naar B.

Maar terug naar de kikker op het lelieblad. Ik zou hem wensen dat hij zijn angst loslaat. Want angst is een slechte raadgever. Lekker in het water plonst. En niet meer bang is voor de reiger of de ooievaar. “Go with the Flow”. Net zoals ik meer op de zelf rijdende auto zal vertrouwen. Die mij van A naar Beter brengt zonder dat ik de BOB ben.