Gaan algoritmes de mens regeren?

De momenteel bejubelde schrijver Yuval Noah Harari schetst in Homo Deus een toekomstbeeld, dat je wel vaker hoort. Algoritmen gaan ons leven bepalen, beheersen en zelfs overheersen. Gevoel zal er steeds minder toe doen. We gaan onze toevlucht nemen tot slimme computersystemen, die ons uiteindelijk de baas zullen worden.

Zoals wij de natuur in het verleden zijn gaan overheersen, zo zullen wij straks overheerst worden door algoritmen. Nu leven we nog in een tijd waarin ons gevoel de maatstaf der dingen is. God is dood, zo citeert hij veel moderne wetenschappers, en de enige maatstaf is de mens en zijn gevoel.

Met de komst van steeds slimmere systemen zal de 21^e eeuw een totaal ander beeld geven. De mens en zijn beleving wordt onbelangrijk. Luister maar eens naar het volgende citaat:

‘Wil je echt weten wie je bent? Laat die bergen en musea maar zitten. Heb je je DNA al laten onderzoeken? Ga dat vandaag nog doen.(…) Laat Google en Facebook je mail lezen, al je chats en berichten volgen en al je likes en je surfgedrag bijhouden. Als je dat doet kunnen de geweldige algoritmen van het Internet der Dingen je vertellen met wie je moet trouwen, wat voor beroep je moet kiezen en of je een oorlog moet beginnen.’

De mens, zo vertelt Harari, wordt beperkt door zijn emoties. Daardoor maakt hij minder goede analyses dan computers die daar geen last van hebben, een veel betere geheugencapaciteit hebben en ook helderder verbanden kan aanleggen. Nu al kent Facebook jou beter dan jezelf.

In de toekomst zal niemand meer naar je luisteren, als je met informatie komt. Je analyses zullen minder betrouwbaar zijn dan die je computer produceert. Zoals computers nu al games en schaakspelletjes winnen van de beste schakers, zo zal dat straks op alle gebieden gaan. De algoritmen die dit mogelijk maken, zullen ons gaan regeren en onze banen overnemen.

Harari schetst dit beeld niet als voorspelling, maar meer als een punt van overdenking. Willen wij dit? Is het de bedoeling dat wij straks onze individualiteit, ons menselijk bewustzijn, ondergeschikt maken aan dat wat hij het ‘dataisme’ noemt: het geloof dat data ons uiteindelijk het welzijn gaan brengen?

Harari is een geweldige schrijver. Je verveelt in zijn boeken ‘Sapiens’ en ‘Homo Deus’ geen moment. Je krijgt een prima update van de inzichten die de wetenschap regeren, en van de ontwikkelingen die ons te wachten staan. Eerst was er de religie waaraan de mens zich ondergeschikt maakte. Toen kwam het humanisme. De mens centraal, God was dood.

En nu is er dus iets waaraan we alles kunnen toevertrouwen: de data. De algoritmen. Menselijk denkwerk is niet meer nodig. We zullen steeds weer aan het kortste eind trekken. Computers componeren al, en wel zo dat mensen denken dat hun composities van Bach zelf afkomstig zijn, terwijl Bachs muziek door de luisteraars lager wordt ingeschaald. Ze schrijven ook romans en poezie. Nu nog niet goed, maar we kunnen er op wachten dat dat gaat gebeuren.

Wat Harari echter onderschat is de kracht van de gevoelswereld, de kracht van de verbeeldingszin en zeker ook de kracht van het geloof in een god. Wetenschappers mogen dan wel zeggen dat god en de ziel dood zijn, maar te bewijzen valt dit niet. Het is hun woord tegen het woord van de religieuzen.

Of de menselijke geest zich zal laten regeren door data en computers of robots, dat valt te betwijfelen. Deze Sillicon Valley fantasie onderschat de invloed van de menselijke wil en belevingswereld. De menselijke wil bestaat niet, zal Harari zeggen. Luister maar naar de neurowetenschappers. Maar ook dat is een bewering die zich moeilijk laat bewijzen.

Hoe boeiend ik Harari ook vind, want boeiend vind ik hem, hier ben ik het met hem oneens. Ik hou nog steeds de mogelijkheid open van intelligenties die ons aansturen. Een god, een hogere intelligentie of energie die iets met de mens voor heeft. Dit idee wordt tegenwoordig voor een idiotie gehouden, maar men gaat net iets te snel: het feit dat onze wetenschappers er niet in geloven, wil niet betekenen dat het niet zou bestaan. En al roepen alle ICT-profeten en dataisten dat we door algoritmen worden geregeerd, dan wil dat nog niet zeggen dat het zo is.

Misschien leiden de cyberaanvallen wel tot computerrelativisme. Is het te riskant om door te gaan zoals we dat nu doen. Of komt er een tegenbeweging tot stand die het persoonlijk contact tussen mensen van groter belang acht dan technische vooruitgang. We weten het niet. Laten we maar optimistisch blijven: ondanks alle bedreigingen zal de mens zich verder ontwikkelen in een richting die goed is voor aarde en mensheid. Als algoritmen hem daarbij kunnen helpen, zou dat mooi zijn.