Beeld door H. Heyerlein (via Unsplash)

Beeld door H. Heyerlein (via Unsplash)
© CC0 (Publiek domein)

Wanhoop doet leven!

Sta je sceptisch tegenover innovaties, dan word je al snel weggezet als conservatieve angsthaas. Maar als het gaat om technologische ontwikkelingen, dan kan een beetje vrees geen kwaad. Integendeel zelfs, zegt Hans Schnitzler.

Angst is een slechte raadgever, zo luidt de volkswijsheid. En uiteraard, wanneer angst verlamt en tot defaitisme leidt, is een dergelijk gemoed inderdaad weinig productief. Maar er bestaat een afgeleide van angst die wel degelijk functioneel is, te weten: schroomvalligheid, een zekere aarzeling ingegeven door bange vermoedens. Zeker wanneer het aankomt op geavanceerde technologie is een gezonde dosis schroom aan te bevelen. Sterker nog, terughoudendheid op dit vlak getuigt van verantwoordelijkheidszin.

In het debat over kunstmatige intelligentie (KI) zijn de techno-sceptische geluiden niet van de lucht. De belangrijkste reden hiervoor is dat de gevolgen van bovenmenselijke intelligenties niet te voorspellen vallen. Dergelijke systemen kunnen ongekend krachtig worden, dusdanig krachtig zelfs dat het niet uit te sluiten valt dat zo’n superintelligentie – eentje die misschien wel duizend keer slimmer is dan alle mensenbreinen bij elkaar – tot de slotsom komt dat de aarde beter af is zonder de mens.

Ook ingewijden als Bill Gates en Stephen Hawking waarschuwden al voor de gevaren van KI

In zijn boek Superintelligentie (2014) noemt de vooraanstaande KI-expert Nick Bostrom, verbonden aan de Universiteit van Oxford, dit ‘het existentiële risico van de kunstmatige intelligentie’. Hij vergelijkt KI-ontwikkelaars en onderzoekers met kinderen die met een bom spelen en stelt dat de komst van een superintelligentie een uitdaging is waar we niet klaar voor zijn. Een behoorlijk huiveringwekkende illustratie hiervan werd enige tijd geleden geleverd door de whizzkids van Facebook. Toen twee van hun robots met elkaar begonnen te communiceren in een taal die men niet kon ontcijferen, werd besloten ze het zwijgen op te leggen. 

Ook ingewijden als Bill Gates, oprichter van Microsoft, en de gerespecteerde wetenschapper Stephen Hawking waarschuwden al voor de gevaren van KI. Bostrom, Gates en Hawking: het zijn even eminente als maatgevende voorbeelden van welbegrepen techniekschroom, zou je kunnen zeggen.

De angsttroefkaart

Desalniettemin reageert menig denker nogal besmuikt op deze vormen van techniekschroom. Maar al te vaak en even gemakkelijk zet men deze vorm van terughoudendheid weg als angst voor snelle veranderingen. Een goed voorbeeld hiervan werd onlangs geleverd door misschien wel de invloedrijkste Nederlandse techniekfilosoof Peter Paul Verbeek. In een interview met NRC Handelsblad lichtte hij onlangs zijn visie op technologie toe. Hierin trok hij niet alleen – en voor de zoveelste keer – de angsttroefkaart, maar hij beweerde bovendien dat nee zeggen tegen technologieën net zo onmogelijk is als nee zeggen tegen de zwaartekracht.  

Nu is het zeker zo dat de mens nauw verweven is met techniek en dat technologische ontwikkelingen zich nauwelijks laten indammen, zoals Verbeek stelt. Maar om daaruit de conclusie te trekken dat elke vorm van technologische vernieuwing net zo onvermijdelijk is als een natuurkracht, lijkt mij een even absurde als onhoudbare gevolgtrekking. Uiteindelijk is techniek een vorm van toegepaste kennis waarmee de mens probeert zijn omgeving te beheersen. Het is en blijft mensenwerk. Althans, voorlopig nog.

"Steeds meer insiders luiden de noodklok: we zijn bezig ons vermogen om te denken, te willen en te oordelen uit te besteden"

Helemaal bont maakte Mark Deuze het, hoogleraar Mediastudies aan de Universiteit van Amsterdam. In een reactie op de niet aflatende stroom publicaties — zowel fictie als non-fictie — van auteurs die zich zorgen maken over de wijze waarop onze technotoop gestalte krijgt, plaatste hij een stukje op zijn weblog. Daarin stelt hij dat dergelijke auteurs geen mediawetenschappers zijn, zoals Deuze zelf, maar voornamelijk witte (!) burgers van boven de 40 die hun eigen angsten — zoals hun angst voor de jeugd (ja, het staat er echt) — projecteren op machines. Het zou natuurlijk kunnen dat Deuze de ironische stijlfiguur matig beheerst, maar ik vrees dat we zijn stukje toch ernstig moeten nemen en begrijpen als een typisch en enigszins schrijnend voorbeeld van academisch dedain met, in dit geval, een hoog surrealistisch gehalte.

Verkopen we onze ziel?

Hoe het ook zij, juist omdat samenlevingen en innovaties een haast onontwarbare kluwen vormen, is technologiekritiek in wezen een vorm van maatschappijkritiek. Doe je een kritische benadering van tech af als angsthazerij of technofobie, dan maak je maatschappijkritiek zo goed als onmogelijk. En wie maatschappijkritiek onmogelijk maakt, draait een democratisch beginsel de nek om. Uiteraard is dit niet de intentie van Verbeek, Deuze en gelijkgestemden. Maar het is op z’n minst het onbedoelde en kwalijke neveneffect van een wetenschappelijk discours dat technoscepsis gelijkstelt aan angst voor verandering in het algemeen en angst voor technologie in het bijzonder.

Een handvol titanen in de technologie – Facebook, Amazon, Google – werpt zich op als de poortwachters van alle menselijke kennis en informatie die voorhanden is. Daarmee zijn deze tech-reuzen in toenemende mate bepalend voor onze oriëntatie op de werkelijkheid, een oriëntatie die hoe langer hoe meer door ondoorzichtige algoritmen gestuurd wordt. Steeds meer insiders (ontwerpers, techneuten en managers die het Silicon Valley-ethos van binnenuit kennen) luiden de noodklok: we zijn bezig ons vermogen om te denken, te willen en te oordelen – het hele domein van de menselijke geest – uit te besteden. Hun boodschap in één zin samengevat: we zijn feitelijk onderdeel van een megalomaan, door commerciële belangen gedreven outsourcingsproject van menselijke capaciteiten, een project met in potentie catastrofale gevolgen voor onze vrijheid en handelingsbekwaamheid. 

We moeten niet bang zijn om in worst case-scenario’s te denken

Juist daarom is er behoefte aan een kritische theorie die onderzoekt welke machtsstructuren, belangen en ideologieën ten grondslag liggen aan de verwoede disruptie- en innovatiedwang van de tech-industrie. Wie zich beperkt tot het op zichzelf relevante onderzoek naar de werking van onze artefacten, loopt het risico een dode hoek te ontwikkelen. Oftewel: blind te zijn voor wat er zich onder de oppervlakte afspeelt. Onze technologische hulpmiddelen zijn namelijk, hoe nuttig en belangrijk ook, allesbehalve neutraal. De mens- en wereldbeelden en wensdromen van de makers zitten erin versleuteld. Het technologisch-industrieel complex is in essentie een cultureel en politiek fenomeen, een complex dat waarden en normen produceert, en moet dus in termen van macht doorgrond worden.

Er is hoop

Kortom, wantrouw academici die met hun hoofd in theoretische en abstracte sferen verkeren als het gaat om technologie. Enerzijds lijken ze het product van een tijdgeest die voortdurend hamert op de plicht om optimistisch dan wel positief te blijven. Anderzijds bewegen ze zich voort binnen een academische discipline – of zo je wilt: bubbel – die te weinig oog heeft voor de sociaal-economische logica die ten grondslag ligt aan de technologische revolutie. 

De vraag bijvoorbeeld of een slimme machine bewustzijn kan ontwikkelen is op dit moment in de techniekgeschiedenis waarschijnlijk net zo relevant als de vraag of een onderzeeër kan leren zwemmen. Naast academisch onderzoek is het noodzakelijk om onze verbeeldingskracht aan te spreken en moeten we niet bang zijn om in worstcasescenario’s te denken. Dat is een kwestie van verantwoordelijkheid en engagement, precies het soort betrokkenheid dat grote literaire geesten – of bange, witte burgers van boven de veertig, om in het Deuze-jargon te spreken – als Aldous Huxley, George Orwell en meer recent Dave Eggers aan de dag hebben gelegd.  

En tegen diegenen die in hun techniekschroom worden weggezet als pessimisten of bange lieden die de vooruitgang haten, zou ik willen zeggen: durf te wanhopen! Want het moment van welbegrepen wanhoop is tevens het moment van mogelijke verandering en dus van hoop. Welbegrepen wanhoop is daarmee misschien wel de ultieme vorm van optimisme.   

Deel dit artikel, je vrienden lezen het dan gratis

Over de auteur

Hans Schnitzler

Gevolgd door 341 leden

Filosoof, publicist, auteur van Het digitale proletariaat (2015) en voormalig columnist voor de Volkskrant.

Volg Hans Schnitzler
Verbeteringen of aanvullingen?   Stuur een tip
Annuleren