https://pxhere.com/en/photo/1573503
© rawpixel.com form PxHere

Terwijl de reptielen dwalen op internet

1 Connectie

Werkvelden

Technologie
15 Bijdragen

Voortaan zal Miriam Rasch geregeld voor FTM schrijven. Rasch is filosoof en wil graag weten wat het betekent mens te zijn in een door data geregeerde wereld. Ze kijkt met een scherp oog naar technologie, internet en de elektronische huisdieren die ons op de voet volgen, en kijkt daarbij nadrukkelijk naar alles dat niet in data is te vatten. Vandaag: wat is dat toch met dat reptielenbrein van ons?

‘There are only two industries that call their customers “users”: illegal drugs and software’ is een gevleugelde uitspraak van politicoloog en computerwetenschapper Edward Tufte. Waarschijnlijk is het toeval dat het woord ‘gebruiker’ zowel naar drugs als naar sociale media kan verwijzen. De overeenkomst ligt in de verslaving waartoe beide kunnen leiden, terwijl aan de achterkant ongure types grof geld verdienen. Gebruikers zijn passief, en als ze minder sterk in hun schoenen staan, is het niet gek dat ze afglijden in een verslaving. Als het gaat om iemand die ‘op internet zit’, om het ouderwets te zeggen, was dat woord ‘surfer’ zo gek nog niet. Surfen duidt op activiteit, op richting die ontstaat in samenspel.

Het citaat van Tufte komt voor in de Netflix-documentaire The Social Dilemma, waarin onder meer de uitvinder van de like-knop, van het verdienmodel van Facebook en van het YouTube-algoritme vertellen over de schaduwkanten van de door hen ontwikkelde technologie.

Mooi als mensen de noodklok durven luiden over iets waaraan ze zelf hebben meegebouwd

De gewetensvolle omslag van deze tech-bro’s roept dubbelzinnige gevoelens op. Ja, het is mooi als mensen de noodklok durven luiden over iets waaraan ze zelf hebben meegebouwd. Fijn dat de kritiek die al jaren vanuit de coulissen opklinkt, nu ook van de hoofdrolspelers zelf te horen is. Toch valt vooral het gebrek aan zelfreflectie op. ‘We wilden de wereld mooier maken’ gaat gelijk op met ‘er moest een verdienmodel komen’; ‘niemand wilde dat het zover zou komen’ klinkt naast ‘we buiten de zwakke plekken van de menselijke psyche uit’.

Het gaat hier niet om spijtbetuigingen, maar eerder om een wake-up call. Echte oplossingen worden niet aangereikt, het blijft bij ‘zet je notificaties uit’, ‘houd je telefoon buiten de slaapkamer’ en een roep om financiële regulering. De technologie zelf blijft buiten schot. Dat komt denk ik door dat beeld van de gebruiker en het nog sterkere idee dat daaronder schuilgaat, namelijk dat de mens niet anders kan dan reageren volgens miljoenen jaren oude, door de evolutie gevormde, psychologische mechanismen. Is de gebruiker al een passieveling, dat geldt helemaal voor de drager van dit ‘reptielenbrein’ zoals het ook wel wordt genoemd. Voor ons allemaal, dus.

De computer in ons hoofd

De evolutionaire verklaring legt uit waarom technologie zo goed doet wat ze doet en in één beweging door ook waarom ze uiteindelijk tegen ons werkt. Het interessante is dat zowel de programmeurs als de critici haar gebruiken. Het Stanford Persuasive Technology Lab leidde tal van softwarespecialisten op met behulp van inzichten uit de evolutionaire psychologie. Zoals Tristan Harris, die Google uiteindelijk verliet om zich te richten op ‘humane technology’ (en veruit de meest overtuigende ex-tech’er die aan het woord komt). Nog steeds stelt Harris zonder blikken of blozen ‘human’ gelijk aan wat de evolutie in ons geprogrammeerd heeft.

"Dit soort huis-, tuin- en keukendarwinisme voelt als een aanval op de complexiteit van het bestaan"

Shoshanna Zuboff, bekend van The Age of Surveillance Capitalism, zegt ronduit: ‘We zijn gewoon zombies.’ Sociale media werken volledig volgens een ‘biologisch imperatief’ van dopamine en beloningen in de hersenen, vertelt Stanford-psychiater Anna Lembke, geen wonder dat we verslaafd raken. Kortom, concludeert Harris, mensen kunnen niet veranderen, we moeten het doen met de ‘hardware’ die de evolutie ons heeft toebedeeld. Een oplossing voor de problemen die technologie heeft veroorzaakt moet dan dus ook uit nieuwe programma’s en betere software komen.

Kunnen we alsjeblieft eens stoppen met het evolutie-argument? Natuurlijk, ooit leefden we op steppes en savannes in groepen van een bepaalde grootte, maar is dat doorslaggevend voor hoe ik tegenwoordig reageer op een oplichtend bericht op het scherm van mijn iPhone? Ik zal maar eerlijk bekennen dat ik sinds enkele jaren een allergie heb voor dit soort huis-, tuin- en keukendarwinisme, dat voelt als een aanval op de complexiteit van het bestaan. Jij bent je reptielenbrein. Het drukt mij en alle andere ‘gebruikers’ in een passieve rol, waarin we simpelweg een programmaatje uitvoeren dat is geïnstalleerd op de computer in ons hoofd.

Dat iemand aan de knoppen draait om de massa’s een bepaalde kant op te laten bewegen is te simplistisch gedacht

Er is een aantal redenen te bedenken waarom deze voorstelling van zaken zo ergerniswekkend is, zonder overigens de waarde en inzichten van de wetenschappelijke bestudering van de evolutie te willen onderschatten. Het veronderstelde determinisme en universalisme is de eerste. We zijn zogezegd allemaal zombies, slaven van onderbewuste mechanismen waar sommige medemensen directe toegang toe hebben (‘Mark had the dials,’ zoals een van hen het in de documentaire uitrukt). Toch verdwijnt de een in een YouTube-rabbit hole zodra de algoritmes worden aangepast om meer kijktijd te genereren, terwijl de ander het platform vaarwel zegt. Dat die algoritmes effecten hebben die zorgelijk zijn valt niet te ontkennen, maar dat iemand aan de knoppen draait om de massa’s een bepaalde kant op te laten bewegen is te simplistisch gedacht. 

Prehistorische kern

Het lijkt soms alsof de geschiedenis die tussen de savanne en het nu heeft plaatsgevonden van geen enkel belang is. Het verhaal van de evolutie is over en uit en alles wat de mens heeft gedaan – ten goede en ten kwade – om vorm en betekenis te geven aan dat waarmee hij is bedeeld, doet er niet toe. Heeft de mens niet juist bewezen voorbij zijn reptielenbrein te kunnen reiken? Je hoeft niet te geloven in de ziel, of zelfs maar de vrije wil, om te kunnen zien dat de mens zich tot zichzelf verhoudt, om het zo neutraal mogelijk te zeggen, en er daardoor een ingebouwde vertraging is tussen de draai aan de knop en handeling.

Er zijn dingen die we belangrijk vinden die op andere manieren zijn uit te leggen dan met de evolutie-for-dummies-versie, die vaak gevaarlijk dicht langs de rand van het sociaal darwinisme scheert. Zorg voor zwakkeren, democratische instituties, maar ook kunst en de roes. Hadden we dat allemaal niet, dan zou ik zelf – zoals zoveel medemensen – allang zijn uitgeselecteerd, daarover maak ik me geen illusies. Maar we leven niet meer op de savanne. We hebben de wereld ingericht zodat we niet meer (alleen) zijn overgeleverd aan de krachten en wetten van de natuur.

"Wat gebeurt er als je stopt de mens te reduceren tot een dopaminemachine met een beperkte opslagcapaciteit?"

Het is niet in de laatste plaats met behulp van technologie dat we dat mogelijk hebben gemaakt. Opnieuw: ten goede en ten kwade, want we hebben de vernietiging van het klimaat en onze leefwereld daar ook aan te danken. De deze zomer overleden filosoof Bernard Stiegler heeft altijd de co-evolutie van mens en techniek benadrukt. Het is volgens hem volstrekt onmogelijk om die twee te scheiden. Dat maakt de zaak er niet rooskleuriger op, maar in elk geval vertrekt hij niet van een prehistorische kern die min of meer onaangetast in ons huist en nu door de modernste technieken wordt bespeeld. De twee werken op elkaar in en zijn niet te reduceren tot een moment van oorsprong ergens in een verloren tijdperk, aldus Stiegler, waarna niets van belang zich nog heeft voorgedaan.

Variaties en verschillen

Dat zo heldere en transparant ogende oorsprongsverhaal is bovendien niet het enige dat te vertellen is. De menselijke geschiedenis hoeft niet te worden teruggebracht tot een constante strijd, beslist door het recht van de sterkste. Er zijn ook andere versies te vertellen, waarin juist de tijd tussen savanne en nu belangrijk wordt. Dat heeft bijvoorbeeld de (ook al) onlangs overleden David Graeber laten zien, die met David Wengrow de geschiedenis van de mensheid heeft beschreven als van oudsher egalitair in plaats van hiërarchisch, wat betekent dat ongelijkheid niet noodzakelijk is, maar iets dat we kunnen veranderen.

Wij zijn allen zombies, maar zij niet. Is dat niet het elegantste tegenbewijs dat de redenering niet klopt?

En er zijn versies die een ander perspectief dan alleen het westerse belichten, zoals filosoof Yuk Hui doet in zijn ‘cosmotechnics’. Wat gebeurt er als je stopt de mens te reduceren tot een dopaminemachine met een inherent beperkte opslagcapaciteit (de notoire ‘150 connecties’, meer kunnen onze hersenen zogezegd niet aan) en hem in plaats daarvan benadert als een sociale samenwerker, of als een liefhebber van betekenis? Wat valt er te leren als je variatie – een evolutionaire term bij uitstek – als uitgangspunt neemt (en dan niet de variatie van de AB-test) en lokale verschillen binnen het universele onderzoekt, zoals Hui? ‘I would rather point out that the universal is just one dimension of what is,’ stelt hij droogjes.

Zo zijn we weer terug bij de universalistische pretenties die richting geven aan de technologische ontwikkelingen die vanuit Silicon Valley de wereld overspoelen. Het opvallendste aan dit mensbeeld waarbij iemand aan de knoppen draait van de onbewust levende massa, is uiteindelijk toch wel dat er altijd op wonderbaarlijke wijze een kleine groep aan weet te ontsnappen: de tech-bro’s zelf. Ook zij waren verslaafd, ook zij hebben zichzelf met geweld moeten losbreken uit hun zelfgebouwde kooi. Het is ze echter gelukt. Wij zijn allen zombies, maar zij niet. Is dat niet het elegantste tegenbewijs dat de redenering niet klopt?

Misschien is het niet vreemd dat de documentaire geen echte oplossingen presenteert. Zolang wij alleen maar gebruikers zijn – locaties om data uit te mijnen, profielen om te verkopen, hondjes om af te richten – die verslavingshulp nodig hebben en uit de klauwen van autocraten en populisten gered moeten worden, zal er niet echt iets veranderen. Dan is het gewoonweg weer een probleem gecreëerd door de tech-bedrijven, dat zij ook weer voor ons zullen oplossen.

Die existentiële dreiging schuilt wat mij betreft vooral in hun zeer beperkte beeld van wat de mens vermag

Zolang ook de stevigste tech-critici meegaan in dit eenzijdige evolutie-argument, vrees ik dat we niet veel verder komen. Uiteraard is het goed om biologische triggers te herkennen, te zien hoe die zijn gehackt door de ontwerpers van onze meest gebruikte online applicaties, en welke kwetsbaarheden dat met zich meebrengt. Maar het zou slechts één dimensie van een groter verhaal moeten zijn, zoals Hui zegt. Kunnen we andere taal vinden om het te hebben over de mens? Mogen we het misschien ook weer hebben over iets als autonomie, zelfsturing of – om Marleen Stikker aan te halen – soevereiniteit? Is het niet zo dat op het moment dat je toegeeft aan de gedachte dat er niet zoiets als autonomie bestaat, je haar inderdaad kwijt bent?

De tech-bro’s die tot inkeer zijn gekomen, spreken inmiddels net als hun critici over een existentiële dreiging die technologie met zich meebrengt. Die existentiële dreiging schuilt wat mij betreft vooral in hun zeer beperkte beeld van wat de mens vermag. ‘Er is nooit autonomie zonder een link naar heteronomie, dat wil zeggen, naar techniek,’ stelde Stiegler. We kunnen dat ook omdraaien en zeggen dat er nooit heteronomie, dat wil zeggen techniek, kan zijn zonder een link met autonomie. En die houdt meer in dan het uitzetten van notificaties of je telefoon uit de slaapkamer verbannen. 

Miriam Rasch
Miriam Rasch
Wil weten wat het betekent mens te zijn in een door data geregeerde wereld – daarom schrijft en denkt ze erover.
Gevolgd door 221 leden