
https://pxhere.com/en/photo/1573503 © rawpixel.com form PxHere
Terwijl de reptielen dwalen op internet
Voortaan zal Miriam Rasch geregeld voor FTM schrijven. Rasch is filosoof en wil graag weten wat het betekent mens te zijn in een door data geregeerde wereld. Ze kijkt met een scherp oog naar technologie, internet en de elektronische huisdieren die ons op de voet volgen, en kijkt daarbij nadrukkelijk naar alles dat niet in data is te vatten. Vandaag: wat is dat toch met dat reptielenbrein van ons?
‘There are only two industries that call their customers “users”: illegal drugs and software’ is een gevleugelde uitspraak van politicoloog en computerwetenschapper Edward Tufte. Waarschijnlijk is het toeval dat het woord ‘gebruiker’ zowel naar drugs als naar sociale media kan verwijzen. De overeenkomst ligt in de verslaving waartoe beide kunnen leiden, terwijl aan de achterkant ongure types grof geld verdienen. Gebruikers zijn passief, en als ze minder sterk in hun schoenen staan, is het niet gek dat ze afglijden in een verslaving. Als het gaat om iemand die ‘op internet zit’, om het ouderwets te zeggen, was dat woord ‘surfer’ zo gek nog niet. Surfen duidt op activiteit, op richting die ontstaat in samenspel.
Het citaat van Tufte komt voor in de Netflix-documentaire The Social Dilemma, waarin onder meer de uitvinder van de like-knop, van het verdienmodel van Facebook en van het YouTube-algoritme vertellen over de schaduwkanten van de door hen ontwikkelde technologie.
Mooi als mensen de noodklok durven luiden over iets waaraan ze zelf hebben meegebouwd
De gewetensvolle omslag van deze tech-bro’s roept dubbelzinnige gevoelens op. Ja, het is mooi als mensen de noodklok durven luiden over iets waaraan ze zelf hebben meegebouwd. Fijn dat de kritiek die al jaren vanuit de coulissen opklinkt, nu ook van de hoofdrolspelers zelf te horen is. Toch valt vooral het gebrek aan zelfreflectie op. ‘We wilden de wereld mooier maken’ gaat gelijk op met ‘er moest een verdienmodel komen’; ‘niemand wilde dat het zover zou komen’ klinkt naast ‘we buiten de zwakke plekken van de menselijke psyche uit’.
Het gaat hier niet om spijtbetuigingen, maar eerder om een wake-up call. Echte oplossingen worden niet aangereikt, het blijft bij ‘zet je notificaties uit’, ‘houd je telefoon buiten de slaapkamer’ en een roep om financiële regulering. De technologie zelf blijft buiten schot. Dat komt denk ik door dat beeld van de gebruiker en het nog sterkere idee dat daaronder schuilgaat, namelijk dat de mens niet anders kan dan reageren volgens miljoenen jaren oude, door de evolutie gevormde, psychologische mechanismen. Is de gebruiker al een passieveling, dat geldt helemaal voor de drager van dit ‘reptielenbrein’ zoals het ook wel wordt genoemd. Voor ons allemaal, dus.
De computer in ons hoofd
De evolutionaire verklaring legt uit waarom technologie zo goed doet wat ze doet en in één beweging door ook waarom ze uiteindelijk tegen ons werkt. Het interessante is dat zowel de programmeurs als de critici haar gebruiken. Het Stanford Persuasive Technology Lab leidde tal van softwarespecialisten op met behulp van inzichten uit de evolutionaire psychologie. Zoals Tristan Harris, die Google uiteindelijk verliet om zich te richten op ‘humane technology’ (en veruit de meest overtuigende ex-tech’er die aan het woord komt). Nog steeds stelt Harris zonder blikken of blozen ‘human’ gelijk aan wat de evolutie in ons geprogrammeerd heeft.
Dit soort huis-, tuin- en keukendarwinisme voelt als een aanval op de complexiteit van het bestaan
Shoshanna Zuboff, bekend van The Age of Surveillance Capitalism, zegt ronduit: ‘We zijn gewoon zombies.’ Sociale media werken volledig volgens een ‘biologisch imperatief’ van dopamine en beloningen in de hersenen, vertelt Stanford-psychiater Anna Lembke, geen wonder dat we verslaafd raken. Kortom, concludeert Harris, mensen kunnen niet veranderen, we moeten het doen met de ‘hardware’ die de evolutie ons heeft toebedeeld. Een oplossing voor de problemen die technologie heeft veroorzaakt moet dan dus ook uit nieuwe programma’s en betere software komen.
Kunnen we alsjeblieft eens stoppen met het evolutie-argument? Natuurlijk, ooit leefden we op steppes en savannes in groepen van een bepaalde grootte, maar is dat doorslaggevend voor hoe ik tegenwoordig reageer op een oplichtend bericht op het scherm van mijn iPhone? Ik zal maar eerlijk bekennen dat ik sinds enkele jaren een allergie heb voor dit soort huis-, tuin- en keukendarwinisme, dat voelt als een aanval op de complexiteit van het bestaan. Jij bent je reptielenbrein. Het drukt mij en alle andere ‘gebruikers’ in een passieve rol, waarin we simpelweg een programmaatje uitvoeren dat is geïnstalleerd op de computer in ons hoofd.
Dat iemand aan de knoppen draait om de massa’s een bepaalde kant op te laten bewegen is te simplistisch gedacht
Er is een aantal redenen te bedenken waarom deze voorstelling van zaken zo ergerniswekkend is, zonder overigens de waarde en inzichten van de wetenschappelijke bestudering van de evolutie te willen onderschatten. Het veronderstelde determinisme en universalisme is de eerste. We zijn zogezegd allemaal zombies, slaven van onderbewuste mechanismen waar sommige medemensen directe toegang toe hebben (‘Mark had the dials,’ zoals een van hen het in de documentaire uitrukt). Toch verdwijnt de een in een YouTube-rabbit hole zodra de algoritmes worden aangepast om meer kijktijd te genereren, terwijl de ander het platform vaarwel zegt. Dat die algoritmes effecten hebben die zorgelijk zijn valt niet te ontkennen, maar dat iemand aan de knoppen draait om de massa’s een bepaalde kant op te laten bewegen is te simplistisch gedacht.
Prehistorische kern
Het lijkt soms alsof de geschiedenis die tussen de savanne en het nu heeft plaatsgevonden van geen enkel belang is. Het verhaal van de evolutie is over en uit en alles wat de mens heeft gedaan – ten goede en ten kwade – om vorm en betekenis te geven aan dat waarmee hij is bedeeld, doet er niet toe. Heeft de mens niet juist bewezen voorbij zijn reptielenbrein te kunnen reiken? Je hoeft niet te geloven in de ziel, of zelfs maar de vrije wil, om te kunnen zien dat de mens zich tot zichzelf verhoudt, om het zo neutraal mogelijk te zeggen, en er daardoor een ingebouwde vertraging is tussen de draai aan de knop en handeling.
Er zijn dingen die we belangrijk vinden die op andere manieren zijn uit te leggen dan met de evolutie-for-dummies-versie, die vaak gevaarlijk dicht langs de rand van het sociaal darwinisme scheert. Zorg voor zwakkeren, democratische instituties, maar ook kunst en de roes. Hadden we dat allemaal niet, dan zou ik zelf – zoals zoveel medemensen – allang zijn uitgeselecteerd, daarover maak ik me geen illusies. Maar we leven niet meer op de savanne. We hebben de wereld ingericht zodat we niet meer (alleen) zijn overgeleverd aan de krachten en wetten van de natuur.
Wat gebeurt er als je stopt de mens te reduceren tot een dopaminemachine met een beperkte opslagcapaciteit?
Het is niet in de laatste plaats met behulp van technologie dat we dat mogelijk hebben gemaakt. Opnieuw: ten goede en ten kwade, want we hebben de vernietiging van het klimaat en onze leefwereld daar ook aan te danken. De deze zomer overleden filosoof Bernard Stiegler heeft altijd de co-evolutie van mens en techniek benadrukt. Het is volgens hem volstrekt onmogelijk om die twee te scheiden. Dat maakt de zaak er niet rooskleuriger op, maar in elk geval vertrekt hij niet van een prehistorische kern die min of meer onaangetast in ons huist en nu door de modernste technieken wordt bespeeld. De twee werken op elkaar in en zijn niet te reduceren tot een moment van oorsprong ergens in een verloren tijdperk, aldus Stiegler, waarna niets van belang zich nog heeft voorgedaan.
Variaties en verschillen
Dat zo heldere en transparant ogende oorsprongsverhaal is bovendien niet het enige dat te vertellen is. De menselijke geschiedenis hoeft niet te worden teruggebracht tot een constante strijd, beslist door het recht van de sterkste. Er zijn ook andere versies te vertellen, waarin juist de tijd tussen savanne en nu belangrijk wordt. Dat heeft bijvoorbeeld de (ook al) onlangs overleden David Graeber laten zien, die met David Wengrow de geschiedenis van de mensheid heeft beschreven als van oudsher egalitair in plaats van hiërarchisch, wat betekent dat ongelijkheid niet noodzakelijk is, maar iets dat we kunnen veranderen.
Wij zijn allen zombies, maar zij niet. Is dat niet het elegantste tegenbewijs dat de redenering niet klopt?
En er zijn versies die een ander perspectief dan alleen het westerse belichten, zoals filosoof Yuk Hui doet in zijn ‘cosmotechnics’. Wat gebeurt er als je stopt de mens te reduceren tot een dopaminemachine met een inherent beperkte opslagcapaciteit (de notoire ‘150 connecties’, meer kunnen onze hersenen zogezegd niet aan) en hem in plaats daarvan benadert als een sociale samenwerker, of als een liefhebber van betekenis? Wat valt er te leren als je variatie – een evolutionaire term bij uitstek – als uitgangspunt neemt (en dan niet de variatie van de AB-test) en lokale verschillen binnen het universele onderzoekt, zoals Hui? ‘I would rather point out that the universal is just one dimension of what is,’ stelt hij droogjes.
Zo zijn we weer terug bij de universalistische pretenties die richting geven aan de technologische ontwikkelingen die vanuit Silicon Valley de wereld overspoelen. Het opvallendste aan dit mensbeeld waarbij iemand aan de knoppen draait van de onbewust levende massa, is uiteindelijk toch wel dat er altijd op wonderbaarlijke wijze een kleine groep aan weet te ontsnappen: de tech-bro’s zelf. Ook zij waren verslaafd, ook zij hebben zichzelf met geweld moeten losbreken uit hun zelfgebouwde kooi. Het is ze echter gelukt. Wij zijn allen zombies, maar zij niet. Is dat niet het elegantste tegenbewijs dat de redenering niet klopt?
Misschien is het niet vreemd dat de documentaire geen echte oplossingen presenteert. Zolang wij alleen maar gebruikers zijn – locaties om data uit te mijnen, profielen om te verkopen, hondjes om af te richten – die verslavingshulp nodig hebben en uit de klauwen van autocraten en populisten gered moeten worden, zal er niet echt iets veranderen. Dan is het gewoonweg weer een probleem gecreëerd door de tech-bedrijven, dat zij ook weer voor ons zullen oplossen.
Die existentiële dreiging schuilt wat mij betreft vooral in hun zeer beperkte beeld van wat de mens vermag
Zolang ook de stevigste tech-critici meegaan in dit eenzijdige evolutie-argument, vrees ik dat we niet veel verder komen. Uiteraard is het goed om biologische triggers te herkennen, te zien hoe die zijn gehackt door de ontwerpers van onze meest gebruikte online applicaties, en welke kwetsbaarheden dat met zich meebrengt. Maar het zou slechts één dimensie van een groter verhaal moeten zijn, zoals Hui zegt. Kunnen we andere taal vinden om het te hebben over de mens? Mogen we het misschien ook weer hebben over iets als autonomie, zelfsturing of – om Marleen Stikker aan te halen – soevereiniteit? Is het niet zo dat op het moment dat je toegeeft aan de gedachte dat er niet zoiets als autonomie bestaat, je haar inderdaad kwijt bent?
De tech-bro’s die tot inkeer zijn gekomen, spreken inmiddels net als hun critici over een existentiële dreiging die technologie met zich meebrengt. Die existentiële dreiging schuilt wat mij betreft vooral in hun zeer beperkte beeld van wat de mens vermag. ‘Er is nooit autonomie zonder een link naar heteronomie, dat wil zeggen, naar techniek,’ stelde Stiegler. We kunnen dat ook omdraaien en zeggen dat er nooit heteronomie, dat wil zeggen techniek, kan zijn zonder een link met autonomie. En die houdt meer in dan het uitzetten van notificaties of je telefoon uit de slaapkamer verbannen.
15 Bijdragen
Walter Bril 3
Mens & middel, zo beschouw ik het leven. Als mens wil je iets (met welke trigger dan ook) maar je hebt vaak een middel nodig om dat "iets" te bereiken. Een middel kan van alles zijn, een hamer of app (technologie) of structuur (processen, organisatie). Zelfs een ander mens (politiek)... Middelen versterken en versnellen daarom de intentie en gedrag van de mens. En dat kan dus ten goede of ten kwade uitpakken (subjectief). Juist communicatietechnologie zoals Internet heeft dat als geen ander laten zien. Je kan volgens mij derhalve concluderen dat het inderdaad niet veel uitmaakt of mensen worden gedreven door hun amygdala of frontale kwabben. Hoewel ik de neiging heb te denken dat zelfs de frontale kwabbers uiteindelijk ook gedreven worden door hun overlevingsinstinct.
Tedje van Asseldonk, IEZ 9
Hetty Litjens 6
We hebben een probleem met onze kinderen. Waar komt dat vandaan? Leveren computer en tablets misschien niet een te zware belasting op de hersenen die enkel gericht is op het goed bedienen van die dingen en weinig nut hebben voor ons overleven?
Graag hoor ik daar meer over.
Walter Bril 3
Hetty LitjensAl Dam 3
Hetty LitjensVoor mij is het op een primair nivo lekker om hersenloos monsters te verslaan na een complexe dag met complexe problemen oplossen. Heerlijk om even te kunnen ontspannen en te kunnen doen ipv te denken. Hoezo zware belasting?
Het leven gaat gelukkig om meer dan overleven. Leven is zo niet nog belangrijker Hetty. Leuke dingen doen
j.a. karman 5
We zijn ons te weinig bewust van onze omgeving. We moeten ons aanpassen aan onze omgeving Savanne, polderland waar dan ook en we passen onze omgeving aan met behulp van techniek. Die wisselwerking herkennen is de eerste stap.
Theo van Beuningen 4
Niek Jansen 9
Het lijkt me relevanter het daarover te hebben.
Voorbeelden: een racist zal een ander verslag geven van de rellen in de VS dan iemand die kritisch staat tegenover het racisme in de Amerikaanse samenleving.
Iemand van de Israelische lobby zoals het Cidi of ‘Christenen voor Israël’ zal met een totaal ander reisverslag van Israel thuiskomen als iemand die de bezettings- en kolonisatiepolitiek van Israël veroordeelt.
Beiden hoeven daarom niet te liegen, alleen het verschil zit hem hierin dat beiden die informatie, personen, situaties opzoeken die stroken met hun opvattingen die zij al hadden, maar dat is niet de schuld van de data.
En beiden kunnen daarbij ‘frictie’ ervaren,een centraal begrip in de ideeen van Miriam Rasch, wat zoveel wil zeggen, als ik haar goed begrijp, data die niet overeenkomen met de verwachtingen die de persoon heeft m.a.w. algoritmen en wat psychologen ‘cognitieve dissonantie’ noemen.
Ik zou zeggen, hoe meer frictie des te beter want dat zou kunnen betekenen dat er eerder kans bestaat dat de persoon uitgedaagd wordt na te denken, maar verdringing of verharding en polarisering van zijn standpunten kan daarvan ook het gevolg zijn.
M.a.w., ‘Waarden, waarden, waarden; de rest is bullshit’ (Hans Schnitzler).
Eveline Bernard 6
Eveline Bernard 6
En ik sta achter de analyse van Rasch
Niek Jansen 9
Eveline BernardAdosh van der Heijden 4
Het antwoord op de vraag: “En hoe is dat (wonderbaarlijke) zo gekomen, niet alleen de verslaving van de 99,99%, maar ook het gewelddadige losbreken van de 0,01%?” luidt op basis van mijn kennis en ervaring als bedrijfsinformatiearchitect en filosoof: Follow the Money. Dus: Vergeef ons onze schulden, zoals ook wij onze schuldenaren vergeven, en verjaag de geldwisselaars.
Al Dam 3
Dat wil echter niet zeggen dat mensen geen triggers hebben waarop ze gemanipuleerd kunnen worden.
Sommige mensen zijn vatbaarder dan anderen voor deze triggers. Ik denk dat het te zwart wit is om te zeggen dat het niet/bij iedereen werkt.
Ik zelf ben rond 2010 bewust gestopt met social media en ik merkte echt ontwenningsverschijnselen. Die drang om toch nog even snel te kijken wat er gebeurt is, heb ik nog een like gekregen op een comment?
Nog even een korte opmerking, ik wist niet dat je een klimaat kapot kon maken? Volgens mij gaat alles nog gewoon door, zij het met een iets ander tempo. Niet handig om zo'n politiek zeer zwaar beladen moreel oordeel in je artikel te zetten. Voor mij is het direct een trigger om je minder serieus te nemen met zo'n ongenuanceerde groenlinks retoriek. Persoonlijke mening iig, doe ermee wat je wilt
Mentor Palokaj 6
> Echte oplossingen worden niet aangereikt ... een roep om financiële regulering.
Je schrijft op "Follow the Money". Er is niets krachtiger in bedrijven (en dus het design van hun producten) aan te passen dan financiele regulering.
> Nog steeds stelt Harris zonder blikken of blozen ‘human’ gelijk aan wat de evolutie in ons geprogrammeerd heeft.
Mens zijn is een biologisch feit. Dat is dus wat evolutie ons heeft gegeven. Behalve als je een creationist bent.
> Kunnen we alsjeblieft eens stoppen met het evolutie-argument?
Zodra je geen lichaam meer hebt mag dat. Tot dan is evolutie de basis van je hardware.
> Maar dat iemand aan de knoppen draait om de massa’s een bepaalde kant op te laten bewegen is te simplistisch gedacht.
Nee, er wordt aan de advertentie algo's gedraaid en "de massa" koopt de dingen die worden aangeboden. Dat is het hele (bewezen effectieve) businessmodel.
> Het lijkt soms alsof de geschiedenis die tussen de savanne en het nu heeft plaatsgevonden van geen enkel belang is. ... Heeft de mens niet juist bewezen voorbij zijn reptielenbrein te kunnen reiken?
Zijn de patronen in de geschiedenis je onduidelijk? De mens heeft bewezen dat het haar cortex kan gebruiken maar nog steeds doodleuk overleeft op het limbisch systeem.
> "Wat gebeurt er als je stopt de mens te reduceren tot een dopaminemachine met een beperkte opslagcapaciteit?"
Dan maak je minder winst.
> Wij zijn allen zombies, maar zij niet. Is dat niet het elegantste tegenbewijs dat de redenering niet klopt?
Zij zeggen het tegenovergestelde. Ze zeggen "we zijn allen zombies, wij ook, daarom zetten we notificaties uit en krijgen de kinderen geen mobieltje".
> Mogen we het misschien ook weer hebben over iets als autonomie, zelfsturing of – om Marleen Stikker aan te halen – soevereiniteit?
De tabaksindustrie is erg te spreken over deze aanpak.
> De tech-bro’s
Zitten ook gewoon bro-inas tussen hoor.
Yhomas 1