De stofzuiger van Silicon Valley

Aan het einde van een gesprek dat ik onlangs voerde met Europarlementariër Marietje Schaake (D66) over het reguleren van de techsector, zei ze: 'Moeten we misschien nog iets zeggen over de vele manieren waarop digitale technologie ons leven heeft verbeterd?’ Een paar weken eerder, tijdens een zorgelijke paneldiscussie in Pakhuis de Zwijger over de macht van de techindustrie, stond iemand op en vroeg enigszins kribbig of wij dan volledig blind waren voor de vele zegeningen die de computer en het internet gebracht hebben. Het is niet allemaal kommer en kwel, toch?

Nee. Dat de vruchten van Silicon Valley ons leven leuker gemaakt hebben, staat buiten kijf. Maar zijn al die fijne gadgets & services misschien als de kralen en de spiegeltjes van de oude kolonisten, waarmee de natives betoverd in een hoekje kropen terwijl hun weldoener de macht greep?

Of het het nu de griezelige onthullingen waren van Edward Snowden in 2013, over hoe de Amerikaanse geheime diensten het internet gebruiken om ons constant in de gaten te houden,  of de Cambridge Analytica-affaire in 2016, over hoe ons stemgedrag via internet gemanipuleerd kan worden – na decennia van digitale feestvreugde ging er een alarmbel af: wij zijn digitale lijfeigenen geworden, gehoorzame cyborgs, op afstand bestuurd door een onzichtbaar systeem.

Kwam het misschien door al dat nieuws vanuit de hersenwetenschap van de afgelopen jaren – wij zijn in feite niet meer dan ons brein (Dick Swaab), marionetten van het onderbewuste (Ap Dijksterhuis), zonder vrije wil (Victor Lamme) – dat wij zo makkelijk meegingen in het idee dat wij ook de slaaf zijn van dat andere brein, de data-industrie? Ja hoor, dat kon er nog wel bij!

Verschrompeld onder het vergrootglas

Inmiddels wordt dat beeld alweer gecorrigeerd. Nepnieuws, echokamers, filterbubbels, microtargeting: de termen spreken tot de verbeelding, maar onder het vergrootglas van de onderzoeker verschrompelen ze een beetje.

Eerst 'nepnieuws'. Ja, via het internet wordt desinformatie verspreid, soms om ideologische, soms om commerciële redenen, en soms gaat zo’n bericht viraal en breekt het door naar het ‘echte’ nieuws. Politici zien een kans tot profilering en lanceren waarschuwingscampagnes, bonafide media maken het onderwerp groot om hun eigen onmisbaarheid te benadrukken. Maar de  grootste consumenten van desinformatie zijn ook grootverbruikers van hard nieuws, blijkt uit onderzoek. Nepnieuws brengt ze niet op ideeën, het bevestigt hooguit wat zij al dachten. En de relatief geringe hoeveelheid desinformatie díe geproduceerd wordt, valt ook vrij goed te onderdrukken. ‘Het idee dat je groepen mensen met valse beweringen van alles kunt wijsmaken en hun stemgedrag kunt veranderen, is strijdig met decennia aan onderzoek naar politieke communicatie,' zegt de desinformatie-expert bij uitstek, Peter Burger van de Universiteit van Leiden.

De echokamer heeft meestal gewoon ramen en een deur

Of neem die ‘echokamer’. ‘Een verzameling internetgebruikers met een oververtegenwoordiging van gelijkgestemden,’ zoals de Volkskrant het laatst omschreef. Het klinkt naar groupthink en tunnelvisie, maar wanneer bevinden wij ons eigenlijk níet in een ‘oververtegenwoordiging van gelijkgestemden’? Soort zoekt soort – het is elementair sociaal gedrag. En zoals de meeste van die groepen waartoe wij behoren, heeft de echokamer meestal gewoon ramen en een deur. Misschien is het gewoon een kamer?

Onderzoek aan de Universiteit van Oxford, onlangs geciteerd in de Volkskrant, laat zien dat sociale media het contact met andersdenkenden juist ook kunnen stimuleren, een ervaring die ik kan onderschrijven. Op Twitter raak ik soms in gesprek met mensen die sociaal, cultureel en politiek zo ver van mij afstaan dat ik ze in real life nooit zou tegenkomen. Tenzij ik zou ingaan op uitnodigingen voor ‘Twitterborrels’ en dergelijke, een ander fenomeen dat laat zien hoe sociale media ook deuren openen en kamers verbinden.

En de ‘filterbubbel’, het netwerk-algoritme dat ons in stilte voorsorteert op informatie die aansluit bij eerdere keuzes, een vicieuze cirkel die ons dieet beperkt en ons bewustzijn vernauwt? De term filterbubbel werd in 2012 gelanceerd door Eli Pariser in een geruchtmakend boek, en mogelijk werkten de algoritmen van de grote platforms op dat moment inderdaad sterk bubbelvormend, maar dan zijn die sindsdien aangepast, want inmiddels is voor dit effect weinig bewijs meer te vinden, constateert ook Judith Möller van de Universiteit van Amsterdam. ‘Zelfs bij mensen die bijna al hun nieuws uit sociale media halen, zit er nog een gaatje in de bubbel,’ zegt Möller. Een onderzoeksgroep van Stanford, Oxford en Microsoft ontdekte min of meer hetzelfde: echokamers zijn menselijk gedrag, internet-algoritmen dragen daar hooguit marginaal aan bij.

Die andere gevreesde manipulatietechniek, ‘microtargeting’, werd berucht door het Cambridge Analytica-schandaal. Met behulp van – in dit geval clandestien verkregen – persoonlijkheidsdata kun je scherpe psychologische profielen opstellen en propaganda produceren die daar precies op aansluit. Cambridge Analytica (CA) deed dat voor de Trump- en Brexit-campagne. Trump won, Groot-Brittannië koos voor Brexit, beide tegen de verwachting in, en de wereld schrok zich een hoedje. Via internet kun je in het hoofd van de kiezer kruipen en zijn stemgedrag sturen! Dat wil zeggen: dat beloofde Cambridge Analytica haar klanten en door die twee electorale mirakels leek het nog waar ook. Maar is er ook bewijs voor?

De correlatie tussen persoonlijkheid en Facebook-likes is in werkelijkheid heel zwak

De wiskundige David Sumpter probeerde het succes van het CA-model te repliceren en de resultaten waren bedroevend. Op Medium doet hij verslag van zijn discussie met de psycholoog die het model ontwikkelde, Aleksandr Kogan. Kogan geeft een andere lezing van de gebeurtenissen: er werd door die campagnes met van alles geëxperimenteerd, inclusief zijn model, waarvan de werkzaamheid op dat moment nog lang niet bewezen was, en dat bij nader inzien inderdaad weinig waarde heeft, zoals Sumpter constateert. De correlatie tussen persoonlijkheid en Facebook-likes is in werkelijkheid heel zwak. Om er iets mee te kunnen moet je de dataset uitbreiden met bijvoorbeeld consumptiegegevens, legt Kogan uit, waarmee je ruis toevoegt en de nauwkeurigheid verder afneemt. Ook andere onderzoekers hebben weinig fiducie in dit soort modellen, die al langer bestonden. Het was vooral de commercieel gemotiveerde bravoure van Cambridge Analytica en de associatie met de Trump- en Brexit-campagnes, die er een groot nieuwsverhaal van maakten.

Zelfs bij de effectiviteit van online reclame in het algemeen worden steeds meer vraagtekens gezet. De Correspondent bracht er onlangs een goed verhaal over: adverteerders verwachten er veel van, internetplatforms beloven van alles, maar de opbrengst van een online reclamedollar is bedroevend laag.

Dus, wat hebben wij geleerd? Nepnieuws is ongevaarlijk, de echokamer is niets nieuws, echte filterbubbels zijn zeldzaam, microtargeting werkt niet en gewone online reclame waarschijnlijk ook niet. Blijkbaar leven er nogal wat misvattingen over het internet.

De stofzuiger van Silicon Valley

Is al die ophef om niets? Dat nu ook weer  niet.

De eerste waarnemingen en diagnoses van de datadictatuur zaten er misschien naast, maar de patiënt is onder observatie en het onderzoek gaat door. Lees Surveillance Capitalism van Shoshana Zuboff (hier trefzeker gerecenseerd) , luister naar de kopstukken van de kunstmatige intelligentie op Stanford University (hier in een fascinerend panelgesprek), of naar die arme Aleksandr Kogan, die van de schrik emigreerde en zijn naam veranderde, maar zijn onderzoek voortzette: waar het om gaat is de bigger picture. In Silicon Valley staat een gigantische stofzuiger, aangesloten op onze data exhaust, en die zuigt, zuigt en zuigt, nonstop. Big Tech kent affaires, er zijn schandaaltjes, er wordt gepraat over regulering en zelfregulering, er zijn hoorzittingen en wetsontwerpen, maar ondertussen staat de stofzuiger aan en zuigt, zuigt, zuigt. Eerst alleen uit die ene gezinscomputer, toen uit steeds meer devices, laptops, tablets en telefoons, en straks uit het hele huis. De ijskast, de cv, de vuilnisbak, je horloge, je schoenen, je onderbroek. Ons hele hebben en houwen laten wij aansluiten op de Grote Stofzuiger, in ruil voor de spiegels en kralen van nu, convenience, gemak. En al die data worden gevoed aan een immens, kunstmatig brein, dat met de dag sneller en slimmer wordt.

In het boek van Victor Lamme waar ik naar verwees, De vrije wil bestaat niet,noemt hij ons bewustzijn een babbelbox. Wij denken dat onze keuzes voortvloeien uit ons bewustzijn, maar die keuzes zijn al lang gemaakt. Ons bewustzijn is gebabbel bij voldongen feiten, een schaatsverslag van Mart Smeets. Zo werkt het brein van de mens, en zo werkt straks het brein van de wereld. Een systeem dat ons beter kent dan wijzelf, en alles eerder weet dan wij het zelf weten. Dan kijken wij terug op filterbubbels en fakenews als op de kruisboog en de katapult. Dan hoeven wij niet meer gemanipuleerd te worden. Dát is de ware datadictatuur.