© FTM / DonkeyHotey

Leg de VS een data-embargo op

    Data-gedreven rechtspraak en beleid zijn de toekomst. Hier zitten echter allerlei haken en ogen aan, betoogt Hans Schnitzler. In de Verenigde Staten is de data-verzameldrift onstuitbaar en dat vormt een giftige mix met het bewind van de megalomane Donald Trump. Hoe moet Europa reageren?

    ‘Chronische spijt, daarover zijn alle moralisten het eens, is een hoogst onwenselijk gevoel’, schrijft Aldous Huxley in een voorwoord op Brave New World.  Dat een megalomane fantast als Trump aan de knoppen zit van ’s werelds grootste kernwapenmacht, mag hoogst onwenselijk en spijtig heten.

    Minder aandacht is er voor het feit dat het Blonde Beest dat momenteel in het Witte Huis huist, tevens de ongekroonde koning is van een wereldomspannend data-imperium dat voortdurend gehuld gaat in een dikke datanevel en waarvan de bewoners hun ziel en zaligheid geoutsourced hebben aan grootdatabezitters die onder zijn jurisdictie vallen. 

    Een blik op de heersende misstanden in dit data-imperium maakt duidelijk hoe onwenselijk de gevolgen hiervan kunnen zijn. Zo maken steeds meer rechters in de Verenigde Staten gebruik van data en algoritmen om te bepalen hoe groot de kans is op recidive voor een specifieke overtreder. Op basis van deze uitkomsten bepaalt men de hoogte van de straf; hoe groter de kans op herhaling, des te hoger de straf. Toekomstig gedrag — herstel: mogelijk toekomstig gedrag — wordt dus verdisconteerd in de strafmaat. 

    Met big data verandert de strafrechter in een waarzegger

    Daarmee verandert de strafrechter in een waarzegger die, ingefluisterd door algoritmische orakels, mogelijkheden in onvermijdelijkheden omtovert. Dat de bepaling van de strafmaat daarmee van feitelijke handelingen naar potentiële daden verschuift, betekent in wezen het afscheid van een van de fundamenten van elke zichzelf respecterende rechtsstaat: de onschuldpresumptie. Sterker nog, de rechtsstatelijke transformatie van feiten naar voorspellingen, draait dit principe om: u bent schúldig tot het tegendeel bewezen is.

    Datadiscriminatie

    Maar er is meer. ProPublica, een platform voor onderzoeksjournalistiek, nam de data onder de loep en kwam tot conclusie dat de voorspellende gaven van het algoritme ronduit discriminerende trekken vertoonden. Afro-Amerikaanse veroordeelden werden twee keer zo vaak als hun witte ‘brothers in crime' onterecht aangewezen als een verhoogd risico. En uiteraard liet dit onrecht zich ook vice versa gelden: witte delinquenten kregen veel vaker foutief het profiel ‘laag risico’ toegewezen.

    Ook in Nederland omarmt men de ideologie van het dataïsme. Zo is er in 2014 een nieuw Systeem Risico Indicatie (SyRI) doorgevoerd, dat het mogelijk maakt om via datamining en patroonherkenning van een veelheid aan digitale bestanden te voorspellen of er een belastingontduiker in de belastingbetaler schuilt. Deze doorlichting van de burger geschiedt volgens dezelfde methodiek waarmee men profielen van criminelen en/of terroristen opstelt. Over criminelen of terroristen gesproken: nu de nieuwe inlichtingenwet op een meerderheid in de Tweede Kamer mag rekenen, kan iedereen onverhoopt in een datasleepnet terecht komen. Wie als bijvangst in zo’n digitale fuik belandt, zit daar drie jaar vast. Zodoende blijft het datasubject ‘duurzaam’ geconserveerd voor de professionele datahengelaars van de NSA of andere buitenlandse diensten. Wie naar de VS vliegt, doet er goed aan te beseffen dat met behulp van tientallen databronnen een score tevoorschijn kan worden getoverd die de nietsvermoedende toerist zomaar in een potentiële terrorist transformeert.


    "Door de rechtsstatelijke transformatie van feiten naar voorspellingen bent u schúldig tot het tegendeel bewezen is"

    Risicoprofilering neemt een enorme vlucht nu we steeds beter in staat zijn grote hoeveelheden data op te slaan en patronen te ontdekken die mogelijkerwijs op naderend onheil wijzen. De socioloog Willem Schinkel heeft voor dergelijke bestuurspraktijken de pakkende term ‘prepressie' gemunt. Het koppelen van databestanden die waarschijnlijkheidsrelaties blootleggen (correlaties), entameert een vorm van machtsuitoefening gebaseerd op een combinatie van preventie en repressie.

    Prepressionele praktijken percipiëren de burger voornamelijk als risico en cultiveren daarmee het bestuurlijk wantrouwen. Zodra virtuele verdenkingen ook nog eens uitmonden in reeële veroordelingen, ligt bovendien bestuurlijke willekeur op de loer. Willekeur en wantrouwen zijn dé ingrediënten waar despoten als Trump hun tirannieke vingers maar al te graag bij aflikken.  

    Surveillancekapitalisme

    Het scoren en profileren van burgers is het resultaat van een vorm van machtsuitoefening waarbij drie in potentie noodlottige krachten bij elkaar komen: staatsmacht, kapitalisme en informatietechnologie. In een scherp essay heeft Soshana Zuboff, voormalig hoogleraar aan de Harvard Business School, deze dynamiek geanalyseerd en roept zij op tot verzet tegen wat zij surveillancekapitalisme noemt. De historicus Yuval Harari stelt in zijn veelgeprezen boek Homo Deus dat een kritisch onderzoek naar het dataïstische dogma niet alleen de belangrijkste wetenschappelijke uitdaging van de eenentwintigste eeuw is, maar ook ‘het urgentste politieke en economische project.’

    We moeten voor ons databeheer niet afhankelijk willen zijn van de grillen van een despoot

    Zonder Trump is er genoeg reden de dataïstische logica kritisch te bevragen, mét Trump is er, alle praktische bezwaren ten spijt, meer dan genoeg aanleiding voor een krachtig signaal: een data-embargo tegen de Verenigde Staten. Met het NSA-schandaal in het achterhoofd, moeten we voor ons databeheer niet afhankelijk willen zijn van de grillen van een despoot die politiek bedrijft op basis van wantrouwen, willekeur, intimidatie en desinformatie.

    Met onze data heeft Trump een virtueel wapen in handen waarmee hij hem onwelgevallige staten en individuen langdurig kan ontwrichten. Laten we in de tussentijd als de wiedeweerga — en in navolging van landen als China en Rusland — een Europese zoekmachine ontwikkelen. Anders zal chronische spijt ons deel zijn. 

    Over de auteur

    Hans Schnitzler

    Hans Schnitzler (1968) is filosoof, publicist, auteur van Het digitale proletariaat (2015), voormalig columnist voor de Volks...

    Lees meer

    Volg deze columnist

    Dit artikel krijg je cadeau van Follow the Money.

    Diepgravende onderzoeksjournalistiek kost tijd en geld. Steun ons en

    word lid