Voorjaar in Texas, 2014. De zon zindert op de campus van de University of Texas at Austin. Studenten zoeken verkoeling in de schaduw die de toren van het hoofdgebouw over het terrein werpt. Het karakteristieke bouwwerk is in de verre omgeving te zien, als baken van kennis en good ol’ American opportunity.

Binnen wordt Reijer Passchier, een jonge Leidse promovendus in het staatsrecht, voorgesteld aan politiek filosoof Patricia Hetter Kelso. Passchier is als gastonderzoeker verbonden aan de universiteit. De twee raken in gesprek. Over de maatschappelijke gevolgen van de industriële revolutie – een onderwerp dat Kelso al sinds de jaren ’50 bestudeert – en over technologie. Als de rechtenfaculteit haar deuren bij het vallen van de avond sluit, zijn ze nog niet uitgepraat.

De ontmoeting met Kelso zet Passchier aan het denken over de invloed van technologie en digitalisering op de rechtsstaat en op de fundamentele vrijheden die daar deel van uitmaken. Na zijn promotie in 2018 besluit hij dat verder te onderzoeken. Eerst bij de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) en daarna als assistent-hoogleraar staatsrecht aan de Universiteit Leiden en de Open Universiteit. In februari 2021 publiceert hij zijn boek Artificiële intelligentie en de rechtsstaat.

Passchier, die zich liever richt op de instituties van de rechtsstaat dan op juridische haarkloverij, beschrijft de gevolgen van digitalisering op de rechtsstaat vanuit het perspectief van de trias politica. De ‘trias’ schrijft voor dat een democratische rechtsstaat voorziet in de scheiding der machten: de wetgevende macht, die de regels opstelt; de uitvoerende macht, die het bestuur uitoefent; en de rechtsprekende macht, die controleert of iedereen zich aan de wet houdt. In Nederland wordt de uitvoerende macht gevormd door de overheid en de wetgevende macht door het parlement en de regering.

Ons staatsbestel is zo ingericht dat de drie machten onderling samenwerken en elkaar kunnen controleren. Zo komt men, als het goed is, tot beter beleid en een meer uitgebalanceerde rechtsstaat, waarin fundamentele waarden als vrijheid, gelijkheid en rechtvaardigheid worden gewaarborgd.

Doordat vooral de overheid steeds verder digitaliseert, is de delicate balans tussen de drie machten volgens Passchier verder onder druk komen te staan. De manier waarop de overheid digitale middelen nu inzet en distribueert, maakt het steeds minder makkelijk haar te controleren. Dat opent de deur voor (onbedoeld) machtsmisbruik en systeemfouten. En die vormen een wezenlijke bedreiging voor de rechten en vrijheden van burgers. 

Willen we de rechtsstaat en onszelf hiertegen beschermen, dan heeft ons constitutioneel recht volgens Passchier dringend een upgrade nodig. Want, zo waarschuwt hij: ‘Onze democratische en rechtsstatelijke waarden staan op het spel.’

Een van je hoofdthema’s is dat de inzet van digitale middelen en technologie het machtsevenwicht binnen de trias politica verstoort. Hoe zit dat? 

‘De trias politica is al decennia uit balans. De uitvoerende macht is met de opkomst van eerst de verzorgingsstaat en later de veiligheidsstaat gigantisch gegroeid in omvang en middelen. De rechtsprekende macht is daar ver bij achtergebleven en het parlement is in omvang en middelen nog praktisch hetzelfde als een eeuw geleden. Het gevolg is dat de uitvoerende macht eigenlijk niet goed meer is te controleren.

‘De uitvoerende macht is door deze dubbele scheefgroei nog dominanter geworden dan ze al was’ 

Digitalisering is een vliegwiel voor deze scheefgroei, omdat vooral de uitvoerende macht profiteert. Zij heeft ruimere financiële mogelijkheden en maakt aanzienlijk meer gebruik van digitale middelen dan de rechtsprekende macht en het parlement. Terwijl de uitvoerende macht haar processen digitaliseert, over gigantische hoeveelheden data beschikt en burgers effectiever plichten kan opleggen, beschikken rechters en parlementsleden in de regel niet over die middelen.

Het vermogen van de uitvoerende macht om burgers en bedrijven te dwingen tot bepaald gedrag neemt door digitalisering zodoende toe, terwijl we op het gebied van controle nauwelijks stappen maken. De uitvoerende macht is door deze dubbele scheefgroei nog dominanter geworden dan ze al was.’

Je stelt verder dat digitale technologie overheidsprocessen ondoorzichtig maakt. Wat betekent dat? 

De technologie die wordt ingezet is vaak een black box. Leveranciers schermen de werking ervan liefst af. Daardoor hebben ambtenaren en ministers vaak geen idee hoe het allemaal werkt, laat staan dat een controlerende macht dat kan achterhalen. 

De overheid is zelf ook niet altijd transparant over de achterliggende mechanismen. Dat zag je bijvoorbeeld bij SyRI, waar algoritmes werden ingezet om uitkeringsfraude op te sporen. Het argument voor die geheimzinnigheid was: als je inzichtelijk maakt hoe zo’n algoritme werkt, kunnen mensen hun gedrag aanpassen om niet ontdekt te worden. De overheid koos dus bewust voor een black box.

En soms is de technologie die de overheid gebruikt zo ingewikkeld dat zelfs experts amper bevatten hoe alles werkt. Dat zie je bijvoorbeeld bij machine learning en deep learning. Processen binnen de overheid worden zo moeilijker te controleren.

Daar komt bij dat technologie het voor overheidsinstanties alsmaar aantrekkelijker en makkelijker maakt om informatie uit te wisselen. Dat werkt ketenbesluiten in de hand, waarbij instanties bijna blindelings informatie van elkaar overnemen, zonder te weten waar die vandaan komt en of die wel klopt. Die digitale vernetwerking maakt het nog moeilijker om het beleid van de overheid te controleren.

Kortom: het evenwicht tussen de drie machten ligt inmiddels behoorlijk uit het lood.’

Waarom is die balans zo belangrijk? Is het niet handig als de overheid meer middelen en ruimte heeft om haar publieke taken te vervullen?

‘Zeker, maar de overheid moet worden afgeremd als zij over de schreef gaat. Net als rechters en het parlement. De trias wil voorkomen dat er één absolute macht ontstaat die kan doen wat zij wil. De geschiedenis heeft meer dan eens laten zien dat dit dramatische gevolgen kan hebben voor de rechten en vrijheden van burgers. Een goede balans tussen de drie instituties is echt noodzakelijk.’

Wat merken burgers concreet van zo’n missende balans? 

‘In de toeslagenaffaire heb je kunnen zien wat er misgaat als de uitvoerende macht zonder tegenspraak haar gang kan gaan. Dat had zeer ingrijpende gevolgen. Of neem de besluitvorming over de coronamaatregelen. Dat was weliswaar geen digitale kwestie, maar ook daar zag je dat de overheid beslissingen nam die niet goed waren vormgegeven, omdat het parlement er nauwelijks of geen invloed op had. Aanvankelijk omdat het parlement niet eens bijeenkwam, later omdat de maatregelen er ineens heel rap en onbeholpen doorheen moesten.

Die twee heel uiteenlopende voorbeelden laten zien hoe makkelijk rechten en vrijheden kunnen worden geschonden als het systeem van checks and balances niet op orde is. Digitalisering is een vliegwiel voor dit soort situaties.’

Toen Staatsraad Bart Jan van Ettekhoven recent de vraag kreeg of de Belastingdienst in rechtszaken over de toeslagenaffaire niet te vaak het voordeel van de twijfel was gegund, zei hij: ‘Zo werkt het bestuursrecht in algemene zin. Dat gaat ervan uit dat overheidsinstanties rechtmatig te werk gaan.’ Hoe verhoudt dat zich tot de controlerende functie van de rechterlijke macht?

‘Dit is een schoolvoorbeeld van een slecht functionerende trias politica: je mag daar helemaal niet vanuit gaan. Allereerst niet omdat mensen fouten maken, ook als ze het goed bedoelen en bij de Belastingdienst werken. Je moet altijd blijven beoordelen of gevoerd beleid wel uitpakt zoals zou moeten. En we moeten ook niet naïef zijn. Er zijn nu eenmaal mensen die misbruik maken van macht; dat moet je tegengaan. Wie macht heeft, moet gecontroleerd worden om te voorkomen dat zij haar verkeerd gebruiken. Zeker als ze bij de overheid werken. Dat is een vereiste.’

Je zegt dat de rechtsprekende en de wetgevende macht moeten worstelen om aan te haken bij de digitale capaciteiten van de uitvoerende macht. Moet de overheid hen niet gewoon faciliteren?

‘Rechters en het parlement moeten met wetten en vonnissen eisen dat de uitvoerende macht controle en toetsing faciliteert’

‘Daar zou de uitvoerende macht inderdaad in moeten voorzien. Die is namelijk ook gebonden aan de regels van de democratische rechtsstaat die een goed functionerende trias politica voorschrijven.

Maar rechters en het parlement moeten daarnaast eisen dat de uitvoerende macht controle en toetsing faciliteert. Het parlement kan daar wetten voor opstellen en rechters kunnen dat met vonnissen afdwingen. De Raad van State sommeerde in 2017 een aantal bestuursorganen bijvoorbeeld om de methodiek achter een rekeninstrument voor stikstofuitstoot ‘volledig, tijdig en uit eigen beweging openbaar te maken’. Ze moesten inzicht en uitleg geven, zodat hun besluiten getoetst konden worden. De Hoge Raad nam dit toetsingskader over, maar er moet meer gebeuren om echt af te dwingen dat die controle kan worden uitgeoefend.’

Waarom investeert de overheid dan niet meer om de boel vlot te trekken?

‘De realiteit is dat de uitvoerende macht niet altijd geneigd is dat te doen. “Het land moet immers bestuurd worden,” om premier Rutte te citeren. Het hoeft geen kwade wil te zijn, al zal het bestuurders soms niet slecht uitkomen als de controleurs achterlopen.

Je stuit hier eigenlijk op het probleem van het monisme binnen de coalitie. In principe heeft het parlement het laatste woord over de budgetten en het beleid, maar door de dichtgetimmerde regeerakkoorden is het in de praktijk vaak de regering die bepaalt. En die deelt veelal te karige budgetten aan haar controleurs uit, waardoor de tech divide tussen de machten eerder groter dan kleiner wordt. 

We moeten de imperfectie van onze instituties soms als gegeven nemen. Maar je moet vervolgens wel zorgen dat de uitvoerende macht zich aan de spelregels houdt. Daarvoor is een controlemechanisme nodig. Dat hebben we in de vorm van checks and balances, maar die moeten we echt upgraden en aanpassen aan de realiteit van digitalisering. Het parlement en de rechter moeten ook in een digitaliserende wereld hun controlefunctie effectief kunnen uitoefenen.’

Hoe zie je die upgrade van het staatsbestel voor je? 

 ‘De klassieke manier om deze ontwikkeling te ondervangen zou zijn om de technologie zelf beter te maken: “Hoe programmeren we de tools om onze fundamentele waarden te borgen?”

Maar er is ook een andere weg: het bestel zelf aanpassen. Dat doe je door de instituties zelf beter te equiperen, bijvoorbeeld door de tech divide tussen de machten te verkleinen. De controlerende instanties moeten daarnaast meer ondersteuning krijgen, zowel in kennis als menskracht. En we moeten hogere eisen stellen aan de manier waarop digitale middelen worden gebruikt. Er is dringend behoefte aan transparantie en inzicht in de algoritmes die de overheid inzet en het hoe, waar en waarom daarvan. 

In dit verband bepleit ik ook een ruimere interpretatie van bepaalde beginselen van behoorlijk bestuur, zoals het motiverings- en het zorgvuldigheidsbeginsel. De overheid is de controlerende machten en de burgers dan meer uitleg verschuldigd en er gelden hogere drempels voor het gebruik van die technologieën. Als we de overheid effectief willen controleren, hebben we zulke aanpassingen hard nodig.’

Er zijn weinig parlementsleden met voldoende kennis van technologie om de regering weerwerk te bieden in discussies over digitalisering. Zouden zij zich niet meer in het onderwerp moeten verdiepen?

‘Absoluut. Rechters ook. Het onderwerp wordt te groot en te belangrijk, en het ontbreekt ze negen van de tien keer aan de benodigde kennis. Als je de achtergronden van de nieuwe parlementariërs nagaat, heeft bijna niemand een achtergrond die enige kennis van of affiniteit met digitale technologie verraadt. Het was tijdens de verkiezingen ook nauwelijks een issue.

‘Kamerleden moeten het stellen met een of twee medewerkers en met een beetje geluk een paar stagiairs’

Maar met verdieping alleen ben je er niet. Het onderwerp moet bij de burgers ook meer gaan leven. En de verhoudingen tussen de Kamer en de uitvoerende macht moeten drastisch veranderen. In de praktijk heeft een minister een heel departement achter zich, gekoppeld aan een batterij uitvoeringsinstanties en een enorm budget om experts in te huren die hem kunnen bijstaan in debatten en bij de uitvoering van beleid. Kamerleden hebben dat niet, al helemaal niet in de oppositie. Die moeten het doen met een of twee medewerkers en met een beetje geluk een paar stagiairs. Het parlement heeft simpelweg onvoldoende ondersteuning om adequaat deel te nemen aan het wetgevings- en controleproces. Of beter gezegd, om tegenwicht te bieden aan het machtige digitaliserende overheidsbestuur. Dat is de disbalans op de Kamervloer.’

Na de afgelopen verkiezingen is de vaste Kamercommissie voor Digitale Zaken (DiZa) geïnstalleerd. Gaat die ons redden? 

‘De installatie van die commissie is een heel positieve ontwikkeling. Maar wat DiZa precies gaat doen, is nog onduidelijk. Verwacht er niet te veel van. De tijd moet leren of de commissie, die uit leden van allerlei politieke partijen bestaat, als eenheid zal opereren en of zij goed samenwerkt met andere commissies. Een geïsoleerd digitaal vraagstuk bestaat namelijk niet. Bijna altijd is het verweven met andere kwesties, die onder de verantwoordelijkheid van andere departementen vallent. Denk aan het datalek bij de GGD of het gebruik van algoritmes bij defensie. De mate waarin DiZa bij dergelijke zaken wordt betrokken en serieus wordt genomen, is doorslaggevend.

Nog mooier zou zijn als de ondersteuning van de rechter en het parlement op dit onderwerp wordt uitgebreid. Het parlement moet een eigen, onafhankelijk bureau krijgen voor technology assessments. Een expertisegroep die heel dicht op de Tweede Kamer zit, zodat je die snel concrete vragen kunt stellen als: “Hoe zit het met algoritme X van de Belastingdienst?”, maar die je ook kunt raadplegen over langlopende ontwikkelingen over AI: “Wat is dat en wat zal de impact zijn op rechtsstatelijke waarden?”

In Duitsland en de VS bestaan dergelijke bureaus al. Wij hebben iets dat in die richting komt: het Rathenau Instituut. Dat heeft al de taak om onafhankelijk aan technology assessment te doen, maar het Rathenau staat nu nog te ver van het parlement af. Het zou in het parlement moeten aanschuiven om echt adequate ondersteuning te kunnen bieden en het verschil te maken.’ 

En een minister van Digitale Zaken? 

‘Dat zingt nu een beetje rond en ik zou dat wel zien zitten, in elk geval omwille van de aandacht die het thema verdient. Vanwege de verwevenheid met andere kwesties is het ook hier de vraag in hoeverre zo’n minister werkelijk eindverantwoordelijk kan zijn voor een digitaal dossier, maar dan kan er tenminste iemand op worden aangesproken. Bijvoorbeeld over een datalek, de digitale infrastructuur van de overheid of de digitale veiligheid. Het speerpunt zou wat mij betreft echter moeten zijn dat zo’n minister voor transparantie zorgt.’

Zou digitale technologie kunnen helpen om de machtsbalans te herstellen?

‘Zeker. Je zou algoritmes kunnen inzetten om het informatiegat tussen de controlerende en de uitvoerende macht te dichten, of om burgers automatisch te informeren over wat er met hun gegevens gebeurt. Dan gebruik je technologie juist om dingen transparanter te maken en beter te kunnen controleren. Daarnaast zou je in de technologie die de uitvoerende macht gebruikt, componenten kunnen inbouwen die de controle op de werking ervan vereenvoudigt.

Het uitgangspunt zou moeten zijn dat je het systeem bewust inricht conform de normatieve waarden van de trias politica: trias politica by design. Maar daar zijn we nog lang niet.’ 

In januari concludeerde de Algemene Rekenkamer dat de Rijksoverheid geen centraal overzicht heeft van de algoritmes die zij gebruikt, dat men die zelf niet goed begrijpt en de risico’s ervan voor de burger niet overziet. Intussen zet de overheid vol in op het gebruik van nog complexere technologie en wil zij de uitwisseling van data tussen overheid en private instanties vergemakkelijken. Is dit an accident waiting to happen?

‘Dat denk ik wel. Kijk, we zitten in een technology trap. De overheid kan niet meer zonder big data en algoritmes. Burgers verwachten ook dat de overheid efficiënt werkt en bepaalde zaken kun je alleen nog met digitale technologie inregelen. Denk aan het opsporen van fraude – wat belangrijk is om draagvlak te houden voor de verzorgingsstaat.

‘Men vergeet vaak dat een algoritme een kansberekening voor de toekomst op basis van historische informatie is’

Maar je moet het wel op een goede manier inzetten. Als je niet weet hoe dat moet, kun je het beter laten. De digitale gereedschappen van de overheid zijn complex en vertegenwoordigen een mate van macht die enorme gevolgen kan hebben. Daarom moeten de randvoorwaarden op orde zijn. Leid ambtenaren die deze technieken gebruiken beter op, zodat zij weten hoe hun gereedschap werkt en ze de output van algoritmes beter op waarde kunnen schatten. Men vergeet vaak dat een algoritme een kansberekening voor de toekomst op basis van historische informatie is. Dat een algoritme iemand aanwijst, is dus geen bewijs dat hij of zij fraudeert. Die output moet je doorlopend verifiëren, net als de data waar die op gebaseerd is. Doe je dat niet, dan heb je zo een nieuwe toeslagenaffaire.

Ik ben op zich hoopvol: er lijkt nu meer aandacht voor digitalisering te zijn in de politiek en bij hoge ambtenaren en rechters. Maar als je kijkt naar het voorstel voor de Wet gegevensverwerking door samenwerkingsverbanden (WGS) en de wens om nog meer artificiële intelligentie te implementeren, vrees ik dat het probleem voorlopig alleen maar zal verergeren.’ 

De Raad van State schreef in een advies in 2018 dat de ‘positie en bescherming van burgers bij digitalisering van de overheid in het geding zijn’. Recent bleek dat defensie, zonder mandaat en in strijd met de AVG, persoonsgegevens van Nederlandse burgers verwerkte die het online had verzameld. NRC onthulde in april dat de Nationaal Coördinator Terrorisme en Veiligheid jarenlang hetzelfde deed. Wat zegt dit over de machtsverhouding tussen overheid en burger?

‘Hier zie je heel goed dat digitalisering machtsongelijkheid vergroot. De overheid is veel machtiger dan burgers en dat moet ze ook zijn om te functioneren. Tegelijkertijd moeten de rechten en vrijheden van burgers beschermd worden tegen die overheid.

Als machtsongelijkheid toeneemt en de burger afhankelijker wordt – zwakker wordt ten opzichte van die overheid, en dan vooral wat betreft zijn privacy – groeit het risico dat zijn autonomie wordt geschonden. De uitvoerende macht gaat sneller over de schreef dan we denken. Zelfs als zij het goed bedoelt, is de overheid in staat om dingen te doen die op gespannen voet staan met onze rechtsstatelijke waarden, zoals het optreden zonder wettelijke grondslag door defensie liet zien.

Digitale middelen maken het makkelijker om die grens te overschrijden. Juist daarom hebben we goede checks and balances nodig. We moeten de uitvoerende macht op het rechte pad houden.’ 

Ben je tegen digitalisering door de overheid? 

‘Ik zie belangrijke voordelen van het gebruik van digitale middelen, maar ik ben geen techno-optimist. Ik ben wars van de notie dat tech altijd maar de oplossing zou zijn voor alles. Digitalisering heeft sociale consequenties. Het leidt tot machtsverschuivingen, nieuwe machtsconcentraties en maakt maatschappelijke structuren complexer. Daar zouden mensen zich veel meer bewust van moeten zijn. 

‘Met digitale technologie bereiken we aak het tegenovergestelde van wat we hoopten’

De sociale vraagstukken rondom technologie zijn voor mij veel prangender dan de technische. Kijk naar het klimaatprobleem. Je hoort altijd dat technologie daar wel een oplossing voor vindt. Ontmoeten op afstand, slimme meters, efficiënt stroomgebruik, zelfrijdende auto’s, noem maar op. Dat kan allemaal waar zijn, maar de vraag is hoe we dat gaan doen op een manier die zorgt dat fundamentele vrijheden, zoals de vrijheid om te gaan en staan waar je wilt, worden gewaarborgd.’

Dat klinkt redelijk negatief.

‘Technologische ontwikkeling is soms heel cynisch. Momenteel bereiken we met de inzet van digitale technologie vaak het tegenovergestelde van wat we hoopten. We ontwikkelen liever geavanceerde advertentiemachines die gigantisch veel stroom kosten, zetten in op Bitcoin dat stroom bij de vleet opslurpt en bouwen mega-datacenters die ongeveer alle groene stroom verbruiken die we opwekken, waardoor ons verbruik van fossiele brandstof niet daalt. Dan werkt tech dus tegen het klimaat. 

We moeten wat mij betreft terughoudend zijn in ons techno-optimisme. Als we iets ten goede willen veranderen, moeten we het institutionele perspectief niet uit het oog verliezen. Kijk naar wat er in het echt gebeurt en wat de sociale gevolgen zijn van tech. Het blijft een gereedschap voor mensen, met al hun tekortkomingen.’ 

De centrale vraag in je boek is of ons staatsbestel klaar is voor een digitaliserende maatschappij. Wat is wat jou betreft de eindstand?

‘Dat we er zeker niet klaar voor zijn. Maar er zijn nog wel manieren denkbaar waarop wij dat bestel kunnen versterken en aanpassen aan digitalisering. Politiek en praktisch gezien zal dat ingewikkeld worden, maar het kan. Het is aan politici, rechters en beleidsmakers om dat voor elkaar te krijgen. En aan burgers om hun politieke vertegenwoordigers hieraan te houden.’