‘Heb je wel eens met een Xbox gespeeld? Nou, dit is ongeveer hetzelfde’, zegt kapitein Tom terwijl hij me een controller in de handen drukt. Maar deze controller stuurt geen virtuele voetballers aan. Het militaire voertuig dat ik bestuur is gebouwd door het bedrijf Milrem Robotics, weegt 1700 kilo en rijdt soepeltjes rond op de kazerne in Marnewaard. Zo soepeltjes, dat het hek aan de overkant ineens heel dichtbij komt.

Feitelijk bestaat het op afstand bestuurbare voertuig — de Themis — uit weinig meer dan twee rupsbanden met een rek ertussen, waar allerlei apparatuur op gemonteerd kan worden. De Landmacht heeft vooralsnog twee exemplaren, maar er wordt volop mee geëxperimenteerd. ‘We hebben de er afgelopen maanden ook mee gewerkt in Schotland en Oostenrijk, want we wilden natuurlijk weten of ‘ie daar net zo goed gaat’, zegt Tom.

Deze aanschaf is niet het resultaat van meer geld naar Defensie, maar van twee officieren die in tijden van bezuinigingen een potje geld wisten los te peuteren bij hun meerderen. Luitenant-kolonel Julien den Ouden en luitenant-kolonel Martijn Hädicke zijn sinds 2017 de kartrekkers van de eenheid Robotic and Autonomous Systems (RAS) bij 13 Lichte Brigade in het Brabantse Oirschot. ‘We hebben samen letterlijk in een hok zonder ramen gezeten om te kijken wat de mogelijkheden zijn. Het is een gevoelig onderwerp, en we wilden voorkomen dat het door de controverse al werd afgeschoten voordat we er goed en wel over hadden nagedacht’, aldus Den Ouden. ‘Want let wel, robotica en autonome systemen kunnen voor soldaten de risico’s verlagen. Je spaart er letterlijk mensenlevens mee.’

‘Innovatie is geen app of een symposium’

‘We wilden niet het zoveelste project met “peppie” spulletjes zijn, maar doen wat nodig is’, vertelt Hädicke. ‘Experimenteren en vooral kijken hoe we met deze systemen militairen kunnen ondersteunen. Innovatie is geen app of een symposium, maar proberen, simuleren en testen.’ Den Ouden: ‘Zeker na al die bezuinigingen moet je bij militairen echt niet aankomen met theater, maar ze lekker aan de slag laten gaan. Degenen die het materiaal gaan gebruiken moeten creatief meedenken, dat moeten wij niet voor ze gaan doen vanuit ons hok.’

Oefendorp

Creatief denken. Moderne technologie. Simulaties. Je zou het niet zeggen als je rondkijkt. De ruim opgezette Willem Lodewijk van Nassaukazerne in Groningen doet met zijn jaren ‘80-bouw sterk denken aan het Van der Valk hotel te Akersloot. ‘Er is hier absoluut niks veranderd. Ik zie nog steeds dezelfde deuren zitten als twintig jaar geleden’, vertelt een militair lachend in de recreatieruimte. De groene aanslag op de muren en de plukjes onkruid tussen de tegels verraden ondertussen dat de gebouwen niet meer zo vol zitten als ten tijde van de dienstplicht. En waar grijze gipsblokken en systeemplafonds in menig publieke ruimte onderhand zijn vervangen of op zijn minst voorzien van een lik witte verf, zijn ze in Marnewaard nog in volle grauwgrijze glorie te aanschouwen. Stille getuigen van een krijgsmacht die niet meer bestaat.

Hoewel de bedrijvigheid in Marnewaard sterk is afgenomen — ‘in de winter vind je hier soms alleen de cateringmevrouw en de huisbaas’ — is 13 Lichte Brigade hier deze week met een reden. Na het oefenen in het ruwe terrein van Schotland en Oostenrijk is het namelijk hoog tijd de MILREM te testen in stedelijk gebied. En laat dit daar nu de uitgelezen plek voor zijn: op zo’n drieënhalve kilometer van de kazerne ligt Marnehuizen, het grootste militaire oefendorp van Europa. Naast huizen zijn er loodsen, winkels, een stuk spoorweg met een station, een bank, een tankstation en zelfs een heel ondergronds rioolstelsel te vinden. 

Voordat er in Marnehuizen kan worden geoefend legt kapitein Tom uit aan zijn soldaten wat het betekent als bepaalde lampjes oplichten. De handleiding van de MILREM ligt uitgespreid over het voertuig en Tom laat ze meekijken op zijn handheld, wat vooral lijkt op een iPad met overgewicht. ‘Infanteristen zijn gespecialiseerd in vechten, maar ze moeten nu dus ook leren sleutelen. Tegelijkertijd moeten wij ook aangeven wat er anders moet of beter kan’, zegt Tom. Wat heeft hij er zelf aan? ‘Als ik een gewonde moet afvoeren, ben ik normaal gesproken acht man kwijt. Met dit systeem maar twee: een bestuurder en een schutter. Dit betekent dat ik weer meer mensen overhoud om mee te vechten.’

Het is ook veiliger, vertellen de militairen. ‘We kunnen ook een antitankwapen op de Milrem zetten of, zoals we onlangs in Oostenrijk deden, een .50 [een zwaar machinegeweer, red]. Als manschappen dan worden opgewacht door een tank, kan de MILREM die uitschakelen zonder dat er direct gevaar is voor militairen’, vertelt Den Ouden. ‘Maar we kunnen op het tussenrek ook uitrusting neerleggen. Fight light. Je hebt dan het beste uit twee werelden’, vult kapitein Tom aan. ‘We kunnen wel meerdere spullen aanvoeren, zonder dat militairen allerlei extra uitrusting of munitie aan zich hebben hangen, wat bijvoorbeeld gewrichtsklachten kan opleveren.’

Robot aan een touwtje

De Landmacht kijkt vooral naar hoe de militair versterkt kan worden. Hädicke: ‘Het opereren met robots is een middel. Intelligente machines zien we vooral als co-worker, waarbij kunstmatige intelligentie een goede adviseur zou kunnen zijn.’ Tegelijkertijd wijst hij erop dat er goed moet worden nagedacht over wie deze machines zouden moeten bedienen: ‘Wil je een jong iemand, die is opgegroeid met digitale middelen en de besturing sneller aanleert? Of juist een ouder iemand, die een beter ontwikkeld ethisch besef heeft en dus wat voorzichtiger is?’

Hädicke: “We zitten nu echt op het niveau van “de robot aan een touwtje”. De kunstmatige intelligentie die we gebruiken is slechts uitgerust voor een enkele taak. Die algoritmes moeten we echt zelf blijven ontwikkelen, want we moeten weten waar die werkafspraken tussen mens en machine precies uit bestaan. Het lijkt me niet wenselijk om niets te doen, om vervolgens zomaar algoritmes van bondgenoten over te kopen. Tuurlijk, je kan samen ontwikkelen met partners. Maar we moeten geen black box inkopen.’

Terwijl Defensie werkt aan mogelijkheden die de militair veiliger kan laten werken en kijkt naar de uitvoerende kant, gaat de maatschappelijke discussie voornamelijk over wat voor (extra) schade ze hierdoor kunnen aanrichten. Want wat als een dictator autonome middelen in handen krijgt en gaat inzetten tegen een protesterende bevolking? Of wat te doen als de kennis wordt ingezet om doelen te identificeren en uit te schakelen zonder tussenkomst van een mens? Wie is er dan nog verantwoordelijk?  

Vooral dit laatste scenario domineert het publieke debat. Zo pleitten twee jaar geleden meer dan honderd robotica- en kunstmatige intelligentie ondernemers bij de Verenigde Naties voor een verbod op zogeheten killer robots. De ondertekenaars, waaronder Tesla-voorman Elon Musk en DeepMind-oprichter Mustafa Suleyman, vrezen dat als de doorontwikkeling niet stopt, het erg lastig zal worden om de doos van Pandora weer te sluiten.

Ook vredesorganisaties laten veelvuldig van zich horen. Afgelopen zomer wees PAX op de mogelijke betrokkenheid van techbedrijven — zoals Microsoft en Amazon — bij de ontwikkeling van autonome wapens. Innovaties mogen niet voor militaire toepassingen gebruikt worden, als het aan PAX ligt. Woordvoerder Daan Kayser roemde tegenover De Morgen techbedrijf Google, dat ‘duidelijk op papier zet dat hun technologie die bedoeld is voor civiele toepassingen niet gebruikt mag worden in een militaire context’.

De vraag is in hoeverre de mooie praatjes worden omgezet in daadjes

Google besloot tot deze strenge richtlijn nadat de chef kunstmatige intelligentie van Google, Jeff Dean, samen met ruim 3000 collega’s een petitie ondertekende waarin het bestuur werd verzocht nooit mee te helpen aan de ontwikkeling van autonome wapens. Enkele tientallen medewerkers hadden zelfs al ontslag genomen uit protest tegen de samenwerking van Google met het Amerikaanse ministerie van Defensie. 

De vraag is in hoeverre deze mooie praatjes worden omgezet in daadjes. Zo financiert Gradient Ventures, een onderbedrijf van Google, startups die militaire middelen ontwikkelen zoals software om drone-data te verwerken. Naast geld investeert Google ook in deze startups door medewerkers uit te lenen die kunnen meehelpen in het ontwikkelen van programma’s.

En precies hier zit de crux: want de technologie die ervoor zorgt dat je sneller interessante producten kunt identificeren voor de gebruiker, kan ook gebruikt worden om interessante doelen aan te geven voor de militair. De discussie richt zich met name op de mate van menselijke controle. Zo is een drone ook een ‘robot aan een touwtje’ maar maakt dezre — net als bemande voertuigen zoals bijvoorbeeld de F35 straaljager — veelvuldig gebruik van kunstmatige intelligentie. Daarnaast ontwikkelt het Amerikaanse leger momenteel een ‘ghost fleet’: onbemande en bewapende schepen die kunnen dienen als verkenning voordat er daadwerkelijk troepen op pad worden gestuurd.

Wie de trekker overhaalt 

Merel Ekelhof promoveert binnenkort op het onderwerp aan de Vrije Universiteit en zet haar werk momenteel voort bij het United Nations Institute for Disarmament Research (UNIDIR). Zij wijst erop dat het hier inderdaad gaat over technologie die niet specifiek militair is, en dat deze technologie op zichzelf (dus ook zonder militaire toepassing) een ethische discussie verdient: ‘Het gaat hier om systemen die een mate van autonomie hebben en ons helpen om bepaalde beslissingen te maken. Bij bedrijven zoals Facebook of Amazon gaat het om interessante producten, in de militaire context kan het ook gaan om interessante doelen. Het inzetten van deze technologie in de samenleving zorgt voor terechte discussie, maar het is een beetje simpel om de kous af te doen met: zolang het niet militair wordt toegepast, is het ethisch in orde.’

‘Misschien vindt u dit ook interessant? Je ziet zelf op Youtube of Facebook dat dit niet altijd goede adviezen zijn’, illustreert Hädicke. ‘Daarom draaien wij bij de ontwikkeling van algoritmes deze vraag om: waarom is dit een doel? Op deze manier blijven we zicht hebben op wat er onder de motorkap gebeurt.’ Ekelhof wijst erop dat doelwitbestrijding een belangrijke taak is van Defensie, ‘maar slechts een onderdeel is van wat ze doen. Dit soort technologieën kunnen ook ingezet worden om informatie te verwerken en bij te dragen aan een beter geïnformeerde krijgsmacht, die middelen effectiever kan inzetten en het risico op nevenschade kan verkleinen.’ Want, zo concludeert zij, ‘een ethische discussie kan niet alleen bestaan uit een opsomming van wat we onacceptabel vinden. Je moet ook kijken naar mogelijke opbrengsten. Pas dan kun je een morele afweging maken.’

Tijdens het bezoek aan 13 Lichte Brigade wordt steevast gehamerd op de menselijke supervisie en bijbehorende eindverantwoordelijkheid. Binnen het Nederlandse leger bestaan dan ook geen investeringsprojecten voor volledig autonome wapens — de killer robots waar men voor vreest. Ekelhof constateert dat de discussie zich vooral concentreert op de laatste schakel: het wapen zelf. ‘We willen vooral weten wie de trekker overhaalt, en of dit nog wel door een mens gebeurt.’ In haar publicaties voor onder meer Naval War College Review hamert ze op het belang om te kijken naar de hele besluitvormingsketen. Ekelhof: ‘In het militaire planningsproces gebeurt er veel. Bij het besluit tot wapeninzet zijn tientallen of soms zelfs honderden mensen betrokken. Als het belang inderdaad zit in de menselijke controle, moet je deze niet beperken tot uiteindelijke inzet, maar deze inbakken in het hele proces zoals we die in de praktijk zien.’

‘Ethiek verandert door de tijd heen, morele discussies zijn nooit klaar’ 

Tot deze conclusie kwam ook het Haags Centrum voor Strategische Studies (HCSS) vorige maand in een rapport. De denktank pleite ervoor de ethische discussie niet te beperken tot de operationele inzet van een wapen, maar morele afwegingen vanaf het prilste begin in te bouwen.

Proeftuin

Zowel Ekelhof als Hädicke komen beiden afzonderlijk tot de conclusie dat Defensie de komende jaren vooral zal moeten kijken of de huidige organisatiestructuur nog wel van deze tijd is. Hädicke: ‘Kunstmatige intelligentie heeft een impact op je organisatie. Als Defensie minder mensen nodig heeft voor hetzelfde werk, of misschien een heel ander type, dat buiten het standaard plaatje van “de militair” valt, dan moet je qua personeelsbeleid daar flexibel mee kunnen omspringen. Dat is nu nog lastig.’

‘Zo hadden we contact met een student die een slimme schietschijf had ontwikkeld’, herinnert Den Ouden zich. ‘Alle informatie stond op een usb-stick en hij wilde ons wel helpen met het bouwen van het onderstel. Helaas kan ik zo’n jongen geen flexcontract aanbieden. Die moet eerst naar een open dag, een informatieavond, krijgt een keuring — alles erop en eraan. Denk maar niet dat een talentvolle student daarop gaat zitten wachten, die gaat elders aan de bak.’

Defensie laat hierop weten eind september te zijn begonnen met een zogenaamde ‘proeftuin’, waardoor kleinere eenheden (zoals de RAS) deze rigide aanstellingseisen kunnen omzeilen. Volgens Den Ouden ligt de uitdaging er echter vooral in om de bevindingen van een kleine eenheid om te zetten naar een defensiebrede nieuwe manier van denken en werken.

Op uitvoerend niveau is het dus duidelijk: ontwikkelen naar de behoefte, zorgen dat je ‘onder de motorkap’ kan blijven kijken en tegelijkertijd de menselijke controle vanaf het startpunt inbouwen. Toch is hiermee niet de kous af, constateert Ekelhof: ‘Ethiek verandert door de tijd heen, morele discussies zijn nooit klaar.’ Het ethische mes snijdt ook aan twee kanten. Is een autonoom wapen dat met behulp van algoritmes preciezer wordt en aantoonbaar minder burgerslachtoffers maakt eveneens onwenselijk?

Terwijl politiek Den Haag zijn handen niet durft te branden aan deze vragen, probeert men op de militaire werkvloer zo goed mogelijk om te gaan met de nieuwe (semi-autonome) realiteit. Zowel militairen als wetenschappers wijzen erop dat het hoog tijd is om te kijken naar hoe de — ook door het kabinet gewenste ‚ ‘menselijke controle’ er precies uit zal komen te zien. Het kabinet heeft nog enkele weken om deze morele exercitie te voltooien: minister Bijleveld beloofde oktober vorig jaar om uiterlijk in 2020 met een visie te komen.