© Defensie

Landmacht volop bezig met autonome wapens

    Experts en vredesorganisaties luiden al jaren de noodklok over autonome wapens. Als we niet snel ingrijpen, zo wordt gevreesd, dan verliest de mens het laatste stukje controle over deze technologie. Maar hoe kijken de mensen die ermee moeten werken zélf eigenlijk tegen dit soort wapens aan?

    Dit stuk in 1 minuut
    • Autonome wapensystemen zijn omstreden. Diverse vredesorganisaties, experts en zelfs het Europees Parlement riepen bij herhaling op tot een algeheel verbod.

    • Follow the Money besloot een kijkje te nemen bij de 13 Lichte Brigade, waar een kleine eenheid – geleid door twee officieren — zich juist hard heeft gemaakt voor experimenteren met robotica en autonome systemen.

    • Zowel vanuit Defensie als de wetenschap klinkt het pleidooi om de discussie te nuanceren: autonome (wapen)systemen zijn op zichzelf niet onethisch, wel dient er veel beter te worden nagedacht over de toepassing. Het terugkerend advies: kijk niet alleen naar ‘wie de trekker overhaalt’, maar zorg voor een strenge ethische (en menselijke) controle over het hele proces van wapeninzet.

    • Het kabinet verwerpt de ontwikkeling en inzet van autonome systemen die niet onder menselijke controle staan, maar houdt zich verder op de vlakte hoe deze er dan uit moet zien. Wel is de Tweede Kamer beloofd dat de regering in 2020 met een visie komt.

    Lees verder

    ‘Heb je wel eens met een Xbox gespeeld? Nou, dit is ongeveer hetzelfde’, zegt kapitein Tom terwijl hij me een controller in de handen drukt. Maar deze controller stuurt geen virtuele voetballers aan. Het militaire voertuig dat ik bestuur is gebouwd door het bedrijf Milrem Robotics, weegt 1700 kilo en rijdt soepeltjes rond op de kazerne in Marnewaard. Zo soepeltjes, dat het hek aan de overkant ineens heel dichtbij komt.

    Feitelijk bestaat het op afstand bestuurbare voertuig — de Themis — uit weinig meer dan twee rupsbanden met een rek ertussen, waar allerlei apparatuur op gemonteerd kan worden. De Landmacht heeft vooralsnog twee exemplaren, maar er wordt volop mee geëxperimenteerd. ‘We hebben de er afgelopen maanden ook mee gewerkt in Schotland en Oostenrijk, want we wilden natuurlijk weten of ‘ie daar net zo goed gaat’, zegt Tom.

    Deze aanschaf is niet het resultaat van meer geld naar Defensie, maar van twee officieren die in tijden van bezuinigingen een potje geld wisten los te peuteren bij hun meerderen. Luitenant-kolonel Julien den Ouden en luitenant-kolonel Martijn Hädicke zijn sinds 2017 de kartrekkers van de eenheid Robotic and Autonomous Systems (RAS) bij 13 Lichte Brigade in het Brabantse Oirschot. ‘We hebben samen letterlijk in een hok zonder ramen gezeten om te kijken wat de mogelijkheden zijn. Het is een gevoelig onderwerp, en we wilden voorkomen dat het door de controverse al werd afgeschoten voordat we er goed en wel over hadden nagedacht’, aldus Den Ouden. ‘Want let wel, robotica en autonome systemen kunnen voor soldaten de risico’s verlagen. Je spaart er letterlijk mensenlevens mee.’

    ‘Innovatie is geen app of een symposium’

    ‘We wilden niet het zoveelste project met “peppie” spulletjes zijn, maar doen wat nodig is’, vertelt Hädicke. ‘Experimenteren en vooral kijken hoe we met deze systemen militairen kunnen ondersteunen. Innovatie is geen app of een symposium, maar proberen, simuleren en testen.’ Den Ouden: ‘Zeker na al die bezuinigingen moet je bij militairen echt niet aankomen met theater, maar ze lekker aan de slag laten gaan. Degenen die het materiaal gaan gebruiken moeten creatief meedenken, dat moeten wij niet voor ze gaan doen vanuit ons hok.’

    Oefendorp

    Creatief denken. Moderne technologie. Simulaties. Je zou het niet zeggen als je rondkijkt. De ruim opgezette Willem Lodewijk van Nassaukazerne in Groningen doet met zijn jaren ‘80-bouw sterk denken aan het Van der Valk hotel te Akersloot. ‘Er is hier absoluut niks veranderd. Ik zie nog steeds dezelfde deuren zitten als twintig jaar geleden’, vertelt een militair lachend in de recreatieruimte. De groene aanslag op de muren en de plukjes onkruid tussen de tegels verraden ondertussen dat de gebouwen niet meer zo vol zitten als ten tijde van de dienstplicht. En waar grijze gipsblokken en systeemplafonds in menig publieke ruimte onderhand zijn vervangen of op zijn minst voorzien van een lik witte verf, zijn ze in Marnewaard nog in volle grauwgrijze glorie te aanschouwen. Stille getuigen van een krijgsmacht die niet meer bestaat.

    Hoewel de bedrijvigheid in Marnewaard sterk is afgenomen — ‘in de winter vind je hier soms alleen de cateringmevrouw en de huisbaas’ — is 13 Lichte Brigade hier deze week met een reden. Na het oefenen in het ruwe terrein van Schotland en Oostenrijk is het namelijk hoog tijd de MILREM te testen in stedelijk gebied. En laat dit daar nu de uitgelezen plek voor zijn: op zo’n drieënhalve kilometer van de kazerne ligt Marnehuizen, het grootste militaire oefendorp van Europa. Naast huizen zijn er loodsen, winkels, een stuk spoorweg met een station, een bank, een tankstation en zelfs een heel ondergronds rioolstelsel te vinden. 

    De 13 Lichte Brigade oefent met de Milrem in Oostenrijk.

    Voordat er in Marnehuizen kan worden geoefend legt kapitein Tom uit aan zijn soldaten wat het betekent als bepaalde lampjes oplichten. De handleiding van de MILREM ligt uitgespreid over het voertuig en Tom laat ze meekijken op zijn handheld, wat vooral lijkt op een iPad met overgewicht. ‘Infanteristen zijn gespecialiseerd in vechten, maar ze moeten nu dus ook leren sleutelen. Tegelijkertijd moeten wij ook aangeven wat er anders moet of beter kan’, zegt Tom. Wat heeft hij er zelf aan? ‘Als ik een gewonde moet afvoeren, ben ik normaal gesproken acht man kwijt. Met dit systeem maar twee: een bestuurder en een schutter. Dit betekent dat ik weer meer mensen overhoud om mee te vechten.’

    Het is ook veiliger, vertellen de militairen. ‘We kunnen ook een antitankwapen op de Milrem zetten of, zoals we onlangs in Oostenrijk deden, een .50 [een zwaar machinegeweer, red]. Als manschappen dan worden opgewacht door een tank, kan de MILREM die uitschakelen zonder dat er direct gevaar is voor militairen’, vertelt Den Ouden. ‘Maar we kunnen op het tussenrek ook uitrusting neerleggen. Fight light. Je hebt dan het beste uit twee werelden’, vult kapitein Tom aan. ‘We kunnen wel meerdere spullen aanvoeren, zonder dat militairen allerlei extra uitrusting of munitie aan zich hebben hangen, wat bijvoorbeeld gewrichtsklachten kan opleveren.’

    De gouden driehoek

    De Themis werd ontwikkeld door het Estlandse bedrijf Milrem Robotics en is het eerste hybride modulaire onbemande grondvoertuig. Hybride omdat het zowel op elektriciteit als diesel rijdt; modulair omdat het bestaat uit losse onderdelen. Deze onderdelen laten zich het best omschrijven als twee rupsbanden (met een antenne voor de besturing op afstand) en een rek van diverse afmetingen wat er tussen geplaatst kan worden. 

    Het voertuig lijkt vooralsnog bedoeld als ondersteunend platform voor infanteristen en genisten door dienst te doen als transportmiddel, op afstand bestuurbaar wapenstation, maar dat ook kan worden ingezet om bermbommen op te sporen of uitgevallen voertuigen weg te slepen.

    De eenheid Robotica en Autonome Systemen (RAS) van de Landmacht kocht twee exemplaren, en maakte de afspraak met de fabrikant om de specificaties te laten bepalen door de uitslag van de experimenten. In ruil hiervoor krijgt de fabrikant toegang tot de data en mag deze gebruik maken van de voorzieningen voor de experimenten (zoals militair oefenterrein). De data - wat feitelijk neerkomt op gebruikerservaringen - kan de fabrikant vervolgens weer gebruiken om nieuwe producten te vermarkten. Ondertussen krijgt Defensie een product wat speciaal is ontwikkeld op de behoefte van de militair.

    Deze vorm van samenwerking — waarin de industrie samen met het ministerie van Defensie en TNO producten ontwikkeld — staat in militaire kringen bekend als de ‘Gouden Driehoek’. De huidige minister van Defensie, Ank Bijleveld, onderstreepte in haar Defensie Industrie Strategie (DIS) van 2018 het belang van deze manier van samenwerken met de industrie: ‘Door de bundeling van krachten kunnen technologisch geavanceerde producten worden ontwikkeld en een zo hoog mogelijke operationele inzetbaarheid van wapensystemen tegen een zo laag mogelijke prijs worden gerealiseerd.’

    Toch is niet alles wat blinkt goud. Het Koninklijk Instituut van Ingenieurs (KIVI) wees er in een reactie op de Defensie Industrie Strategie van Bijleveld op dat de bejubelde Gouden driehoek zich ‘sterk richt op het bestaande netwerk van kennisinstituten en bij de NIDV [branchevereniging defensieindustrie, red] aangesloten bedrijven, die in opdracht van Defensie capaciteiten ontwikkelen en bouwen. Het is een gesloten driehoek, waar toetreding lastig is.’ Niet alleen is het lastig voor nieuwe partijen om toe te treden, ook bestaat er het risico van het wiel opnieuw uitvinden omdat de Gouden Driehoek ‘niet kijkt naar andere sectoren waar bepaalde technologie al in gebruik is’. Juist deze aansluiting ‘is van belang’. Het Koninklijk Instituut van Ingenieurs adviseert vervolgens dat de Gouden Driehoek ‘de luiken open [moet] zetten’.

    Follow the Money constateerde eerder dit jaar — in een onderzoek naar het verdelen van Europese subsidiegelden — dat leden van de Gouden Driehoek soms een dubbele pet dragen, waardoor belangen van de overheid, industrie en kennisinstituten moeilijk te scheiden zijn.

    Lees verder Inklappen

    Robot aan een touwtje

    De Landmacht kijkt vooral naar hoe de militair versterkt kan worden. Hädicke: ‘Het opereren met robots is een middel. Intelligente machines zien we vooral als co-worker, waarbij kunstmatige intelligentie een goede adviseur zou kunnen zijn.’ Tegelijkertijd wijst hij erop dat er goed moet worden nagedacht over wie deze machines zouden moeten bedienen: ‘Wil je een jong iemand, die is opgegroeid met digitale middelen en de besturing sneller aanleert? Of juist een ouder iemand, die een beter ontwikkeld ethisch besef heeft en dus wat voorzichtiger is?’

    Hädicke: “We zitten nu echt op het niveau van “de robot aan een touwtje”. De kunstmatige intelligentie die we gebruiken is slechts uitgerust voor een enkele taak. Die algoritmes moeten we echt zelf blijven ontwikkelen, want we moeten weten waar die werkafspraken tussen mens en machine precies uit bestaan. Het lijkt me niet wenselijk om niets te doen, om vervolgens zomaar algoritmes van bondgenoten over te kopen. Tuurlijk, je kan samen ontwikkelen met partners. Maar we moeten geen black box inkopen.’

    Terwijl Defensie werkt aan mogelijkheden die de militair veiliger kan laten werken en kijkt naar de uitvoerende kant, gaat de maatschappelijke discussie voornamelijk over wat voor (extra) schade ze hierdoor kunnen aanrichten. Want wat als een dictator autonome middelen in handen krijgt en gaat inzetten tegen een protesterende bevolking? Of wat te doen als de kennis wordt ingezet om doelen te identificeren en uit te schakelen zonder tussenkomst van een mens? Wie is er dan nog verantwoordelijk?  

    Vooral dit laatste scenario domineert het publieke debat. Zo pleitten twee jaar geleden meer dan honderd robotica- en kunstmatige intelligentie ondernemers bij de Verenigde Naties voor een verbod op zogeheten killer robots. De ondertekenaars, waaronder Tesla-voorman Elon Musk en DeepMind-oprichter Mustafa Suleyman, vrezen dat als de doorontwikkeling niet stopt, het erg lastig zal worden om de doos van Pandora weer te sluiten.

    Ook vredesorganisaties laten veelvuldig van zich horen. Afgelopen zomer wees PAX op de mogelijke betrokkenheid van techbedrijven — zoals Microsoft en Amazon — bij de ontwikkeling van autonome wapens. Innovaties mogen niet voor militaire toepassingen gebruikt worden, als het aan PAX ligt. Woordvoerder Daan Kayser roemde tegenover De Morgen techbedrijf Google, dat ‘duidelijk op papier zet dat hun technologie die bedoeld is voor civiele toepassingen niet gebruikt mag worden in een militaire context’.

    De vraag is in hoeverre de mooie praatjes worden omgezet in daadjes

    Google besloot tot deze strenge richtlijn nadat de chef kunstmatige intelligentie van Google, Jeff Dean, samen met ruim 3000 collega’s een petitie ondertekende waarin het bestuur werd verzocht nooit mee te helpen aan de ontwikkeling van autonome wapens. Enkele tientallen medewerkers hadden zelfs al ontslag genomen uit protest tegen de samenwerking van Google met het Amerikaanse ministerie van Defensie. 

    De vraag is in hoeverre deze mooie praatjes worden omgezet in daadjes. Zo financiert Gradient Ventures, een onderbedrijf van Google, startups die militaire middelen ontwikkelen zoals software om drone-data te verwerken. Naast geld investeert Google ook in deze startups door medewerkers uit te lenen die kunnen meehelpen in het ontwikkelen van programma’s.

    En precies hier zit de crux: want de technologie die ervoor zorgt dat je sneller interessante producten kunt identificeren voor de gebruiker, kan ook gebruikt worden om interessante doelen aan te geven voor de militair. De discussie richt zich met name op de mate van menselijke controle. Zo is een drone ook een ‘robot aan een touwtje’ maar maakt dezre — net als bemande voertuigen zoals bijvoorbeeld de F35 straaljager — veelvuldig gebruik van kunstmatige intelligentie. Daarnaast ontwikkelt het Amerikaanse leger momenteel een ‘ghost fleet’: onbemande en bewapende schepen die kunnen dienen als verkenning voordat er daadwerkelijk troepen op pad worden gestuurd.

    Wie de trekker overhaalt 

    Merel Ekelhof promoveert binnenkort op het onderwerp aan de Vrije Universiteit en zet haar werk momenteel voort bij het United Nations Institute for Disarmament Research (UNIDIR). Zij wijst erop dat het hier inderdaad gaat over technologie die niet specifiek militair is, en dat deze technologie op zichzelf (dus ook zonder militaire toepassing) een ethische discussie verdient: ‘Het gaat hier om systemen die een mate van autonomie hebben en ons helpen om bepaalde beslissingen te maken. Bij bedrijven zoals Facebook of Amazon gaat het om interessante producten, in de militaire context kan het ook gaan om interessante doelen. Het inzetten van deze technologie in de samenleving zorgt voor terechte discussie, maar het is een beetje simpel om de kous af te doen met: zolang het niet militair wordt toegepast, is het ethisch in orde.’

    ‘Misschien vindt u dit ook interessant? Je ziet zelf op Youtube of Facebook dat dit niet altijd goede adviezen zijn’, illustreert Hädicke. ‘Daarom draaien wij bij de ontwikkeling van algoritmes deze vraag om: waarom is dit een doel? Op deze manier blijven we zicht hebben op wat er onder de motorkap gebeurt.’ Ekelhof wijst erop dat doelwitbestrijding een belangrijke taak is van Defensie, ‘maar slechts een onderdeel is van wat ze doen. Dit soort technologieën kunnen ook ingezet worden om informatie te verwerken en bij te dragen aan een beter geïnformeerde krijgsmacht, die middelen effectiever kan inzetten en het risico op nevenschade kan verkleinen.’ Want, zo concludeert zij, ‘een ethische discussie kan niet alleen bestaan uit een opsomming van wat we onacceptabel vinden. Je moet ook kijken naar mogelijke opbrengsten. Pas dan kun je een morele afweging maken.’

    Tijdens het bezoek aan 13 Lichte Brigade wordt steevast gehamerd op de menselijke supervisie en bijbehorende eindverantwoordelijkheid. Binnen het Nederlandse leger bestaan dan ook geen investeringsprojecten voor volledig autonome wapens — de killer robots waar men voor vreest. Ekelhof constateert dat de discussie zich vooral concentreert op de laatste schakel: het wapen zelf. ‘We willen vooral weten wie de trekker overhaalt, en of dit nog wel door een mens gebeurt.’ In haar publicaties voor onder meer Naval War College Review hamert ze op het belang om te kijken naar de hele besluitvormingsketen. Ekelhof: ‘In het militaire planningsproces gebeurt er veel. Bij het besluit tot wapeninzet zijn tientallen of soms zelfs honderden mensen betrokken. Als het belang inderdaad zit in de menselijke controle, moet je deze niet beperken tot uiteindelijke inzet, maar deze inbakken in het hele proces zoals we die in de praktijk zien.’

    ‘Ethiek verandert door de tijd heen, morele discussies zijn nooit klaar’ 

    Tot deze conclusie kwam ook het Haags Centrum voor Strategische Studies (HCSS) vorige maand in een rapport. De denktank pleite ervoor de ethische discussie niet te beperken tot de operationele inzet van een wapen, maar morele afwegingen vanaf het prilste begin in te bouwen.

    Proeftuin

    Zowel Ekelhof als Hädicke komen beiden afzonderlijk tot de conclusie dat Defensie de komende jaren vooral zal moeten kijken of de huidige organisatiestructuur nog wel van deze tijd is. Hädicke: ‘Kunstmatige intelligentie heeft een impact op je organisatie. Als Defensie minder mensen nodig heeft voor hetzelfde werk, of misschien een heel ander type, dat buiten het standaard plaatje van “de militair” valt, dan moet je qua personeelsbeleid daar flexibel mee kunnen omspringen. Dat is nu nog lastig.’

    ‘Zo hadden we contact met een student die een slimme schietschijf had ontwikkeld’, herinnert Den Ouden zich. ‘Alle informatie stond op een usb-stick en hij wilde ons wel helpen met het bouwen van het onderstel. Helaas kan ik zo’n jongen geen flexcontract aanbieden. Die moet eerst naar een open dag, een informatieavond, krijgt een keuring — alles erop en eraan. Denk maar niet dat een talentvolle student daarop gaat zitten wachten, die gaat elders aan de bak.’

    Defensie laat hierop weten eind september te zijn begonnen met een zogenaamde ‘proeftuin’, waardoor kleinere eenheden (zoals de RAS) deze rigide aanstellingseisen kunnen omzeilen. Volgens Den Ouden ligt de uitdaging er echter vooral in om de bevindingen van een kleine eenheid om te zetten naar een defensiebrede nieuwe manier van denken en werken.

    Op uitvoerend niveau is het dus duidelijk: ontwikkelen naar de behoefte, zorgen dat je ‘onder de motorkap’ kan blijven kijken en tegelijkertijd de menselijke controle vanaf het startpunt inbouwen. Toch is hiermee niet de kous af, constateert Ekelhof: ‘Ethiek verandert door de tijd heen, morele discussies zijn nooit klaar.’ Het ethische mes snijdt ook aan twee kanten. Is een autonoom wapen dat met behulp van algoritmes preciezer wordt en aantoonbaar minder burgerslachtoffers maakt eveneens onwenselijk?

    Terwijl politiek Den Haag zijn handen niet durft te branden aan deze vragen, probeert men op de militaire werkvloer zo goed mogelijk om te gaan met de nieuwe (semi-autonome) realiteit. Zowel militairen als wetenschappers wijzen erop dat het hoog tijd is om te kijken naar hoe de — ook door het kabinet gewenste ‚ ‘menselijke controle’ er precies uit zal komen te zien. Het kabinet heeft nog enkele weken om deze morele exercitie te voltooien: minister Bijleveld beloofde oktober vorig jaar om uiterlijk in 2020 met een visie te komen.

    Deel dit artikel, je vrienden lezen het dan gratis

    Over de auteur

    Dieuwertje Kuijpers

    Gevolgd door 1022 leden

    Geopolitiek junkie. Statistiek-pieler. Niet geïnteresseerd in politieke poppetjes, wel in mechanismes die deze voortbrengen.

    Volg Dieuwertje Kuijpers
    Verbeteringen of aanvullingen?   Stuur een tip
    Annuleren