Beeld door Mass Communication Specialist 3rd Class Utah Kledzik (U.S. Navy)
© CC0 (Publiek domein)

Wie stopt de opmars van de ‘killer robots’?

    Steeds meer mensen maken zich zorgen over killer robots, wapentuig dat op eigen houtje doelwitten selecteert en uitschakelt. De Verenigde Naties buigt zich dit jaar in een speciale groep over het onderwerp, vredesactivisten en wetenschappers roepen op tot een ban.

    April 2016. In het bergachtige landschap van Nagorno-Karabach (Azerbeidzjan) klinkt een luide knal. Een drone stort neer op een bus vrijwilligers en doodt zeven inzittenden. Er is paniek. Overal is er bloed. De bus is herleid tot een hoop brokstukken.

    Op basis van amateurbeelden identificeren experts de drone als een ‘Harop’, een toestel van Israëlische makelij. Op de website van fabrikant Israel Aerospace Industries (IAI) staat dat het toestel vanop afstand kan bestuurd worden, maar ook zelfstandig zijn doelwitten kan vinden met behulp van radar of radiogolven.

    Doelwit

    Het is niet duidelijk of de drone in dit geval zelf zijn doelwit koos. Azerbeidzjan beweert dat de Harop vanop afstand bestuurd werd door militairen en dus niet als zelfstandig moordtuig ingezet werd. Of dat ook klopt, is niet na te gaan.

    Zelfstandig wapentuig is volop in ontwikkeling

    Op de website van de fabrikant is een pagina gewijd aan een ander wapen: de ‘Harpy NG’. Het is een zelfstandig opererend wapensysteem dat vanaf een voertuig kan worden afgevuurd en zelf vijandelijke radarzenders detecteert, aanvalt en vernietigt. Helemaal onderaan de pagina staat er: ‘Harpy is in production, and is operational with several Air Forces.’ Een boodschap die weinig aan de verbeelding overlaat.

    Zelfstandig wapentuig zoals de Harop en de Harpy heten officieel Lethal Autonomous Weapons Systems (LAWS): systemen die zelf op zoek kunnen gaan naar doelwitten met de hulp van radarsignalen, sensoren en artificiële intelligentie. En ze zijn volgens experts volop in ontwikkeling.

    Vooral grote militaire machten zijn ermee bezig, zegt Paul Scharre, directeur van het Future of Warfare Initiative bij het Center for a New American Security, aan de telefoon. ‘Het gaat om de VS, Groot-Brittannië, Frankrijk, Rusland, China, maar ook Israël en Zuid-Korea. De laatste twee landen zijn militaire grootmachten geworden omdat ze een buur hebben waarmee ze op zeer gespannen voet leven. Ze staan in de frontlinie van de ontwikkeling van LAWS.’

    Autonome moordrobots

    Zuid-Korea creëerde een van de eerste autonome moordrobots ooit. Het gaat om de Samsung Techwin SGR-A1, die ingezet wordt in de gedemilitariseerde zone tussen de twee landen. Het apparaat is uitgerust met een infraroodcamera die mensen detecteert, een laser om doelwitten te selecteren en een videocamera die beelden tot 60 dagen kan opslaan.

    Het wapen gaat ervan uit dat elke mens die opduikt in de gedemilitariseerde zone een vijand is

    Het wapen gaat ervan uit dat elke mens die opduikt in de gedemilitariseerde zone een vijand is en vraagt het doelwit daarom zich te identificeren. Wanneer die binnen een bepaalde tijd geen afdoend antwoord kan geven, kiest het toestel om een alarm te laten afgaan, rubberen kogels af te vuren of een van zijn wapens, waaronder een machinegeweer, te activeren. Het tuig is door mensen te besturen, maar kan ook zelfstandig werken.

    Een ander voorbeeld: de Britse ‘Brimstone’ raketten, die zelfstandig het onderscheid kunnen maken tussen auto’s, tanks en bussen en die een doelwit kunnen opsporen binnen een vooraf aangegeven gebied. De raketten kunnen ook met elkaar communiceren over hun doelwitten en ze vervolgens delen.

    In die categorie is er ook de ‘Phalanx Close-in Weapon Systems’ van het Amerikaanse defensie- en technologiebedrijf Raytheon, dat automatisch doelwitten zoekt, detecteert, een bedreigingsanalyse maakt, een inschatting maakt en overgaat tot actie. 

    Veel van deze systemen kúnnen overruled worden door een mens, maar zijn perfect in staat zelfstandig te werken. Bovendien is gaan ze soms zo snel over tot actie dat menselijke interventie ze niet kan volgen, waardoor overrulen geen optie is.


    Peter Wijninga

    "Het gaat om een evolutie waarbij mensen zich steeds verder van het geweld verplaatsen"

    De Britten werken aan de Taranis, die automatisch doelwitten kan opsporen en gevaren kan ontwijken. Alleen voor het bombarderen van een doelwit is toestemming vereist.

    Evolutie

    Heftig, jazeker, maar LAWS maken volgens militaire experts deel uit van een evolutie die al eeuwen aan de gang is. Peter Wijninga van het Haags Centrum voor Strategische Studies (HCSS): ‘Het gaat om een evolutie waarbij mensen zich steeds verder van het geweld verplaatsen. Eerst waren er messen, dan speren, dan buskruit, daarna kanonnen en daarna vliegtuigen. Oorlog werd zo gevoerd dat er zo weinig mogelijk slachtoffers vallen aan eigen kant.’

    ‘Ook de inzet van drones door Bush en Obama past daarin. Mensen proberen het verlies van eigen manschappen zoveel mogelijk te beperken, daarom kunnen Lethal Autonomous Weapons Systems op veel interesse rekenen.’ Een evidente stap dus, maar evengoed een historisch kantelpunt. Peter Singer, specialist in 21e-eeuwse oorlogsvoering en het militair gebruik van robots bij The New America Foundation, plaatst LAWS op dezelfde hoogte als de introductie van buskruit of de stoommachine.

    ‘Het is extreem moeilijk voor killer robots om onderscheid te maken tussen militairen en burgers’

    De voordelen van moordrobots liggen voor velen voor de hand: ze kosten geen manschappen, kunnen sneller reageren op bedreigingen en ze laten zich niet leiden door emoties en vermoeidheid, zoals gewone soldaten. Efficiëntere oorlogsvoering dus, al hebben velen daar zware bedenkingen bij.

    Menselijke waardigheid

    Dat robots de verantwoordelijkheid zouden overnemen om mensen te doden, druist in tegen de menselijke waardigheid, zegt Noël Sharkey, voorzitter van The International Committee for Robot Arms Control (ICRAC) en een oud-hoogleraar kunstmatige intelligentie en robotica.

    Sharkey ijvert al jaren voor een verbod op de robotwapens die in tal van landen worden ontwikkeld, van de VS tot China. Er zijn verschillende argumenten om een ban uit te spreken over dit soort tuig, zegt hij. Om te beginnen een praktische: ‘Het is extreem moeilijk voor killer robots om onderscheid te maken tussen militairen en burgers. In een oorlog met allerlei onverwachte ontwikkelingen laat je zo’n wapen niet los.’

    ‘In oorlog gebeuren altijd onverwachte dingen, doelwitten verplaatsen zich en schuilen onder de bevolking. Als je dat onderscheid niet kan maken, kom je in conflict met internationaal humanitair recht. Alleen al daarom moet er een verbod komen. Daarnaast vervalt het voordeel dat landen hebben met killer robots al snel, omdat ook anderen er mee bezig zijn. En niet onbelangrijk: autonome wapens verlagen de drempel naar oorlogsvoering. Dat moeten we koste wat kost vermijden. Het gevaar is ook reëel dat robots zó snel beslissen dat mensen niet meer kunnen volgen en de controle verliezen.’

    Ban

    Internationaal is er grote druk om autonoom dodende wapens in de ban te slaan. Vier jaar geleden sloegen Amnesty International, Handicap International, Human Rights Watch, het International Committee for Robot Arms Control en andere ngo’s de handen in elkaar voor de ‘Campaign to Stop Killer Robots’.

    Het doden van mensen moet een verantwoordelijkheid van mensen zelf blijven

    Ze vinden dat zelfstandig dodende robots in de ban moeten, met als belangrijkste argument dat het doden van mensen een verantwoordelijkheid van mensen zelf moet blijven. Geven we dat uit handen, dan is de kans groot dat we dingen niet meer onder controle houden, is hun argument.

    Ze staan niet alleen met hun vraag. In juli 2015 kregen de ngo’s steun van een honderdtal wetenschappers, ondernemers en intellectuelen, waaronder Stephen Hawking, Elon Musk (Tesla), Steve Wozniak (Apple), Noam Chomsky en Jaan Tallinn (mede-oprichter Skype). Ze schreven een open brief waarin ze zich uitspraken tegen LAWS en de ontwikkeling en het gebruik ervan.

    Ook zij willen een ban op moordrobots. Artificiële intelligentie evolueert volgens hen zo snel dat we nu moeten beslissen om niet in die richting verder te gaan. ‘Killerrobots zijn in potentie gevaarlijker dan atoomwapens,’ zo stelt Elon Musk. Vandaag zijn er een veertigtal landen die zich scharen achter een ban op LAWS.

    Hoopgevend, vinden voorstanders van een ban. In België is Groen fel tegen killerrobots gekant. Kamerlid Wouter De Vriendt diende onlangs in de Kamer een resolutie in die de autonome wapens moet verbieden. ‘Een machine beslist op basis van algoritmes, zonder empathie of menselijkheid,’ zegt De Vriendt. ‘We mogen de beslissing over leven en dood nooit overlaten aan een robot. Dat is meer dan één brug te ver.’


    Elon Musk

    "Killer robots zijn in potentie gevaarlijker dan atoomwapens"

    Geen leger

    Tegenkanting genoeg dus, al is er desondanks reden tot zorg. Onder meer Rusland houdt de boot af, en ook Israël staat niet op de eerste rij om killerrobots mee in de ban te slaan. Idem voor China. Bij de landen die vóór een ban zijn, zitten er verschillende die helemaal geen leger hebben – zoals Costa Rica of het Vaticaan – of die geen leger hebben van enige omvang, zoals bepaalde Afrikaanse landen als Ghana en Zimbabwe.

    Bovendien spreken sommige zich officieel tegen LAWS uit, maar ontwikkelen ze tegelijk wapens die in de categorie ‘zelfstandig dodende wapens’ vallen. Het Pentagon, bijvoorbeeld, testte drones met gezichtsherkenningsoftware die in theorie vijanden zou kunnen opsporen en uitschakelen. Daarbij komt ook nog eens dat het niet altijd duidelijk is of een bepaald wapen – zoals de Harop in Azerbeidzjan – zelfstandig toeslaat dan wel door een mens gestuurd wordt.

    ‘Ik geloof dat we binnen enkele jaren een verbod op dit wapentuig zullen hebben’

    Het is niet evident om LAWS een halt toe te roepen, zegt Noël Sharkey, maar de campagne ‘Stop Killer Robots’ is intussen al vier jaar bezig bij de Verenigde Naties. En ze werpt resultaat af: ‘Nadat we drie jaar vergaderingen met experts gehad hebben bij het CCW, het comité van 121 landen dat zich toelegt op het verbod van bepaalde wapens, schakelen we dit jaar naar een volgend niveau. Een groep van overheidsexperts van alle landen komt twee weken bij elkaar om zich over autonome wapens te buigen. Dat is het eerste stadium voor het onderhandelen van een nieuwe overeenkomst. Ik geloof dat we binnen enkele jaren een verbod op dit wapentuig zullen hebben.’

    Trump beslist

    Maar hoe zwaar dat verbod zal wegen, zal afhangen van de houding van de VS, denken veel analisten. President Donald Trump moet binnenkort beslissen over het al dan niet verbieden van LAWS. Voor het Pentagon is het duidelijk: artificiële intelligentie is cruciaal voor de VS om ook in de toekomst de dominante militaire macht van de wereld te zijn.

    Steven Groves, de wapenexpert die deel uitmaakte van het transitieteam van Donald Trump en vandaag stafchef is van de Amerikaanse ambassadeur bij de NAVO, vindt dat de VS niet moet kiezen voor een ban, maar juist het voortouw moet nemen in de ontwikkeling van LAWS.

    Dat uitgerekend Trump moet beslissen, en zich daarbij ongetwijfeld mee zal laten leiden door de voordelen voor de Amerikaanse wapen- en technologische industrie, is weinig hoopgevend. Toch zijn de tegenstanders wel degelijk hoopvol. Het Europees Parlement keurde ook al een resolutie tegen killer robots goed. Een belangrijke stap in de goeie richting, vinden tegenstanders. Eén ding staat vast: de technologie voor het ontwikkelen van moordende robots staat niet stil. Ze wordt met de dag geavanceerder en gesofisticeerder. En ze staat klaar om onze oorlogsvoering op zijn kop te zetten.

    Over de auteur

    Dominique Soenens is een journalist gespecialiseerd in economische en socio-economische onderwerpen. Ook is hij gebeten door technologie en privacy. Soenens werkte voor Vacature Magazine en De Morgen en daarvoor als freelance journalist. In mei verschijnt zijn boek ‘Lobbying in de Wetstraat’ bij uitgeverij EPO.

    Lees verder Inklappen

    Deel dit artikel, je vrienden lezen het dan gratis

    Over de auteur

    Apache

    Gevolgd door 318 leden

    Apache schrijft wat politici niet willen lezen. FTM en Apache werken samen en wisselen geregeld artikelen uit.

    Volg Apache
    Verbeteringen of aanvullingen?   Stuur een tip
    Annuleren