Killer robots: deze ceo waarschuwt er voor

Meer dan 100 internationale bedrijven en deskundigen op het gebied van robotics waarschuwden deze week voor de ontwikkeling en inzet van ‘killer robots’. En riepen de VN op maatregelen te nemen. Medeondertekenaar Jaap van Leeuwen, ceo van Blue Ocean Robotics Benelux in Delft: ‘Misschien zijn we al te laat.’

 

Waarom komt u nu met die oproep tegen killer robots?

‘De Verenigde Naties hebben in november een vergadering op de agenda staan over de ontwikkeling en het gebruik van autonome wapens. Die vergadering is al een keer uitgesteld. De ondertekenaars vinden dat snel transparant moet worden hoe ver de ontwikkelingen met militaire robots zijn gevorderd. En zo nodig moeten de VN besluiten om hiermee te stoppen, zoals ook eerder een internationaal verdrag is gesloten over een verbod op kernwapens.’

 

Het is nu niet duidelijk hoe het staat met die wapens?

‘Nee. De militaire tak van robotics is met geheimzinnigheid omgeven. Regeringen houden dingen geheim, en van de leveranciers hoor je ook weinig. Ondertussen gaan de ontwikkelingen heel snel. Het gaat niet alleen meer over drones, maar ook over onbemande onderzeeërs. Tot voor kort waren softwareontwikkeling en robotics gescheiden disciplines. Maar dat is niet meer zo. Misschien zijn we al te laat.’

‘Ons bedrijf, onderdeel van een Deense multinational, is zelf niet actief in de militaire sector en maakt vooral servicerobots voor onder andere educatie, zorg, schoonmaak en de agrarische sector. Maar je kunt de ontwikkelingen in de verschillende sectoren natuurlijk niet van elkaar scheiden. Die sijpelen door naar elkaar.’

 

Wat is het gevaar van killer robots?

‘Nu zit er nog een militair in een container die uiteindelijk de drone bedient die ergens in het buitenland een terrorist uitschakelt. Maar straks is dat poppetje niet eens meer nodig. Op basis van een terroristendatabase, goede vision en een besluitvormingsalgoritme kan de robot de terrorist straks zelf met zekerheid identificeren en tot uitschakeling overgaan. Zulke middelen mogen natuurlijk niet in de verkeerde handen vallen of oncontroleerbaar of gehackt worden. Alles wat met internet in verband staat, kan worden gehackt, dus robots ook.’

 

‘Straks krijgen we oorlogen waarin robots tegen robots vechten’

 

Had het bedrijfsleven die gevaren niet kunnen voorzien?

‘Met nieuwe technologie krijg je altijd dat die verder wordt ontwikkeld en dat je als samenleving op een gegeven moment keuzes moet maken: willen we dit wel? Die afweging maken hoort ook bij goed ondernemerschap.’

‘Vooral de laatste jaren ontdekken we de kracht van robotisering. En die kracht kun je goed én slecht gebruiken. Een positief voorbeeld van die kracht is de Watson-computer van IBM, die met behulp van kunstmatige intelligentie en een groeiende CT-database op basis van individuele scans kanker kan ontdekken bij mensen. Ook militaire robots hebben positieve kanten. Neem het voorbeeld van de laatste Spaanse terrorist die door twee agenten is doodgeschoten. Een robot had dichtbij kunnen constateren dat zijn bomgordel nep was. Dan hadden die agenten hem gevangen kunnen nemen.’

 

Wat denkt u dat de VN zullen besluiten over killer robots?

‘Landen die nu een technologische voorsprong hebben, zoals de VS, Israël en bepaalde Aziatische landen, zullen die willen behouden, en dus niet al te happig zijn op maatregelen. Landen die achterlopen juist wel. Misschien krijgen we straks oorlogen waarbij robots tegen robots vechten. Wie het meeste geld of de beste technologie heeft, wint.’

‘Mogelijk leidt onze oproep ertoe dat het publiek wordt gemobiliseerd om druk op hun regeringen uit te oefenen. Regeringen kunnen, mocht het in de toekomst misgaan, in elk geval niet zeggen dat ze het nicht gewusst hebben.’ 

Bekijk ook dit filmpje dat de Volkskrant maakte over bestaande autonome wapens: