Teksten
Militaire robots hebben nood aan ethiek 
za 11 april 2009
Dit opiniestuk verscheen in de Morgen op 10/4/2009
Niet meer gevechtspiloten, maar robotvliegtuigjes beschieten de Taliban. De uiteindelijke beslissing over leven en dood wordt nog wel genomen door soldaten in comfortabele zetels in het controlecentrum in Nevada, maar binnenkort zal ook die keuze worden overgelaten aan wat elektronica. De robottechnologie is in zo'n stroomversnelling terecht gekomen dat het opstellen van een ethische code voor militaire robots, de robo-ethiek, noodzakelijk wordt.
De meeste militaire robots worden gebruikt om bommen onschadelijk te maken. Daar is niets onethisch aan. In Irak en Afghanistan zouden er zo'n 4000 a 6000 actief zijn. De problemen doemen op wanneer dergelijke robots worden uitgerust met vuurkracht. In de gedemilitariseerde zone tussen Noord en Zuid Korea staan dan weer robots die indringers neerschieten. Onder de oorlogsregels kan in theorie ook hier geen ethisch bezwaar tegen gemaakt worden, het gebied ligt bovendien vol mijnen die hetzelfde resultaat opleveren. Robots met vuurkracht zijn, voor zover gekend, nog niet ingezet als grondtroepen. Het Amerikaanse bedrijf Talon ontwikkelt ze daarentegen wel. In de lucht zijn wel al enkele types actief zoals de MQ-9 Reaper Hunter/Killer unmanned aerial vehicle (UAV). Ze worden van op afstand bediend of zijn "man in the loop". Dat betekent dat de eindbeslissing moet genomen worden door menselijke tussenkomst. Deze robots zijn de wijze van oorlogsvoeren helemaal aan het veranderen. De soldaten hoeven immers niet meer in het oorlogsgebied aanwezig te zijn. De Reapers worden centraal bediend vanuit het controlecentrum in Nevada. Alsof je een soort computerspel speelt. Na hun werk gaan de soldaten gewoon terug naar hun vrouw en kinderen. Bovendien kan wat nu telegeleid is, ook door een computer gestuurd worden in de toekomst en dus volledig autonoom worden. De robot zal vanaf dan de kracht hebben om te beslissen over leven en dood.
Volgens de conventie van Genève, die de oorlogswetten uitstippelt, mogen geen burgerslachtoffers gemaakt worden of toch niet in disproportie met de militaire vooruitgang. Toegepast op autonome robots stellen zich hier twee problemen. Ten eerste is de interpretatie van sensordata nog ontoereikend om het verschil te maken tussen een burger en soldaat. Tenzij je bijvoorbeeld eist van het tegenkamp dat de soldaten rond gaan lopen in fluo jasjes of dat zij een zendertje dragen. Een tweede probleem stelt zich net in de omschrijving van wat het verschil is tussen een soldaat en een burger. Hiervoor wordt vooral vertrouwd op het gezond verstand van de soldaat. Als er een ding is dat de robot juist niet kan, dan dit wel. Dus zelfs indien de robot de nodige software heeft om correct de sensordata te interpreteren - wat momenteel niet het geval is - dan nog heeft hij geen set aan regels om de beoordeling te maken.
Sommige onderzoekers suggereren echter dat robots in de toekomst beter dan soldaten in staat zullen zijn tot ethisch gedrag. Militairen worden tijdens oorlog blootgesteld aan enorme stress met alle gevolgen van dien. Robots daarentegen hoeven zich niet in dezelfde mate te verdedigen als mensen en daardoor onnodige risico's nemen. Er wordt daarom gepleit voor het invoegen van een adequaat artificieel ethisch geweten voor de robot. In het artificieel geweten moeten slechte emoties als angst en kwaad die het rationeel denken aantasten weggelaten worden, terwijl andere zoals bijvoorbeeld schuld wel toegevoegd kunnen worden.
Nu reeds is duidelijk dat een internationaal debat over robo-ethiek en omkaderende regels noodzakelijk is. Zonder bindende afspraken stevenen we af op onnoemelijk leed. Veel bedrijven verdienen immers heel wat geld aan nieuwe robots voor op het slagveld en in die wedloop is robo-ethiek vooral een obstakel. Bovendien moet duidelijk uitgemaakt worden wie de verantwoordelijkheid zal dragen wanneer er iets misloopt. Wie zeker niet de schuld kan krijgen, is de robot zelf. Men kan deze (of de hele betreffende reeks) vernietigen als voorzorgsmaatregel maar niet als straf, zoals nu gedaan wordt met dieren die mensen aanvallen. De robot is immers een slaaf (robot is trouwens het Tsjechisch voor werk-slaaf) die fouten kan maken, maar geen vrije wil heeft.
Door het gebruik van robots ontstaat ook de denkfout als zou oorlog risicovrij zijn. Indien beide partijen hun geschil zouden uitvechten met enkel robots, dan kunnen ze evengoed een online computerspel organiseren. Inderdaad, wanneer de robottechnologie slechts in het bezit is van één van de kampen dan zijn deze soldaten in zekere mate risicovrij. Maar dat maakt net de eventuele burgers van dat kamp extra kwetsbaar. Zij worden dan een prioritair en makkelijk doelwit voor de vijand. Een tweede risico schuilt in het gevaar dat regeringen sneller een oorlog zullen ontketenen. Nu zijn politici, immers als de dood voor oplopende dodentallen en beelden van body bags. Dit heeft een sterke invloed op het vertrouwen van hun kiezers en dat uit zich in de peiligen (de befaamde Dover test). Valt dit drukkingsmiddel weg, dan valt ook een drempel weg om een vijandige natie de oorlog te verklaren. Een risicovrije oorlog bestaat dus niet, zelfs met al die technologie.
Het tijdperk van autonome oorlogsrobots lijkt nabij. Niet alleen de Verenigde Staten investeren nu volop in robottechnologie voor militair gebruik, maar ook landen als Rusland, Groot- Brittannië, Israël, China, Zuid Korea, India en Turkije maken vorderingen. Het wordt dus dringend tijd dat er nieuwe internationale verdragen komen die de oorlogsregels herformuleren om ethisch verantwoord gebruik van robottechnologie toe te laten, want dat deze alleen maar aan belang zal winnen in legers staat vast.
Dr. ir. Bram Vanderborght is robotica-onderzoeker verbonden aan de Vrije Universiteit Brussel en het Italian Institute of Technology. Hij is auteur van het boek "Robots Binnenstebuiten".
Philippe De Backer is wetenschappelijk onderzoeker aan de Universiteit Gent en 1ste opvolger op de Europese lijst van Open Vld.
Download deze tekst als .pdf
