Förbjud självstyrande stridsrobotar

Vitoria - Graffiti & Murals 0467Vissa vapen är så förödande för civilbefolkningen att de är totalförbjudna i majoriteten av världens länder.

Exempel på sådana vapen är landminor (förbjudna i 155 länder), klusterbomber (förbjudna i 38 länder och ytterligare 70 länder på gång), kemiska vapen (förbjudna i 185 länder), biologiska vapen (förbjudna i 165 länder)  samt naturligtvis kärnvapen (förbjudna i 185 länder).

Sverige brukar numera ligga på efterkälken när det gäller att ta den här sortens humanitära hänsyn kring vapentillverkning. Exempelvis kämpade Sveriges regering in i det sista för att få ett undantag för de svenska klustervapnen, innan vi senkommet och motvilligt undertecknade konventionen mot klusterbomber. De ekonomiska intressena i svensk vapenexport övertrumfar tyvärr humanitära hänsyn.

Piratpartiet bör inta en annan hållning.

Partiets principprogram säger:

Medan tidigare tekniska landvinningar krympt de fysiska avstånden mellan människor har den moderna informationstekniken stärkt de sociala och emotionella banden människor emellan över såväl geografiska som sociala avstånd och gränser.

Piratpartiet verkar för att denna utveckling ska bli en språngbräda för en rad positiva förändringar i både Sverige, Europa och resten av världen.

Då kommer vi till själva sakfrågan. Nästa stora trend inom vapensystem är stridsrobotar.

När man nämner ordet “stridsrobot” drar en del på smilbanden, och tänker på filmer som Terminator. Men ämnet är vare sig humoristiskt eller science fiction.

USA utkämpar idag en stor del av sina krig med flygande stridsrobotar (så kallade “drönare”). Dessa obemannade flygplan styrs ännu så länge till viss del av mänskliga operatörer, dock långt ifrån området där kriget utkämpas. Kritik har framförts mot denna stridsmetod, eftersom beslut som fattas på långt avstånd från de människor som drabbas, riskerar att leda till en lägre tröskel för våldsanvändning. Dessutom använder USA denna teknik för utomrättsliga avrättningar av personer som misstänks för terroristbrott.

Enbart i Pakistan har tusentals människor dödats i attacker från flygande robotar de senaste åtta åren, varav 20-40 % civila.

Även om drönarattacker väcker etiska och folkrättsliga frågor, är det i dagsläget åtminstone en människa som fattar beslutet om ifall roboten ska avfyra sina vapen eller inte.

Utvecklingen går dock snabbt framåt. Efter flygande robotar kommer landrobotar. Experiment pågår redan med en stridande robothund. Framtidens markattacker kan mycket väl komma att involvera ett samspel mellan tusentals mark- och luftrobotar. Det säger sig självt att det kan vara komplicerat för människor att kontrollera sådan krigföring.

Den brännande frågan gäller huruvida människor ska kontrollera robotarna, eller om de ska släppas fria att själva, med artificiell intelligens, fatta beslut. Experiment pågår med att låta självstyrande (“autonoma”) robotar själva bestämma om de ska avfyra sina vapen eller ej.

Hela vår folkrätt är baserad på möjligheten att ställa en människa till svars för våldsanvändning. En robot som själv fattar beslut med hjälp av konstgjord intelligens kan i framtiden bli “ansvarig” för ett beslut som lett till en massaker på civila.

Även om vi i dagsläget utgår från ett perspektiv som inriktar sig på människors situation i länder som redan idag är konfliktdrabbade, så får vi inte glömma att vapen även kan användas mot oss själva.

Två gånger under de senaste 100 åren har vår kontinent skakats av förödande internationella krig, med massiva civila förluster som följd. Låt oss undvika att robotkriget blir det tredje sådana tillfället. Det hotet är minst lika överhängande som frågan om spridning av kärnvapen.

Om Sverige någon gång under min livstid hamnar i en krigssituation och mitt hus stormas av en fientlig soldat, hoppas jag att min familj kommer att möta ett mänskligt öga bakom gevärssiktet.

Jag anser att:

  • Piratpartiet bör verka för att Sverige tar initiativ till en internationell konvention som förbjuder självstyrande stridsrobotar att fatta beslut om att använda sina vapen.

Vill du läsa mer i ämnet rekommenderar jag artiklar och blogginlägg hos digitallife, Forskning och Framsteg samt Christoffer Kullenberg.

Torbjörn Wester
Styrelseledamot Piratpartiet

Du hittar honom på hans blogg Infallsvinkel, Google+, Facebook och Twitter.

Kommentarer

Simon Lindgren skrev

nu kommer väl jag få världens kritik men tycker inte att man ska vara så snabb att förbjuda detta. Med dessa robotar så riskerar man färre människor liv.

Thomas Gunnarson skrev

Om jag inte missminner mig så har Sverige själva klusterbomber/minor som är stoppade i andra länder….
Så detta är ett ”minerat fält” i svensk politik…

Fredrik skrev

Simon: Man riskerar färre liv på robotens sida, ja, men mycket fler på den sida som inte har robotar.

Viktualiebrodern skrev

Håller med om det motbjudande i anonymisering av dödandet. Det var tufft för lägervakterna i Auschwitz att gå hem till familjen efter en dag på jobbet, trots deras starka övertygelse, till och med för sådana rena psykopater som kommendanten Höss (som skrev en bok där han beskriver hur hans fru och barn inte kunde förstå hur jobbigt han hade på jobbet, utan tjatade om att han borde bry sig mindre om SAKEN och vara mer med familjen…), och i krig är det väldigt svårt att få människor (ens unga män) att skjuta på andra. Har för mig att 85% av allt dödande i krig görs av 15% av soldaterna. Och många drabbas sedan av posttraumatisk stress. ”Att skjuta en fiende och rulla en cigarett”, är en diktrad av Erik Lindegren som tack och lov inte är så vanlig ens bland soldater.

Men det *skall* vara svårt att döda någon! Att automatisera det och göra *ingen* ansvarig kan bara öka dödandet. Så jag håller med om allvaret i förslaget.

Men hur man skall förbjuda, eller rättare hur ett förbud skall vara meningsfullt om det inte kan upprätthållas?

Viktualiebrodern skrev

För att illustrera en känsla som en människa kan ha, men inte en robot: En rad av Sting (som Johnny Cash tolkade)
”All for no reason
just one piece of lead
I hung my head”.

Deep Blue skrev

De som utvecklar sådana vapen kommer i vanlig ordning antingen inte skriva på, eller så struntar de i det. Men det är ett bra ställningstagande.

Nicholas Miles skrev

Jag kan förstå Torbjörns poäng, men jag ser också en annan dimension i detta. Ett land som producerar robotarméer behöver en omfattande forskningssektor och stor teknisk kompetens. Robotarméer möjliggör också utnötningskrig som annars skulle innebär alltför stora förluster av människoliv, och sådana utnötningskrig är dyra.

De slagtåligaste ekonomierna är i vår värld genomgående mer eller mindre fria marknader* och den högsta innovationstakten finner vi i öppna samhällen. Krig förda av autonoma robotar skulle alltså innebära en militär fördel för öppna stater med fri marknad, och en nackdel för hårt kontrollerade diktaturer. Jag är inte säker på att det är en maktskillnad jag vill eliminera.

*Här använt i bred bemärkelse – även Sveriges ekonomi är mer marknadsbunden än den är centralplanerad.

Calandrella skrev

Jag håller med Torbjörn, främst eftersom varje dödande stridssoldat ska kunna ställas till ansvar för sina handlingar. Det kan inte robotar. Därtill har jag också hört att majoriteten av (mänskliga) soldater uppsåtligen missade då de sköt mot fiendesoldater under andra världskriget, men att andelen ”medvetet missande” soldater minskat drastiskt i USA sedan man börjat använda effektiva psykologiska metoder för att öka soldaternas skjutvilja. Robotar skulle få ner den andelen till 0 procent.

Men det Simon tar upp är klart relevant, i krig mellan två länder som båda har robotarméer.

infallsvinkel skrev

Jag tror att två länder som krigar med robotar mot varandra, tyvärr är ganska mycket science fiction och kommer att så förbli. Annars vore det förstås toppen!

Istället kommer robotar att användas mot människor. Det är helt oacceptabelt ur ett folkrättsligt perspektiv.

Christoffer skrev

”Hela vår folkrätt är baserad på möjligheten att ställa en människa till svars för våldsanvändning. En robot som själv fattar beslut med hjälp av konstgjord intelligens kan i framtiden bli “ansvarig” för ett beslut som lett till en massaker på civila.” det löses väldigt enkelt liksom det är idag att man kan hoppa upp i hierarkin och kräva ansvar av någon högre upp för att någon under gjort en massa dumheter. En kapten som inte håller koll på soldaterna i sin pluton kan bli ansvarig för vad de gör och lika så kan han då bli ansvarig för vad hans robotar gör.

Däremot ser jag ett problem i att förbjuda datoriserade system för krigsföring det finns redan idag system runt om i världen som känner av ifall det skjuts laser eller granater och snabbt räknar ut varifrån skotten kommer och direkt aktivera olika försvarssystem, ryska t-90 har sådana system har för mig att kineserna använder sig av liknande och det skulle bara vara naivt att inte tro att den kapaciteten skulle finnas hos NATO. Men är det mekaniska soldater ala terminator eller star wars som åsyftas så måste där ju till en tydlig gränsdragning annars riskerar det bli en bromskloss i humaniseringen likt det är med förbudet om kemiska stridsmedel som förhindrar att man istället för att spränga fienden i små bitar hade kunnat kasta in lite tårgas så de ger upp och enkelt kunde omhändertas utan dödande på någon av sidorna.

infallsvinkel skrev

Vem ska man utkräva ansvar för en ”bugg” av? Befälhavaren som inte hade någon kontroll över robotens agerande? Programmeraren som inte hade förmåga att förutse algoritmens effekter innan roboten betatestats i fält?

infallsvinkel skrev

I den trend som utvecklingen följer, om den fortsätter att gå framåt i samma takt, kommer troligen en civilperson att riskera att stå ”öga mot öga” med en självstyrande stridsrobot långt innan programvaran blivit ens tillnärmelsevis så säker att risken för misstag minimerats.

Albert skrev

Jag är 100% för ett förbud. Både av drönare i luften (UAV) och på land.

Än viktigare är jag för att Helsingforsavtalet ska efterlevas. Andra länders suveränitet och territoriella integritet måste respekteras. Gränserna ska vara okränkbara. De senaste åren har vi sett hur krig efter krig startats under falska premisser, och få protesterar. Hela vänstern, som på 60- och 70-talen protesterade mot Vietnamkriget, är nu knäpptysta och darrar som asplöv. Istället för att utsätta de som startar krig för påtryckningar, sanktioner och fördömanden, så hejar Sveriges regering på dessa orättfärdiga krig, oavsett om den leds av S eller M (allra högst hejar FP). Det är så man blir illamående. Jag ser gärna att PP blir ett parti som strävar efter fred på jorden och fördömer alla krigshandlingar, oavsett vem som står bakom. Peace out :)

Christoffer skrev

Det finns redan idag ganska välfungerande ansvarskedjor jag tror att en materiels implementering av ”robotar” i någon av dessa säkerligen skulle kunna fungera precis som det gör idag. Exakt vem som är ansvarig i de enskilda fallen du beskriver kan jag inte uttala mig om då det ligger bortom dagens bestämmelser, det finns säkerligen kompetenta personer i detta land som på rätt fackspråk kan beskriva ansvarsförhållandena mellan de inblandade parterna.

Så kallade UAV räddar åtskillig liv dagligen då de gör att man på ett enkelt sätt kan få ett informationsövertag vilket ökar precisionen i aktionerna och därmed drar ner riskerna för de civila men vill man ta ett steg tillbaka i tiden och gå på de beprövade taktikerna från andra WW2 och Vietnam med enorma bombräder utan tanke på de civila istället så är ett uav förbud helt rätt.

Jag tror att den tekniska utvecklingen kan lösa en del av de problem vi står inför vid en krigshandling mot oss eller någon annan. Det är nyttjandet av tekniken det är fel på inte tekniken i sig. Problemen jag tror ni vill komma åt med kränkandet av staters suveränitet och eliminering av icke önskvärda element i samhället av världspolisen uppnås inte med ett teknikförbud utan genom att faktiskt agera gentemot de som inte agerar efter de etiska regler som vi sätter upp.

infallsvinkel skrev

Christoffer:

I mitt inlägg pläderar jag inte mot användandet av robotar i krig, eller det är åtminstone inte min avsikt. Istället pläderar jag mot att robotar via programmeringskod själva ska få ”besluta” om att angripa en människa eller inte. Jag pläderar för att beslutet att idka dödligt våld mot en människa, måste fattas av en människa.

C Magnus Berglund skrev

Måste det vara kod som är det onda i sammanhanget? Känns inte riktigt så som en piratgrej att döma ut kod som något ont.
Vi har ju redan mekanisk programmering i form av stridsvagnsminor. Om utlösaren utsätts för tillräckligt högt tryck så beslutar mekaniken att minan skall utlösas.
Så samma mina med en lite integrerad krets skall alltså vara ondare?

Själv skulle jag tycka att alla minor skulle gärna få ha en programmering. Dels kan man få tillstånd en möjlighet (via sensorer) att kanske skilja på vän/fiende. Dels ha en tidsbegränsning så att minan inaktiveras efter en viss tid. Dels att minan kan desarmeras genom en kod. Dels att minan via sensorer skiljer på civilt och militärt fordon.
Hur gör vi med Excalibur-granaten? Efter det att granaten har skjutits iväg så gör den ett val på vilken stridsvagn den skall träffa genom att självständigt styras i slutfasen. Räcker det med att skytten har tryckt på knappen för att skjuta iväg granaten?

Vi gör oss bara en otjänst om vi kopplar ihop kod med något sort speciellt ond verksamhet. Låt oss slippa våra motståndares glädje över att ha hittat något nytt i kunskapssamhället att skrämmas med.

Tommy skrev

Piratpartiet bör verka för att Sverige tar initiativ till en internationell konvention som förbjuder KRIG mellan länder helt och hållet.

Jörgen L skrev

Jag tycker att grundtanken i förslaget är sympatisk, men det är ett problem att hitta en avgränsming för exakt vad det egentligen betyder.

Som CMB skriver ovan så finns det mängder med stridssystem där beslutet om slutgiltigt mål eller när explosionen ska utlösas är programmerad, antingen med mekanik eller elektronik.

Alla former av torpeder och målsökande robotar har någon form av sådan logik.

Om det handlar om att avpersonifiera dödandet så har vi ju även konventionellt artilleri som isåfall borde förbjudas, där dödar man på distanser på flera mil och har som soldat ingen aning om vad man träffar.

Risken med att anta en formulering runt det här är att den är så inexakt att vi egentligen bara säger att vi är emot krig. Vilket vi iofs kan säga, men det ger inte ett riktigt seriöst intryck.

Jag skulle alltså vilja att man utifrån resonemanget analyserar hur man skulle kunna formulera något som vi verkligen vet exakt vad det betyder.

infallsvinkel skrev

Vad sägs om: ”Piratpartiet bör verka för att Sverige tar initiativ till en internationell konvention, som tydliggör och förstärker ansvarbarheten vid krigföring, med beaktande av den allt större användningen av automatisk teknik vid krigföring.”

Kloker skrev

Jag undrar om det möjligen kan finnas anledning att tillåta att länder använder drönare i försvar av det egna territoriet med den förtydligande begränsningen att drönarna då endast får befinna sig på det egna territoriet.

Autonoma drönare kan inte få bli aktuellt i någon form.

Viktualiebrodern skrev

Hade det varit möjligt, hade förstås robotlagarna upphöjda till allmän lag varit idealet.

http://sv.wikipedia.org/wiki/Robotikens_lagar

1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.
3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Anders S Lindbäck skrev

Autonoma dödsmaskiner som går in på fiendens territorium är rena science fiction. Det som används är fjärrstyrda maskiner där någon sitt framför en dator och styr en flygande farkost utan risk för eget liv.

Henrik Brändén skrev

Vi som är födda på 60-talet gick under 80-talet och var rädda för farkoster som när de väl skickats iväg med en atombomb inte kunde kallas tillbaka. Jag tror vi hade hälsat en fjärrstyrd ångerknapp med lättnad. Trots det tycker jag Torbjörns förslag är bra. Logiken bakom dagens användning av drönare är att en amerikansk flygares liv är värt mycket mer än tio oskyldiga afghanistanska bönders eller herdars!

Ubbe skrev

Autonoma robotar är science-fiction idag, men så kommer det inte alltid vara. Kan vara på sin plats att reda ut det innan riktigt AI finns. För när ett slags primitivt AI väl finns på plats kommer den utvecklas snabbare än människan kan hantera.

Jag tycker civila självständiga maskiner ska tas fram i vettig takt.

Att beväpna maskiner kan helt leda till våran undergång helt enkelt. Spelar ingen roll om risken är stor eller liten, det är en helt onödig risk.

Vi kan börja med att deklarera solklara internationella Lagar som gör att den personen som släpper iväg en ”smart”-missil sätts i finkan för mord när missilen har ihjäl en civil.

Krig ska inte vara bekvämt.

Lämna ett svar till Nicholas Miles Avbryt svar

E-postadressen publiceras inte. Obligatoriska fält är märkta *

Följande HTML-taggar och attribut är tillåtna: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>