Av Ben Tarnoff, oktober 11. 2018, The Guardian.
Det amerikanske militæret skaper en mer automatisert form for krigføring - en som vil øke sin evne til å føre krig overalt for alltid.
Last måned merket 17th årsdagen for 9 / 11. Med det kom en ny milepæl: vi har vært i Afghanistan så lenge at noen født etter angrepene er nå gamle nok til å kjempe der. De kan også tjene i seks andre steder hvor vi er offisielt i krig, for ikke å nevne 133-landene der spesielle operasjonskrefter har utført oppdrag i bare første halvdel av 2018.
Krigen i 9 / 11 fortsetter, uten ende i sikte. Nå, Pentagon investerer tungt i teknologier som vil intensivere dem. Ved å omfavne de nyeste verktøyene som teknologibransjen har å tilby, Amerikansk militær skaper en mer automatisert form for krigføring - en som vil øke sin evne til å føre krig overalt for alltid.
På fredag avslutter forsvarsdepartementet budgivningsperioden for en av de største teknologikontrakter i sin historie: Joint Enterprise Defense Infrastructure (Jedi). Jedi er et ambisiøst prosjekt for å bygge et cloud computing system som serverer amerikanske styrker over hele verden, fra analytikere bak et skrivebord i Virginia til soldater på patrulje i Niger. Kontrakten er verdt så mye som $ 10bn over 10 år, og derfor kjemper store teknologibedrifter hardt å vinne den. (Ikke Google, derimot, hvor en pressekampanje av arbeidere tvang ledelsen å slippe ut av driften.)
Ved første øyekast kan Jedi se ut som et annet IT-moderniseringsprosjekt. Regjeringen IT har en tendens til å kjøre en god avstand bak Silicon Valley, selv på et sted som overdådig finansiert som Pentagon. Med noen 3.4 millioner brukere og 4 millioner enheter er forsvarets digitale fotavtrykk enorm. Å flytte enda en del av arbeidsbelastningen til en skyleverandør som Amazon vil uten tvil øke effektiviteten.
Men den virkelige styrken som kjører Jedi, er et ønske om å våkne AI - hva forsvarsdepartementet har begynt å kalle "algoritmisk krigføring". Ved å samle militærens data inn i en moderne skyplattform, og ved hjelp av maskinlæringstjenestene som slike plattformer gir for å analysere dataene, vil Jedi hjelpe Pentagon til å realisere sine AI-ambisjoner.
Omfanget av disse ambisjonene har vokst seg tydeligere de siste månedene. I juni, Pentagon etablert Det Joint Artificial Intelligence Center (JAIC), som vil overvåke de omtrent 600 AI prosjekter som for tiden er på vei over avdelingen på en planlagt koste på 1.7 milliarder dollar. Og i september, Defense Advanced Research Projects Agency (Darpa), Pentagons store FoU-fløy, annonsert det vil investere opptil $ 2bn over de neste fem årene i AI våpenforskning.
Hittil har rapporteringen på Pentagons AI-utgiftsbonus i stor grad fokusert på utsiktene til autonome våpen - Terminator-stil killerroboter som slår folk ned uten innspill fra en menneskelig operatør. Dette er faktisk et skremmende nær fremtidsscenario, og et globalt forbud mot autonomt våpen av den typen som er søkt av Kampanje for å stoppe morderobotter er helt avgjørende.
Men AI har allerede begynt å rewiring warfare, selv om det ikke (ennå) har tatt form av bokstavelige Terminatorer. Det er mindre kinematiske, men like skummelt måter å weaponize AI. Du trenger ikke algoritmer som trekker utløseren for algoritmer for å spille en ekstremt farlig rolle.
For å forstå den rollen bidrar den til å forstå de spesielle vanskelighetene som er forbundet med evig krig. Drapet i seg selv er ikke særlig vanskelig. Med et militærbudsjett som er større enn Kina, Russland, Saudi-Arabia, India, Frankrike, Storbritannia og Japan kombinert, og noen 800 baser Over hele verden har USA en overflod av ildkraft og en uovertruffen evne til å distribuere den ildkraften hvor som helst på planeten.
Det amerikanske militæret vet hvordan man skal drepe. Jo vanskeligere del er å finne ut hvem som skal drepe. I en mer tradisjonell krig dreper du bare fienden. Men hvem er fienden i en konflikt uten nasjonale grenser, ingen faste slagmarker, og ingen konvensjonelle motstandere?
Dette er det flerårige spørsmålet om evig krig. Det er også et sentralt element i designen. Fiendens vaghet er det som har gjort det mulig for konflikten å fortsette i nesten to tiår og til utvide til mer enn 70-landene - en velsignelse til entreprenørene, byråkrater og politikere som lever av amerikansk militærisme. Hvis krig er en racket, i ord av marine legende Smedley Butler, den evige krigen er en av de lengste ulemper ennå.
Men fiendens vaghet skaper også visse utfordringer. Det er en ting å se på et kart over Nord-Vietnam og plukke steder å bombe. Det er ganske annet å sile gjennom store mengder informasjon fra hele verden for å identifisere en god kandidat for en drone-streik. Når fienden er overalt, blir målidentifikasjon langt mer arbeidsintensiv. Dette er hvor AI - eller mer nøyaktig maskinlæring - kommer inn. Maskininnlæring kan bidra til å automatisere en av de mer kjedelige og tidkrevende aspektene ved evig krig: å finne folk å drepe.
Pentagons prosjektmaven tar allerede denne ideen i bruk. Maven, også kjent som Algoritmic Warfare Cross-Functional Team, laget overskrifter nylig for sparking En ansatt opprør på Google over selskapets engasjement. Maven er militærets "pathfinder" AI prosjekt. Dens innledende fase innebærer bruk av maskinlæring for å skanne drone videoopptak for å identifisere personer, biler og bygninger som kan være verdt å bombere.
"Vi har analytikere ser på full-motion video, stirrer på skjermene 6, 7, 8, 9, 10, 11 timer om gangen," sier prosjektleder, Lt Gen Jack Shanahan. Mavens programvare automatiserer det arbeidet, og relayer dets funn til et menneske. Så langt har det vært en stor suksess: programvaren har vært utplassert til så mange som seks kampsteder i Midtøsten og Afrika. Målet er å til slutt laste Programvaren på dronene selv, slik at de kan finne mål i sanntid.
Vil ikke denne teknologien forbedre presisjonen, og dermed redusere sivile tap? Dette er et vanlig argument laget av høyere-ups i både Pentagon og Silicon Valley for å forsvare sitt samarbeid på prosjekter som Maven. Kode for Amerikas Jen Pahlka puts i form av "skarpe kniver" mot "kjedelige kniver": skarpere kniver kan hjelpe militæret med å redde liv.
I tilfelle av weaponized AI er imidlertid knivene ikke særlig skarpe. Det er ingen mangel på horrorhistorier om hva som skjer når menneskelig tilsyn er outsourcet til defekte eller skadede algoritmer - algoritmer som ikke kan gjenkjenne svarte ansikter, eller som styrker rasemessig bias i politi og straffesvikt. Vil vi virkelig at Pentagon bruker samme teknologi for å avgjøre hvem som får en bombe falt på hodet?
Men det dypere problemet med det humanitære argumentet for algoritmisk krigføring er antakelsen om at det amerikanske militæret er en vesentlig velvillig styrke. Mange millioner mennesker rundt om i verden ville være uenige. I 2017 alene streiker USA og allierte i Irak og Syria drept så mange som 6,000 sivile. Tall som disse foreslår ikke noen få ærlige feil her og der, men en systemisk likegyldighet til "sikkerhetsskade". Faktisk har den amerikanske regjeringen gjentatte ganger bombet sivile sammenkomster som bryllup i håp om å drepe et høyverdig mål.
Videre er linjen mellom sivil og stridsmann svært porøs i den evige krigens epoke. En rapport fra inngripen antyder at det amerikanske militæret etiketter alle som dreper i "målrettede" streiker som "fiende drept i handling", selv om de ikke var et av målene. De såkalte "signaturstreikene" som er utført av det amerikanske militæret og CIA, spiller lignende triks med konseptet til kampmannen. Dette er droneangrep på enkeltpersoner hvis identiteter er ukjente, men som mistenkes for å være militante basert på å vise visse "signaturer" - som kan være like vett som å være en militæralder mann i et bestemt område.
Problemet er ikke kvaliteten på verktøyene, med andre ord, men institusjonen bruker dem. Og AI vil bare gjøre den institusjonen mer brutal. Den evige krigen krever at USA ser fiender overalt. AI lover å finne disse fiender raskere - selv om alt som trengs for å bli ansett som en fiende, viser et mønster av atferd at en (klassifisert) maskinlæringsmodell forholder seg til fiendtlig aktivitet. Kaller det død med store data.
AI har også potensial til å gjøre evig krig mer permanent ved å gi noen av landets største selskaper en innsats i å videreføre den. Silicon Valley har alltid hatt nære forbindelser til det amerikanske militæret. Men algoritmisk krigføring vil gi storteknologi dypere inn i det militære industrielle komplekset, og gi milliardærer som Jeff Bezos et kraftig insentiv for å sikre at evig krig varer evig. Fiender vil bli funnet. Penger vil bli gjort.
