Ben Tarnoff, oktober 11. 2018, Guardian.
Ameriška vojska ustvarja bolj avtomatizirano obliko bojevanja, ki bo močno povečala njeno zmožnost, da bo vedno vodila vojno.
Last mesec je označil 17 obletnico 9 / 11. S tem je prišel nov mejnik: v Afganistanu smo že tako dolgo, da je nekdo, ki je bil rojen po napadih, zdaj dovolj star, da se bo tam boril. Lahko služijo tudi v šest drugih mest kjer smo uradno v vojni, da ne omenjamo držav 133, kjer so se izvajale sile za posebne operacije misije v prvi polovici 2018.
Vojne 9 / 11 se nadaljujejo, brez vidnega konca. Sedaj Pentagon veliko vlaga v tehnologije, ki jih bodo okrepile. S sprejetjem najnovejših orodij, ki jih lahko ponudi tehnološka industrija, bo Ameriška vojska ustvarja bolj avtomatizirano obliko bojevanja - tisto, ki bo močno povečala njeno zmožnost vojne povsod.
V petek je obrambno ministrstvo zaključilo obdobje za oddajo ponudb za eno od največjih tehnoloških pogodb v svoji zgodovini: skupno podjetje za obrambno infrastrukturo (Jedi). Jedi je ambiciozen projekt za izgradnjo sistema računalništva v oblaku, ki služi ameriškim silam po vsem svetu, od analitikov za mizo v Virginiji do vojakov na patrulji v Nigru. Pogodba je vredna toliko kot $ 10bn v letih 10, zato se velika tehnološka podjetja spopadajo težko za zmago. (Ne pa Google, kjer je pritisk kampanje delavcev prisiljena upravljanju, da opustijo delovanje.)
Na prvi pogled bi lahko Jedi izgledal kot še en projekt modernizacije informacijske tehnologije. Vlada se nagiba k pošteni razdalji Silicon Valley, celo na mestu, ki je bogato financirano kot Pentagon. Z nekaj milijoni uporabnikov 3.4 in napravami 4 milijonov je digitalni odtis obrambnega oddelka ogromen. Premik celo dela njegovih obremenitev v ponudnika v oblaku, kot je Amazon, bo nedvomno izboljšal učinkovitost.
Toda prava sila, ki vozi Jedija, je želja po orožju AI - kar je obrambni oddelek začel imenovati "algoritemsko vojskovanje". Z združevanjem vojaških podatkov v moderno platformo v oblaku in z uporabo storitev strojnega učenja, ki jih te platforme zagotavljajo za analizo teh podatkov, bo Jedi pomagal Pentagonu uresničiti svoje ambicije AI.
Obseg teh ambicij se je v zadnjih mesecih povečal. Junija je bil Pentagon ustanovljena Skupni center za umetno inteligenco (JAIC), ki bo nadzoroval približno projekte XI NUMX AI, ki se trenutno izvajajo v oddelku na načrtovani stroški 1.7 milijarde USD. In septembra je Agencija za obrambne napredne raziskovalne projekte (Darpa), Pentagonovo nadstropje za raziskave in razvoj, razglasitve v naslednjih petih letih bi vlagala do $ 2bn v raziskave o orožju za UI.
Do sedaj je poročanje o PI-jevem PI-jevem preživetju v veliki meri osredotočeno na možnost avtonomnega orožja - roboti Terminatorjevih slog, ki ljudem kosijo brez vnosa človeškega operaterja. To je dejansko zastrašujoč scenarij v bližnji prihodnosti in globalna prepoved avtonomnega orožja, kakršno si prizadeva EU Kampanja za ustavitev robotov ubijalcev bistvenega pomena.
AI pa je že začela s preoblikovanjem vojskovanja, čeprav (še) ni dobila oblike dobesednih terminatorjev. Obstaja manj kinematografskih, vendar enako zastrašujočih načinov za orožje AI. Za algoritme, ki igrajo izjemno nevarno vlogo, ne potrebujete algoritmov, ki bi povlekli sprožilec.
Da bi razumeli to vlogo, pomaga razumeti posebne težave, ki jih povzroča večna vojna. Samo ubijanje ni posebej težko. Z večjim vojaškim proračunom kot Kitajska, Rusija, Saudova Arabija, Indija, Francija, Velika Britanija in Japonska kombiniraniin nekaj 800 baze po vsem svetu imajo ZDA obilico ognjene moči in neprimerljivo zmožnost za uporabo te ognjene moči kjerkoli na planetu.
Ameriška vojska zna ubiti. Težji del je ugotoviti, koga ubiti. V bolj tradicionalni vojni preprosto ubijete sovražnika. Toda kdo je sovražnik v konfliktu brez nacionalnih meja, brez stalnih bojišč in nobenih običajnih nasprotnikov?
To je večno vprašanje večne vojne. Prav tako je ključna značilnost njegove zasnove. Nejasnost sovražnika je omogočila, da se konflikt nadaljuje skoraj dve desetletji in do razširiti več kot držav 70 - ugodnost za izvajalce, birokrate in politike, ki živijo od ameriškega militarizma. Če je vojna lopov, v besede morske legende Smedleyja Butlerja, večna vojna je še ena najdaljša stiska.
Toda nejasnost sovražnika ustvarja tudi določene izzive. Ena stvar je pogledati zemljevid Severnega Vietnama in izbrati mesta za bombardiranje. Povsem drugače je, da se preberejo ogromne količine informacij iz vsega sveta, da bi lahko identificirali dobrega kandidata za trk. Ko je sovražnik povsod, postane identifikacija tarče veliko bolj delovno intenzivna. Tukaj pride AI - ali natančneje, strojno učenje - strojno učenje lahko pomaga avtomatizirati enega od bolj dolgočasnih in dolgotrajnih vidikov večne vojne: iskanje ljudi za ubijanje.
Pentagonov projekt Maven že uresničuje to idejo. Maven, znan tudi kot Algorithmic Warfare Cross-Functional Team, je nedavno predstavil naslovnice iskrenje upor zaposlenega pri Googlu zaradi vpletenosti podjetja. Maven je vojaški projekt "AI". Njegova začetna faza vključuje uporabo strojnega učenja za skeniranje video posnetkov dronov, da bi pomagali identificirati posameznike, vozila in zgradbe, ki bi lahko bili vredni bombardiranja.
"Imamo analitike, ki iščejo videoposnetke s polnim gibanjem, ki gledajo na zaslone 6, 7, 8, 9, 10, 11 naenkrat," pravi direktor projekta, generalpodpolkovnik Jack Shanahan. Programska oprema Maven avtomatizira to delo, nato pa svoja odkritja posreduje človeku. Doslej je bil velik uspeh: programska oprema je bila razporejeni na šestih bojnih lokacijah na Bližnjem vzhodu in v Afriki. Cilj je na koncu obremenitev programsko opremo na same trnke, da lahko cilje najdejo v realnem času.
Ali ta tehnologija ne bo izboljšala natančnosti in s tem zmanjšala število civilnih žrtev? To je skupna utemeljitev višjih predstavnikov v Pentagonu in Silicijevi dolini, da zagovarjajo svoje sodelovanje pri projektih, kot je Maven. Koda za ameriško Jen Pahlko postavlja v smislu "ostrih nožev" v primerjavi z "dolgimi noži": ostrejši noži lahko pomagajo vojski rešiti življenja.
V primeru orožja AI pa zadevni noži niso posebej ostri. Ni grozljivih zgodb o tem, kaj se zgodi, ko se človeški nadzor prenese na napačne ali predsodke algoritme - algoritme, ki ne morejo priznajo črne obraze ali ki krepijo rasno pristranskost pri policijskem in kazenskem kaznovanju. Ali resnično želimo, da bi Pentagon uporabljal isto tehnologijo, da bi pomagal ugotoviti, kdo dobi bombo na glavo?
Toda globlji problem z humanitarnim argumentom za algoritemsko vojno je predpostavka, da je ameriška vojska v bistvu dobronamerna sila. Mnogi milijoni ljudi po vsem svetu se ne bi strinjali. Samo v 2017, ZDA in zavezniške stavke v Iraku in Siriji ubil toliko civilistov 6,000. Številke, kot so te, ne kažejo na nekaj poštenih napak tu in tam, ampak sistemsko brezbrižnost do »kolateralne škode«. Dejansko je vlada ZDA večkrat bombardirali civilnih srečanj, kot so poroke, v upanju, da bodo ubili cilj visoke vrednosti.
Poleg tega je meja med civilistom in bojevnikom v času večne vojne zelo porozna. Poročilo Intercepta kaže, da ameriška vojska nalepke kdor koli ubija »ciljne« udarce kot »sovražnika, ki je ubit v akciji«, tudi če niso bili ena od tarč. Tako imenovane "podpisne stavke", ki so jih vodile ameriška vojska in CIA, imajo podobne trike s konceptom borca. To so napadi dronov na posameznike, katerih identitete niso znane, vendar so osumljene militantov, ki temeljijo na določenih „podpisih“ - kar je lahko tako nejasno kot vojaški moški na določenem območju.
Težava ni v kakovosti orodja, z drugimi besedami, ampak v instituciji, ki jih uporablja. In AI bo to institucijo naredil bolj brutalno. Večna vojna zahteva, da ZDA vidijo sovražnike povsod. AI obljublja, da bo te sovražnike hitreje našel - čeprav je vse, kar je potrebno, da se šteje za sovražnika, kaže vzorec vedenja, ki ga (klasificiran) model za strojno učenje povezuje s sovražno dejavnostjo. To imenujemo smrt z velikimi podatki.
AI ima tudi potencial, da bo večno vojno trajnejša, saj bo nekaterim največjim podjetjem v državi omogočilo, da jo ohranijo. Silicijska dolina je vedno imela tesne povezave z ameriško vojsko. Toda algoritemsko vojskovanje bo prineslo velike tehnologije v vojaško-industrijski kompleks in dajalo milijarderjem, kot je Jeff Bezos, močno spodbudo za zagotovitev, da bo večna vojna trajala večno. Našli se bodo sovražniki. Denar bo narejen.
