Ben Tarnoff, oktoober 11. 2018, Eestkostja.
USA sõjavägi loob rohkem automatiseeritud sõjapidamise vormi, mis suurendab oluliselt tema võimet sõda kõikjal igavesti.
Last kuu tähistas 17 / 9 11th aastapäeva. Sellega tuli uus verstapost: oleme olnud Afganistanis nii kaua, et pärast rünnakuid sündinud keegi on nüüd piisavalt vana, et seal seal võidelda. Nad võivad ka teenida kuus teist kohta kus me oleme ametlikult sõjas, rääkimata 133i riikidest, kus on läbi viidud spetsiaalsed operatsioonijõud missioonide 2018i esimesel poolel.
9i / 11i sõjad jätkuvad, ilma et see oleks lõppemas. Nüüd investeerib Pentagon suuresti tehnoloogiatesse, mis neid intensiivistavad. Võttes arvesse uusimaid vahendeid, mida tehnikatööstus peab pakkuma USA sõjaväe loob rohkem automatiseeritud sõjapidamise vormi - see suurendab oluliselt oma võimet sõda kõikjal igavesti.
Reedel lõpetab kaitseministeerium ühe ajaloos ühe suurima tehnoloogialepingu sõlmimise pakkumisperioodi: ühine ettevõtluskaitse infrastruktuur (Jedi). Jedi on ambitsioonikas projekt, mille eesmärk on luua pilvandmetöötlussüsteem, mis teenindab USA vägesid kogu maailmas, Virginia Virginia laua taga asuvatelt analüütikutelt Nigeris sõjaväelastele. Lepingu väärtus on 10i aastatel sama suur kui $ 10bn, mistõttu võitlevad suurte tehnoloogiate ettevõtted raske võita. (Mitte aga Google, kus töötajad suruvad kampaaniat sunnitud juhtimise lõpetamiseks.)
Esmapilgul võib Jedi näida välja nagu üks teine IT moderniseerimisprojekt. Valitsuse IT kaldub jääma õiglase vahemaa tagant Silicon Valley, isegi kohas, mis on rahaliselt rahastatud kui Pentagon. Mõnede 3.4i kasutajate ja 4i miljonite seadmetega on kaitseosakonna digitaalne jalajälg tohutu. Isegi osa oma töökoormuse liikumisest pilvepakkujale, nagu Amazon, parandab kahtlemata tõhusust.
Kuid tegelik jõud, mis Jedit juhib, on soov relvastada AI - mida kaitseministeerium on hakanud nimetama „algoritmiliseks sõjaks”. Jedi koondab sõjaväe andmed kaasaegseks pilvplatvormiks ja kasutab selliseid platvorme kasutavate masinõppeteenuste abil neid andmeid, et Jedi aitab Pentagonil oma AI ambitsioone realiseerida.
Nende ambitsioonide ulatus on viimastel kuudel üha selgemaks muutunud. Juunis Pentagon asutatud Ühine tehisintellekti keskus (JAIC), mis jälgib plaanipäraselt kogu osakonnas praegu käimasolevaid 600i AI projekte. hind 1.7 miljardit dollarit. Ja septembris on Pentagoni korruseline teadus- ja arendustegevuse tiib Defense Advanced Research Projects Agency (Darpa), teatas järgmise viie aasta jooksul investeeritakse AI relvauuringutesse kuni $ 2bni.
Siiani on Pentagoni AI kulutustega seotud aruandlus keskendunud suuresti autonoomsete relvade väljavaadetele - Terminator-stiilis tapja-robotid, kes niidavad inimesi ilma inimese operaatori panuseta. See on tõepoolest hirmutav lähituleviku stsenaarium ja ülemaailmne keeld autonoomsete relvade vastu, nagu seda soovib Kampaania Killer Robotide peatamiseks on hädavajalik.
Kuid AI on juba alustanud sõjapidamist, isegi kui see ei ole (veel) olnud sõna otseses mõttes Terminators. AI-de relvatiseerimiseks on vähem kinematilisi, kuid võrdselt hirmutavaid viise. Sa ei vaja algoritme, mis tõmbaksid algoritme, et mängida äärmiselt ohtlikku rolli.
Selle rolli mõistmiseks aitab see mõista igavesest sõjast tingitud erilisi raskusi. Tapmine ise ei ole eriti raske. Sõjalise eelarvega on suurem Hiina kui Venemaa, Saudi Araabia, India, Prantsusmaa, Suurbritannia ja Jaapani eelarve kombineeritudja mõned 800 alused kogu maailmas on USA-l arvukalt tulirelvi ja võrreldamatut võimet kasutada seda tulirelva kõikjal planeedil.
USA sõjavägi teab, kuidas tappa. Raskem osa on välja selgitada, kellele tappa. Traditsioonilisemas sõjas tapad sa vaenlase. Aga kes on vaenlane konfliktis, kus ei ole riigipiire, ei ole kindlaid lahinguvälju ega tavalisi vastaseid?
See on igavene küsimus igavesest sõjast. See on ka selle disaini põhijoon. Vaenlase ebamäärasus on see, mis on võimaldanud konfliktil jätkuda peaaegu kaks aastakümmet laiendama rohkem kui 70i riikidele - õnnistus töövõtjatele, bürokraatidele ja poliitikutele, kes elavad USA militarismilt. Kui sõda on reket, siis sõnad mere- legendi Smedley Butleri jaoks on igavesti sõda üks pikemaid miinuseid.
Kuid vaenlase ebamäärasus tekitab ka teatud väljakutseid. Üks asi on vaadata Põhja-Vietnami kaarti ja valida pomme. See on üsna teine, et sõeluda läbi tohutu hulga teavet üle kogu maailma, et tuvastada drone streigi hea kandidaat. Kui vaenlane on kõikjal, muutub sihtmärkide tuvastamine palju töömahukamaks. See on koht, kus AI - või täpsemalt masinõpe - tuleb sisse. Masinõpe võib aidata automatiseerida igavesti sõja ühte tüütu ja aeganõudvat aspekti: inimeste tapmine.
Pentagoni projekt Maven viib selle idee juba ellu. Maven, tuntud ka kui algoritmilise sõjapidamise ristfunktsioonide meeskond, tegi hiljuti pealkirjad säde töötaja ülestõusu Google'is ettevõtte kaasamise üle. Maven on sõjaväe „teerajaja” AI projekt. Selle algfaasis kasutatakse masinaõpetust drone'i videomaterjalide skaneerimiseks, et aidata tuvastada isikuid, sõidukeid ja hooneid, mis võiksid olla pommitamist väärt.
„Meil on analüütikud, kes vaatavad täisliikme videot, vaadates ekraanil 6, 7, 8, 9, 10, 11 tundi,” ütleb projektijuht, kindralleitnant Jack Shanahan. Maveni tarkvara automatiseerib seda tööd, seejärel edastab selle avastused inimesele. Seni on see olnud suur edu: tarkvara on olnud lähetatud kuni kuus võitluskohta Lähis-Idas ja Aafrikas. Eesmärk on lõpuks koormus tarkvara, et nad saaksid sihtmärke reaalajas leida.
Kas see tehnoloogia ei paranda täpsust, vähendades nii tsiviilohvreid? See on nii Pentagoni kui ka Silicon Valley kõrgemate inimeste ühine argument, et kaitsta oma koostööd selliste projektide puhul nagu Maven. Ameerika Jen Pahlka kood paneb “teravate nugade” ja “nüri nugade” poolest: teravamad noad võivad aidata sõjaväelaste elu päästa.
Relvastatud AI puhul ei ole kõnealused noad eriti teravad. Puudub hirmulugusid sellest, mis juhtub siis, kui inimjärelevalve on allhanke korras vigastele või kahjustatud algoritmidele - algoritmid, mida ei saa tunnistama mustad näod või tugevdavad rassilist eelarvamust politsei ja kriminaalkaristuse puhul. Kas me tõesti tahame, et Pentagon kasutaks sama tehnoloogiat, et aidata otsustada, kes pommile langeb?
Kuid sügavam probleem seoses algoritmilise sõjaga seotud humanitaarväidetega on eeldus, et USA sõjavägi on sisuliselt heatahtlik jõud. Paljud miljonid inimesed üle maailma ei nõustu. Ainuüksi 2017is lööb USA ja liitlased Iraagis ja Süürias hukkus nii palju kui 6,000i tsiviilisikuid. Sellised numbrid ei viita siin ja seal mõnedele ausatele vigadele, vaid süsteemsele ükskõiksusele "tagatise kahjustuste" suhtes. Tõepoolest, USA valitsus on korduvalt pommitatud tsiviilkoosolekud, näiteks pulmad, lootuses tappa suure väärtusega sihtmärk.
Lisaks on tsiviil- ja võitleja vaheline liin igavese sõja ajastul väga poorne. Intercepti aruanne näitab, et USA sõjavägi sildid igaüks, kes tapab „sihitud” streikides kui „hukkunud vaenlane”, isegi kui nad ei olnud üks eesmärkidest. Ameerika Ühendriikide sõjaväe ja CIA poolt läbi viidud nn "allkirjastud" mängivad võitleja mõistega sarnaseid trikke. Need on droonirünnakud üksikisikute suhtes, kelle identiteedid on teadmata, kuid keda kahtlustatakse militantidena, tuginedes teatud „allkirjadele”, mis võivad olla nii ebamäärased kui sõjaväelased mehed teatud piirkonnas.
Probleemiks ei ole tööriistade kvaliteet, vaid institutsioon, kes neid kasutab. Ja AI teeb selle institutsiooni ainult jõhkramaks. Igavesti sõda nõuab, et USA näeks vaenlasi kõikjal. AI tõotab leida need vaenlased kiiremini - isegi kui vaenlaseks peetakse kõik, mida tuleb pidada käitumismustriks, mida (klassifitseeritud) masinõppemudel seostab vaenuliku tegevusega. Kutsuge seda surma suurte andmetega.
AI-l on ka potentsiaal teha igavesti sõda püsivamaks, andes mõnele riigi suurimale ettevõttele osaluse selle püsimisel. Silicon Valley on alati olnud tihedalt seotud USA sõjaväega. Kuid algoritmiline sõda toob suurte tehnoloogiate sügavamale sõjalisse tööstuslikku kompleksi ja annab miljardäridele nagu Jeff Bezos võimas stiimul tagada igavesti sõda igavesti. Leitakse vaenlased. Raha tehakse.
