Ben Tarnoff, spalio 11. 2018, "The Guardian".
JAV kariuomenė kuria labiau automatizuotą karo formą - tai labai padidins jos gebėjimą karą visur visam laikui.
L„Ast“ mėnuo pažymėjo 17 / 9 11th jubiliejų. Su juo atsidūrė naujas etapas: mes buvome Afganistane taip ilgai, kad kažkas, kas gimė po išpuolių, dabar yra pakankamai senas, kad ten vyktų kova. Jie taip pat gali tarnauti šešias kitas vietas kur mes oficialiai kariaujame, jau nekalbant apie 133 šalis, kuriose vyko specialios operacijos pajėgos misijos tik pirmoje 2018 pusėje.
9 / 11 karai tęsiasi, nesibaigus galui. Dabar Pentagonas daug investuoja į technologijas, kurios jas sustiprins. Įtraukdami naujausias priemones, kurias turi pasiūlyti technologijų pramonė JAV kariuomenė sukuria labiau automatizuotą karo formą - tai labai padidins jos gebėjimą karą visur visam laikui.
Penktadienį gynybos departamentas užbaigia vieno iš didžiausių technologijų sutarčių konkurso laikotarpį - jungtinę įmonių gynybos infrastruktūrą (Jedi). „Jedi“ yra ambicingas projektas, kurio tikslas - sukurti debesų kompiuterijos sistemą, kuri tarnautų JAV pajėgos visame pasaulyje, nuo analitikų, atsidūrusių Virdžinijoje prie stalo, ir patruliavimo Nigeryje. Sutartis yra vertinga tiek, kiek 10bn per 10 metus, todėl stambios technologijų įmonės kovoja kietas laimėti. (Tačiau ne „Google“, kur darbuotojų spaudimo kampanija priverstinis valdymą, kad išeitų iš darbo.)
Iš pirmo žvilgsnio Jedi gali atrodyti kaip dar vienas IT modernizavimo projektas. Vyriausybės IT linkęs eiti teisingu atstumu Silicio slėnio, net ir tokiose vietose, kurios yra finansuojamos kaip Pentagonas. Su kai kuriais 3.4 milijonais naudotojų ir 4 milijonų įrenginių gynybos departamento skaitmeninis pėdsakas yra didžiulis. Netgi dalis darbo krūvio perkėlimo į debesų paslaugų teikėją, pvz., „Amazon“, neabejotinai pagerins efektyvumą.
Tačiau tikra jėga, kuri vairuoja Jedį, yra noras ginkluoti AI - ką gynybos departamentas pradėjo vadinti „algoritminiu karu“. Jedai, sukurdami karinius duomenis į šiuolaikinę debesų platformą, ir naudodamiesi mašinų mokymosi paslaugomis, kurias tokios platformos suteikia, analizuoti šiuos duomenis, „Jedi“ padės Pentagonui įgyvendinti savo AI ambicijas.
Šių ambicijų mastas pastaraisiais mėnesiais išaugo. Birželio mėn. Pentagonas nustatytas Jungtinis dirbtinio intelekto centras (JAIC), kuris prižiūrės apytiksliai 600 AI projektus, kurie šiuo metu vykdomi per departamentą, kaina iš 1.7 mlrd. USD. Rugsėjo mėn. Gynybos pažangiųjų tyrimų projektų agentūra („Darpa“), Pentagono aukštų mokslinių tyrimų ir plėtros sparnas, paskelbė per ateinančius penkerius metus į AI ginklų mokslinius tyrimus būtų investuojama iki $ 2bn.
Iki šiol pranešimai apie „Pentagono AI“ išlaidų šėlimą daugiausia buvo skirti savarankiškų ginklų perspektyvai - Terminatoriaus stiliaus žudikų robotams, kurie pjauna žmones be jokio žmogaus operatoriaus indėlio. Tai iš tikrųjų yra bauginantis artimiausio ateities scenarijus, ir visuotinis draudimas savarankiškam ginklui, kurio siekiama Kampanijos „Killer Robots“ sustabdymas yra absoliučiai būtina.
Tačiau AI jau prasidėjo karo pratęsimas, net jei jis dar nebuvo (dar) pažodžiui. Yra mažiau kinematinių, bet taip pat baisių būdų, kaip AI ginkluoti. Jums nereikia algoritmų, ištraukiančių paleidiklį, kad algoritmai atliktų itin pavojingą vaidmenį.
Kad suprastume šį vaidmenį, jis padeda suprasti ypatingus sunkumus, kuriuos kelia amžinai karas. Žudymas nėra ypač sunkus. Karinis biudžetas didesnis nei Kinijoje, Rusijoje, Saudo Arabijoje, Indijoje, Prancūzijoje, Didžiojoje Britanijoje ir Japonijoje kartu, ir kai kurie 800 bazės visame pasaulyje JAV turi daug ugnies jėgų ir neprilygstamą gebėjimą dislokuoti tą ugnį bet kurioje planetos vietoje.
JAV kariai žino, kaip nužudyti. Sunkesnė dalis yra suprasti, kam nužudyti. Tradiciniame kare jūs tiesiog nužudote priešą. Bet kas yra priešas konflikte, kuriame nėra nacionalinių sienų, nėra fiksuotų mūšio laukų ir nėra įprastų priešininkų?
Tai yra daugiametis amžinojo karo klausimas. Tai taip pat yra esminis jos dizaino bruožas. Priešo neapibrėžtumas leido konfliktui tęsti beveik du dešimtmečius išplėsti daugiau nei 70 šalims - palaima rangovams, biurokratams ir politikai, kurie gyvena iš JAV militarizmo. Jei karas yra raketas, žodžiai jūrų legenda Smedley Butler, amžinai karas yra vienas iš ilgiausių trūkumų.
Tačiau priešo neaiškumas taip pat sukuria tam tikrus iššūkius. Vienas dalykas yra pažvelgti į Šiaurės Vietnamo žemėlapį ir pasirinkti vietas bomboms. Tai dar vienas dalykas, kad išsiaiškintumėte milžinišką informacijos kiekį iš viso pasaulio, kad būtų galima nustatyti gerą kandidatą į drono streiką. Kai priešas yra visur, tikslo identifikavimas tampa daug intensyvesnis. Čia ateina AI - arba, tiksliau, mašinų mokymasis. Mašinų mokymasis gali padėti automatizuoti vieną iš varginančių ir daug laiko reikalaujančių amžinojo karo aspektų: surasti žmones nužudyti.
Pentagono projektas „Maven“ jau įgyvendina šią idėją. Mavenas, taip pat žinomas kaip „Algorithmic Warfare Cross-Functional Team“, neseniai paskelbė antraštes kibirkštis darbuotojo sukilimas „Google“ dėl bendrovės dalyvavimo. Mavenas yra karinio „trajektorijos“ AI projektas. Jo pradinis etapas apima mašinų mokymąsi, kad būtų galima nuskaityti drone vaizdo įrašus, kad būtų galima nustatyti asmenis, transporto priemones ir pastatus, kurie gali būti vertingi bombarduojant.
„Mes turime analitikus, kurie žiūri į pilną judesio vaizdo įrašą, žiūri į ekranus 6, 7, 8, 9, 10, 11 valandas“, sako projekto direktorius, generolas Džonas Shanahanas. Maven programinė įranga automatizuoja šį darbą, tada perduoda savo atradimus žmogui. Iki šiol tai buvo didelė sėkmė: programinė įranga buvo dislokuoti iki šešių kovos vietų Vidurio Rytuose ir Afrikoje. Tikslas - galiausiai įkelti programinę įrangą patys, kad jie galėtų rasti tikslus realiu laiku.
Ar ši technologija pagerins tikslumą ir taip sumažins civilių aukų skaičių? Tai yra bendras Pentagono ir Silicio slėnio aukštesniųjų atstovų argumentas ginti savo bendradarbiavimą tokiuose projektuose kaip Mavenas. Amerikos Jen Pahlka kodas kelia tai „aštrūs peiliai“, palyginti su „nuobodu peiliais“: aštresni peiliai gali padėti kariniams gelbėti gyvybes.
Tačiau ginkluotų AI atveju aptariami peiliai nėra itin aštrūs. Nėra siaubo istorijų apie tai, kas atsitinka, kai žmogaus priežiūra yra perkelta į sugedusius ar pažeistus algoritmus - algoritmus, kurie negali pripažinti juodais veidais, arba sustiprinti rasinę šališkumą policijos ir baudžiamųjų nuosprendžių atžvilgiu. Ar tikrai norime, kad Pentagonas naudotų tą pačią technologiją, kad padėtų nustatyti, kas gauna bombą ant galvos?
Tačiau gilesnė humanitarinių argumentų dėl algoritminių karų problema yra prielaida, kad JAV kariuomenė yra iš esmės geranoriškas jėgas. Daugelis milijonų žmonių visame pasaulyje nesutiktų. Vien tik 2017 JAV ir giminingi streikai Irake ir Sirijoje užmuštas 6,000 civilių. Tokie numeriai čia ir ten nerodo keleto sąžiningų klaidų, bet sisteminis abejingumas „įkaitui“. Iš tiesų JAV vyriausybė ne kartą bombardavo civiliniai susirinkimai, pavyzdžiui, vestuvės, tikėdamiesi nužudyti didelės vertės tikslą.
Be to, linija tarp civilių ir kovotojų yra labai akytas amžinojo karo laikais. „Intercept“ pranešime teigiama, kad JAV kariuomenė etiketės kiekvienas, kuris nužudo „tiksliniuose“ streikuose, kaip „veiksmo metu nužudytas priešas“, net jei jie nebuvo vienas iš tikslų. Vadinamieji „parašų streikai“, kuriuos vykdo JAV kariai ir CŽV, panašūs į kovotojo sampratą. Tai yra išpuoliai prieš asmenis, kurių tapatybė yra nežinoma, bet kurie įtariami kaip kariai, remiantis tam tikrais „parašais“, kurie gali būti tokie pat neapibrėžti kaip karinio amžiaus vyrai tam tikroje srityje.
Problema yra ne įrankių kokybė, kitaip tariant, tačiau institucija, kuri juos naudoja. Ir AI tik padarys šią instituciją žiauresnę. Amžinai karas reikalauja, kad JAV matytų priešus visur. AI žada greičiau surasti tuos priešus - net jei viskas, ką reikia laikyti priešu, rodo elgesio modelį, kurį (įslaptintas) mašininio mokymosi modelis sieja su priešišku veikimu. Skambinkite dideliais duomenimis.
AI taip pat turi potencialą padaryti amžinąjį karą nuolatinį, suteikiant kai kurių didžiausių šalies kompanijų, kad jos išliktų nuolatinės. Silicio slėnyje visada buvo glaudūs ryšiai su JAV kariuomene. Bet algoritminis karas sukels didelių technologijų į karinį pramoninį kompleksą ir suteiks milijardieriams kaip Jeff Bezos galingą paskatą užtikrinti amžinąjį karą amžinai. Bus surasti priešai. Pinigai bus padaryti.
