Di Ben Tarnoff, ottobre 11. 2018, Il guardiano.
Le forze armate statunitensi stanno creando una forma di guerra più automatizzata, che aumenterà notevolmente la sua capacità di condurre la guerra ovunque per sempre.
LIl mese scorso ha segnato l'anniversario 17th di 9 / 11. Con esso è arrivata una nuova pietra miliare: siamo stati in Afghanistan per così tanto tempo che qualcuno nato dopo gli attacchi è ora abbastanza vecchio per andare a combattere lì. Possono anche servire nel sei altri posti dove siamo ufficialmente in guerra, per non parlare dei paesi 133 dove hanno condotto le forze speciali missioni solo nella prima metà di 2018.
Le guerre di 9 / 11 continuano, senza fine in vista. Ora, il Pentagono sta investendo molto in tecnologie che le intensificheranno. Abbracciando gli ultimi strumenti che l'industria tecnologica ha da offrire, il Militare degli Stati Uniti sta creando una forma di guerra più automatizzata, che aumenterà notevolmente la sua capacità di condurre la guerra ovunque per sempre.
Venerdì, il dipartimento della difesa chiude il periodo di gara per uno dei più grandi contratti tecnologici della sua storia: la Joint Enterprise Defense Infrastructure (Jedi). Jedi è un progetto ambizioso per costruire un sistema di cloud computing che serva le forze statunitensi in tutto il mondo, dagli analisti dietro una scrivania in Virginia ai soldati di pattuglia in Niger. Il contratto vale più di $ 10bn per gli anni 10, motivo per cui le grandi aziende tecnologiche stanno combattendo difficile per vincerlo (Non Google, tuttavia, dove una campagna di pressione da parte dei lavoratori forzato gestione di abbandonare la corsa.)
A prima vista, Jedi potrebbe sembrare solo un altro progetto di modernizzazione dell'IT. L'IT governativo tende a mantenere una distanza ragionevole Silicon Valley, anche in un posto abbondantemente finanziato come il Pentagono. Con alcuni 3.4 milioni di utenti e 4 milioni di dispositivi, l'impronta digitale del dipartimento della difesa è immensa. Spostare anche una parte dei suoi carichi di lavoro verso un fornitore di servizi cloud come Amazon aumenterà senza dubbio l'efficienza.
Ma la vera forza che guida Jedi è il desiderio di armare l'IA - quello che il dipartimento della difesa ha iniziato a chiamare "guerra algoritmica". Unendo i dati militari in una moderna piattaforma cloud e utilizzando i servizi di apprendimento automatico che tali piattaforme forniscono per analizzare tali dati, Jedi aiuterà il Pentagono a realizzare le sue ambizioni di IA.
La portata di queste ambizioni è cresciuta sempre più negli ultimi mesi. A giugno, il Pentagono sviluppate il Joint Artificial Intelligence Centre (JAIC), che supervisionerà i progetti di 600 AI attualmente in corso in tutto il dipartimento costo di $ 1.7 miliardi. E a settembre, la Defense Advanced Research Projects Agency (Darpa), la leggendaria ala di ricerca e sviluppo del Pentagono, ha annunciato investirebbe fino a $ 2bn per i prossimi cinque anni nella ricerca sulle armi AI.
Finora, la cronaca della corsa al consumo di intelligenza artificiale del Pentagono si è in gran parte concentrata sulla prospettiva di armi autonome - i robot assassini in stile Terminator che falciano le persone senza alcun intervento da parte di un operatore umano. Questo è davvero uno spaventoso scenario del prossimo futuro e un divieto globale di armi autonome del tipo cercato dal Campagna per fermare i robot assassini è assolutamente essenziale.
Ma l'IA ha già iniziato a ricablare la guerra, anche se non ha (ancora) assunto la forma di Terminator letterali. Ci sono meno modi cinematici ma ugualmente spaventosi per armare l'IA. Non hai bisogno di algoritmi che tirino il grilletto affinché gli algoritmi svolgano un ruolo estremamente pericoloso.
Per capire quel ruolo, aiuta a capire le particolari difficoltà poste dalla guerra per sempre. Lo stesso omicidio non è particolarmente difficile. Con un budget militare più grande di quello di Cina, Russia, Arabia Saudita, India, Francia, Gran Bretagna e Giappone combinatoe alcuni 800 base in tutto il mondo, gli Stati Uniti hanno un'abbondanza di potenza di fuoco e un'incomparabile capacità di schierare quella potenza di fuoco in qualsiasi parte del pianeta.
L'esercito americano sa come uccidere. La parte più difficile è capire chi uccidere. In una guerra più tradizionale, uccidi semplicemente il nemico. Ma chi è il nemico in un conflitto senza confini nazionali, senza campi di battaglia fissi e avversari convenzionali?
Questa è la perenne questione della guerra per sempre. È anche una caratteristica chiave del suo design. La vaghezza del nemico è ciò che ha permesso al conflitto di continuare per quasi due decenni e a espandere a più dei paesi 70 - un vantaggio per gli appaltatori, i burocrati e i politici che si guadagnano da vivere con il militarismo americano. Se la guerra è un racket, nel parole della leggenda marina Smedley Butler, la guerra per sempre è la più lunga mai vista.
Ma la vaghezza del nemico crea anche alcune sfide. Una cosa è guardare una mappa del Vietnam del Nord e scegliere luoghi da bombardare. Un'altra cosa è quella di setacciare grandi quantità di informazioni da tutto il mondo per identificare un buon candidato per uno sciopero dei droni. Quando il nemico è ovunque, l'identificazione del bersaglio diventa molto più laboriosa. È qui che entra in gioco l'intelligenza artificiale o, più precisamente, l'apprendimento automatico. L'apprendimento automatico può aiutare ad automatizzare uno degli aspetti più noiosi e dispendiosi in termini di tempo della guerra per sempre: trovare persone da uccidere.
Il Progetto del Pentagono Maven sta già mettendo in pratica questa idea. Maven, noto anche come il team interfunzionale di Algorithmic Warfare, ha fatto notizia recentemente scintillamento un dipendente si rivolta a Google per il coinvolgimento della società. Maven è il progetto AI "pathfinder" dei militari. La sua fase iniziale prevede l'uso della machine learning per la scansione di video di droni per aiutare a identificare individui, veicoli e edifici che potrebbero valere la pena di essere bombardati.
"Abbiamo analisti che guardano video in full-motion, fissando gli schermi 6, 7, 8, 9, 10, 11 alla volta," dice il direttore del progetto, Lt Gen Jack Shanahan. Il software di Maven automatizza quel lavoro, quindi trasmette le sue scoperte a un essere umano. Finora, è stato un grande successo: il software è stato schierato fino a sei posizioni di combattimento in Medio Oriente e Africa. L'obiettivo è alla fine caricare il software ai droni stessi, in modo che possano individuare gli obiettivi in tempo reale.
Questa tecnologia non migliorerà la precisione, riducendo così le vittime civili? Questo è un argomento comune fatto dai superiori sia nel Pentagono sia nella Silicon Valley per difendere la loro collaborazione su progetti come Maven. Codice per l'America Jen Pahlka mette in termini di "coltelli affilati" contro "coltelli noiosi": i coltelli più affilati possono aiutare i militari a salvare vite umane.
Nel caso dell'IA artificiale, tuttavia, i coltelli in questione non sono particolarmente nitidi. Non c'è carenza di storie horror di ciò che accade quando la supervisione umana viene esternalizzata a algoritmi difettosi o pregiudizi - algoritmi che non possono riconoscere facce nere, o che rafforzano il pregiudizio razziale nella polizia e la condanna penale. Vogliamo davvero che il Pentagono usi la stessa tecnologia per aiutare a determinare chi si fa cadere una bomba in testa?
Ma il problema più profondo dell'argomentazione umanitaria per la guerra algoritmica è l'assunzione che l'esercito americano sia una forza essenzialmente benevola. Molti milioni di persone in tutto il mondo non sarebbero d'accordo. Solo in 2017, gli Stati Uniti e gli scioperi alleati in Iraq e in Siria ucciso tanti come i civili 6,000. Numeri come questi non suggeriscono alcuni errori onesti qua e là, ma un'indifferenza sistemica al "danno collaterale". In effetti, il governo degli Stati Uniti ha ripetutamente bombardata incontri civili come matrimoni nella speranza di uccidere un obiettivo di alto valore.
Inoltre, la linea tra civili e combattenti è molto porosa nell'era della guerra per sempre. Un rapporto dell'Intercept suggerisce che l'esercito americano etichette chiunque uccide in attacchi "mirati" come "il nemico ucciso in azione", anche se non erano uno degli obiettivi. I cosiddetti "attacchi alla firma" condotti dall'esercito americano e dalla CIA giocano trucchi simili con il concetto del combattente. Si tratta di attacchi di droni contro individui le cui identità sono sconosciute, ma che sono sospettati di essere militanti basati sulla visualizzazione di alcune "firme" - che possono essere tanto vaghe quanto un uomo di età militare in una particolare area.
Il problema non è la qualità degli strumenti, in altre parole, ma l'istituzione che li maneggia. E l'IA renderà l'istituzione ancora più brutale. La guerra per sempre richiede che gli Stati Uniti vedano nemici ovunque. AI promette di trovare quei nemici più velocemente - anche se tutto ciò che serve per essere considerato un nemico sta mostrando un modello di comportamento che un modello di apprendimento automatico (classificato) associa a un'attività ostile. Chiamala morte per big data.
L'IA ha anche il potenziale per rendere la guerra per sempre più permanente, dando ad alcune delle maggiori compagnie del paese la possibilità di perpetuarla. La Silicon Valley ha sempre avuto stretti legami con l'esercito americano. Ma la guerra algoritmica porterà la grande tecnologia più in profondità nel complesso militare-industriale e darà a miliardari come Jeff Bezos un potente incentivo per assicurare che la guerra per sempre duri per sempre. I nemici saranno trovati. I soldi saranno fatti.
