Di Marc Eliot Stein, 10 febbraio 2020

Di recente sono stato invitato a parlare a un incontro di Extinction Rebellion a New York City per conto di World BEYOND War. L'evento è stato progettato per riunire tre gruppi d'azione: attivisti per i cambiamenti climatici, collettivi di lavoratori tecnologici e attivisti contro la guerra. Abbiamo iniziato con un entusiasmante resoconto personale dell'attivista per i cambiamenti climatici Ha Vu, che ha raccontato alla folla di newyorkesi un'esperienza allarmante che pochi di noi hanno mai avuto: tornare a casa della sua famiglia ad Hanoi, in Vietnam, dove aumento del calore ha già reso quasi impossibile camminare fuori durante le ore di punta della luce solare. Pochi americani sanno anche del 2016 disastro dell'inquinamento idrico ad Ha Tinh, nel Vietnam centrale. Parliamo spesso di cambiamenti climatici come un potenziale problema negli Stati Uniti, ha sottolineato Ha, ma in Vietnam può vederlo già sconvolgere vite e mezzi di sussistenza e peggiorare rapidamente.

Nick Mottern di KnowDrones.org ha parlato con analoga urgenza del recente massiccio investimento delle forze armate statunitensi nell'intelligenza artificiale futuristica e nel cloud computing e ha sottolineato la conclusione dei militari stessi che il dispiegamento di sistemi di intelligenza artificiale nella gestione delle armi nucleari e nella guerra con i droni porterà inevitabilmente a errori di entità imprevedibile. William Beckler di Extinction Rebellion NYC ha seguito spiegando i principi organizzativi che questa importante organizzazione in rapida crescita mette in azione, comprese le azioni dirompenti progettate per aumentare la consapevolezza dell'importanza critica del cambiamento climatico. Abbiamo sentito un rappresentante di New York City Coalizione di lavoratori tecnologicie ho cercato di orientare il raduno verso un senso di empowerment pratico parlando di un'azione di ribellione dei lavoratori tecnologici che ha avuto un successo inaspettato.

Questo avveniva nell'aprile 2018, quando la cosiddetta "industria della difesa" ronzava per il Progetto Maven, una nuova iniziativa militare molto pubblicizzata per lo sviluppo di capacità di intelligenza artificiale per droni e altri sistemi d'arma. Google, Amazon e Microsoft offrono piattaforme di intelligenza artificiale standard per clienti paganti e Google è stato visto come il probabile vincitore del contratto militare di Project Maven.

All'inizio del 2018, i lavoratori di Google hanno iniziato a parlare. Non capivano perché un'azienda che li aveva reclutati come impiegati con l'impegno "Don't Be Evil" stava ora facendo offerte per progetti militari che probabilmente assomigliassero all'orribile episodio di "Black Mirror" in cui i cani meccanici alimentati dall'intelligenza artificiale perseguitano umani esseri a morte. Si sono rivolti ai social media e ai media tradizionali. Hanno organizzato azioni e diffuso petizioni e si sono fatti sentire.

Questa ribellione dei lavoratori è stata la genesi del movimento di Google Workers Rebellion e ha aiutato a mettere in moto altri collettivi di lavoratori tecnologici. Ma la cosa più sorprendente della protesta interna di Google contro il Progetto Maven non è stata che i tecnici stavano parlando. La cosa più sorprendente è quella La gestione di Google ha ceduto alle richieste dei lavoratori.

Due anni dopo, questo fatto mi stupisce ancora. Ho visto molti problemi etici nei miei decenni come tecnico, ma raramente ho visto una grande azienda concordare categoricamente di affrontare i problemi etici in modo significativo. Il risultato della ribellione di Google contro il Progetto Maven è stata la pubblicazione di una serie di principi di intelligenza artificiale che vale la pena ristampare qui per intero:

Intelligenza artificiale di Google: i nostri principi

Google aspira a creare tecnologie che risolvano problemi importanti e aiutino le persone nella loro vita quotidiana. Siamo ottimisti sull'incredibile potenziale dell'IA e di altre tecnologie avanzate per potenziare le persone, beneficiare ampiamente delle generazioni attuali e future e lavorare per il bene comune.

Obiettivi per le applicazioni AI

Valuteremo le applicazioni AI in vista dei seguenti obiettivi. Riteniamo che l'IA dovrebbe:

1. Sii socialmente utile.

L'ampliamento della portata delle nuove tecnologie tocca sempre più la società nel suo insieme. I progressi nell'intelligenza artificiale avranno impatti trasformativi in ​​una vasta gamma di settori, tra cui assistenza sanitaria, sicurezza, energia, trasporti, produzione e intrattenimento. Considerando il potenziale sviluppo e utilizzo delle tecnologie di intelligenza artificiale, terremo conto di una vasta gamma di fattori sociali ed economici e procederemo laddove riteniamo che i benefici complessivi probabili superino sostanzialmente i rischi e gli svantaggi prevedibili.

L'intelligenza artificiale migliora anche la nostra capacità di comprendere il significato dei contenuti su vasta scala. Ci impegneremo a rendere prontamente disponibili informazioni accurate e di alta qualità utilizzando l'IA, continuando nel contempo a rispettare le norme culturali, sociali e legali nei paesi in cui operiamo. E continueremo a valutare attentamente quando rendere disponibili le nostre tecnologie su base non commerciale.

2. Evitare di creare o rafforzare pregiudizi ingiusti.

Gli algoritmi e i set di dati di intelligenza artificiale possono riflettere, rafforzare o ridurre i pregiudizi ingiusti. Riconosciamo che distinguere il giusto dai pregiudizi ingiusti non è sempre semplice e differisce tra culture e società. Cercheremo di evitare impatti ingiusti sulle persone, in particolare quelle relative a caratteristiche sensibili come razza, etnia, genere, nazionalità, reddito, orientamento sessuale, capacità e convinzioni politiche o religiose.

3. Essere costruito e testato per la sicurezza.

Continueremo a sviluppare e applicare forti pratiche di sicurezza per evitare risultati non intenzionali che creano rischi di danni. Progetteremo i nostri sistemi di intelligenza artificiale in modo che siano opportunamente cauti e cercheremo di svilupparli in conformità con le migliori pratiche nella ricerca sulla sicurezza dell'IA. In casi appropriati, testeremo le tecnologie di intelligenza artificiale in ambienti limitati e monitoreremo il loro funzionamento dopo l'implementazione.

4. Essere responsabile nei confronti delle persone.

Progetteremo sistemi di intelligenza artificiale che offrano opportunità appropriate di feedback, spiegazioni pertinenti e appello. Le nostre tecnologie di intelligenza artificiale saranno soggette alla direzione e al controllo umani appropriati.

5. Incorporare i principi di progettazione della privacy.

Incorporeremo i nostri principi sulla privacy nello sviluppo e nell'uso delle nostre tecnologie AI. Daremo opportunità di preavviso e consenso, incoraggeremo le architetture con salvaguardie sulla privacy e forniremo trasparenza e controllo adeguati sull'uso dei dati.

6. Sostenere elevati standard di eccellenza scientifica.

L'innovazione tecnologica è radicata nel metodo scientifico e nell'impegno per un'indagine aperta, rigore intellettuale, integrità e collaborazione. Gli strumenti di intelligenza artificiale hanno il potenziale per sbloccare nuovi regni di ricerca scientifica e conoscenza in settori critici come la biologia, la chimica, la medicina e le scienze ambientali. Aspiriamo a elevati standard di eccellenza scientifica mentre lavoriamo per progredire nello sviluppo dell'IA.

Lavoreremo con una serie di parti interessate per promuovere una leadership ponderata in questo settore, attingendo ad approcci scientificamente rigorosi e multidisciplinari. E condivideremo responsabilmente le conoscenze sull'IA pubblicando materiale didattico, migliori pratiche e ricerche che consentano a più persone di sviluppare utili applicazioni AI.

7. Essere resi disponibili per usi conformi a questi principi.

Molte tecnologie hanno molteplici usi. Lavoreremo per limitare le applicazioni potenzialmente dannose o offensive. Man mano che sviluppiamo e implementiamo tecnologie di intelligenza artificiale, valuteremo i possibili usi alla luce dei seguenti fattori:

• Scopo primario e utilizzo: lo scopo principale e il probabile utilizzo di una tecnologia e di un'applicazione, compreso quanto la soluzione sia strettamente correlata o adattabile a un uso dannoso
• Natura e unicità: se stiamo rendendo disponibile una tecnologia unica o più generalmente disponibile
• Scala: se l'uso di questa tecnologia avrà un impatto significativo
• Natura del coinvolgimento di Google: sia che forniamo strumenti generici, integrando strumenti per i clienti o sviluppando soluzioni personalizzate

Applicazioni AI che non perseguiremo

Oltre agli obiettivi di cui sopra, non progetteremo o implementeremo l'IA nelle seguenti aree applicative:

1. Tecnologie che causano o rischiano di causare danni globali. Laddove esiste un rischio sostanziale di danno, procederemo solo laddove riteniamo che i benefici siano sostanzialmente superiori ai rischi e includeremo adeguati vincoli di sicurezza.
2. Armi o altre tecnologie il cui scopo o attuazione principale è causare o facilitare direttamente le lesioni alle persone.
3. Tecnologie che raccolgono o utilizzano informazioni per la sorveglianza che violano le norme accettate a livello internazionale.
4. Tecnologie il cui scopo viola i principi ampiamente accettati del diritto internazionale e dei diritti umani.

Man mano che la nostra esperienza in questo spazio si approfondisce, questo elenco potrebbe evolversi.

Conclusione

Crediamo che questi principi siano la base giusta per la nostra azienda e il nostro futuro sviluppo dell'IA. Riconosciamo che quest'area è dinamica e in evoluzione e affronteremo il nostro lavoro con umiltà, impegno per l'impegno interno ed esterno e volontà di adattare il nostro approccio mentre apprendiamo nel tempo.

Questo risultato positivo non assolve il colosso della tecnologia Google dalla complicità in varie altre aree di grande preoccupazione, come il supporto all'ICE, alla polizia e ad altre attività militari, l'aggregazione e la vendita dell'accesso a dati privati ​​su individui, nascondendo controverse dichiarazioni politiche dai risultati dei motori di ricerca e, soprattutto, permettendo ai suoi dipendenti di continuare a parlare di queste e altre questioni senza essere licenziati per farlo. Il movimento di ribellione dei lavoratori di Google rimane attivo e fortemente coinvolto.

Allo stesso tempo, è importante riconoscere l'impatto del movimento dei lavoratori di Google. Ciò è diventato immediatamente chiaro dopo l'inizio delle proteste di Google: i dipartimenti di marketing del Pentagono hanno smesso di pubblicare nuovi comunicati stampa sul progetto Maven, una volta entusiasmante, alla fine "sparendo" completamente dal progetto che aveva precedentemente cercato. Invece, una nuova e molto più grande iniziativa di intelligenza artificiale cominciò a emergere dall'insidioso del Pentagono Commissione per l'innovazione della difesa.

Questo è stato chiamato Progetto JEDI, un nuovo nome per la spesa del Pentagono in armi all'avanguardia. Il Progetto JEDI spenderebbe molto più denaro del Progetto Maven, ma il blitz pubblicitario per il nuovo progetto (sì, l'esercito americano spende un lotto di tempo e attenzione su pubblicità e marketing) era molto diverso da quello precedente. Tutte le immagini eleganti e sexy di "Black Mirror" erano sparite. Ora, invece di enfatizzare gli orrori distopici emozionanti e cinematografici che i droni basati sull'intelligenza artificiale potrebbero infliggere agli esseri umani, il Progetto JEDI si è spiegato come un sobrio passo avanti per l'efficienza, combinando vari database di cloud al fine di aiutare i "combattenti" (il termine preferito del Pentagono per personale di prima linea) e team di supporto back-office massimizzano l'efficacia delle informazioni. Dove Project Maven è stato progettato per sembrare eccitante e futuristico, Project JEDI è stato progettato per sembrare ragionevole e pratico.

Non c'è nulla di sensato o pratico nel prezzo da pagare per il Progetto JEDI. È il più grande contratto di software militare nella storia del mondo: $ 10.5 miliardi. Molti dei nostri occhi ci guardano intorno quando sentiamo parlare di spese militari e possiamo saltare la differenza tra milioni e miliardi. È essenziale capire quanto sia più grande Project JEDI rispetto a qualsiasi precedente iniziativa software del Pentagono. È un punto di svolta, un motore che genera ricchezza, un assegno in bianco per trarre profitto a spese dei contribuenti.

Aiuta a grattare sotto la superficie dei comunicati stampa del governo quando si cerca di comprendere un assegno in bianco per spese militari fino a 10.5 miliardi di dollari. Alcune informazioni possono essere raccolte dalle stesse pubblicazioni dei militari, come un inquietante Intervista di agosto 2019 con il tenente generale Jack Shanahan del Centro di intelligenza artificiale congiunta, una figura chiave sia nel progetto Maven scomparso che nel nuovo progetto JEDI. Sono stato in grado di ottenere maggiori informazioni su come gli addetti ai lavori dell'industria della difesa pensano al Progetto JEDI ascoltando un podcast del settore della difesa chiamato "Progetto 38: il futuro dei contratti governativi". Gli ospiti dei podcast parlano spesso in modo schietto e sfacciato di qualunque argomento stiano discutendo. "Molte persone acquisteranno nuove piscine quest'anno" è stato tipico della chat interna di questo podcast sul Progetto JEDI. Siamo sicuri che lo saranno.

Ecco la cosa straordinaria che si ricollega ai principi dell'IA di Google. Gli ovvi tre apripista per l'enorme contratto JEDI da $ 10.5 miliardi sarebbero stati Google, Amazon e Microsoft, in quest'ordine, in base alla loro reputazione di innovatori di intelligenza artificiale. A causa della protesta dei lavoratori contro il progetto Maven nel 2018, il leader dell'intelligenza artificiale Google era fuori considerazione per il progetto JEDI molto più grande nel 2019. Alla fine del 2019, è stato annunciato che il contratto era andato a Microsoft. È seguita una raffica di notizie, ma questa copertura si è concentrata principalmente sulla rivalità tra Amazon e Microsoft, e sul fatto che al 3 ° posto a Microsoft è stato probabilmente permesso di battere il 2 ° posto Amazon per la vittoria a causa delle battaglie in corso dell'amministrazione Trump con il Washington Post, che è di proprietà di Jeff Bezos di Amazon. Amazon sta ora andando in tribunale per combattere il regalo da 10.5 miliardi di dollari del Pentagono a Microsoft, e anche Oracle sta facendo causa. L'osservazione specifica del podcast Project 38 di cui sopra - "Molte persone acquisteranno nuove piscine quest'anno" - si riferiva non solo al vantaggio finanziario di Microsoft ma anche a tutti gli avvocati che parteciperanno a queste cause. Probabilmente possiamo fare un'ipotesi plausibile che oltre il 3% dei 10.5 miliardi di dollari del Progetto JEDI andrà agli avvocati. Peccato che non possiamo usarlo per aiutare porre fine alla fame nel mondo anziché.

La disputa sul fatto che questo trasferimento di denaro dei contribuenti agli appaltatori militari debba avvantaggiare Microsoft, Amazon o Oracle ha dominato la copertura giornalistica del Progetto JEDI. L'unico messaggio positivo da raccogliere da questo osceno innesto - il fatto che Google si fosse allontanato dal più grande contratto di software militare nella storia del mondo a causa della protesta dei lavoratori - è stato praticamente inesistente nella copertura giornalistica del Progetto JEDI. 

Ecco perché era importante raccontare questa storia agli attivisti focalizzati sulla tecnologia che erano stati riuniti la settimana scorsa in una stanza affollata nel centro di Manhattan per parlare di come possiamo salvare il nostro pianeta, di come possiamo combattere la disinformazione e la politicizzazione delle scienze del clima, come possiamo resistere all'enorme potere dei profittatori di combustibili fossili e dei profittatori di armi. In questa piccola stanza, sembravamo tutti comprendere le dimensioni del problema che stavamo affrontando e il ruolo critico che noi stessi dobbiamo iniziare a svolgere. La comunità tecnologica ha un potere significativo. Proprio come le campagne di disinvestimento possono fare davvero la differenza, le ribellioni dei lavoratori della tecnologia possono fare davvero la differenza. Esistono molti modi in cui attivisti per i cambiamenti climatici, attivisti per la ribellione dei lavoratori della tecnologia e attivisti contro la guerra possono iniziare a lavorare insieme e lo faremo in ogni modo possibile.

Abbiamo avuto un inizio promettente con questa riunione, avviata utile da Estinzione della ribellione di New York ed Il mondo non può aspettare. Questo movimento crescerà, deve crescere. L'abuso di combustibili fossili è al centro dei manifestanti contro il cambiamento climatico. L'abuso di combustibili fossili è anche il principale motivo di profitto dell'imperialismo statunitense e un terribile risultato primario delle attività dispendiose delle forze armate statunitensi. In effetti, l'esercito americano sembra esserlo il singolo peggior inquinatore al mondo. Gli operatori tecnologici possono usare il nostro potere organizzativo per ottenere vittorie ancora più incisive del ritiro di Google dal Progetto JEDI? Possiamo e dobbiamo. L'incontro di New York City della scorsa settimana è stato solo un piccolo passo avanti. Dobbiamo fare di più e dobbiamo dare al nostro movimento di protesta combinato tutto ciò che abbiamo.

Marc Eliot Stein è direttore della tecnologia e dei social media per World BEYOND War.

Foto di Gregory Schwedock.