Di Marc Eliot Stein, u 10 di ferraghju di u 2020

Aghju statu invitatu recentemente à parlà in una riunione di Extinction Rebellion in New York in nome di World BEYOND War. L'avvenimentu hè statu pensatu per riunisce trè gruppi di azione: attivisti per u cambiamentu climaticu, cullettivi di i travagliadori di a tecnulugia è attivisti antiwar. Cuminciamu cun un cuntu persunale di l'attivista di u cambiamentu climaticu, Ha Vu, chì hà dettu à a folla di i New Yorkers una sperienza allarmante chì pochi di noi avemu mai avutu: vultà à a casa di a famiglia in Hanoi, Vietnam, induve aumentu u calore hà digià dighjà quasi impussibile caminari fora durante l'ora di u sole massimu. Pocu americani sapanu ancu di 2016 disastru di a contaminazione di l'acqua in Ha Tinh in Vietnam cintrali. Parlemu spessu di u cambiamentu climaticu cum'è un prublema potenziale in i Stati Uniti, Ha hà enfatizatu, ma in Vietnam si pò vede digià dannuccià e vita è a peghju.

Nick Mottern di KnowDrones.org hà parlatu cun urgenza simile annantu à l'investimentu massivu recente di l'armata US in intelligenza artificiale futuristica è in cloud computing - è hà enfatizatu a conclusione propria di l'armata chì i dispiegamenti di sistemi AI in a gestione di l'arme nucleare è a guerra di i droni portanu inevitabilmente à errori di magnitudine imprevedibile. William Beckler di Extinction Rebellion NYC seguitu spiegendu i principii d'urganizazione chì sta urganizazione impurtante è in rapida crescita mette in opera, cumprese azzioni disruptive destinate à sensibilizà l'importanza critica di u cambiamentu climaticu. Avemu intesu da un rappresentante di New York City di Coalizione di i lavoratori tecnichi, è aghju pruvatu à pivot a riunione versu un sensu di empowerment praticu parlendu di una rivolta di i travagliadori in tecnulugia chì hè stata successa inesperu.

Chistu fu in April 2018, quandu a chjamata "industria di difesa" burlava di Project Maven, una nova iniziativa militare di i Stati Uniti altamente publicitata per sviluppà capacità d'intelligenza artificiale per droni è altri sistemi d'arme. Google, Amazon è Microsoft offrenu tutti i plataformi di intelligenza artificiale off-the-shelf per i clienti di pagamentu, è Google hè statu cunsideratu cum'è u vincitore prubabile di u cuntrattu militare Project Maven.

In principiu di 2018, i travagliadori di Google anu cuminciatu à parlà. Ùn capìanu micca perchè una sucità chì li avia reclutatu cum'è impiegati cù l'impegnu "Ùn siate Malvulatu" stava annantando l'offerta di prughjetti militari chì puderanu simili à l'orrore episodiu di "Black Mirror" in quale i cani meccanici alimentati da AI esseri finu à a morte. Parlonu nantu à e social media è à i media tradiziunali. Organizonu azzioni è circulavanu petizioni è facianu sèntelu.

Questa ribellione di i travagliadori era a genesi di u muvimentu di a Rebellion di Google Workers, è aiuta à rinfriscà altri cullettivi di i travagliadori in tecnulugia. Ma la cosa più maravigghiusa di a protesta interna di Google contru Project Maven ùn hè micca chì i travagliadori di a tecnulugia eranu parlanti. A cosa più stupente hè quella A gestione di Google hà renditu à e dumande di i travagliadori.

Dui anni dopu, stu fattu sempre mi stumba. Aghju vistu parechji prublemi etichi in i mo decennii cum'è un travagliadore tecnologicu, ma aghju raramenti vistu una grande cumpagnia d'accordà categuricamente di trattà i prublemi etichi in modu significativu. U risultatu di a rivolta di Google contru Project Maven era a publicazione di un inseme di principii di l'AI chì vale a pena riimprimi quì in tuttu:

Intelligenza Artificiale in Google: I nostri Principi

Google aspira à creà tecnulugie chì risolenu prublemi impurtanti è aiutanu à e persone in a so vita di ogni ghjornu. Simu ottimisti in quantu à l'incredibile potenziale per l'AI è altre tecnulugia avanzate per abilità a ghjente, benefiziu largamente di generazioni attuali è futuri, è di travaglià per u bonu cumunu.

Ughjettivi per l'applicazioni AI

Evalueremu l'applicazioni AI in vista di i seguenti obiettivi. Cridemu chì l'AI deve:

1. Sia benefiziu suciale.

U risaltu allargatu di e tecnulugia novi tocca sempre à a sucità in generale. L'avance in AI avarà impatti trasformattivi in ​​una larga gamma di campi, cumpresi l'assistenza sanitaria, a sicurità, l'energia, u trasportu, a fabricazione è l'intrattenimentu. In quantu cunsideremu u sviluppu potenziale è l'usi di e tecnulugia AI, prendemu in mente una larga gamma di fattori suciali è ecunomichi, è procederemu induve cremu chì i benefici probabili in generale superanu sustancialmente i risichi è i disavvisi previsti.

AI ancu aumenta a nostra capacità di capisce u significatu di cuntenutu in scala. Intenderemu di fà infurmazione di alta qualità è precisa precisamente dispunibili cù AI, mentre continuemu à rispettà e norme culturale, suciali è ghjuridichi in i paesi induve operemu. È seguiteremu cun valutazione pensativamente quandu fà e nostre tecnulugia dispunibili nantu à una basa micca cumerciale.

2. Evitate di creà o rinfurzà a pregiudiziu ghjusta.

L'algoritmi AI è i set di dati ponu riflette, rinfurzà o riduce i pregiudizi inghjusti. Ricunniscimu chì distinguìre fiera da i pregiudizi ingiusti ùn hè micca sempre simplice, è difiere trà e culture è e società. Cerchemu di evità impatti ingiusti nantu à e persone, in particulare quelli chì sò relatati à caratteristiche sensittive cum'è razza, etnia, genere, nazionalità, ingressu, orientazione sessuale, capacità è credenze politiche o religiose.

3. Fate esse custruitu è ​​pruvatu per a sicurità.

Cuntinueremu à sviluppà è applicà pratiche forti di sicurezza è di sicurezza per evità risultati non desiderati chì creanu rischi di dannu. Prughjettemu i nostri sistemi AI per esse prudenti in forma adatta, è cercamu di sviluppà in cunfurmità cù e megliu pratiche in a ricerca di sicurezza in AI. In i casi adatti, testeremu e tecnulugia di AI in ambienti ristretti è monitorizà u so funziunamentu dopu à a implementazione.

4. Fate accountable à e persone.

Prughjettemu sistemi AI chì furnisce opportunità adatti per feedback, spiegazioni pertinenti è appellu. I nostri tecnulugia AI seranu sottumessi à direzzione è cuntrollu umani adatti.

5. Incorporate principii di cuncepimentu di privacy.

Incorporaremu i nostri principii di privacy in u sviluppu è l'usu di e nostre tecnulugia AI. Daremu l'opportunità per avvisà è accunsentisce, incuragisce l'architetture cun salvaganze di privacy, è furniscia una trasparenza adatta è u cuntrollu di l'usu di dati.

6. Aggiunti alti standard di eccellenza scientifica.

L'innuvazione tecnologica hè arradicata in u metudu scientificu è un impegnu à apre l'investigazione, rigore intellettuale, integrità è cullaburazione. L'arnesi AI anu u potenziale per sbloccà novi regni di ricerca scientifica è cunniscenze in duminii critichi cum'è biologia, chimica, medicina è scienze ambientali. Aspiremu à alti standard di eccellenza scientifica mentre travagliammu per u prugressu di sviluppu AI.

Ci hà da travaglià cun una sorta di attori per prumove una dirigenza riflessiva in questu settore, basendu annantu à approcci scientificamente rigurosu è multidisciplinari. È avemu da sparte in modu responsabile a cunniscenza di l'AI publicendu materiale educativu, migliori pratiche è ricerca chì permettenu à più persone sviluppà applicazioni AI utili.

7. Fate dispunibili per l'usi chì cuncordanu cun questi principii.

Parechje tecnulugia anu usi multipli. Travagliemu per limità applicazioni potenzialmente dannusu o abusive. Cumu sviluppemu è implementemu tecnulugia AI, valuteremu l'usi probabili in luce di i seguenti fatturi:

• Ughjettu primariu è usu: u scopu primariu è l'usu prubabile di una tecnulugia è una applicazione, cumprese quantu a soluzione hè ligata à o adattabile à un usu dannusu
• Natura è unicità: sì femu tecnulugia dispunibili chì hè unica o più generalmente disponibile
• Scale: sia chì l'utilizazione di sta tecnulugia avarà un impattu significativu
• Natura di l'implicazione di Google: sia s'ellu stemu furnisce strumenti di scopu generale, integrendu strumenti per i clienti, o sviluppendu suluzioni persunalizate

Applicazioni AI chì ùn seguitemu micca

In più di l'ugettivi sopra, ùn dissenu micca o disimpiegà AI in i seguenti are di applicazione:

1. E tecnulugie chì causanu o sò probabili di causà danni generale. Quandu ci hè un risicu materiale di dannu, procederemu solu in ciò chì credemu chì i benefici superanu sustanzialmente i rischi, è incorporaranu restrizioni di sicurezza adatti.
2. Armi o altre tecnulugia chì u so scopu principale o implementazione hè di causà o facilità direttamente a ferita à e persone.
3. Tecnulugia chì recullanu o utilizanu informazioni per a vigilazione chì viulanu e norme accettate internaziunali.
4. Tecnulugia chì u so scopu contravvene principii largamente accettati di u dirittu internaziunale è di i diritti umani.

Mentre a nostra sperienza in questu spaziu approfondisce, sta lista pò evoluzione.

cunchiusioni

Cridemu chì questi principii sò u fundamentu ghjustu per a nostra cumpagnia è u nostru futuru sviluppu di AI. Ricunniscimu chì sta zona hè dinamica è in evoluzione, è avvicineremu u nostru travagliu cun umilità, un impegnu à un impegnu internu è esternu, è una vuluntà di adattà u nostru avvicinamentu mentre amparemu cù u tempu.

Stu risultatu pusitivu ùn assolveghja u giant tech di Google da a complicità in varie altre aree di grande preoccupazione, cum'è supportu ICE, polizia è altre attività militari, agregazione è vendita d'accessu à dati privati ​​nantu à individui, oculta dichjarazioni pulitiche cuntruversali da i risultati di i mutori di ricerca. è, u più impurtante, chì permette à i so impiegati di continuà à parlà annantu à queste è altre prublemi senza esse sparatu per fà. U muvimentu di a rivolta di i travagliadori di Google resta attivu è assai impegnatu.

À u listessu tempu, hè impurtante di ricunnoscia l'impattu di u muvimentu di i travagliadori di Google. Questu hè diventatu immediatamente chjaru dopu à a protesta di Google hà iniziatu: i dipartimenti di marketing di u Pentagonu cessaru d'emettenu novi comunicati di stampa annantu à l'antica passione Project Maven, in fine "spariscenu" u prughjettu tutale da a visibilità publica chì avia cercatu prima. Invece, una nova iniziativa di intelligenza artificiale assai è più grande hà cuminciatu à esce da l'insidiu di u Pentagonu Cunsigliu di Innovazione di Difesa.

Questa hè stata chjamata Prughjettu JEDI, un novu nomu per e spese di Pentagonu in armi di punta. U Prughjettu JEDI gastaria assai più soldi da Project Maven, ma u blitz publicitariu per u novu prughjettu (iè, l'armata americana spende una mori di u tempu è di l'attenzione nantu à a publicità è à u marketing) era assai sfarente di quella prima. Tuttu u modellu elegante è sexy "Black Mirror" hè andatu. Avà, invece di enfatizà l'eccitante e cinematicu distrofiu orrore AI-drones alimentati da AI puderia influisce à l'omu, u Project JEDI s'hè spiegatu cum'è un sobru passu avanti per l'efficienza, cumminendu diverse basi di dati cloud per aiutà i "militanti" (u termine preferitu di Pentagono per persunal di prima linea) e squadre di supportu di back-office maximizanu l'efficacità di l'infurmazioni. On Project Maven hè statu creatu per sona eccitante è futuristicu, u Project JEDI hè stata creata per sona sensibile è pratica.

Ùn ci hè nunda di sensibile o praticu nantu à u marcatu di prezzu per Project JEDI. Hè u più grande cuntrattu di software militare in a storia mundiale: $ 10.5 miliardi. Parechji di i nostri ochji si ne sgrossanu quandu avemu intesu parlà di scale di spesa militare, è pudemu scindassi a differenza trà milioni è miliardi. Hè essenziale per capisce quantu più grande hè u Proghjettu JEDI chì qualsiasi iniziativa software Pentagon. Hè un cambiamentu di ghjocu, un mutore di generazione di ricchezza, un cuntrollu in biancu per profite à a spesa di i contribuenti.

Aiuta à grattà sottu à a superficia di i cumunicati di stampa di u guvernu quandu prova à capisce un spese in biancu di spesa militare di più di 10.5 miliardi di dollari. Alcune informazioni ponu esse raccolte da e publicazioni di l'armata, cum'è un inquietante Intervista d'Agostu 2019 cù u Tenente Generale Jack Shanahan di u Centru d'Intelligenza Artificiale Cunnata, una figura chjave in u Prughjettu Maven scumparitu è ​​in u novu Prughjettu JEDI. Aghju statu capace di ottene più sapè nantu à u puntu in quantu l'identi di l'industria di difesa pensanu à Project JEDI da sente à un podcast di l'industria di difesa chjamatu "Prughjettu 38: U futuru di a Contractazione di u Guvernu". L'invitati à u podcast parlanu spessu cun sincerità è senza rigore di qualunque sughjettu ch'elli discute. "Un saccu di ghjente hà da cumprà novi piscine in questu annu" era tipicu di u chat di l'internu di stu podcast nantu à u Prughjettu JEDI. Semu sicuru ch'elli saranu.

Eccu a cosa rimarchevuli chì si lega torna à i principii AI di Google. I trè evidenti frontrunners per u cuntrattu massiccia di 10.5 miliardi di dollari JEDI serianu stati Google, Amazon è Microsoft - in questu ordine, basatu nantu à a so reputazione cum'è innovatori AI. Per via di a prutestazione di i travagliadori contr'à u Prughjettu Maven in u 2018, u capu di l'AI Google era fora di cunsiderazione per u Prughjettu JEDI assai più grande in u 2019. Tardiu in u 2019, hè statu annunziatu chì u cuntrattu hè andatu à Microsoft. Una seguita di copertura di notizie hà seguitu, ma sta copertura si hè focalizata principalmente nantu à a rivalità trà Amazon è Microsoft, è nantu à u fattu chì u 3u postu Microsoft era probabilmente permessu di batte u 2u postu Amazon per a vittoria per via di e lotte in corsu di l'amministrazione Trump cù u Washington Post, chì hè di pruprietà di Jeff Bezos di Amazon. Amazon hà da andà in tribunale per luttà contr'à u donu di u Pentagonu di 10.5 miliardi di dollari à Microsoft, è Oracle dumanda dinò. A rimarca specifica da u podcast di u Prughjettu 38 mintuatu sopra - "Un saccu di ghjente hà da cumprà nuove piscine in quist'annu" - si riferisce micca solu à u benefiziu finanziariu di Microsoft, ma ancu à tutti l'avucati chì participeranu à sti prucessi. Puderemu forse fà una supposizione educata chì più di 3% di i $ 10.5 miliardi di u Prughjettu JEDI anderanu à l'avucati. Peccatu chì ùn pudemu micca aduprà per aiutà finisce a fami mundiale invece.

A disputa per sapè se stu trasferimentu di soldi di i contribuenti à i cuntratturi militari deve benefiziu Microsoft, Amazon o Oracle hà dominatu a cobertura di notizie di u Prughjettu JEDI. L'unicu missaghju pusitivu da coglie da questu innocu oscenu - u fattu chì Google s'era alluntanatu da u più grande cuntrattu di software militare in a storia mundiale per via di a prutesta di i travagliadori - hè statu guasi inesistente in a cobertura di e nutizie di u Prughjettu JEDI. 

Hè per quessa chì era impurtante di cuntà sta storia à l'attivisti tecnologichi chì si sò riuniti in una stanza folla in Midtown Manhattan a settimana passata per parlà di cumu pudemu salvà u nostru pianeta, cumu pudemu luttà contr'à a disinformazione è a puliticizazione di a scienza climatica, cumu pudemu fà affruntà finu à u putere massicciu di i prufessori di combustibili fossili è i prufittori di l'armi In questa stanza chjuca, tutti parevamu capisce e dimensioni di u prublema chì avemu avutu, è u rolu criticu chì noi stessi duvemu cumincià à ghjucà. A cumunità tecnologica hà una putenza significativa. Sempre chì e campagne di cessione ponu fà una vera differenza, i ribelli di i travagliadori tecnologichi ponu fà una vera differenza. Ci sò parechji modi per chì i attivisti di u cambiamentu climaticu, i attivisti di a rivolta di i travagliadori tecnologichi è l'attivisti di a guerra pò cumincià à travaglià inseme, è ci faremu in tutti i modi chì pudemu.

Avemu avutu un principiu di speranza cù sta riunione, iniziatu cù aiutu da Stinzione Rebellion NYC e U Morte Can not Wait. Stu muvimentu cresce - deve cresce. L'abusu di combustibili fossili hè u focu di i manifestanti di u cambiamentu climaticu. L'abusu di combustibili fossili hè ancu u primu mutivu di prufittu di l'imperialismu americanu è un terribile risultatu primariu di l'attività inutile di l'armata US gonfiata. In effetti, l'armata US sembra esse l'unicu pollutante peghju in u mondu. Pò i travagliadori tecnulugichi aduprà u nostru putere di urganizazione per vittorie ancu più impactu di a retirazzione di Google da u Project JEDI? Pudemu è duvemu. A riunione di a settimana scorsa in New York era solu un passu avanti. Avemu da fà più, è duvemu dà u nostru muvimentu di prutesta cumminatu tuttu ciò chì avemu.

Marc Eliot Stein hè direttore di a tecnulugia è di i media suciali per World BEYOND War.

Foto di Gregory Schwedock.