Per Marc Eliot Stein, 10 de febrer de 2020

Recentment he estat convidat a parlar en una reunió de rebel·lió d'extinció a Nova York en nom de World BEYOND War. L’esdeveniment va ser dissenyat per reunir tres grups d’acció: activistes del canvi climàtic, col·lectius de treballadors de tecnologia i activistes contra la guerra. Vam començar amb un commovedor relat personal de l’activista de canvi climàtic Ha Vu, que va explicar a la multitud de Nova York una experiència alarmant que pocs de nosaltres hem tingut mai: tornar a la casa de la seva família a Hanoi, Vietnam, on augment de calor ja ha fet gairebé impossible sortir fora durant les hores punta de la llum del sol. Pocs nord-americans també en saben Desastre de contaminació hídrica 2016 a Ha Tinh, al Vietnam central. Ha subratllat Ha sobre el canvi climàtic com un problema potencial als EUA, ha destacat Ha, però a Vietnam es pot veure que pertorba les vides i els mitjans de vida i s’agreuja ràpidament.

Nick Mottern de KnowDrones.org va parlar amb una urgència similar sobre la recent inversió massiva de l’exèrcit nord-americà en intel·ligència artificial futurista i informàtica en núvol i va emfatitzar la pròpia conclusió de l’exèrcit que els desplegaments de sistemes d’intel·ligència artificial en la gestió d’armes nuclears i la guerra de drons conduiran inevitablement a errors d’una magnitud imprevisible. William Beckler de Extinction Rebellion NYC va seguir explicant els principis organitzatius que aquesta important i de ràpid creixement posa en pràctica, incloent accions disruptives dissenyades per sensibilitzar sobre la importància crítica del canvi climàtic. Hem tingut notícies d'un representant de Nova York de Coalició de Treballadors Tecnològicsi vaig intentar fer girar la tertúlia cap a un sentiment d’apoderament pràctic parlant d’una acció de rebel·lió dels treballadors de tecnologia que va tenir un èxit inesperat.

Això va ser a l’abril de 2018, quan l’anomenada “indústria de la defensa” es va posar de debò sobre Project Maven, una nova iniciativa militar nord-americana altament divulgada per desenvolupar capacitats d’intel·ligència artificial per a drons i altres sistemes d’armes. Google, Amazon i Microsoft ofereixen plataformes d’intel·ligència artificial fora de la plataforma per als clients que paguen, i Google es va veure com el probable guanyador del contracte militar de Project Maven.

A principis del 2018, els treballadors de Google van començar a parlar. No entenien per què una empresa que els havia reclutat com a empleats amb el compromís de "Don't Be Evil" estava licitant projectes militars susceptibles d'assemblar-se a l'horrorós episodi de "Black Mirror" en el qual els gossos mecànics que funcionen amb IA perjudicaven humans. éssers fins a la mort. Van parlar a les xarxes socials i als locals de premsa tradicionals. Van organitzar accions i van fer peticions i es van fer sentir.

Aquesta rebel·lió dels treballadors va ser la gènesi del moviment Google Workers Rebellion i va contribuir a impulsar altres col·lectius de treballadors tecnològics. Però el més sorprenent de la protesta interna de Google contra Project Maven no va ser que els treballadors de tecnologia es parlessin. El més sorprenent és que La gestió de Google es va produir a les demandes dels treballadors.

Dos anys després, aquest fet encara em desconcerta. Durant les meves dècades he vist molts problemes ètics com a treballador tecnològic, però rarament he vist que una gran empresa estigués d'acord categòricament per abordar els problemes ètics de manera important. El resultat de la rebel·lió de Google contra Project Maven va ser la publicació d'un conjunt de principis de l'AI que val la pena reimprimir aquí completament:

Intel·ligència artificial a Google: Els nostres principis

Google aspira a crear tecnologies que solucionin problemes importants i ajudin les persones en la seva vida diària. Som optimistes sobre l’increïble potencial de l’IA i d’altres tecnologies avançades per capacitar les persones, beneficiar àmpliament les generacions actuals i futures i treballar pel bé comú.

Objectius per a aplicacions AI

Valorarem les aplicacions d'AI tenint en compte els objectius següents. Creiem que l'AI ha de:

1. Ser socialment beneficiós.

L’ampliat abast de les noves tecnologies toca cada cop més la societat en general. Els avenços en IA tindran impactes transformadors en una àmplia gamma de camps, inclosos l'assistència sanitària, la seguretat, l'energia, el transport, la fabricació i l'entreteniment. A mesura que considerem el desenvolupament i els usos potencials de les tecnologies de la IA, tindrem en compte una àmplia gamma de factors socials i econòmics i procedirem quan creiem que els beneficis probables generals superen substancialment els riscos i els inconvenients previsibles.

L’AI també millora la nostra capacitat d’entendre el significat del contingut a escala. Ens esforçarem a fer que la informació d’alta qualitat i exactitud estigui disponible fàcilment amb la IA, alhora que continuem respectant les normes culturals, socials i legals als països on actuem. I seguirem avaluant atentament quan posar a disposició les nostres tecnologies de manera no comercial.

2. Eviteu crear o reforçar el biaix injust.

Els algorismes i conjunts de dades d’AI poden reflectir, reforçar o reduir biaixos injustos. Reconeixem que distingir just entre els biaixos injustos no sempre és senzill i difereix entre cultures i societats. Procurarem evitar els impactes injustos sobre les persones, especialment aquelles relacionades amb característiques sensibles com ara raça, ètnia, gènere, nacionalitat, ingressos, orientació sexual, capacitat i creences polítiques o religioses.

3. Ser construït i provat per a la seguretat.

Continuarem desenvolupant i aplicant bones pràctiques de seguretat i seguretat per evitar resultats no desitjats que crein riscos de danys. Dissenyarem els nostres sistemes d’IA per ser prudents i procurarem desenvolupar-los d’acord amb les millors pràctiques en investigació sobre seguretat en AI. En casos adequats, posarem a prova les tecnologies de l'AI en entorns restringits i seguirem el seu funcionament després del desplegament.

4. Ser responsable davant les persones.

Dissenyarem sistemes d’AI que proporcionin oportunitats adequades per a comentaris, explicacions rellevants i crida. Les nostres tecnologies d’AI seran sotmeses a una direcció i control humans adequats.

5. Incorporar els principis de disseny de privadesa.

Incorporarem els nostres principis de privacitat en el desenvolupament i l’ús de les nostres tecnologies d’IA. Donarem oportunitat de notificació i consentiment, fomentarem les arquitectures amb salvaguardes de privacitat i proporcionarem una transparència i un control adequats sobre l’ús de les dades.

6. Defensar alts estàndards d’excel·lència científica.

La innovació tecnològica està arrelada en el mètode científic i el compromís amb la investigació oberta, el rigor intel·lectual, la integritat i la col·laboració. Les eines d'AI tenen el potencial de desbloquejar nous àmbits de la investigació científica i el coneixement en àmbits crítics com la biologia, la química, la medicina i les ciències ambientals. Aspirem a alts estàndards d’excel·lència científica a mesura que treballem per avançar en el desenvolupament de la IA.

Treballarem amb diversos grups d’interès per promoure un lideratge atent en aquest àmbit, basant-nos en enfocaments científicament rigorosos i multidisciplinaris. I compartirem de forma responsable els coneixements de la IA publicant materials educatius, bones pràctiques i investigacions que permetin a més persones desenvolupar aplicacions d’II útils.

7. Estar disponible per a usos que compleixin aquests principis.

Moltes tecnologies tenen múltiples usos. Treballarem per limitar aplicacions potencialment nocives o abusives. A mesura que desenvolupem i implementem tecnologies AI, avaluarem usos possibles a la llum dels següents factors:

• Finalitat i ús principal: el propòsit principal i l’ús probable d’una tecnologia i una aplicació, inclosa la estreta relació amb la qual s’adapta o s’adapta a un ús nociu
• Natura i singularitat: tant si estem disponibles amb una tecnologia única o més generalment disponible
• Escala: si l’ús d’aquesta tecnologia tindrà un impacte significatiu
• Naturalesa de la participació de Google: tant si proveïm d’eines de propòsit general, integrem eines per a clients com si desenvolupem solucions personalitzades

Aplicacions d'AI que no seguirem

A més dels objectius anteriors, no dissenyarem ni desplegarem AI en les àrees d'aplicació següents:

1. Tecnologies que causen o probablement causin danys generals. Quan hi hagi un risc important de danys, només procedirem quan creiem que els beneficis superen substancialment els riscos i incorporaran limitacions de seguretat adequades.
2. Les armes o altres tecnologies que tinguin com a finalitat o implementació principal provocar o facilitar directament lesions a les persones.
3. Tecnologies que recopilen o utilitzen informació per a la vigilància que incompleix les normes acceptades internacionalment.
4. Tecnologies que tenen com a finalitat contravenir els principis àmpliament acceptats del dret internacional i dels drets humans.

A mesura que la nostra experiència en aquest espai s’aprofundeix, aquesta llista pot evolucionar.

Conclusió

Creiem que aquests principis són la base adequada per a la nostra empresa i el nostre futur desenvolupament de la IA. Reconeixem que aquesta àrea és dinàmica i evolucionant, i abordarem el nostre treball amb humilitat, compromís amb el compromís intern i extern i amb la voluntat d’adaptar el nostre enfocament a mesura que aprenem amb el pas del temps.

Aquest resultat positiu no elimina el gegant tecnològic de Google de la complicitat en diverses altres àrees d’inquietud important, com ara donar suport a l’ICE, la policia i altres activitats militars, agregar i vendre l’accés a dades privades sobre individus, amagar declaracions polítiques controvertides dels resultats del motor de cerca. i, el més important, permetre als seus empleats continuar parlant d’aquests i altres problemes sense ser acomiadat per fer-ho. El moviment de rebel·lió dels treballadors de Google segueix actiu i molt implicat.

Al mateix temps, és important reconèixer l’impacte que va tenir el moviment dels treballadors de Google. Això es va fer immediatament clar després que les protestes de Google van començar: els departaments de màrqueting del Pentàgon van deixar de publicar nous comunicats sobre l’intel·ligent Project Maven, amb el temps “desapareixent” del projecte completament de la visibilitat pública que abans havia buscat. En lloc d'això, va començar a sorgir una nova i molt més gran iniciativa d'intel·ligència artificial a partir de la insidiós del Pentàgon Junta d’Innovació en Defensa.

Això es deia Projecte JEDI, un nou nom per al despesa del Pentàgon en armes d'avantguarda. Projecte JEDI gastaria molts més diners que Project Maven, però la publicitat del nou projecte (sí, l'exèrcit dels EUA passa una molt de temps i atenció sobre publicitat i màrqueting) era molt diferent de l’anterior. Totes les elegants i sexy imatges del "Mirall Negre" havien desaparegut. Ara, en lloc de fer èmfasi en els emocionants i cinemàtics horitzons distòpics que els drones amb tecnologia AI podrien provocar éssers humans, el Projecte JEDI s'explica com un sobri pas endavant per a l'eficiència, combinant diverses bases de dades de núvols per ajudar als "combatents" (el terme preferit del Pentàgon per a personal de primera línia) i equips de suport a la oficina de màxima eficàcia de la informació. Quan Project Maven va ser dissenyat per semblar emocionant i futurista, Project JEDI va ser dissenyat per semblar sensible i pràctic.

No hi ha res sensible ni pràctic sobre el preu del projecte JEDI. És el contracte de programari militar més gran de la història mundial: 10.5 milions de dòlars. Molts dels nostres ulls es veuen esbrinats quan sentim parlar de bàscules de despeses militars i podem saltar-nos de la diferència entre milions i milions de milions. És fonamental entendre el que és més gran que el projecte Project JEDI que qualsevol iniciativa programària Pentagon anterior. Es tracta d’un canvi de joc, un motor generador de riquesa i un xec en blanc per obtenir beneficis a càrrec del contribuent.

Ajuda a ratllar sota la superfície dels comunicats de premsa del govern quan s’intenta comprendre un xec en blanc de despesa militar de fins a 10.5 milions de dòlars. Alguna informació es pot obtenir de les publicacions pròpies de l'exèrcit, com una pertorbadora Entrevista d’agost de 2019 amb el tinent general Jack Shanahan, tinent general del Centre d’Intel·ligència Artificial, una figura clau tant al desaparegut Projecte Maven com al nou Projecte JEDI. Vaig obtenir més informació sobre com pensen els interns de la indústria de la defensa sobre el Projecte JEDI escoltant un podcast de la indústria de la defensa anomenat “Projecte 38: El futur de la contractació governamental”. Els convidats al podcast solen parlar amb franquesa i desconcert sobre qualsevol tema que estiguin parlant. "Molta gent comprarà piscines noves aquest any" era típic del xat privilegiat d'aquest projecte sobre el Projecte JEDI. Estem segurs que ho seran.

Heus aquí el notable que es relaciona amb els principis d’IA de Google. Els tres pilots òbvies del massiu contracte JEDI de 10.5 milions de dòlars haurien estat Google, Amazon i Microsoft, en aquest ordre, basant-se en la seva reputació com a innovadors d’IA. A causa de la protesta dels treballadors contra el Projecte Maven el 2018, Google, líder de la intel·ligència artificial, no tenia en compte el Projecte JEDI, molt més gran, el 2019. A finals del 2019, es va anunciar que el contracte anava a càrrec de Microsoft. Va seguir una gran quantitat de notícies, però aquesta cobertura es va centrar principalment en la rivalitat entre Amazon i Microsoft, i en el fet que el tercer lloc a Microsoft probablement se li va permetre guanyar el segon lloc a Amazon per la victòria a causa de les batalles en curs de l'administració Trump amb el Washington Post, que és propietat d’Amazon Jeff Bezos. Ara Amazon es presentarà als tribunals per lluitar contra el regal del Pentàgon de 3 milions de dòlars a Microsoft, i Oracle també ho està demandant. El comentari específic del podcast del Projecte 2 esmentat anteriorment - "Molta gent comprarà piscines noves aquest any" - es referia no només a la fortuna financera de Microsoft, sinó també a tots els advocats que participaran en aquestes demandes. Probablement podem fer una suposició educada que més del 10.5% dels 38 milions de dòlars del Projecte JEDI es destinaran a advocats. Llàstima que no el puguem utilitzar per ajudar-vos acabar amb la fam mundial en el seu lloc.

La disputa sobre si aquesta transferència de diners dels contribuents a contractistes militars hauria de beneficiar Microsoft, Amazon o Oracle ha dominat la cobertura informativa del Projecte JEDI. L’únic missatge positiu que es pot treure d’aquest obscè empelt: el fet que Google s’hagués apartat del contracte de programari militar més gran de la història mundial a causa de la protesta dels treballadors, ha estat pràcticament inexistent en la cobertura informativa del Projecte JEDI. 

Per això va ser important explicar aquesta història als activistes enfocats a la tecnologia que es van reunir en una sala multitudinària a la ciutat de Manhattan la setmana passada per parlar de com podem salvar el nostre planeta, de com podem lluitar contra la desinformació i la politització de la ciència climàtica, com podem fer front a la potència massiva dels aprofitadors de combustibles fòssils i els proveïdors d’armes. En aquesta petita habitació, tots semblava copsar les dimensions del problema que teníem i el paper crític que hem de començar a jugar. La comunitat tecnològica té un poder important. De la mateixa manera que les campanyes de desinversió poden marcar la diferència real, les rebelions dels treballadors de tecnologia poden marcar la diferència. Hi ha moltes maneres en què els activistes del canvi climàtic, els activistes de la rebel·lió dels treballadors de tecnologia i els activistes contra la guerra poden començar a treballar junts, i ho farem de totes les maneres que puguem.

Teníem un començament esperançador amb aquesta trobada, iniciada amb ajuda per Extinció Rebellion NYC i El món no pot esperar. Aquest moviment creixerà, ha de créixer. L’abús de combustibles fòssils és el focus dels manifestants del canvi climàtic. L'abús de combustibles fòssils és també el principal objectiu de benefici de l'imperialisme nord-americà i un terrible resultat primordial de les dilapidades activitats de l'excés exèrcit nord-americà. De fet, sembla que ho és l’exèrcit nord-americà l'únic pitjor contaminador del món. Els treballadors de tecnologia poden utilitzar el nostre poder organitzatiu per obtenir victòries encara més impactants que la retirada de Google del projecte JEDI? Podem i hem de. La reunió de la setmana passada a Nova York va ser només un pas endavant. Hem de fer més coses i hem de donar al nostre moviment de protesta combinat tot el que tenim.

Marc Eliot Stein és director de tecnologia i mitjans socials World BEYOND War.

Foto de Gregory Schwedock.