"Google no hauria d'estar en el negoci de la guerra": entendre l'armarització de la intel·ligència artificial

Per Marc Eliot Stein, juny 8, 2018

A principis d'abril, van signar més dels empleats de 3100 Google una carta això comença amb les paraules "Google no hauria d'estar en el negoci de la guerra". La carta és una resposta a la participació de la companyia en un nou programa d’intel·ligència artificial del Departament de Defensa dels EUA anomenat Projecte Maven, que descriu com un "motor de vigilància personalitzada de l’IA" dissenyat per interpretar imatges visuals de drones, i conclou amb una potent petició dels empleats de Google a la seva gestió:

"Reconeixent la responsabilitat moral i ètica de Google, i l’amenaça per a la reputació de Google, us demanem:

1. Cancel·la immediatament aquest projecte

2. Redacteu, publiqueu i apliqueu una política clara que assenyali que ni Google ni els seus contractistes construiran tecnologies de guerra "

Aquest valent acte de protesta i responsabilitat social és notable per la seva claredat i mereix ser reconegut com un dels pocs casos coneguts de científics actius o de treballadors que s'oposen directament a la seva participació en els horrors de la guerra, juntament amb els Manifest de Russell-Einstein de 1955, que va instar a l'abolició de la guerra com l'únic camí cap endavant per a un món ara armat per tots els costats amb armes nuclears.

Aquesta notable carta, juntament amb la renúncia de desenes d'empleats de Google, van demostrar el seu poder durant un mes després que la direcció de Google ho va anunciar no renovaria el projecte Maven després de finalitzar el contracte el març, 2019, i va reconèixer la "reacció" contra la reputació pública de Google com la raó principal d’aquesta decisió de gestió. Tot i que aquesta resposta no satisfà les demandes de la carta original, és clarament un pas en la direcció correcta, i mostra el potencial de l’acte de protesta de l’empleat de Google com a fonament a partir del fet que el món s’afronta a la conclusió que els EUA els militars (i, presumiblement, altres forces militars també) es mouen ràpidament per armar la intel·ligència artificial.

World BEYOND War ha publicat una nova petició per donar les gràcies a aquests empleats de Google. No només hauríem d'agrair-los el seu coratge, sinó que també haurien de pensar-nos cada cop més per les implicacions d'aquesta nova forma de tecnologia i sobre la nostra responsabilitat compartida per evitar els pitjors escenaris del seu ús continuat.

La millor manera d’imaginar aquests pitjors escenaris és pensar en la militarització de dues capacitats en què la intel·ligència artificial ja toca la nostra vida quotidiana: reconeixement facial i vehicles sense conductor. Com sabeu si alguna vegada heu etiquetat una foto a Facebook, la intel·ligència artificial ja ha arribat al punt en què podeu identificar-vos fàcilment i immediatament mitjançant un algorisme. Les "càmeres de seguretat" també han augmentat a tot el món, donant de sobte a organitzacions desconegudes la capacitat de recollir i relacionar cares amb "bases de dades d’identitat" que contenen la nostra informació sense el nostre permís, coneixement o control.

La tecnologia dels vehicles sense conductor també ha progressat amb poca implicació i consciència per part del públic públic. La primera mort en un cotxe sense conductor va ser a 2016, quan un Tesla es va estavellar contra un camió. El primer cas d'un vianant mort per un vehicle sense conductor va ser fa només tres mesos, al març 2018, quan un autònom Uber va derrocar a una dona que travessava el carrer a Arizona.

Aquests fets expliquen la urgència de la carta de Google, que reflecteix una indústria de la tecnologia obsessionada pel benefici, la competència i el valor dels accionistes. A continuació, es mostren alguns altres aspectes que s'han d'entendre per obtenir una imatge completa del dilema en què es troba el nostre món i les conseqüències dures que actualment tenim.

Project Maven és un petit projecte. JEDI és el projecte més gran.

La carta de Google va cridar l'atenció al Projecte Maven, que la companyia ara diu que no es renovarà. Encara més important, la carta va cridar l'atenció sobre l'existència d'un projecte del Departament de Defensa dels Estats Units més gran anomenat JEDI (Joint Enterprise Defense Infrastructure), que hauria de ser el focus principal de l'atenció continuada d'aquest tema. Hi ha poca informació pública sobre aquest projecte secret, però el seu abast inclou tant la intel·ligència artificial com la computació en núvol, que indica potència i escalabilitat massiva del càlcul, així com l'accés a un subministrament sense fons de bases de dades que conté informació personal geogràfica i individual.

Igual que la majoria de projectes tecnològics militars, JEDI no vol ser visible fins i tot per als contribuents que ho paguen, però hauríem d'esperar que la informació sobre aquest gran i costós projecte es donés a conèixer al públic. Evidentment, el nom de projecte que volen invocar "Star Wars" suggereix que el Departament de Defensa veu aquest projecte amb un nivell inquietant de grandesa i adulació. Yoda no quedaria impressionat.

Els empleats de Google van parlar. On són els empleats d’Amazon i de Microsoft?

La carta signada pels empleats de 3100 + Google diu a altres empreses per nom:

"L’argument que altres empreses, com Microsoft i Amazon, també participen, no fa que sigui menys arriscat per a Google".

De fet, en un camp molt lucratiu del cloud computing, Amazon és encara més gran que Google. Mentre que la majoria de la gent pensa en Amazon com la botiga en línia més gran del món, els desenvolupadors de programari i els tecnòlegs saben d’una Amazon completament diferent. Aquesta empresa lidera el món en computació en núvol, permetent tant a organitzacions petites com grans adquirir i utilitzar les capacitats del servidor de forma ràpida i senzilla. Fa deu anys, la majoria de les empreses gestionaven els seus propis servidors. Avui, la majoria de les empreses lloguen l'espai del servidor des d'Amazon. Les organitzacions governamentals i militars es troben entre els que depenen dels serveis en núvol d'Amazon, que també inclouen funcions avançades d'intel·ligència artificial i de base de dades. Hem d’esperar que els empleats d’Amazon s’inspirin en els seus companys de Google i comencin a parlar en públic de les conseqüències socials de la feina que fan. Qualsevol empleat d’Amazon declara, com tenen els seus parells de Google, que "Amazon no hauria de ser un negoci de la guerra"?

Empreses com Google i Amazon tenen un compromís únic amb les comunitats de codi obert.

Totes les empreses no són iguals i, de fet, la famosa regla autoimposta de Google a "Not Be Evil" ha estat presa seriosament pels innombrables desenvolupadors de codi obert que poden no ser empleats de Google, però contribueixen i interactuen amb Google a biblioteques de codi obert com TensorFlow, que proporciona capacitats d'aprenentatge profundes.

Aquesta és una de les raons per les quals la carta dels empleats de Google va ser una onada de xoc per a la comunitat global de desenvolupadors de codi obert. Mentre que un contractista militar tradicional, com Raytheon o General Dynamics, normalment realitza tot el seu treball en biblioteques d’intel·ligència artificial privades, com TensorFlow, són col·laboracions úniques entre corporacions i els béns comuns públics. La comunitat de programari de codi obert global ha estat fonamental per al desenvolupament i el creixement saludable de tota Internet, i aquesta comunitat sempre ha suposat un sentit explícit de responsabilitat social. Quan els empleats diuen que "Google no hauria de ser un negoci de la guerra", parlen no només dels seus companys de Google, sinó també de la comunitat internacional de desenvolupadors de codi obert que contribueixen als seus projectes.

La IA armada és ara una realitat, i no només als EUA.

No hauríem d’haver necessitat una carta dels empleats de 3100 Google per avisar-nos del fet que l’edat d’intel·ligència artificial armada ja s’és a nosaltres, i no només als Estats Units d'Amèrica. Als Estats Units, això provocarà inevitablement una creixent por de la ciutadania i la histèria sobre el que estan fent altres països en el camp de la IA armada. Els agricultors militars de tot el món, sens dubte, compten amb aquesta carrera armamentística per escalar. Aquesta és la terrible realitat de la situació en la qual ja som.

L’única resposta sana és l’abolició de la guerra.

El manifest sobre la proliferació nuclear signat per Bertrand Russell, Albert Einstein i altres a 1955 va apuntar a una resposta que encara ens escapa. L’únic camí cap al seny per a un món agafat per la por i preparat per explotar és l’abolició de la guerra. Això era perfectament clar a 1955, però els líders de l’època no eren capaços de complir aquesta esperança.

Avui, 63 anys després, veiem tan clarament com sempre que la guerra només comporta més guerra i que els avenços tecnològics continuaran augmentant les apostes. La malaltissa visió dels drons assassins connectats a grans bases de dades en temps real i equipades amb funcions d’intel·ligència artificial d’última generació que persegueixen els éssers humans ja no és una visió del futur (com ho va ser en l’espantós episodi de "Metalhead" de "Black Mirror", que es va emetre només l'any passat). Totes les peces estan al seu lloc per fer realitat aquesta visió malaltissa, i l'acte valent de més de 3100 empleats de Google ens ha revelat que fins i tot algunes empreses que s'han compromès a mantenir un estàndard moral avancen a tota velocitat cap a aquest futur que ningú vol. L’aposta es torna a augmentar. La responsabilitat de tots nosaltres (no només els empleats de Google, no només els desenvolupadors de programari, sinó tots) és resoldre el pitjor problema que el món ha conegut i treballar cap a l’abolició total de la guerra.