Cambio climático, trabajadores tecnológicos, activistas contra la guerra trabajando juntos

Reunión de rumbo a la extinción en la ciudad de Nueva York 30 de enero de 2020

Por Marc Eliot Stein, 10 de febrero de 2020

Hace poco me invitaron a hablar en una reunión de Extinction Rebellion en la ciudad de Nueva York en representación de World BEYOND War. El evento fue diseñado para reunir a tres grupos de acción: activistas del cambio climático, colectivos de trabajadores tecnológicos y activistas contra la guerra. Comenzamos con una conmovedora cuenta personal de la activista del cambio climático Ha Vu, quien le contó a la multitud de neoyorquinos sobre una experiencia alarmante que pocos de nosotros hemos tenido: regresar a la casa de su familia en Hanoi, Vietnam, donde aumento de calor ya ha hecho casi imposible caminar afuera durante las horas pico de luz solar. Pocos estadounidenses también saben sobre el Desastre de contaminación del agua 2016 en Ha Tinh en Vietnam central. A menudo hablamos del cambio climático como un problema potencial en EE. UU., Enfatizó Ha, pero en Vietnam puede ver que ya está alterando vidas y medios de subsistencia, y empeorando rápidamente.

Nick Mottern de KnowDrones.org habló con similar urgencia sobre la reciente inversión masiva del ejército estadounidense en inteligencia artificial futurista y computación en la nube, y enfatizó la propia conclusión del ejército de que los despliegues de sistemas de inteligencia artificial en la gestión de armas nucleares y la guerra con drones conducirán inevitablemente a errores de magnitud impredecible. William Beckler de Extinction Rebellion NYC siguió explicando los principios organizativos que esta importante organización de rápido crecimiento pone en acción, incluidas las acciones disruptivas diseñadas para crear conciencia sobre la importancia crítica del cambio climático. Escuchamos a un representante de la ciudad de Nueva York Coalicion de trabajadores tecnicos, y traté de impulsar la reunión hacia un sentido de empoderamiento práctico al hablar sobre una acción de rebelión de trabajadores tecnológicos que tuvo un éxito inesperado.

Esto fue en abril de 2018, cuando la llamada "industria de defensa" estaba hablando sobre el Proyecto Maven, una nueva iniciativa militar estadounidense muy publicitada para desarrollar capacidades de inteligencia artificial para drones y otros sistemas de armas. Google, Amazon y Microsoft ofrecen plataformas de inteligencia artificial listas para usar para clientes que pagan, y Google fue visto como el probable ganador del contrato militar del Proyecto Maven.

A principios de 2018, los trabajadores de Google comenzaron a hablar. No entendían por qué una compañía que los había reclutado como empleados con la promesa "Don't Be Evil" ahora estaba haciendo una oferta en proyectos militares que probablemente se parecerían al horrible episodio de "Black Mirror" en el que los perros mecánicos accionados por IA persiguen a los humanos seres a la muerte. Hablaron en las redes sociales y en los medios tradicionales. Organizaron acciones y circularon peticiones y se hicieron oír.

Esta rebelión de los trabajadores fue la génesis del movimiento Rebelión de los Trabajadores de Google, y ayudó a impulsar otros colectivos de trabajadores de la tecnología. Pero lo más sorprendente de la protesta interna de Google contra el Proyecto Maven no fue que los trabajadores tecnológicos estaban hablando. Lo más sorprendente es que La gerencia de Google cedió a las demandas de los trabajadores.

Dos años después, este hecho todavía me aturde. He visto muchos problemas éticos en mis décadas como trabajador tecnológico, pero rara vez he visto a una gran empresa aceptar categóricamente abordar los problemas éticos de manera significativa. El resultado de la rebelión de Google contra el Proyecto Maven fue la publicación de un conjunto de principios de IA que vale la pena reproducir aquí en su totalidad:

Inteligencia artificial en Google: nuestros principios

Google aspira a crear tecnologías que resuelvan problemas importantes y ayuden a las personas en su vida diaria. Somos optimistas sobre el increíble potencial de la IA y otras tecnologías avanzadas para empoderar a las personas, beneficiar ampliamente a las generaciones actuales y futuras y trabajar por el bien común.

Objetivos para aplicaciones de IA

Evaluaremos las aplicaciones de IA en vista de los siguientes objetivos. Creemos que la IA debería:

1. Ser socialmente beneficioso.

El alcance ampliado de las nuevas tecnologías afecta cada vez más a la sociedad en su conjunto. Los avances en IA tendrán impactos transformadores en una amplia gama de campos, incluidos la atención médica, la seguridad, la energía, el transporte, la fabricación y el entretenimiento. A medida que consideramos el desarrollo potencial y los usos de las tecnologías de IA, tendremos en cuenta una amplia gama de factores sociales y económicos, y procederemos donde creamos que los beneficios generales probables exceden sustancialmente los riesgos y desventajas previsibles.

La IA también mejora nuestra capacidad de comprender el significado del contenido a escala. Nos esforzaremos por hacer que la información precisa y de alta calidad esté fácilmente disponible utilizando AI, mientras seguimos respetando las normas culturales, sociales y legales en los países donde operamos. Y continuaremos evaluando cuidadosamente cuándo hacer que nuestras tecnologías estén disponibles de manera no comercial.

2. Evite crear o reforzar sesgos injustos.

Los algoritmos y conjuntos de datos de IA pueden reflejar, reforzar o reducir los prejuicios injustos. Reconocemos que distinguir los prejuicios justos de los injustos no siempre es simple y difiere entre culturas y sociedades. Intentaremos evitar impactos injustos en las personas, particularmente aquellas relacionadas con características sensibles como la raza, el origen étnico, el género, la nacionalidad, el ingreso, la orientación sexual, la capacidad y las creencias políticas o religiosas.

3. Ser construido y probado por seguridad.

Continuaremos desarrollando y aplicando prácticas sólidas de seguridad para evitar resultados no deseados que generen riesgos de daños. Diseñaremos nuestros sistemas de IA para que sean cautelosos de manera adecuada, y buscaremos desarrollarlos de acuerdo con las mejores prácticas en la investigación de seguridad de AI. En los casos apropiados, probaremos las tecnologías de IA en entornos restringidos y supervisaremos su funcionamiento después de la implementación.

4. Ser responsable ante las personas.

Diseñaremos sistemas de IA que brinden oportunidades apropiadas para comentarios, explicaciones relevantes y atractivo. Nuestras tecnologías de IA estarán sujetas a la dirección y control humanos apropiados.

5. Incorporar principios de diseño de privacidad.

Incorporaremos nuestros principios de privacidad en el desarrollo y uso de nuestras tecnologías de IA. Le daremos la oportunidad de recibir notificación y consentimiento, alentaremos las arquitecturas con salvaguardas de privacidad y brindaremos la transparencia y el control adecuados sobre el uso de los datos.

6. Mantener altos estándares de excelencia científica.

La innovación tecnológica está enraizada en el método científico y en un compromiso de investigación abierta, rigor intelectual, integridad y colaboración. Las herramientas de IA tienen el potencial de desbloquear nuevos ámbitos de investigación científica y conocimiento en dominios críticos como biología, química, medicina y ciencias ambientales. Aspiramos a altos estándares de excelencia científica mientras trabajamos para progresar en el desarrollo de IA.

Trabajaremos con una variedad de partes interesadas para promover un liderazgo reflexivo en esta área, aprovechando enfoques científicamente rigurosos y multidisciplinarios. Y compartiremos de manera responsable el conocimiento de la IA mediante la publicación de materiales educativos, mejores prácticas e investigaciones que permitan a más personas desarrollar aplicaciones útiles de IA.

7. Estar disponible para usos que estén de acuerdo con estos principios.

Muchas tecnologías tienen múltiples usos. Trabajaremos para limitar las aplicaciones potencialmente dañinas o abusivas. A medida que desarrollemos e implementemos tecnologías de inteligencia artificial, evaluaremos los posibles usos a la luz de los siguientes factores:

  • Propósito principal y uso: El propósito principal y el uso probable de una tecnología y una aplicación, incluido qué tan estrechamente se relaciona la solución o cómo se adapta a un uso nocivo
  • Naturaleza y singularidad: si estamos poniendo a disposición tecnología que sea única o esté disponible de manera más general
  • Escala: si el uso de esta tecnología tendrá un impacto significativo
  • Naturaleza de la participación de Google: si estamos proporcionando herramientas de uso general, integrando herramientas para clientes o desarrollando soluciones personalizadas

Aplicaciones de IA que no buscaremos

Además de los objetivos anteriores, no diseñaremos ni implementaremos IA en las siguientes áreas de aplicación:

  1. Tecnologías que causan o pueden causar daño general. Cuando exista un riesgo material de daño, procederemos solo cuando creamos que los beneficios superan sustancialmente los riesgos e incorporaremos las restricciones de seguridad apropiadas.
  2. Armas u otras tecnologías cuyo objetivo principal o implementación es causar o facilitar directamente lesiones a las personas.
  3. Tecnologías que recopilan o utilizan información para la vigilancia que viola las normas internacionalmente aceptadas.
  4. Tecnologías cuyo propósito contraviene los principios ampliamente aceptados del derecho internacional y los derechos humanos.

A medida que nuestra experiencia en este espacio se profundiza, esta lista puede evolucionar.

Conclusión

Creemos que estos principios son la base correcta para nuestra empresa y nuestro futuro desarrollo de IA. Reconocemos que esta área es dinámica y está evolucionando, y abordaremos nuestro trabajo con humildad, un compromiso con el compromiso interno y externo, y una voluntad de adaptar nuestro enfoque a medida que aprendemos con el tiempo.

Este resultado positivo no exime al gigante tecnológico Google de la complicidad en varias otras áreas de gran preocupación, como apoyar a ICE, la policía y otras actividades militares, agregar y vender acceso a datos privados sobre individuos, ocultar declaraciones políticas controvertidas de los resultados de los motores de búsqueda. y, lo más importante, permitir que sus empleados continúen hablando sobre estos y otros asuntos sin ser despedidos por hacerlo. El movimiento de rebelión de los trabajadores de Google permanece activo y altamente comprometido.

Al mismo tiempo, es importante reconocer cuán impactante fue el movimiento de trabajadores de Google. Esto se hizo evidente inmediatamente después de que comenzaron las protestas de Google: los departamentos de marketing del Pentágono dejaron de emitir nuevos comunicados de prensa sobre el alguna vez emocionante Proyecto Maven, y finalmente "desaparecieron" el proyecto completamente de la visibilidad pública que había buscado anteriormente. En cambio, una nueva y mucho más grande iniciativa de inteligencia artificial comenzó a surgir de la insidiosa del Pentágono. Junta de Innovación de Defensa.

Esto fue llamado Proyecto JEDI, un nuevo nombre para el gasto del Pentágono en armas de vanguardia. El Proyecto JEDI gastaría mucho más dinero que el Proyecto Maven, pero el bombardeo publicitario para el nuevo proyecto (sí, el ejército de EE. UU. Gasta un montón de tiempo y atención en publicidad y marketing) fue muy diferente al anterior. Todas las imágenes elegantes y sexys de "Black Mirror" habían desaparecido. Ahora, en lugar de enfatizar los horrores distópicos emocionantes y cinematográficos que los drones impulsados ​​por IA podrían infligir a los seres humanos, el Proyecto JEDI se explicó como un paso sobrio hacia la eficiencia, combinando varias bases de datos en la nube para ayudar a los "combatientes de guerra" (el término favorito del Pentágono para el personal de primera línea) y los equipos de soporte de back-office maximizan la efectividad de la información. Donde el Proyecto Maven fue diseñado para sonar emocionante y futurista, el Proyecto JEDI fue diseñado para sonar sensato y práctico.

No hay nada sensato o práctico sobre el precio del Proyecto JEDI. Es el mayor contrato de software militar en la historia del mundo: $ 10.5 mil millones. Muchos de nuestros ojos se nublan cuando escuchamos sobre escalas de gasto militar, y podemos pasar por alto la diferencia entre millones y miles de millones. Es esencial comprender qué tan grande es el Proyecto JEDI que cualquier iniciativa de software anterior del Pentágono. Es un cambio de juego, un motor generador de riqueza, un cheque en blanco para sacar provecho a expensas de los contribuyentes.

Ayuda a rascar debajo de la superficie de los comunicados de prensa del gobierno cuando se trata de comprender un cheque en blanco de gasto militar de hasta $ 10.5 mil millones. Se puede obtener cierta información de las propias publicaciones militares, como un Entrevista de agosto de 2019 con el teniente general del Centro Conjunto de Inteligencia Artificial Jack Shanahan, una figura clave tanto en el desaparecido Proyecto Maven como en el nuevo Proyecto JEDI. Pude obtener más información sobre cómo piensan los expertos de la industria de defensa sobre el Proyecto JEDI al escuchar un podcast de la industria de defensa llamado "Proyecto 38: El futuro de la contratación gubernamental". Los invitados a los podcasts a menudo hablan con franqueza y sin vergüenza sobre cualquier tema que estén discutiendo. “Mucha gente va a comprar nuevas piscinas este año”, era típico de la charla privilegiada de este podcast sobre el Proyecto JEDI. Estamos seguros de que lo estarán.

Aquí está lo notable que se relaciona con los principios de inteligencia artificial de Google. Los tres candidatos obvios para el enorme contrato JEDI de $ 10.5 mil millones habrían sido Google, Amazon y Microsoft, en ese orden, en función de su reputación como innovadores de IA. Debido a la protesta de los trabajadores contra el Proyecto Maven en 2018, el líder de inteligencia artificial Google no fue considerado para el Proyecto JEDI mucho más grande en 2019. A fines de 2019, se anunció que el contrato fue para Microsoft. Siguió una ráfaga de cobertura de noticias, pero esta cobertura se centró principalmente en la rivalidad entre Amazon y Microsoft, y en el hecho de que el tercer lugar a Microsoft probablemente pudo vencer al segundo lugar de Amazon por la victoria debido a las continuas batallas de la administración Trump con Washington Post. que es propiedad de Jeff Bezos de Amazon. Amazon ahora va a los tribunales para luchar contra la donación de $ 3 mil millones del Pentágono a Microsoft, y Oracle también está demandando. El comentario específico del podcast del Proyecto 2 mencionado anteriormente - “Mucha gente comprará nuevas piscinas este año” - se refería no solo a la bendición financiera de Microsoft sino también a todos los abogados que participarán en estas demandas. Probablemente podamos hacer una suposición fundamentada de que más del 10.5% de los $ 38 mil millones del Proyecto JEDI se destinarán a abogados. Lástima que no podamos usarlo para ayudar acabar con el hambre en el mundo en vez.

La disputa sobre si esta transferencia de dinero de los contribuyentes a contratistas militares debería beneficiar a Microsoft, Amazon u Oracle ha dominado la cobertura de noticias del Proyecto JEDI. El único mensaje positivo que se desprende de este soborno obsceno, el hecho de que Google se haya apartado del contrato de software militar más grande de la historia mundial debido a la protesta de los trabajadores, ha sido prácticamente inexistente en la cobertura de noticias del Proyecto JEDI. 

Es por eso que fue importante contar esta historia a los activistas centrados en la tecnología que se reunieron en una sala abarrotada en el centro de Manhattan la semana pasada para hablar sobre cómo podemos salvar nuestro planeta, cómo podemos luchar contra la desinformación y la politización de la ciencia climática, cómo podemos hacer frente al poder masivo de los aprovechadores de combustibles fósiles y aprovechadores de armas. En esta pequeña sala, todos parecíamos comprender las dimensiones del problema que estábamos enfrentando y el papel crítico que nosotros mismos debemos comenzar a jugar. La comunidad tecnológica tiene un poder significativo. Así como las campañas de desinversión pueden marcar una verdadera diferencia, las rebeliones de los trabajadores tecnológicos pueden marcar una verdadera diferencia. Hay muchas maneras en que los activistas del cambio climático, los trabajadores de tecnología, los activistas de la rebelión y los activistas contra la guerra pueden comenzar a trabajar juntos, y lo haremos de todas las formas posibles.

Tuvimos un comienzo esperanzador con esta reunión, iniciada con ayuda por Extinción Rebelión NYC y El mundo no puede esperar. Este movimiento crecerá, debe crecer. El abuso de combustibles fósiles es el foco de los manifestantes contra el cambio climático. El abuso de combustibles fósiles es también el principal motivo de lucro del imperialismo estadounidense y un terrible resultado primario de las infladas actividades derrochadoras del ejército estadounidense. De hecho, el ejército estadounidense parece estar el peor contaminador del mundo. ¿Pueden los trabajadores tecnológicos utilizar nuestro poder de organización para obtener victorias aún más impactantes que la retirada de Google del Proyecto JEDI? Podemos y debemos. La reunión de la semana pasada en la ciudad de Nueva York fue solo un pequeño paso adelante. Debemos hacer más, y debemos dar a nuestro movimiento de protesta combinado todo lo que tenemos.

Anuncio del evento de rebelión de extinción, enero de 2020

Marc Eliot Stein es director de tecnología y redes sociales para World BEYOND War.

Foto de Gregory Schwedock.

un comentario

  1. Gen Agustsson dice:

    ¡Abolir las corporaciones y los gobiernos, no solo la guerra! ¡Todos los gobiernos deben torturarnos!

Deje su comentario.

Su dirección de correo electrónico no será publicada. Los campos necesarios están marcados *

*

El límite de tiempo se ha agotado. Por favor, vuelva a cargar CAPTCHA.

Este sitio usa Akismet para reducir el correo no deseado. Descubra cómo se procesan los datos de sus comentarios.

Buscar WorldBeyondWar.org

Regístrese para recibir correos electrónicos de acción y noticias contra la guerra

Traducir a cualquier idioma