Moralidade artificial

Por Robert C. Koehler, marzo 14, 2019

A intelixencia artificial é unha cousa. A moral artificial é outra. Pode soar algo así:

"En primeiro lugar, cremos na forte defensa dos Estados Unidos e queremos que a xente que a defende teña acceso á mellor tecnoloxía da nación, incluída a de Microsoft".

Estas son as palabras do presidente de Microsoft Brad Smith, escribindo nun blog corporativo o outono pasado en defensa do novo contrato da compañía coa armada estadounidense, por valor de $ 479 millóns, para facer auriculares de realidade aumentada para o seu uso en combate. Os auriculares, coñecidos como o Sistema Integrado de Aumento Visual (IVAS), son un xeito de "aumentar a letalidade" cando os militares envolven ao inimigo, segundo un funcionario do Departamento de Defensa. A participación de Microsoft neste programa desencadeou unha onda de indignación entre os empregados da compañía, con máis dun centenar deles asinando unha carta aos principais executivos da compañía esixindo a cancelación do contrato.

“Somos unha coalición global de Traballadores de Microsofte negámonos a crear tecnoloxía para a guerra ea opresión. Estamos alarmados que Microsoft estea traballando para proporcionar tecnoloxía de armas aos militares dos Estados Unidos, axudando ao goberno dun país a "aumentar a letalidade" usando as ferramentas que construímos. Non subscribimos para desenvolver armas e esiximos que digamos como se usa o noso traballo. "

Guau, palabras de conciencia e esperanza. A historia máis profunda de todo isto é a xente común exercendo o seu poder para moldear o futuro e negarse a aumentar a súa letalidade.

Con este contrato, a carta continúa, Microsoft "cruzou a liña en desenvolvemento de armas". . . . A aplicación de HoloLens no sistema IVAS está deseñada para axudar ás persoas a matar. Será despregado no campo de batalla, e traballará transformando a guerra nunha simulación de "videojuego", distanciando aínda máis aos soldados dos severos estilos de guerra e na realidade do derramamento de sangue. "

Esta revolta foi á que respondeu Smith cando dixo que cría nunha "defensa forte", o que implica que os clichés morais e non o diñeiro son os que impulsan as decisións das grandes corporacións ou, polo menos, esta gran corporación. De algunha maneira, as súas palabras, que intentou transmitir como reflexivas e profundamente consideradas, non son convincentes: non se xustaponen cun contrato de defensa por preto de medio billón de dólares.

Smith segue adiante, recoñecendo que ningunha institución, incluído o exército, é perfecta, pero sinala que "unha cousa está clara. Millóns de norteamericanos serviron e loitaron en guerras xustas e importantes ”, agasallan os vellos como elixidos como a Guerra Civil e a Segunda Guerra Mundial, onde a letalidade dos Estados Unidos liberou escravos e liberou a Europa.

Fascinante, o ton da súa publicación no blog non é arrogante para os empregados - faga o que está dito ou está despedido - pero, máis ben, placado suavemente, parecendo indicar que o poder non está concentrado nos niveis superiores de xestión. Microsoft é flexible: "Como sempre é o caso, se os nosos empregados queren traballar nun proxecto ou equipo diferente, por calquera motivo, queremos que saibamos que apoiamos a mobilidade de talentos".

Os empregados que asinaron a carta esixiron a cancelación do contrato de Defensa. Smith ofreceu ás súas conciencias persoais unha saída: Veña, únete a outro equipo se non quere cruzar a liña e traballa no desenvolvemento de armas. Microsoft honra aos empregados de múltiples persuasións morais!

A Intelixencia Artificial é un fenómeno de alta tecnoloxía que require un pensamento moi complexo. A moralidade artificial escóndese detrás do cliché máis próximo na servidume do diñeiro.

O que vexo aquí é o espertar moral en busca de tracción sociopolítica: os empregados están por algo máis que puros intereses persoais; no proceso que empuxa ao Big Tech para pensar máis aló da necesidade dun fluxo interminable de capital, as consecuencias serán condenadas.

Isto está a suceder en todo o país. Un movemento está percolando: a tecnoloxía non o constrúe.

"En toda a industria da tecnoloxía", o New York Times informou en outubro, "os empregados de rango e demanda esixen unha maior comprensión de como as súas empresas están implantando a tecnoloxía que construíron. En Google, Amazon, Microsoft e Salesforce, así como en novas tecnoloxías, enxeñeiros e tecnólogos preguntan cada vez máis se os produtos que están traballando están sendo utilizados para a vixilancia en lugares como China ou para proxectos militares nos Estados Unidos ou noutros lugares. .

"Iso é un cambio con respecto ao pasado, cando os traballadores do Silicon Valley normalmente desenvolveron produtos con pouca pregunta sobre os custos sociais".

E se o pensamento moral - non nos libros e nos tratos filosóficos, senón no mundo real, tanto corporativo coma político - era tan grande e complexo coma o pensamento técnico? Xa non se podía ocultar detrás do cliché da guerra xusta (e seguramente o seguinte que estamos a preparar será xusto), pero tería que avaliar a guerra en si: todas as guerras, incluídas as do pasado 70 anos, na plenitude dos seus custos e consecuencias - ademais de mirar adiante ao tipo de futuro que poderiamos crear, dependendo das decisións que tomamos hoxe. O pensamento moral complexo non ignora a necesidade de sobrevivir, financeira e doutro xeito, no momento presente, pero mantén a calma fronte a esa necesidade e ve a supervivencia como unha empresa colectiva, non competitiva.

A complexidade moral chámase paz. Non hai unha paz simplista.

Robert Koehler, sindicado por PeaceVoice, é un xornalista e editor galardonado de Chicago. Está dispoñible o seu libro, Courage Strong in the Wound. Póñase en contacto con el en koehlercw@gmail.com ou visite o seu sitio web en commonwonders.com.