Moralidade Artificial

Por Robert C. Koehler, março 14, 2019

Inteligência Artificial é uma coisa. A moralidade artificial é outra. Pode parecer algo assim:

“Primeiro, acreditamos na forte defesa dos Estados Unidos e queremos que as pessoas que a defendem tenham acesso à melhor tecnologia do país, inclusive da Microsoft.”

Estas são as palavras do presidente da Microsoft Brad Smith, escrevendo em um blog corporativo no ano passado em defesa do novo contrato da empresa com o Exército dos EUA, no valor de US $ 479 milhões, para fabricar fones de ouvido de realidade aumentada para uso em combate. Os fones de ouvido, conhecidos como Integrated Visual Augmentation System, ou IVAS, são uma maneira de “aumentar a letalidade” quando os militares se envolvem com o inimigo, de acordo com um funcionário do Departamento de Defesa. O envolvimento da Microsoft neste programa gerou uma onda de indignação entre os funcionários da empresa, com mais de cem assinando uma carta aos principais executivos da empresa exigindo o cancelamento do contrato.

“Somos uma coalizão global de Trabalhadores da Microsofte nos recusamos a criar tecnologia para guerra e opressão. Estamos alarmados com o fato de a Microsoft estar trabalhando para fornecer tecnologia de armas às Forças Armadas dos EUA, ajudando o governo de um país a "aumentar a letalidade" usando ferramentas que construímos. Não nos inscrevemos para desenvolver armas e exigimos uma palavra sobre como nosso trabalho é usado. ”

Uau, palavras de consciência e esperança. A história mais profunda de tudo isso é que as pessoas comuns exercem seu poder de moldar o futuro e se recusam a aumentar sua letalidade.

Com este contrato, a carta continua, a Microsoft “cruzou a linha para o desenvolvimento de armas. . . . A aplicação do HoloLens dentro do sistema IVAS é projetada para ajudar as pessoas a matarem. Ele será implantado no campo de batalha e funcionará transformando a guerra em um "videogame" simulado, distanciando ainda mais os soldados das lúgubres estacas da guerra e da realidade do derramamento de sangue.

Essa revolta foi o que Smith estava respondendo quando disse que acreditava em uma "defesa forte", sugerindo que os clichês morais, e não o dinheiro, são o que impulsiona as decisões de grandes corporações, ou pelo menos essa grande corporação em particular. De alguma forma, suas palavras, que ele tentou transmitir como reflexivas e profundamente consideradas, não são convincentes - não quando justapostas a um contrato de defesa que vale quase meio bilhão de dólares.

Smith continua, reconhecendo que nenhuma instituição, incluindo as forças armadas, é perfeita, mas aponta que “uma coisa é clara. Milhões de norte-americanos serviram e lutaram em guerras importantes e justas ”, escolhendo esses antigos louvados como a Guerra Civil e a Segunda Guerra Mundial, onde a maior letalidade dos Estados Unidos libertou escravos e libertou a Europa.

Fascinante, o tom do seu post no blog não é arrogante para os funcionários - faça o que você manda ou você é demitido - mas, em vez disso, suavemente apaziguador, parecendo indicar que o poder aqui não está concentrado nos níveis superiores de gestão. A Microsoft é flexível: "Como é sempre o caso, se nossos funcionários quiserem trabalhar em um projeto ou equipe diferente - por qualquer motivo - queremos que eles saibam que apoiamos a mobilidade de talentos".

Os funcionários que assinaram a carta exigiram o cancelamento do contrato de Defesa. Smith ofereceu suas consciências pessoais: Venha, junte-se a outra equipe se você não quiser cruzar a linha e trabalhar no desenvolvimento de armas. A Microsoft honra funcionários de múltiplas convicções morais!

A Inteligência Artificial é um fenômeno de alta tecnologia que requer um pensamento altamente complexo. A moralidade artificial se esconde atrás do clichê mais próximo em servidão ao dinheiro.

O que eu vejo aqui é o despertar moral lutando pela tração sociopolítica: os funcionários estão em busca de algo maior do que interesses pessoais, no processo de empurrar o poder da Big Tech para pensar além de sua necessidade de um fluxo infinito de capital.

Isso está acontecendo em todo o país. Um movimento está fluindo: a Tech não vai construí-lo!

"Em toda a indústria de tecnologia", o New York Times Conforme relatado em outubro, “os funcionários comuns estão exigindo mais insights sobre como suas empresas estão implantando a tecnologia que eles construíram. No Google, Amazon, Microsoft e Salesforce, bem como em start-ups de tecnologia, engenheiros e tecnólogos estão cada vez mais perguntando se os produtos em que estão trabalhando estão sendo usados ​​para vigilância em lugares como a China ou para projetos militares nos Estados Unidos ou em outro lugar. .

"Essa é uma mudança em relação ao passado, quando os trabalhadores do Vale do Silício normalmente desenvolviam produtos com pouco questionamento sobre os custos sociais".

E se o pensamento moral - não em livros e tratados filosóficos, mas no mundo real, tanto corporativo quanto político - fosse tão grande e complexo quanto o pensamento técnico? Ele não pode mais se esconder atrás do clichê da guerra justa (e certamente o próximo para o qual estamos nos preparando será justo), mas teria que avaliar a guerra em si - todas as guerras, incluindo aquelas dos últimos anos 70, na plenitude de seus custos e consequências - assim como olhar para o futuro que poderíamos criar, dependendo das decisões que tomamos hoje. O pensamento moral complexo não ignora a necessidade de sobreviver, financeiramente e de outra forma, no momento presente, mas permanece calmo diante dessa necessidade e vê a sobrevivência como um empreendimento coletivo, não competitivo.

A complexidade moral é chamada de paz. Não existe paz simplista.

Robert Koehler, sindicado por PeaceVoiceé uma jornalista e editora premiada em Chicago. Seu livro Courage Grows Strong at the Wound está disponível. Entre em contato com ele em koehlercw@gmail.com ou visite o seu website em commonwonders.com.