Moralitat artificial

Per Robert C. Koehler, març 14, 2019

La intel·ligència artificial és una cosa. La moral artificial és una altra. Pot semblar una cosa així:

"En primer lloc, creiem en la forta defensa dels Estats Units i volem que les persones que la defensin tinguin accés a la millor tecnologia de la nació, inclosa la de Microsoft".

Aquestes són les paraules del president de Microsoft Brad Smith, escrivint en un bloc corporatiu la passada tarda en defensa del nou contracte de la companyia amb l’exèrcit nord-americà, per valor de $ 479 milions, per fer auriculars de realitat augmentada per al seu ús en combat. Els auriculars, coneguts com a Sistema Integrat d’Augment Visual, o IVAS, són una manera d’incrementar la letalitat quan els militars es comprometen amb l’enemic, segons un funcionari del Departament de Defensa. La implicació de Microsoft en aquest programa va provocar una indignació entre els empleats de la companyia, amb més d’un centenar d’ells signant una carta als principals executius de la companyia que demanaven la cancel·lació del contracte.

“Som una coalició global de Treballadors de Microsoft, i ens neguem a crear tecnologia per a la guerra i l’opressió. Estem alarmats que Microsoft estigui treballant per proporcionar tecnologia d’armes als militars dels EUA, ajudant al govern d’un país a "incrementar la letalitat" utilitzant les eines que hem construït. No ens vam inscriure per desenvolupar armes i demanem una opinió sobre com s'utilitza el nostre treball. "

Wow, paraules de consciència i esperança. La història més profunda en aquest sentit és la gent normal que exerceix el seu poder per donar forma al futur i negar-se a augmentar la seva letalitat.

Amb aquest contracte, la carta continua, Microsoft "ha creuat la línia en el desenvolupament d’armes". . . . L’aplicació d’HoloLens dins del sistema IVAS està dissenyada per ajudar a la gent a matar. Es desplegarà en el camp de batalla i treballarà convertint la guerra en un "videojoc" simulat, allunyant encara més els soldats de les severes apostes de la guerra i la realitat del vessament de sang. "

Aquesta revolta va ser la que Smith va respondre quan va dir que creia en una "defensa forta", la qual cosa implica que els tòpics morals, més que els diners, són el que impulsa les decisions de les grans corporacions, o almenys aquesta gran empresa. D'alguna manera, les seves paraules, que va intentar transmetre com a reflexives i profundes consideracions, no són convincents, no quan es juxtaposen amb un contracte de defensa de gairebé mil milions de dòlars.

Smith continua, reconeixent que cap institució, inclosos els militars, és perfecta, però assenyala que "una cosa és clara. Milions de nord-americans han servit i van lluitar en guerres importants i justes ”, van recol·lectar cereals vells com la Guerra Civil i la Segona Guerra Mundial, on la letalitat dels Estats Units va alliberar esclaus i va alliberar Europa.

Fascinantment, el to de la seva entrada al bloc no és arrogant cap als empleats: feu el que s’han dit o s’acaben, però, més aviat, suavitzant, sembla indicar que el poder aquí no es concentra als nivells superiors de gestió. Microsoft és flexible: "Com sempre, si els nostres empleats volen treballar en un projecte o equip diferent, per qualsevol motiu, volem que sàpiguem que donem suport a la mobilitat de talents".

Els empleats que van signar la carta van exigir la cancel·lació del contracte de Defensa. Smith va oferir a les seves consciències personals una sortida: vingui, uniu-vos a un altre equip si no voleu creuar la línia i treballar en el desenvolupament de les armes. Microsoft fa honor als treballadors de múltiples conviccions morals.

La Intel·ligència Artificial és un fenomen d'alta tecnologia que requereix un pensament molt complex. La moral artificial s'amaga darrere del tòpic més proper a la servitud dels diners.

El que veig aquí és el despertar moral que lluita per la tracció sociopolítica: els empleats estan davant d’un interès més gran que pura personalitat, en el procés que empeny el Big Tech a pensar més enllà de la necessitat d’un flux inacabable de capital.

Això passa a tot el país. La circulació d'un moviment: la tecnologia no la construirà!

"A tota la indústria de la tecnologia", el New York Times es va informar a l’octubre, “els empleats de rang mitjà exigeixen un major coneixement de com les seves empreses estan desplegant la tecnologia que van construir. A Google, Amazon, Microsoft i Salesforce, així com a les noves empreses tecnològiques, els enginyers i els tecnòlegs es pregunten cada vegada més si els productes que estan treballant estan sent utilitzats per a la vigilància en llocs com Xina o en projectes militars als Estats Units o en altres llocs. .

"Això suposa un canvi respecte al passat, quan els treballadors de Silicon Valley solien desenvolupar productes amb pocs dubtes sobre els costos socials".

I si el pensament moral —no dels llibres i dels tractes filosòfics, sinó del món real, tant corporatiu com polític— fos tan gran i complex com el pensament tècnic? Ja no podia amagar-se darrere del tòpic de la guerra justa (i segur que el següent que estem preparant serà just), però hauria d’avaluar la guerra en si mateixa: totes les guerres, incloses les del passat 70 anys, en la seva totalitat, tant en costos i conseqüències, com en el futur que podem crear, en funció de les decisions que prenem avui. El pensament moral complex no ignora la necessitat de sobreviure, financerament o no, en el moment actual, sinó que es manté en calma davant d’aquesta necessitat i veu la supervivència com una empresa col·lectiva, no competitiva.

La complexitat moral es denomina pau. No hi ha una pau simplista.

Robert Koehler, sindicat per PeaceVoice, és un periodista i editor guardonat a Chicago. El seu llibre Courage Grows Strong at the Wound està disponible. Contacta amb ell a koehlercw@gmail.com o visiteu el lloc web commonwonders.com.