Kunstig moral

Av Robert C. Koehler, mars 14, 2019

Kunstig intelligens er en ting. Kunstig moral er en annen. Det kan høres ut som dette:

"For det første tror vi på det sterke forsvaret i USA, og vi vil at folket som forsvarer det for å få tilgang til nasjonens beste teknologi, blant annet fra Microsoft."

Dette er ordene fra Microsoft president Brad Smith, skriver på en bedriftsblogg i høst til forsvar for selskapets nye kontrakt med den amerikanske hæren, verdt $ 479 millioner, for å gjøre utvidet virkelighetshodesett til bruk i kamp. Hodetelefonene, kjent som Integrated Visual Augmentation System, eller IVAS, er en måte å "øke dødeligheten" når militæret engasjerer fienden, ifølge en forsvarsdepartementets offisielle. Microsofts involvering i dette programmet satte opp en bølge av voldsomhet blant selskapets ansatte, med over hundre av dem signerte et brev til selskapets øverste ledere som krevde at kontrakten ble kansellert.

"Vi er en global koalisjon av Microsoft arbeidstakere, og vi nekter å skape teknologi for krigføring og undertrykkelse. Vi er foruroliget over at Microsoft jobber med å levere våpenteknologi til USAs militære, som hjelper et lands regjering til å øke dødeligheten ved hjelp av verktøy vi bygget. Vi registrerte oss ikke for å utvikle våpen, og vi krever et uttrykk for hvordan arbeidet vårt blir brukt. "

Wow, samvittighetsord og håp. Den dypere historien i alt dette er vanlige mennesker som utøver sin makt til å forme fremtiden og nekter å øke dødeligheten.

Med denne kontrakten, brevet fortsetter, har Microsoft "krysset linjen inn i våpenutvikling. . . . Bruken av HoloLens i IVAS-systemet er utviklet for å hjelpe mennesker med å drepe. Det vil bli distribuert på slagmarken, og arbeider ved å slå krigføring i et simulert "videospill," ytterligere distanserende soldater fra de grusomme krigsstudier og realiteten av blodsutgytelse. "

Denne opprøret var hva Smith reagerte på da han sa at han trodde på et "sterkt forsvar", noe som innebærer at moralske klichéer i stedet for penger er det som driver beslutninger fra store selskaper, eller i det minste dette bestemte store selskap. På en eller annen måte er hans ord, som han forsøkte å formidle som reflekterende og dypt betraktet, ikke overbevisende - ikke når han står sammen med en forsvarskontrakt verdt nesten en halv milliard dollar.

Smith fortsetter å erkjenne at ingen institusjon, inkludert militæret, er perfekt, men påpeker at "en ting er tydelig. Millioner av amerikanere har tjent og kjempet i viktige og bare kriger, "kirsebær plukker slike høyverdige oldies som borgerkrigen og andre verdenskrig, hvor Amerikas forbedrede dødelighet frigjorde slaver og frigjort Europa.

Fascinerende, tonen i hans blogginnlegg er ikke arrogant mot de ansatte - gjør det du har fortalt eller du blir sparken - men, ganske mildt, plasserer, tilsynelatende å indikere at kraften her ikke er konsentrert på de øvre nivåene av ledelse. Microsoft er fleksibel: "Som det alltid er tilfelle, hvis våre ansatte ønsker å jobbe på et annet prosjekt eller et lag - uansett grunn - vil vi at de skal vite at vi støtter talentmobilitet."

De ansatte som signerte brevet krevde kansellering av forsvarskontrakten. Smith tilbød sin personlige samvittighet en ut: Kom igjen, bli med et annet lag hvis du ikke vil krysse linjen og jobbe med våpenutvikling. Microsoft ærer ansatte med flere moralske overbevisninger!

Kunstig intelligens er et høyteknologisk fenomen som krever svært komplisert tenkning. Kunstig moral gjemmer seg bak nærmeste kliché i tjeneste for penger.

Det jeg ser her er moralsk oppvåkning, som forstyrrer sosiopolitisk trekk: Medarbeider står for noe større enn rene personlige interesser, som i ferd med å presse Big Tech-messing til å tenke utover deres behov for en endeløs kapitalstrøm, konsekvenser blir fordømt.

Dette skjer over hele landet. En bevegelse er percolating: Tech vil ikke bygge det!

"Over teknologiindustrien," den New York Times rapportert i oktober, "rang-og-fil-ansatte krever større innsikt i hvordan selskapene deres distribuerer teknologien de bygde. På Google, Amazon, Microsoft og Salesforce, samt ved teknologiske oppstart, spør ingeniører og teknikere om produktene de jobber med, blir brukt til overvåkning på steder som Kina eller for militære prosjekter i USA eller andre steder. .

"Det er en forandring fra fortiden, da Silicon Valley-arbeidere vanligvis utviklet produkter med lite spørsmål om de sosiale kostnadene."

Hva om moralsk tenkning - ikke i bøker og filosofiske områder, men i den virkelige verden, både bedrifts og politisk - var så stor og kompleks som teknisk tenkning? Det kunne ikke lenger skjule seg bak klichéet til den eneste krigen (og sikkert den neste vi forbereder på, vil være rettferdig), men må vurdere krig selv - alle kriger, inkludert de siste 70 årene eller så, i fullheten av deres kostnader og konsekvenser - samt se frem til den type fremtid vi kunne skape, avhengig av hvilke beslutninger vi gjør i dag. Kompleks moralsk tenkning ignorerer ikke behovet for å overleve, økonomisk og ellers, i det nåværende øyeblikk, men det forblir rolig i møte med det behovet og ser overlevelse som en kollektiv, ikke en konkurransedyktig bedrift.

Moral kompleksitet kalles fred. Det er ikke noe som forenklet fred.

Robert Koehler, syndisert av PeaceVoice, er en Chicago prisbelønt journalist og redaktør. Hans bok Courage Grows Strong at såret er tilgjengelig. Kontakt ham på koehlercw@gmail.com eller besøke hans nettsted commonwonders.com.