Konstgjord moral

Av Robert C. Koehler, Mars 14, 2019

Konstgjord intelligens är en sak. Konstgjord moral är en annan. Det kan låta något så här:

"För det första tror vi på USA: s starka försvar och vi vill att de människor som försvarar det för att få tillgång till nationens bästa teknik, inklusive från Microsoft."

Det här är ord från Microsoft-presidenten Brad Smith, skriver på en företagsblogg förra hösten för att försvara företagets nya kontrakt med US Army, värt $ 479 miljoner, för att göra förstärkta verklighetshuvuden för användning i strid. Headset, känt som Integrated Visual Augmentation System, eller IVAS, är ett sätt att "öka dödligheten" när militären engagerar fienden enligt en försvarsdepartementets tjänsteman. Microsofts medverkan i detta program avstod från en våldsbrott bland företagets anställda, med mer än hundra av dem som skrev ett brev till företagets ledande befattningshavare och krävde att kontraktet skulle annulleras.

"Vi är en global koalition av Microsoft-arbetare, och vi vägrar att skapa teknik för krigföring och förtryck. Vi är oroade över att Microsoft arbetar för att tillhandahålla vapenteknik till USA: s militär, vilket hjälper ett lands regering att öka dödligheten med hjälp av verktyg vi byggt. Vi anmälde inte att utveckla vapen, och vi kräver ett uttalande om hur vårt arbete används. "

Wow, samvetsord och hopp. Den djupare historien i allt detta är vanliga människor som utövar sin makt för att forma framtiden och vägrar att öka dödligheten.

Med detta kontrakt, brevet fortsätter, har Microsoft "korsat linjen i vapenutveckling. . . . Applikationen av HoloLens inom IVAS-systemet är utformad för att hjälpa människor att döda. Det kommer att sättas in på slagfältet och fungerar genom att vända krigföring till ett simulerat "videospel", ytterligare distanserade soldater från krigets grymt krig och blodsutgjutelsens verklighet. "

Denna uppror var vad Smith svarade på när han sa att han trodde på ett "starkt försvar", vilket innebär att moraliska klichéer snarare än pengar är det som driver beslut av stora företag, eller åtminstone det här stora företaget. På något sätt är hans ord, som han försökte förmedla som reflekterande och djupt övervägt, inte övertygande - inte när man står inför ett försvarskontrakt värt nästan en halv miljard dollar.

Smith fortsätter och erkänner att ingen institution, inklusive militären, är perfekt, men påpekar att "en sak är tydlig. Miljoner amerikaner har tjänat och kämpat i viktiga och bara krig, "kirsebärplockning så höga gamla som inbördeskriget och andra världskriget, där Amerikas förbättrade dödlighet befriade slavar och befriade Europa.

Fascinerande är tonen i hans blogginlägg inte arrogant mot medarbetarna - gör vad du har sagt eller du är avfyrade - men snarare mjukplacerande, som tycks indikera att kraften här inte är koncentrerad till de övre nivåerna av förvaltning. Microsoft är flexibelt: "Såsom alltid är fallet, om våra anställda vill arbeta på ett annat projekt eller lag - oavsett anledning - vill vi att de ska veta att vi stöder talangsmobilitet."

De anställda som undertecknade brevet krävde att försvarsavtalet upphävdes. Smith erbjöd sin personliga samvete en ut: Kom igen, gå med ett annat lag om du inte vill korsa linjen och arbeta med vapenutveckling. Microsoft hedrar anställda av flera moraliska övertygelser!

Artificial Intelligence är ett högteknologiskt fenomen som kräver mycket komplext tänkande. Konstgjord moral döljer sig bakom närmaste kliché i tjänst till pengar.

Det jag ser här är en moralisk uppvaknande för sociopolitisk traktion: Medarbetarna står för något större än rena personliga intressen, som i själva verket driver Big Tech-mässingen för att tänka bortom deras behov av ett oändligt kapitalflöde, konsekvenser blir fördömda.

Detta händer över hela landet. En rörelse är percolating: Tech kommer inte bygga det!

"Över tekniken industrin," den New York Times rapporterade i oktober kräver "rank-and-file-anställda större inblick i hur deras företag använder sig av den teknik som de byggt. På Google, Amazon, Microsoft och Salesforce, liksom vid tekniska nystartar, frågar ingenjörer och tekniker alltmer om de produkter de jobbar på används för övervakning på platser som Kina eller för militära projekt i USA eller någon annanstans .

"Det är en förändring från det förflutna, när Silicon Valley-arbetare vanligtvis utvecklade produkter med lite ifrågasatt om de sociala kostnaderna."

Vad händer om moraliskt tänkande - inte i böcker och filosofiska områden, utan i den verkliga världen, både företag och politisk - var så stor och komplex som tekniskt tänkande? Det kunde inte längre gömma sig bakom krigets kliché (och det är säkert den nästa vi förbereder för att vara rättvis), men skulle behöva utvärdera kriget själv - alla krig, inklusive de senaste 70-åren eller så, i fullhet av deras kostnader och konsekvenser - samt se fram emot den typ av framtid vi kunde skapa, beroende på vilka beslut vi fattar idag. Komplext moraliskt tänkande ignorerar inte behovet av att överleva, ekonomiskt och annars, i det nuvarande ögonblicket, men det blir lugnt inför detta behov och ser överlevnad som ett kollektivt, inte ett konkurrenskraftigt företag.

Moral komplexitet kallas fred. Det finns ingen sådan sak som förenklad fred.

Robert Koehler, syndikerad av PeaceVoice, är en Chicago-prisbelönt journalist och redaktör. Hans bok Courage Grows Strong vid såret är tillgänglig. Kontakta honom på koehlercw@gmail.com eller besök hans hemsida på commonwonders.com.