Kunstig moral

Af Robert C. Koehler, marts 14, 2019

Kunstig intelligens er en ting. Kunstig moral er en anden. Det lyder måske noget som dette:

"For det første tror vi på USA's stærke forsvar, og vi vil have de mennesker, der forsvarer det, for at få adgang til landets bedste teknologi, herunder fra Microsoft."

Dette er ordene fra Microsoft præsident Brad Smith, skriver på en corporate blog sidste efterår til forsvar for selskabets nye kontrakt med US Army, værd $ 479 millioner, for at gøre forstørrede reality headsets til brug i kamp. Hovedtelefonerne, kendt som Integrated Visual Augmentation System eller IVAS, er en måde at "øge dødeligheden", når militæret engagerer fjenden, ifølge en forsvarsminister. Microsofts involvering i dette program afværger en bølge af vrede blandt selskabets medarbejdere, hvor mere end hundrede af dem underskriver et brev til virksomhedens øverste ledere, der kræver, at kontrakten annulleres.

"Vi er en global koalition af Microsoft medarbejdere, og vi nægter at skabe teknologi til krigsførelse og undertrykkelse. Vi er foruroliget over, at Microsoft arbejder for at levere våbenteknologi til den amerikanske militær, hvilket hjælper et lands regering med at øge dødeligheden ved hjælp af værktøjer, vi har bygget. Vi meldte os ikke om at udvikle våben, og vi kræver et udtryk for, hvordan vores arbejde bruges. "

Wow, samvittigheds ord og håb. Den dybere historie i alt dette er almindelige mennesker, der udøver deres magt til at forme fremtiden og nægter at øge dens dødelighed.

Med denne kontrakt, brevet fortsætter, har Microsoft "krydset linjen til våbenudvikling. . . . Anvendelsen af ​​HoloLens i IVAS-systemet er designet til at hjælpe folk med at dræbe. Den vil blive udnyttet på slagmarken og arbejder ved at dreje krigsførelse til et simuleret "videospil", yderligere distancerende soldater fra krigsforfærderne og blodsudgydelsens realitet. "

Denne oprør var, hvad Smith svarede på, da han sagde, at han troede på et "stærkt forsvar", hvilket indebærer, at moralske klichéer snarere end penge er det, der driver beslutninger fra store virksomheder eller i hvert fald denne særlige store virksomhed. På en eller anden måde er hans ord, som han forsøgte at formidle som reflekterende og dybt overvejet, ikke overbevisende - ikke når han sidder sammen med en forsvarsaftale på næsten en halv milliard dollars.

Smith fortsætter med at erkende, at ingen institution, herunder militæret, er perfekt, men påpeger, at "en ting er tydelig. Millioner af amerikanere har tjent og kæmpet i vigtige og bare krige, "kirsebærplukker sådanne hævdede oldies som borgerkrigen og anden verdenskrig, hvor Amerika's forbedrede dødelighed frigjorde slaver og befriet Europa.

Fascinerende er tonen i hans blogindlæg ikke arrogant over for medarbejderne - gør hvad du har fået at vide, eller du bliver fyret - men snarere sagte placere, tilsyneladende at indikere, at magten her ikke er koncentreret på de øvre niveauer af ledelse. Microsoft er fleksibel: "Som det altid er tilfældet, hvis vores medarbejdere vil arbejde på et andet projekt eller et team - uanset årsagen - vi vil have dem til at vide, at vi støtter talentmobilitet."

De ansatte, der underskrev brevet krævede, at forsvarsaftalen blev annulleret. Smith tilbød deres personlige samvittigheder en ud: Kom nu, kom med et andet hold, hvis du ikke vil krydse linjen og arbejde på våbenudvikling. Microsoft ærer medarbejdere med flere moralske overbevisninger!

Kunstig intelligens er et højteknologisk fænomen, der kræver meget kompleks tænkning. Den kunstige moral skjuler sig bag nærmeste kliché i tjenlighed til penge.

Hvad jeg ser her, er moralsk opvågning, der styrker sociopolitisk trækkraft: Medarbejderne står for noget større end rene personlige interesser, der i færd med at skubbe Big Tech messing for at tænke over deres behov for en uendelig strøm af kapital, konsekvenser bliver fordømt.

Dette sker over hele landet. En bevægelse er percolating: Tech vil ikke bygge det!

"På tværs af teknologibranchen," New York Times rapporteret i oktober, kræver "rang-and-file medarbejdere større indsigt i, hvordan deres virksomheder implementerer den teknologi, de har bygget. På Google, Amazon, Microsoft og Salesforce samt ved teknologiske opstart, spørger ingeniører og teknikere i stigende grad, om de produkter, de arbejder på, bliver brugt til overvågning på steder som Kina eller til militære projekter i USA eller andre steder. .

"Det er en ændring fra fortiden, hvor Silicon Valley-arbejdere typisk udviklede produkter med lidt spørgsmålstegn ved de sociale omkostninger."

Hvad hvis moralsk tænkning - ikke i bøger og filosofiske områder, men i den virkelige verden, både corporate og politisk - var så stor og kompleks som teknisk tænkning? Det kunne ikke længere gemme sig bag den retfærdige krigs kliché (og sikkert den næste, vi forbereder os på vil være retfærdig), men ville skulle vurdere krig selv - alle krige, herunder dem fra de sidste 70 år eller deromkring, i deres fulde omkostninger og konsekvenser - samt se frem til den slags fremtid, vi kunne skabe, afhængigt af hvilke beslutninger vi træffer i dag. Kompleks moralsk tænkning ignorerer ikke behovet for at overleve, økonomisk og ellers i det nuværende øjeblik, men det forbliver roligt i lyset af dette behov og ser overlevelse som en kollektiv, ikke en konkurrencedygtig virksomhed.

Moral kompleksitet hedder fred. Der er ikke noget som forenklet fred.

Robert Koehler, syndikeret af PeaceVoice, er en prisbelønnet journalist og redaktør i Chicago. Hans bog, Courage Grows Strong at Wound er tilgængelig. Kontakt ham på koehlercw@gmail.com eller besøge hans hjemmeside på commonwonders.com.