Artificial Morality

Robert C. Koehler, mart 14, 2019

Veštačka inteligencija je jedna stvar. Umjetna moralnost je druga. Možda zvuči ovako:

"Prvo, verujemo u jaku odbranu Sjedinjenih Država i želimo da ljudi koji je brane imaju pristup najboljoj nacionalnoj tehnologiji, uključujući i Microsoft."

To su reči predsednika Microsofta Brad Smith, pišući na korporativnom blogu prošle jeseni u odbranu novog ugovora kompanije sa američkom vojskom, vrijednog $ 479 miliona, kako bi se uvećale slušalice sa stvarnošću za upotrebu u borbi. Slušalice, poznate pod imenom Integrated Visual Augmentation System, ili IVAS, su način da se "poveća smrtnost" kada vojska angažuje neprijatelja, kaže zvaničnik Ministarstva odbrane. Učešće Microsofta u ovom programu izazvalo je talas besa među zaposlenima u kompaniji, a više od stotinu njih potpisalo je pismo najvišim rukovodiocima kompanije tražeći da se ugovor poništi.

“Mi smo globalna koalicija Microsoftovi radnici, a mi odbijamo da stvorimo tehnologiju za ratovanje i ugnjetavanje. Zabrinuti smo da Microsoft radi na tome da obezbedi tehnologiju oružja američkoj vojsci, pomažući vladi jedne zemlje da 'poveća smrtnost' koristeći alate koje smo izgradili. Nismo se prijavili za razvoj oružja i tražimo da kažemo kako se koristi naš rad. ”

Wow, reči savesti i nade. Dublja priča u svemu tome je da obični ljudi ostvaruju svoju moć da oblikuju budućnost i odbijaju da povećaju njenu smrtnost.

Ovim ugovorom, pismo se nastavlja, Microsoft je “prešao granicu u razvoj oružja. . . . Primena HoloLensa u okviru IVAS sistema osmišljena je da pomogne ljudima da ubijaju. Bit će raspoređen na bojnom polju i djeluje tako što će ratovanje pretvoriti u simuliranu 'videoigru', daljnje distanciranje vojnika od tmurnih ratova i stvarnosti krvoprolića.

Ovaj revolt je bio ono na šta je Smith reagovao kada je rekao da veruje u "jaku odbranu", što implicira da su moralni klišei, a ne novac, ono što pokreće odluke velikih korporacija, ili bar ove velike korporacije. Nekako njegove reči, koje je pokušao da prenese kao refleksivan i duboko razmotren, nisu ubedljive - ne kada su suprotstavljene ugovoru o odbrani vrednom skoro pola milijarde dolara.

Smith nastavlja, priznajući da nijedna institucija, uključujući vojsku, nije savršena, ali ističe da je “jedna stvar jasna. Milijuni Amerikanaca služili su i borili se u važnim i pravednim ratovima, “odabirajući tako pohvaljene stare kao što su Građanski rat i Drugi svjetski rat, gdje je američka pojačana smrtnost oslobodila robove i oslobodila Evropu.

Fascinantno, ton njegovog posta na blogu nije arogantan prema zaposlenima - radite ono što vam je rečeno ili ste otpušteni - već radije, tiho umirujući, čini se da ukazuje na to da ovdje moć nije koncentrisana na višim nivoima. upravljanje. Microsoft je fleksibilan: "Kao što je uvijek slučaj, ako naši zaposlenici žele raditi na drugom projektu ili timu - iz bilo kojeg razloga - želimo da znaju da podržavamo mobilnost talenata."

Zaposleni koji su potpisali pismo tražili su otkaz ugovora o odbrani. Smith je ponudio svoju ličnu savest: Hajde, pridruži se drugom timu ako ne želiš da pređeš granicu i radiš na razvoju oružja. Microsoft odaje počast zaposlenima višestrukih moralnih uvjerenja!

Veštačka inteligencija je fenomen visoke tehnologije koji zahteva veoma kompleksno razmišljanje. Umjetnički moral se krije iza najbližeg klišea u ropstvu novca.

Ono što ja ovde vidim je moralno buđenje za društveno-političku vuču: Zaposleni stoje za nečim većim od čistih ličnih interesa, u procesu guranja Velikog tehničkog tehničara da razmišlja izvan njihove potrebe za beskrajnim protokom kapitala, posledice su proklet.

Ovo se dešava širom zemlje. Pokret se prožima: Tehnologija ga neće izgraditi!

"U tehnološkoj industriji" New York Times izvestili su u oktobru, “rangirani zaposleni zahtijevaju bolji uvid u to kako njihove kompanije koriste tehnologiju koju su izgradili. U Google-u, Amazonu, Microsoftu i Salesforce-u, kao iu tehnološkim start-upovima, inženjeri i tehnologi sve više pitaju da li se proizvodi na kojima se rade koriste za nadzor u mestima kao što su Kina ili za vojne projekte u Sjedinjenim Državama ili negdje drugdje .

"To je promjena u odnosu na prošlost, kada su radnici u Silikonskoj dolini tipično razvili proizvode sa malo pitanja o socijalnim troškovima."

Šta ako je moralno razmišljanje - ne u knjigama i filozofskim traktima, nego u stvarnom svijetu, i korporativnom i političkom - bilo isto tako veliko i složeno kao tehničko razmišljanje? Više se nije mogao sakriti iza klišea pravednog rata (i zasigurno sljedeći za koji ćemo se pripremati će biti pravedan), ali bi morao procijeniti sam rat - sve ratove, uključujući i one iz proteklih 70 godina ili tako, u punini njihovih troškova i posljedica - kao i gledati u budućnost koju bismo mogli stvoriti, ovisno o tome koje odluke donosimo danas. Složeno moralno razmišljanje ne zanemaruje potrebu za preživljavanjem, finansijski i na drugi način, u sadašnjem trenutku, ali ostaje mirno suočeno s tom potrebom i vidi opstanak kao kolektivno, a ne konkurentno preduzeće.

Moralna složenost se naziva mir. Ne postoji takva stvar kao što je pojednostavljeni mir.

Robert Koehler, udružen PeaceVoiceje novinar i urednik u Čikagu. Njegova knjiga "Hrabrost raste na rani" je dostupna. Kontaktirajte ga koehlercw@gmail.com ili posjetite njegovu web stranicu na commonwonders.com.