Moral Buatan

Miturut Robert C. Koehler, Maret 14, 2019

Intelligence Artificial. Moralitas buatan liya. Bisa uga kaya swara kaya iki:

"Pisanan, kita pracaya marang pertahanan kuat Amerika Serikat lan kita pengin wong-wong sing mbela supaya bisa ngakses teknologi paling apik bangsa, kalebu saka Microsoft."

Iki minangka tembung saka presiden Microsoft Brad Smith, nulis ing blog perusahaan pungkasan musim gugur ing pertahanan kontrak anyar karo Angkatan Darat AS, worth $ 479 yuta, kanggo nggawe headset realitas sing ditambahake kanggo digunakake ing pertempuran. Headphone, sing dikenal minangka Sistem Integrasi Augmentasi Terpadu, utawa IVAS, minangka cara kanggo "ningkatake lethality" nalika militèr nyerang mungsuh, miturut pejabat Departemen Pertahanan. Keterlibatan Microsoft ing program iki ngetokake gelombang kasar ing antarane karyawan perusahaan, kanthi luwih saka satus sing menehi tandha marang eksekutif puncak perusahaan sing nuntut supaya kontrak dibatalake.

"We are a coalition global of Microsoft buruh, lan kita nolak kanggo nggawe teknologi kanggo perang lan penindasan. We are alarmed sing Microsoft digunakake kanggo nyedhiyakake teknologi senjata menyang Militer AS, ngewangi pamaréntahan siji negara 'tambah pati' nggunakake pribadi kita dibangun. We durung mlebu kanggo ngembangake senjata, lan kita njaluk pitakon babagan cara kita digunakake. "

Wow, tembung saka kalbu lan pangarep-arep. Kisah sing luwih jero ing kabeh iki yaiku wong biasa sing nguwaosi kekuwatane kanggo mbentuk masa depan lan ora nate nambah kekuwatane.

Kanthi kontrak iki, surat kasebut tetep wae, Microsoft wis "ngliwati jalur kasebut dadi senjata pembangunan. . . . Aplikasi HoloLens ing sistem IVAS dirancang kanggo mbantu wong-wong mati. Iku bakal digelar ing medan perang, lan dienggo kanthi nyelehake peperangan dadi 'video game' simulasi, luwih adoh saka prajurit saka taruhan perang lan realitas pertumpahan darah. "

Pemberontakan iki yaiku apa sing ditindakake Smith nalika dheweke ngandelake "pertahanan kuat," sing nyatake yen klise moral tinimbang dhuwit iku nyebabake kaputusan perusahaan gedhe, utawa paling gedhe perusahaan gedhe kasebut. Piye wae tembung-tembung sing dicoba diajokake minangka reflektif lan dipikir jero, ora mesthekake - ora nalika digabung karo kontrak pertahanan sing meh setengah milyar dolar.

Smith terus, ngakoni yen ora ana institusi, kalebu militer, sampurna, nanging ngandhakake yen "siji-sijine cetha. Jutaan warga Amerika telah bertugas lan berjuang dalam peperangan penting lan adil, "ngenalke cemlorot kaya jaman Perang Sipil dan Perang Dunia II, diabaikan para budak Amerika yang dibebaskan dan pembebasan Eropa.

Narik banget, nada postingan blog ora arrogant marang karyawan - nglakoni apa sing diwenehake utawa sampeyan dipecat - nanging, malah, alon ngrancang, katon kanggo nuduhake yen kekuwatan kene ora konsentrasi ing tingkat ndhuwur manajemen. Microsoft fleksibel: "Minangka tansah kasus, yen karyawan kita pengin ngerjakake proyek utawa tim sing beda-beda - kanggo alasan apa wae - kita pengin ngerti sing kita ndhukung mobilitas bakat."

Karyawan sing mlebu surat kasebut nuntut pambatalan kontrak Pertahanan. Smith menehi raos pribadhi sing metu: Ayo, gabung tim liyane yen sampeyan ora pengin ngliwati garis lan nglakoni pembangunan senjata. Microsoft ngurmati karyawan saka macem-macem moral persuasions!

Artificial Intelligence minangka fenomena berteknologi tinggi sing mbutuhake pikiran sing akeh banget. Moralitas buatan ngliwati klise sing paling cedhak ing babad kanggo ngasilake dhuwit.

Apa sing dakkandhakake ing kene yaiku awake moral sing bisa dibantah kanggo sociopolitical traction: Karyawan nganggep apa-apa sing luwih gedhe tinimbang kepinteran pribadine, ing proses ngarahake tembaga Big Tech kanggo nganggep mbutuhake aliran modal sing ora bisa ditindakake, akibate bakal dikalahake.

Iki kedadeyan ing saindhenging negara. Gerakan wis percolating: Tech ora bakal mbangun!

"Ing saindenging industri teknologi," ing New York Times kacarita ing Oktober, "karyawan pangkat-lan-file nuntut luwih wawasan babagan perusahaan sing ngirimake teknologi sing dibangun. Ing Google, Amazon, Microsoft lan Salesforce, uga ing tech start-ups, insinyur lan teknolog sing tambah akeh takon apa produk sing digunakake digunakake kanggo ndjogo ing panggonan-panggonan kaya China utawa proyèk militèr ing Amerika Serikat utawa ing panggon liya .

"Iku owah-owahan saka jaman kepungkur, nalika para pekerja Silicon Valley biasane ngembangake produk kanthi ora pati pitakonan babagan biaya sosial."

Apa yen mikir moral - ora ing buku lan saluran filsafat, nanging ing donya nyata, loro perusahaan lan politik - kaya gedhe lan kompleks minangka pamikiran teknis? Ora bisa ndelikake maneh klise perang wae (lan mesthi wae sing arep kita tindakake), nanging kudu ngevaluasi perang dhewe - kabeh peperangan, kalebu taun-taun 70 sing kapungkur, ing kasampurnané biaya lan konsekwèntitas - uga katon ing ngarep mangsa sing bisa kita damel, gumantung apa kaputusan sing kita gawèkaké saiki. Pemikiran moral sing komprehensif ora nglirwakake kabutuhan kanggo urip, kanthi cara finansial lan liya-liyane, ing wekdal saiki, nanging tetep tenang ing ngadhepi kabutuhan lan nyumurupi kabegjan minangka usaha kolektif, ora kompetitif.

Kompleksitas moral disebut perdamaian. Ora ana sesambungan sing sederhana.

Robert Koehler, disindikasi dening PeaceVoice, iku wartawan lan editor sing menang ing Chicago. Buku-bukune, Keberanian Tuwuh Kuat ing Wound kasedhiya. Hubungi wong ing koehlercw@gmail.com utawa ngunjungi situs web ing commonwonders.com.