Moralitas Buatan

Oleh Robert C. Koehler, March 14, 2019

Kecerdasan Buatan adalah satu hal. Moralitas artifisial adalah hal lain. Mungkin terdengar seperti ini:

"Pertama, kami percaya pada pertahanan kuat Amerika Serikat dan kami ingin orang-orang yang mempertahankannya memiliki akses ke teknologi terbaik bangsa, termasuk dari Microsoft."

Ini adalah kata-kata presiden Microsoft Brad Smith, menulis di blog perusahaan musim gugur yang lalu untuk membela kontrak baru perusahaan dengan Angkatan Darat AS, senilai $ 479 juta, untuk membuat headset augmented reality untuk digunakan dalam pertempuran. Headset, yang dikenal sebagai Sistem Augmentasi Visual Terpadu, atau IVAS, adalah cara untuk "meningkatkan kematian" ketika militer melibatkan musuh, menurut pejabat Departemen Pertahanan. Keterlibatan Microsoft dalam program ini memicu gelombang kemarahan di antara karyawan perusahaan, dengan lebih dari seratus dari mereka menandatangani surat kepada eksekutif puncak perusahaan menuntut agar kontrak dibatalkan.

“Kami adalah koalisi global PT Pekerja Microsoft, dan kami menolak untuk membuat teknologi untuk perang dan penindasan. Kami khawatir bahwa Microsoft berupaya menyediakan teknologi senjata kepada Militer AS, membantu pemerintah satu negara 'meningkatkan mematikan' menggunakan alat yang kami buat. Kami tidak mendaftar untuk mengembangkan senjata, dan kami menuntut pendapat tentang bagaimana pekerjaan kami digunakan. "

Wow, kata-kata hati dan harapan. Kisah yang lebih dalam dalam hal ini adalah orang-orang biasa menggunakan kekuatan mereka untuk membentuk masa depan dan menolak untuk meningkatkan kematiannya.

Dengan kontrak ini, surat itu berlanjut, Microsoft telah “melewati batas dalam pengembangan senjata. . . . Penerapan HoloLens dalam sistem IVAS dirancang untuk membantu orang membunuh. Itu akan dikerahkan di medan perang, dan bekerja dengan mengubah peperangan menjadi 'video game' yang disimulasikan, lebih jauh menjauhkan prajurit dari pertarungan perang yang suram dan realitas pertumpahan darah. ”

Pemberontakan ini adalah apa yang Smith tanggapi ketika dia mengatakan dia percaya pada "pertahanan yang kuat," yang menyiratkan bahwa klise moral daripada uang adalah yang mendorong keputusan perusahaan besar, atau setidaknya perusahaan besar khusus ini. Entah bagaimana kata-katanya, yang ia coba sampaikan sebagai reflektif dan dipertimbangkan secara mendalam, tidak meyakinkan - tidak ketika disandingkan dengan kontrak pertahanan bernilai hampir setengah miliar dolar.

Smith melanjutkan, mengakui bahwa tidak ada lembaga, termasuk militer, yang sempurna, tetapi menunjukkan bahwa “satu hal sudah jelas. Jutaan orang Amerika telah melayani dan bertempur dalam perang yang penting dan adil, ”memetik ceri tua yang dipuji seperti Perang Sipil dan Perang Dunia II, di mana sifat mematikan yang dimiliki Amerika membebaskan budak dan membebaskan Eropa.

Menariknya, nada posting blognya tidak sombong terhadap karyawan - melakukan apa yang diperintahkan atau Anda dipecat - tetapi, agak menenangkan, tampaknya menunjukkan bahwa kekuatan di sini tidak terkonsentrasi di tingkat atas pengelolaan. Microsoft fleksibel: "Seperti biasa, jika karyawan kami ingin bekerja di proyek atau tim yang berbeda - untuk alasan apa pun - kami ingin mereka tahu kami mendukung mobilitas karyawan."

Karyawan yang menandatangani surat menuntut pembatalan kontrak Pertahanan. Smith menawarkan hati nurani pribadi mereka keluar: Ayo, bergabung dengan tim lain jika Anda tidak ingin melewati batas dan bekerja pada pengembangan senjata. Microsoft menghormati karyawan dari berbagai keyakinan moral!

Kecerdasan Buatan adalah fenomena teknologi tinggi yang membutuhkan pemikiran yang sangat kompleks. Moralitas buatan bersembunyi di balik klise terdekat dalam penghambaan terhadap uang.

Apa yang saya lihat di sini adalah kebangkitan moral yang berebut untuk traksi sosiopolitik: Karyawan berdiri untuk sesuatu yang lebih besar daripada kepentingan pribadi semata, dalam proses mendorong orang-orang Teknologi Besar untuk berpikir di luar kebutuhan mereka akan aliran modal tanpa akhir, akibatnya akan terkutuk.

Ini terjadi di seluruh negeri. Sebuah gerakan meresap: Tech tidak akan membangunnya!

"Di industri teknologi," the   dilaporkan pada bulan Oktober, “karyawan pangkat dan file menuntut wawasan yang lebih luas tentang bagaimana perusahaan mereka menggunakan teknologi yang mereka bangun. Di Google, Amazon, Microsoft, dan Tenaga Penjualan, serta pada saat permulaan teknologi, para insinyur dan teknologis semakin bertanya apakah produk yang mereka kerjakan digunakan untuk pengawasan di tempat-tempat seperti Cina atau untuk proyek militer di Amerika Serikat atau di tempat lain. .

"Itu adalah perubahan dari masa lalu, ketika para pekerja Silicon Valley biasanya mengembangkan produk dengan sedikit pertanyaan tentang biaya sosial."

Bagaimana jika pemikiran moral - bukan dalam buku-buku dan traktat filosofis, tetapi di dunia nyata, baik korporat maupun politik - sama besar dan kompleksnya dengan pemikiran teknis? Ia tidak bisa lagi bersembunyi di balik klise perang yang adil (dan tentunya perang berikutnya yang kami persiapkan adalah adil), tetapi harus mengevaluasi perang itu sendiri - semua perang, termasuk perang 70 tahun lalu atau lebih, dalam kepenuhan biaya dan konsekuensinya - serta menantikan masa depan yang dapat kita ciptakan, tergantung pada keputusan apa yang kita buat hari ini. Pemikiran moral yang kompleks tidak mengabaikan kebutuhan untuk bertahan hidup, secara finansial dan sebaliknya, pada saat ini, tetapi tetap tenang dalam menghadapi kebutuhan itu dan melihat kelangsungan hidup sebagai usaha kolektif, bukan kompetitif.

Kompleksitas moral disebut perdamaian. Tidak ada yang namanya kedamaian sederhana.

Robert Koehler, disindikasikan oleh PeaceVoice, adalah jurnalis dan editor pemenang penghargaan Chicago. Bukunya, Keberanian Tumbuh Kuat di Luka tersedia. Hubungi dia di koehlercw@gmail.com atau kunjungi website di commonwonders.com.