Moral Buatan

Oleh Robert C. Koehler, Mac 14, 2019

Kecerdasan Buatan adalah satu perkara. Akhlak buatan adalah satu lagi. Ia mungkin berbunyi seperti ini:

"Pertama, kami percaya pada pertahanan Amerika Syarikat yang kuat dan kami mahu orang yang mempertahankannya untuk mengakses teknologi terbaik negara, termasuk dari Microsoft."

Inilah kata-kata presiden Microsoft Brad Smith, menulis di blog korporat kejatuhan terakhir dalam mempertahankan kontrak baru syarikat itu dengan Angkatan Tentera AS, bernilai $ 479 juta, untuk membuat alat dengar realiti tambahan untuk digunakan dalam pertempuran. Alat dengar, yang dikenali sebagai Sistem Pengintegrasian Visual Bersepadu, atau IVAS, adalah cara untuk "meningkatkan ketuluhan" ketika tentera mengerahkan musuh, menurut seorang pejabat Jabatan Pertahanan. Penglibatan Microsoft dalam program ini mengetepikan gelombang kemarahan di kalangan pekerja syarikat, dengan lebih dari seratus mereka menandatangani surat kepada eksekutif tertinggi syarikat yang menuntut kontrak itu dibatalkan.

"Kami adalah gabungan global Pekerja Microsoft, dan kami enggan membuat teknologi untuk peperangan dan penindasan. Kami khuatir bahawa Microsoft sedang berusaha untuk menyediakan teknologi senjata kepada Tentera Amerika Syarikat, membantu kerajaan meningkatkan 'kelebihan' menggunakan alat yang kami bina. Kami tidak mendaftar untuk membangunkan senjata, dan kami meminta sebut dalam cara kerja kami digunakan. "

Wow, kata-kata hati nurani dan harapan. Kisah yang lebih mendalam dalam semua ini adalah orang biasa yang menjalankan kuasa mereka untuk membentuk masa depan dan menolak untuk meningkatkan ketaksubannya.

Dengan kontrak ini, surat itu diteruskan, Microsoft telah "menyeberanginya menjadi pembangunan senjata. . . . Permohonan HoloLens dalam sistem IVAS direka untuk membantu orang membunuh. Ia akan digerakkan di medan perang, dan berfungsi dengan memacu peperangan ke dalam 'permainan video' yang disimulasikan, sambil menjauhkan lagi tentera dari pegangan peperangan dan realiti pertumpahan darah. "

Pemberontakan ini adalah apa yang Smith bertindak balas ketika dia mengatakan bahawa dia percaya pada "pertahanan yang kuat", menyiratkan bahawa klise moral bukan wang adalah apa yang mendorong keputusan syarikat besar, atau sekurang-kurangnya korporat besar tertentu ini. Bagaimanapun kata-kata beliau, yang cuba disampaikannya sebagai reflektif dan sangat dipertimbangkan, tidak meyakinkan - tidak apabila disepakati dengan kontrak pertahanan bernilai hampir setengah bilion dolar.

Smith melanjutkan, mengakui bahawa tiada institusi, termasuk tentera, adalah sempurna, tetapi menunjukkan bahawa "satu perkara adalah jelas. Jutaan orang Amerika telah berkhidmat dan berjuang dalam peperangan yang penting dan hanya, "memetik ceri seperti orang lama yang disanjung sebagai Perang Saudara dan Perang Dunia II, di mana kelebihan yang dipertingkatkan oleh Amerika membebaskan budak dan dibebaskan dari Eropah.

Hebatnya, nada postingan blognya tidak sombong terhadap pekerja - lakukan apa yang anda diberitahu atau anda dipecat - tetapi, sebaliknya, dengan lembut merapikan, seolah-olah menunjukkan bahawa kuasa di sini tidak tertumpu di peringkat atas pengurusan. Microsoft fleksibel: "Seperti biasa, jika pekerja kami mahu bekerja pada projek atau pasukan yang berlainan - atas apa sebabnya - kami mahu mereka tahu kami menyokong pergerakan bakat."

Pekerja yang menandatangani surat itu menuntut pembatalan kontrak Pertahanan. Smith menawarkan kesedaran peribadi mereka: Datang, menyertai pasukan lain jika anda tidak mahu menyeberangi garisan dan bekerja pada pembangunan senjata. Microsoft menghormati pekerja pelbagai persetujuan moral!

Kecerdasan Buatan adalah fenomena berteknologi tinggi yang memerlukan pemikiran yang sangat kompleks. Moral buatan menyembunyikan di belakang klise terdekat dalam penghambaan dengan wang.

Apa yang saya lihat di sini adalah kebangkitan moral berebut untuk daya tarikan sosial: Para pekerja berdiri untuk sesuatu yang lebih besar daripada minat peribadi, dalam proses menolak tembaga Big Tech untuk berfikir di luar keperluan mereka untuk aliran modal yang tidak berkesudahan, akibatnya terkutuk.

Ini berlaku di seluruh negara. Pergerakan meresap: Tech tidak akan membinanya!

"Di seluruh industri teknologi," New York Times dilaporkan pada bulan Oktober, "pekerja pangkat dan fail menuntut lebih banyak pandangan mengenai bagaimana syarikat mereka menggunakan teknologi yang mereka bina. Di Google, Amazon, Microsoft dan Salesforce, serta teknologi baru, jurutera dan teknolog semakin bertanya sama ada produk yang mereka sedang kerjakan digunakan untuk pengawasan di tempat-tempat seperti China atau untuk projek ketenteraan di Amerika Syarikat atau di tempat lain .

"Itu perubahan dari masa lalu, ketika pekerja Silicon Valley biasanya mengembangkan produk dengan sedikit mempersoalkan tentang biaya sosial."

Bagaimana jika pemikiran moral - bukan dalam buku dan bidang falsafah, tetapi di dunia nyata, baik korporat dan politik - sama besar dan kompleks sebagai pemikiran teknikal? Ia tidak boleh lagi bersembunyi di sebalik klise perang yang adil (dan sesungguhnya yang akan kita persiapkan sekarang akan adil), tetapi perlu menilai perang itu sendiri - semua peperangan, termasuk masa 70 yang lalu atau lebih, dalam kesempurnaan kos dan akibatnya - serta melihat ke depan untuk jenis masa depan yang kita boleh buat, bergantung pada keputusan yang kita buat hari ini. Pemikiran moral yang rumit tidak mengabaikan keperluan untuk bertahan, kewangan dan sebaliknya, pada saat ini, tetapi ia tetap tenang dalam menghadapi kebutuhan itu dan melihat survival sebagai kolektif, bukan perusahaan yang kompetitif.

Kerumitan moral dipanggil keamanan. Tidak ada semacam perdamaian yang mudah.

Robert Koehler, disindikasikan oleh PeaceVoice, adalah wartawan dan editor yang memenangi anugerah Chicago. Buku-Nya, Keberanian Berkembang Kuat di Luka tersedia. Hubungi dia di koehlercw@gmail.com atau layari laman webnya di commonwonders.com.