Oleh Marc Eliot Stein, 10 Februari 2020

Baru-baru ini saya diundang untuk berbicara di pertemuan Pemberontakan Kepunahan di New York City atas nama World BEYOND War. Acara ini dirancang untuk mempertemukan tiga kelompok aksi: aktivis perubahan iklim, kolektif pekerja teknologi, dan aktivis anti-perang. Kami mulai dengan akun pribadi yang menggerakkan hati dari aktivis perubahan iklim Ha Vu, yang memberi tahu kerumunan penduduk New York tentang pengalaman yang mengkhawatirkan yang hanya sedikit dari kita: kembali ke rumah keluarganya di Hanoi, Vietnam, tempat peningkatan panas telah membuatnya hampir mustahil untuk berjalan di luar selama jam-jam sinar matahari puncak. Beberapa orang Amerika juga tahu tentang Bencana pencemaran air 2016 di Ha Tinh di Vietnam tengah. Kita sering berbicara tentang perubahan iklim sebagai masalah potensial di AS, Ha menekankan, tetapi di Vietnam dia bisa melihatnya sudah mengganggu kehidupan dan mata pencaharian, dan dengan cepat semakin memburuk.

Nick Mottern dari KnowDrones.org berbicara dengan urgensi yang sama tentang investasi besar-besaran militer AS baru-baru ini dalam kecerdasan buatan futuristik dan komputasi awan - dan menekankan kesimpulan militer sendiri bahwa penyebaran sistem AI dalam manajemen senjata nuklir dan perang drone pasti akan menyebabkan kesalahan dengan besaran yang tidak dapat diprediksi. William Beckler dari Extinction Rebellion NYC dilanjutkan dengan menjelaskan prinsip-prinsip pengorganisasian yang dilakukan oleh organisasi yang penting dan berkembang pesat ini, termasuk tindakan mengganggu yang dirancang untuk meningkatkan kesadaran akan pentingnya perubahan iklim. Kami mendengar dari perwakilan Kota New York Koalisi Pekerja Tek, dan saya mencoba untuk memutar pertemuan menuju rasa pemberdayaan praktis dengan berbicara tentang aksi pemberontakan pekerja teknologi yang secara tak terduga berhasil.

Ini terjadi pada bulan April 2018, ketika apa yang disebut "industri pertahanan" berdengung tentang Proyek Maven, sebuah inisiatif militer AS baru yang sangat dipublikasikan untuk mengembangkan kemampuan kecerdasan buatan untuk drone dan sistem senjata lainnya. Google, Amazon, dan Microsoft semuanya menawarkan platform intelijen buatan untuk para pelanggan yang membayar, dan Google dipandang sebagai pemenang kemungkinan kontrak militer Project Maven.

Pada awal 2018, pekerja Google mulai berbicara. Mereka tidak mengerti mengapa sebuah perusahaan yang telah merekrut mereka sebagai karyawan dengan janji "Don't Be Evil" sekarang menawar proyek-proyek militer yang cenderung menyerupai episode mengerikan "Cermin Hitam" di mana anjing-anjing mekanik bertenaga AI memburu manusia. makhluk sampai mati. Mereka berbicara di media sosial dan ke outlet berita tradisional. Mereka mengorganisir aksi dan menyebarkan petisi dan membuat diri mereka didengar.

Pemberontakan pekerja ini adalah asal-usul gerakan Pemberontakan Buruh Google, dan itu membantu mem-bootstrap kolektif pekerja teknologi lainnya. Tetapi hal yang paling mencengangkan tentang protes internal Google terhadap Project Maven bukanlah pekerja teknologi yang angkat bicara. Hal yang paling menakjubkan adalah itu Manajemen Google menghasilkan permintaan pekerja.

Dua tahun kemudian, fakta ini masih mengejutkan saya. Saya telah melihat banyak masalah etika dalam beberapa dasawarsa saya sebagai pekerja teknologi, tetapi saya jarang melihat perusahaan besar secara kategoris setuju untuk mengatasi masalah etika secara signifikan. Hasil dari pemberontakan Google terhadap Project Maven adalah penerbitan serangkaian prinsip AI yang layak dicetak ulang di sini secara penuh:

Kecerdasan Buatan di Google: Prinsip Kami

Google bercita-cita untuk menciptakan teknologi yang memecahkan masalah penting dan membantu orang dalam kehidupan sehari-hari mereka. Kami optimis tentang potensi luar biasa untuk AI dan teknologi canggih lainnya untuk memberdayakan orang, banyak manfaat generasi sekarang dan masa depan, dan bekerja untuk kebaikan bersama.

Tujuan untuk aplikasi AI

Kami akan menilai aplikasi AI mengingat tujuan berikut. Kami percaya bahwa AI harus:

1. Bermanfaat secara sosial.

Perluasan jangkauan teknologi baru semakin menyentuh masyarakat secara keseluruhan. Kemajuan dalam AI akan memiliki dampak transformatif di berbagai bidang, termasuk kesehatan, keamanan, energi, transportasi, manufaktur, dan hiburan. Saat kami mempertimbangkan pengembangan potensial dan penggunaan teknologi AI, kami akan mempertimbangkan berbagai faktor sosial dan ekonomi, dan akan melanjutkan di mana kami percaya bahwa keseluruhan manfaat yang mungkin secara substansial melebihi risiko yang dapat diperkirakan sebelumnya dan kelemahannya.

AI juga meningkatkan kemampuan kami untuk memahami makna konten pada skala. Kami akan berusaha keras untuk menyediakan informasi berkualitas tinggi dan akurat yang tersedia menggunakan AI, sambil terus menghormati norma-norma budaya, sosial, dan hukum di negara tempat kami beroperasi. Dan kami akan terus mengevaluasi dengan cermat kapan membuat teknologi kami tersedia secara non-komersial.

2. Hindari membuat atau memperkuat bias yang tidak adil.

Algoritma dan kumpulan data AI dapat mencerminkan, memperkuat, atau mengurangi bias yang tidak adil. Kami menyadari bahwa membedakan adil dari bias tidak adil tidak selalu sederhana, dan berbeda antar budaya dan masyarakat. Kami akan berusaha untuk menghindari dampak yang tidak adil pada orang-orang, terutama yang berhubungan dengan karakteristik sensitif seperti ras, etnis, jenis kelamin, kebangsaan, pendapatan, orientasi seksual, kemampuan, dan keyakinan politik atau agama.

3. Dibangun dan diuji untuk keamanan.

Kami akan terus mengembangkan dan menerapkan praktik keselamatan dan keamanan yang kuat untuk menghindari hasil yang tidak diinginkan yang menimbulkan risiko bahaya. Kami akan merancang sistem AI kami agar berhati-hati, dan berusaha mengembangkannya sesuai dengan praktik terbaik dalam penelitian keselamatan AI. Dalam kasus yang tepat, kami akan menguji teknologi AI di lingkungan terbatas dan memantau operasi mereka setelah penyebaran.

4. Bertanggung jawab kepada orang-orang.

Kami akan merancang sistem AI yang memberikan peluang yang tepat untuk umpan balik, penjelasan yang relevan, dan banding. Teknologi AI kami akan tunduk pada arahan dan kontrol manusia yang tepat.

5. Memasukkan prinsip-prinsip desain privasi.

Kami akan menggabungkan prinsip privasi kami dalam pengembangan dan penggunaan teknologi AI kami. Kami akan memberikan kesempatan untuk pemberitahuan dan persetujuan, mendorong arsitektur dengan perlindungan privasi, dan memberikan transparansi dan kontrol yang tepat atas penggunaan data.

6. Menjunjung tinggi standar keunggulan ilmiah.

Inovasi teknologi berakar pada metode ilmiah dan komitmen untuk penyelidikan terbuka, ketelitian intelektual, integritas, dan kolaborasi. Alat AI memiliki potensi untuk membuka bidang baru penelitian ilmiah dan pengetahuan dalam domain kritis seperti biologi, kimia, kedokteran, dan ilmu lingkungan. Kami bercita-cita untuk standar tinggi keunggulan ilmiah saat kami bekerja untuk memajukan pengembangan AI.

Kami akan bekerja dengan berbagai pemangku kepentingan untuk mempromosikan kepemimpinan yang bijaksana di bidang ini, menggunakan pendekatan yang ketat secara ilmiah dan multidisiplin. Dan kami akan berbagi pengetahuan AI secara bertanggung jawab dengan menerbitkan materi pendidikan, praktik terbaik, dan penelitian yang memungkinkan lebih banyak orang untuk mengembangkan aplikasi AI yang berguna.

7. Disediakan untuk penggunaan yang sesuai dengan prinsip-prinsip ini.

Banyak teknologi memiliki banyak kegunaan. Kami akan bekerja untuk membatasi aplikasi yang berpotensi berbahaya atau kasar. Saat kami mengembangkan dan menggunakan teknologi AI, kami akan mengevaluasi kemungkinan penggunaan dengan mempertimbangkan faktor-faktor berikut:

• Tujuan dan penggunaan utama: tujuan utama dan kemungkinan penggunaan teknologi dan aplikasi, termasuk seberapa dekat solusi tersebut terkait atau dapat beradaptasi dengan penggunaan yang berbahaya
• Sifat dan keunikan: apakah kita membuat teknologi tersedia yang unik atau lebih umum tersedia
• Skala: apakah penggunaan teknologi ini akan berdampak signifikan
• Sifat keterlibatan Google: apakah kami menyediakan alat untuk tujuan umum, mengintegrasikan alat untuk pelanggan, atau mengembangkan solusi khusus

Aplikasi AI kami tidak akan mengejar

Selain tujuan di atas, kami tidak akan merancang atau menggunakan AI di area aplikasi berikut:

1. Teknologi yang menyebabkan atau cenderung menyebabkan kerusakan secara keseluruhan. Jika ada risiko material yang membahayakan, kami hanya akan melanjutkan jika kami yakin bahwa manfaatnya jauh lebih besar daripada risiko, dan akan memasukkan kendala keamanan yang sesuai.
2. Senjata atau teknologi lain yang tujuan atau implementasinya adalah untuk menyebabkan atau secara langsung memfasilitasi cedera pada orang.
3. Teknologi yang mengumpulkan atau menggunakan informasi untuk pengawasan yang melanggar norma yang diterima secara internasional.
4. Teknologi yang tujuannya bertentangan dengan prinsip-prinsip hukum internasional dan hak asasi manusia yang diterima secara luas.

Saat pengalaman kami dalam ruang ini semakin dalam, daftar ini dapat berkembang.

Kesimpulan

Kami percaya prinsip-prinsip ini adalah fondasi yang tepat untuk perusahaan kami dan pengembangan AI kami di masa depan. Kami mengakui bahwa bidang ini dinamis dan berkembang, dan kami akan mendekati pekerjaan kami dengan kerendahan hati, komitmen untuk keterlibatan internal dan eksternal, dan keinginan untuk menyesuaikan pendekatan kami ketika kami belajar dari waktu ke waktu.

Hasil positif ini tidak membebaskan raksasa teknologi Google dari keterlibatan di berbagai bidang lain yang menjadi perhatian utama, seperti mendukung ICE, polisi dan kegiatan militer lainnya, mengumpulkan dan menjual akses ke data pribadi tentang individu, menyembunyikan pernyataan politik yang kontroversial dari hasil mesin pencari dan, yang paling penting, memungkinkan karyawannya untuk terus membicarakan masalah ini dan masalah lainnya tanpa dipecat karena melakukan hal itu. Gerakan pemberontakan pekerja Google tetap aktif dan sangat terlibat.

Pada saat yang sama, penting untuk mengetahui seberapa besar dampak gerakan pekerja Google. Ini segera menjadi jelas setelah protes Google dimulai: departemen pemasaran Pentagon berhenti mengeluarkan siaran pers baru tentang Proyek Maven yang pernah menarik, akhirnya "menghilang" proyek sepenuhnya dari visibilitas publik yang sebelumnya dicari. Sebagai gantinya, inisiatif kecerdasan buatan baru dan jauh lebih besar mulai muncul dari Pentagon yang berbahaya Dewan Inovasi Pertahanan.

Ini disebut Proyek JEDI, nama baru untuk pengeluaran Pentagon untuk senjata mutakhir. Proyek JEDI akan menghabiskan lebih banyak uang daripada Proyek Maven, tetapi publisitas kilat untuk proyek baru (ya, militer AS menghabiskan banyak waktu dan perhatian pada publisitas dan pemasaran) sangat berbeda dari yang sebelumnya. Semua citra "Cermin Hitam" yang ramping dan seksi telah hilang. Sekarang, alih-alih menekankan kengerian dystopian yang menarik dan sinematis, drone yang ditenagai AI dapat menimpa manusia, Project JEDI menjelaskan sendiri sebagai langkah maju untuk efisiensi, menggabungkan berbagai basis data awan untuk membantu "pejuang perang" (istilah favorit Pentagon untuk personel garis depan) dan tim pendukung di kantor memaksimalkan efektivitas informasi. Di mana Project Maven dirancang agar terdengar menarik dan futuristik, Project JEDI dirancang agar terdengar masuk akal dan praktis.

Tidak ada yang masuk akal atau praktis tentang label harga untuk Proyek JEDI. Ini kontrak perangkat lunak militer terbesar dalam sejarah dunia: $ 10.5 miliar. Banyak mata kita berkaca-kaca ketika kita mendengar tentang skala pengeluaran militer, dan kita dapat mengabaikan perbedaan antara jutaan dan miliaran. Sangat penting untuk memahami seberapa besar Project JEDI daripada inisiatif perangkat lunak Pentagon sebelumnya. Ini adalah pengubah permainan, mesin penghasil kekayaan, cek kosong untuk mengambil untung dengan biaya pembayar pajak.

Ini membantu untuk mengorek di bawah permukaan siaran pers pemerintah ketika mencoba memahami cek kosong pengeluaran militer sebesar $ 10.5 miliar. Beberapa informasi dapat diperoleh dari publikasi militer sendiri, seperti mengganggu Wawancara bulan Agustus 2019 dengan Letnan Jenderal Jack Shanahan, Joint Artificial Intelligence Center, seorang tokoh kunci dalam Proyek Maven yang hilang dan Proyek JEDI yang baru. Saya bisa mendapatkan lebih banyak wawasan tentang bagaimana orang dalam industri pertahanan berpikir tentang Proyek JEDI dengan mendengarkan podcast industri pertahanan yang disebut “Proyek 38: Masa Depan Kontrak Pemerintah”. Tamu podcast sering berbicara terus terang dan tanpa malu-malu tentang topik apa pun yang mereka diskusikan. “Banyak orang akan membeli kolam renang baru tahun ini” adalah ciri khas obrolan orang dalam podcast ini tentang Proyek JEDI. Kami yakin mereka akan melakukannya.

Inilah hal luar biasa yang terkait kembali dengan prinsip AI Google. Tiga pelopor yang jelas untuk kontrak besar JEDI senilai $ 10.5 miliar adalah Google, Amazon dan Microsoft - dalam urutan itu, berdasarkan reputasi mereka sebagai inovator AI. Karena para pekerja memprotes Project Maven pada tahun 2018, pemimpin AI Google tidak mempertimbangkan Project JEDI yang jauh lebih besar pada tahun 2019. Di akhir tahun 2019, diumumkan bahwa kontraknya diberikan kepada Microsoft. Kesibukan liputan berita mengikuti, tetapi liputan ini berfokus terutama pada persaingan antara Amazon dan Microsoft, dan pada fakta bahwa tempat ke-3 Microsoft mungkin diizinkan untuk mengalahkan tempat ke-2 Amazon untuk menang karena pertempuran yang sedang berlangsung antara pemerintahan Trump dengan Washington Post, yang dimiliki oleh Jeff Bezos dari Amazon. Amazon sekarang akan ke pengadilan untuk memperebutkan hadiah Pentagon $ 10.5 miliar kepada Microsoft, dan Oracle juga menggugat. Komentar khusus dari podcast Project 38 yang disebutkan di atas - “Banyak orang akan membeli kolam renang baru tahun ini” - tidak hanya mengacu pada keuntungan finansial Microsoft tetapi juga kepada semua pengacara yang akan berpartisipasi dalam tuntutan hukum ini. Kita mungkin dapat membuat dugaan yang cerdas bahwa lebih dari 3% dari $ 10.5 miliar Proyek JEDI akan diberikan kepada pengacara. Sayang sekali kami tidak dapat menggunakannya untuk membantu mengakhiri kelaparan dunia sebagai gantinya.

Perselisihan tentang apakah transfer uang pembayar pajak ke kontraktor militer ini akan menguntungkan Microsoft, Amazon atau Oracle telah mendominasi liputan berita Proyek JEDI. Satu pesan positif yang bisa dipetik dari korupsi tidak senonoh ini - fakta bahwa Google telah menjauh dari kontrak perangkat lunak militer terbesar dalam sejarah dunia karena protes para pekerja - hampir tidak ada dalam liputan berita Proyek JEDI. 

Inilah sebabnya mengapa penting untuk menceritakan kisah ini kepada para aktivis yang berfokus pada teknologi yang berkumpul di ruang ramai di tengah kota Manhattan minggu lalu untuk berbicara tentang bagaimana kita dapat menyelamatkan planet kita, bagaimana kita dapat memerangi disinformasi dan politisasi ilmu iklim, bagaimana kita bisa menghadapi kekuatan besar dari pencatut bahan bakar fosil dan pencatut senjata. Di ruangan kecil ini, kita semua sepertinya memahami dimensi masalah yang kita hadapi, dan peran penting yang kita sendiri harus mulai mainkan. Komunitas teknologi memiliki kekuatan yang signifikan. Sama seperti kampanye divestasi dapat membuat perbedaan nyata, pemberontakan pekerja teknologi dapat membuat perbedaan nyata. Ada banyak cara aktivis perubahan iklim, aktivis pemberontakan pekerja teknologi dan aktivis anti-perang dapat mulai bekerja sama, dan kami akan melakukannya dengan segala cara yang kami bisa.

Kami memiliki awal yang penuh harapan dengan pertemuan ini, yang diprakarsai oleh Pemberontakan Kepunahan NYC dan Dunia Tidak Bisa Menunggu. Gerakan ini akan tumbuh - harus tumbuh. Penyalahgunaan bahan bakar fosil menjadi fokus pengunjuk rasa perubahan iklim. Penyalahgunaan bahan bakar fosil juga merupakan motif keuntungan utama imperialisme AS dan akibat buruk utama dari kegiatan boros militer AS yang membengkak. Memang, militer AS tampaknya satu-satunya pencemar terburuk di dunia. Dapatkah pekerja teknologi menggunakan kekuatan pengorganisasian kami untuk kemenangan bahkan lebih berdampak daripada penarikan Google dari Project JEDI? Kita bisa dan harus. Pertemuan New York City minggu lalu hanyalah langkah kecil ke depan. Kita harus berbuat lebih banyak, dan kita harus memberikan gerakan protes gabungan kita semua yang kita punya.

Marc Eliot Stein adalah direktur teknologi dan media sosial untuk World BEYOND War.

Foto oleh Gregory Schwedock.