Oleh Marc Eliot Stein, 10 Februari 2020

Baru-baru ini saya dijemput untuk bercakap di perhimpunan Pemberontakan Kemusnahan di New York City bagi pihak World BEYOND War. Acara ini direka untuk menyatukan tiga kumpulan tindakan: aktivis perubahan iklim, kolektif pekerja teknologi, dan aktivis antiwar. Kami bermula dengan akaun peribadi yang kacau dari aktivis perubahan iklim Ha Vu, yang memberitahu orang ramai tentang New York tentang pengalaman yang membimbangkan yang ada di antara kita: pulang ke rumah keluarganya di Hanoi, Vietnam, di mana peningkatan haba telah menjadikannya hampir mustahil untuk berjalan di luar semasa jam cahaya matahari puncak. Sedikit orang Amerika juga tahu tentang Bencana pencemaran air 2016 di Ha Tinh di tengah Vietnam. Kami sering bercakap mengenai perubahan iklim sebagai satu masalah yang berpotensi di Amerika Syarikat, Ha menegaskan, tetapi di Vietnam dia dapat melihatnya telah mengganggu kehidupan dan mata pencaharian, dan dengan cepat semakin memburuk.

Nick Mottern dari KnowDrones.org bercakap dengan mendesak yang serupa mengenai pelaburan besar-besaran tentera AS baru-baru ini dalam kecerdasan buatan futuristik dan pengkomputeran awan - dan menekankan kesimpulan pihak tentera sendiri bahawa penyebaran sistem AI dalam pengurusan senjata nuklear dan perang drone pasti akan menyebabkan kesalahan besarnya yang tidak dapat diramalkan. William Beckler dari Extinction Rebellion NYC diikuti dengan menerangkan prinsip-prinsip organisasi yang penting dan berkembang pesat ini untuk dilaksanakan, termasuk tindakan mengganggu yang dirancang untuk meningkatkan kesedaran mengenai pentingnya perubahan iklim. Kami mendengar dari wakil New York City Pakatan Pekerja Teknikal, dan saya cuba memikat perhimpunan itu ke arah pemberian kuasa praktikal dengan bercakap tentang tindakan pemberontakan pekerja teknologi yang tidak disangka-sangka.

Ini adalah pada April 2018, apabila "industri pertahanan" yang dipanggil "Project Maven", sebuah inisiatif ketenteraan baru yang dipublikasikan untuk membangunkan keupayaan kecerdasan buatan untuk pesawat-pesawat dan sistem senjata lain. Google, Amazon dan Microsoft menawarkan semua platform kecerdasan buatan luar untuk pelanggan yang membayar, dan Google dilihat sebagai pemenang kontrak ketenteraan Project Maven.

Pada awal tahun 2018, pekerja Google mula bersuara. Mereka tidak faham mengapa syarikat yang telah merekrut mereka sebagai pekerja dengan ikrar "Do not Be Evil" kini membida projek-projek ketenteraan yang mungkin menyerupai episod hitam "Mirror Hitam" di mana anjing mekanik berkuasa AI mengerutkan manusia makhluk mati. Mereka bercakap di media sosial dan di kedai berita tradisional. Mereka menganjurkan aksi dan petisyen yang diedarkan dan membuat mereka mendengar.

Pemberontakan pekerja ini adalah permulaan pergerakan Pemberontakan Pekerja Google, dan membantu membina kolektif pekerja teknologi lain. Tetapi perkara yang paling mengagumkan tentang protes Google dalaman terhadap Project Maven bukanlah bahawa pekerja teknologi bercakap. Perkara yang paling mengagumkan ialah Pengurusan Google memberi tuntutan pekerja.

Dua tahun kemudian, fakta ini masih menghalang saya. Saya telah melihat banyak masalah etika dalam dekad saya sebagai pekerja teknologi, tetapi saya jarang melihat sebuah syarikat besar yang secara mutlak bersetuju untuk menangani masalah etika secara bermakna. Hasil pemberontakan Google terhadap Project Maven adalah penerbitan seperangkat prinsip AI yang layak dicetak semula di sini secara penuh:

Kecerdasan Buatan di Google: Prinsip Kami

Google berhasrat untuk mewujudkan teknologi yang menyelesaikan masalah penting dan membantu orang dalam kehidupan seharian mereka. Kami optimis mengenai potensi yang luar biasa untuk AI dan teknologi canggih lain untuk memberi kuasa kepada orang ramai, secara meluas memanfaatkan generasi semasa dan akan datang, dan bekerja untuk kebaikan bersama.

Objektif untuk aplikasi AI

Kami akan menilai aplikasi AI memandangkan objektif berikut. Kami percaya bahawa AI harus:

1. Berfaedah secara sosial.

Jangkauan diperluas teknologi baru semakin menyentuh masyarakat secara keseluruhan. Kemajuan dalam AI akan mempunyai kesan transformatif dalam pelbagai bidang, termasuk penjagaan kesihatan, keselamatan, tenaga, pengangkutan, pembuatan, dan hiburan. Memandangkan kami menganggap potensi pembangunan dan penggunaan teknologi AI, kami akan mengambil kira pelbagai faktor sosial dan ekonomi, dan akan meneruskan di mana kami percaya bahawa manfaat keseluruhannya secara besar-besaran melebihi risiko dan kerugian yang dapat dijangkakan.

AI juga meningkatkan keupayaan kita untuk memahami makna kandungan pada skala. Kami akan berusaha untuk membuat maklumat yang berkualiti tinggi dan tepat dengan mudah menggunakan AI, sambil terus menghormati norma budaya, sosial dan undang-undang di negara-negara di mana kami beroperasi. Dan kami akan terus menilai dengan berhati-hati apabila membuat teknologi kami tersedia secara bukan komersial.

2. Elakkan membuat atau menguatkan berat sebelah tidak adil.

Algoritma dan data AI dapat mencerminkan, memperkuat, atau mengurangkan bias yang tidak adil. Kami menyedari bahawa adil membezakan dari kecenderungan tidak adil tidak selalu mudah, dan berbeza di seluruh budaya dan masyarakat. Kami akan berusaha untuk mengelakkan kesan yang tidak adil terhadap orang, terutamanya yang berkaitan dengan ciri-ciri sensitif seperti bangsa, etnik, jantina, kebangsaan, pendapatan, orientasi seksual, keupayaan, dan kepercayaan politik atau agama.

3. Dibina dan diuji untuk keselamatan.

Kami akan terus membangun dan menggunakan amalan keselamatan dan keselamatan yang kukuh untuk mengelakkan keputusan yang tidak diingini yang mencipta risiko bahaya. Kami akan merekabentuk sistem AI kami untuk berhati-hati, dan berusaha membangunkannya mengikut amalan terbaik dalam penyelidikan keselamatan AI. Dalam kes yang sesuai, kami akan menguji teknologi AI dalam persekitaran yang terkawal dan memantau operasi mereka selepas penggunaan.

4. Bertanggungjawab kepada orang ramai.

Kami akan merancang sistem AI yang menyediakan peluang yang sesuai untuk maklum balas, penjelasan yang relevan, dan rayuan. Teknologi AI kami akan tertakluk kepada arahan dan kawalan manusia yang sesuai.

5. Menggabungkan prinsip-prinsip reka bentuk privasi.

Kami akan menggabungkan prinsip privasi kami dalam pembangunan dan penggunaan teknologi AI kami. Kami akan memberi peluang untuk notis dan persetujuan, menggalakkan seni bina dengan perlindungan privasi, dan memberikan ketelusan dan kawalan yang sesuai ke atas penggunaan data.

6. Mengekalkan standard kecemerlangan saintifik yang tinggi.

Inovasi teknologi berasaskan kaedah saintifik dan komitmen untuk membuka pertanyaan, ketelitian intelektual, integriti, dan kerjasama. Alat AI mempunyai potensi untuk membuka kunci alam baru penyelidikan saintifik dan pengetahuan dalam bidang kritikal seperti biologi, kimia, perubatan, dan sains alam sekitar. Kami berhasrat untuk mencapai kecemerlangan saintifik yang tinggi kerana kami berusaha untuk membangunkan pembangunan AI.

Kami akan bekerjasama dengan pelbagai pihak berkepentingan untuk mempromosikan kepimpinan yang bijak dalam bidang ini, melancarkan pendekatan saintifik dan pelbagai disiplin saintifik. Dan kami secara bertanggungjawab akan berkongsi pengetahuan AI dengan menerbitkan bahan-bahan pendidikan, amalan terbaik, dan penyelidikan yang membolehkan lebih ramai orang membangunkan aplikasi AI yang berguna.

7. Dibuat untuk kegunaan yang sesuai dengan prinsip ini.

Banyak teknologi mempunyai pelbagai kegunaan. Kami akan berusaha untuk mengehadkan aplikasi yang berpotensi berbahaya atau kesat. Semasa kami membangun dan menggunakan teknologi AI, kami akan menilai penggunaan yang mungkin berdasarkan faktor berikut:

• Tujuan utama dan penggunaan: tujuan utama dan kemungkinan menggunakan teknologi dan aplikasi, termasuk bagaimana penyelesaiannya berkaitan dengan atau dapat disesuaikan dengan penggunaan yang berbahaya
• Alam dan keunikan: sama ada kami membuat teknologi yang tersedia yang unik atau lebih umum
• Skala: sama ada penggunaan teknologi ini akan memberi kesan yang ketara
• Sifat penglibatan Google: sama ada kami menyediakan alat tujuan umum, mengintegrasikan alat untuk pelanggan, atau membangunkan penyelesaian tersuai

Permohonan AI kami tidak akan meneruskan

Sebagai tambahan kepada objektif di atas, kami tidak akan merekabentuk atau menggunakan AI dalam bidang permohonan berikut:

1. Teknologi yang menyebabkan atau mungkin menyebabkan kemudaratan secara keseluruhan. Di mana terdapat risiko bahaya yang material, kami akan meneruskan hanya di mana kami percaya bahawa faedah yang melampaui risiko, dan akan menggabungkan kekangan keselamatan yang sesuai.
2. Senjata atau teknologi lain yang tujuan utamanya atau pelaksanaannya menyebabkan atau langsung memudahkan kecederaan kepada orang.
3. Teknologi yang mengumpulkan atau menggunakan maklumat untuk pengawasan yang melanggar norma-norma yang diterima di peringkat antarabangsa.
4. Teknologi yang tujuannya melanggar prinsip undang-undang antarabangsa dan hak asasi manusia yang diterima secara meluas.

Oleh kerana pengalaman kami dalam ruang ini semakin mendalam, senarai ini mungkin berubah.

Kesimpulan

Kami percaya prinsip-prinsip ini adalah asas yang tepat untuk syarikat kami dan pembangunan masa depan AI. Kami mengakui bahawa kawasan ini dinamik dan berkembang, dan kami akan mendekati kerja kami dengan kerendahan hati, komitmen untuk penglibatan dalaman dan luaran, dan kesediaan untuk menyesuaikan pendekatan kami ketika kami belajar dari masa ke masa.

Hasil positif ini tidak membebaskan Google teknologi raksasa dari kesulitan dalam pelbagai aspek utama, seperti menyokong ICE, polis dan aktiviti ketenteraan lain, menggabungkan dan menjual akses kepada data peribadi mengenai individu, menyembunyikan kenyataan politik yang kontroversial dari hasil enjin carian dan, yang paling penting, membenarkan pekerjanya untuk terus bercakap tentang isu-isu ini dan lain-lain tanpa dipecat untuk melakukannya. Gerakan pemberontakan pekerja Google tetap aktif dan sangat terlibat.

Pada masa yang sama, penting untuk mengenal pasti betapa berkesan pergerakan pekerja Google. Ini menjadi jelas sejurus selepas protes Google bermula: jabatan pemasaran Pentagon berhenti mengeluarkan siaran akhbar baru mengenai Projek Maven yang sekali-kali menarik, akhirnya "menghilangkan" projek itu sepenuhnya dari penglihatan awam yang telah dicari sebelumnya. Sebaliknya, inisiatif kecerdasan buatan yang baru dan lebih besar mula muncul dari insiden Pentagon Lembaga Inovasi Pertahanan.

Ini dipanggil Projek JEDI, nama baru untuk perbelanjaan Pentagon pada senjata canggih. Projek JEDI akan menghabiskan lebih banyak wang daripada Project Maven, tetapi publisiti untuk projek baru (ya, tentera AS membelanjakan banyak masa dan perhatian terhadap publisiti dan pemasaran) sangat berbeza dari sebelumnya. Semua imej "Cermin Hitam" anggun dan seksi telah hilang. Sekarang, bukannya menekankan kecemasan dystopian yang menarik dan sinematik AI yang berkuasa drone boleh dikenakan ke atas manusia, Projek JEDI menerangkan dirinya sebagai langkah maju ke hadapan untuk kecekapan, menggabungkan pelbagai pangkalan data awan untuk membantu "para warfighters" (istilah kegemaran Pentagon untuk pasukan barisan hadapan) dan pasukan sokongan pejabat sokongan memaksimumkan keberkesanan maklumat. Di mana Project Maven direka bentuk untuk menarik perhatian dan futuristik, Projek JEDI direka untuk bunyi yang munasabah dan praktikal.

Tiada apa yang munasabah atau praktikal mengenai tag harga untuk Projek JEDI. Ia merupakan kontrak perisian tentera terbesar dalam sejarah dunia: $ 10.5 bilion. Banyak matanya memancar ketika kita mendengar tentang skala perbelanjaan ketenteraan, dan kita boleh melangkaui perbezaan antara berjuta-juta dan berbilion-bilion. Ia penting untuk memahami berapa banyak Projek JEDI yang lebih besar daripada sebarang inisiatif perisian Pentagon sebelumnya. Ia adalah penukar permainan, enjin penjanaan kekayaan, cek kosong untuk membuat keuntungan pada perbelanjaan pembayar cukai.

Ini membantu mencoret di bawah permukaan siaran media pemerintah ketika berusaha memahami cek kosong perbelanjaan tentera sebesar $ 10.5 bilion. Beberapa maklumat dapat diperoleh dari penerbitan tentera sendiri, seperti mengganggu Wawancara Ogos 2019 dengan Pusat Kecerdasan Buatan Bersama Letnan Jeneral Jack Shanahan, tokoh utama dalam kedua-dua Projek Maven yang hilang dan Projek JEDI yang baru. Saya dapat mendapatkan lebih banyak pandangan tentang bagaimana orang dalam industri pertahanan berfikir tentang Projek JEDI dengan mendengar podcast industri pertahanan yang dipanggil "Projek 38: Masa Depan Kerajaan Berjanji". Tetamu podcast sering bercakap dengan jujur ​​dan tidak malu-malu mengenai topik apa pun yang mereka bincangkan. "Banyak orang akan membeli kolam renang baru tahun ini" khas dari perbincangan orang dalam podcast ini mengenai Project JEDI. Kami pasti mereka akan.

Inilah perkara luar biasa yang mengaitkan prinsip AI Google. Tiga pelopor yang jelas untuk kontrak JEDI berjumlah $ 10.5 adalah Google, Amazon dan Microsoft - mengikut urutan itu, berdasarkan reputasi mereka sebagai inovator AI. Kerana pekerja memprotes Project Maven pada tahun 2018, pemimpin AI Google tidak mempertimbangkan Projek JEDI yang jauh lebih besar pada tahun 2019. Pada akhir tahun 2019, diumumkan bahawa kontrak tersebut diserahkan kepada Microsoft. Pelbagai liputan berita diikuti, tetapi liputan ini tertumpu terutamanya pada persaingan antara Amazon dan Microsoft, dan pada hakikat bahawa tempat ke-3 Microsoft mungkin diizinkan untuk mengalahkan Amazon di tempat ke-2 kerana menang kerana pertempuran berterusan oleh pemerintahan Trump dengan Washington Post, yang dimiliki oleh Jeff Bezos milik Amazon. Amazon kini pergi ke pengadilan untuk melawan hadiah Pentagon $ 10.5 bilion kepada Microsoft, dan Oracle juga menuntut. Ucapan khusus dari podcast Project 38 yang disebutkan di atas - "Banyak orang akan membeli kolam renang baru tahun ini" - tidak hanya merujuk kepada keuntungan kewangan Microsoft tetapi juga kepada semua pengacara yang akan mengambil bahagian dalam tuntutan ini. Kita mungkin dapat membuat tekaan yang berpendidikan bahawa lebih dari 3% daripada $ 10.5 bilion Projek JEDI akan diserahkan kepada peguam. Sayang sekali kita tidak dapat menggunakannya untuk membantu kelaparan dunia akhir sebaliknya.

Pertikaian mengenai apakah pemindahan wang pembayar cukai ini kepada kontraktor ketenteraan seharusnya memberi manfaat kepada Microsoft, Amazon atau Oracle telah mendominasi liputan berita Project JEDI. Satu pesan positif yang dapat diambil dari cengkaman cabul ini - hakikat bahawa Google telah menjauhkan diri dari kontrak perisian ketenteraan terbesar dalam sejarah dunia kerana protes pekerja - hampir tidak ada dalam liputan berita Projek JEDI. 

Inilah sebabnya mengapa penting menceritakan kisah ini kepada para aktivis berteknologi yang berkumpul di sebuah bilik yang penuh sesak di tengah-tengah bandar Manhattan minggu lepas untuk membincangkan bagaimana kita boleh menyelamatkan planet kita, bagaimana kita dapat memerangi disinformasi dan pempolitik ilmu sains iklim, bagaimana kita dapat bertahan dengan kuasa besar para pengkaji bahan bakar fosil dan pengamal senjata. Di dalam bilik kecil ini, kita semua seolah-olah memahami dimensi masalah yang kita hadapi, dan peranan kritikal kita sendiri mesti mula bermain. Masyarakat teknologi mempunyai kuasa yang besar. Sama seperti kempen divestasi boleh membuat perbezaan yang nyata, pemberontakan pekerja teknologi boleh membuat perbezaan yang nyata. Terdapat banyak cara aktivis perubahan iklim, aktivis pemberontakan pekerja teknologi dan aktivis antiwar boleh mula bekerjasama, dan kami akan melakukannya dengan segala cara yang kami dapat.

Kami mempunyai permulaan yang penuh harapan dengan perhimpunan ini, dengan membantu dimulakan oleh Pemberhentian Kepupusan NYC and Dunia tidak boleh tunggu. Pergerakan ini akan berkembang - ia mesti berkembang. Penyalahgunaan bahan bakar fosil menjadi tumpuan para penunjuk perasaan perubahan iklim. Penyalahgunaan bahan bakar fosil juga merupakan motif keuntungan utama imperialisme AS dan merupakan akibat utama dari kegiatan sia-sia tentera AS yang membengkak. Memang tentera AS nampaknya pencemar tunggal paling teruk di dunia. Bolehkah pekerja teknologi menggunakan kuasa penganjur kami untuk kemenangan yang lebih berkesan daripada pengeluaran Google dari Projek JEDI? Kita boleh dan kita mesti. Mesyuarat New York City minggu lepas hanyalah satu langkah kecil ke hadapan. Kita mesti berbuat lebih banyak, dan kita mesti memberi gerakan protes gabungan kami semua yang kita ada.

Marc Eliot Stein adalah pengarah teknologi dan media sosial untuk World BEYOND War.

Foto oleh Gregory Schwedock.