Dening Marc Eliot Stein, 10 Februari 2020

Aku bubar diundang kanggo ngomong ing kumpul Pemberontakan Extinction ing New York City World BEYOND War. Acara kasebut dirancang kanggo nggabungake klompok telung tumindak: aktivis pangowahan iklim, kolektif para pekerja teknologi, lan aktivis antiwar. Kita miwiti kanthi akun pribadi saka aktivis pangowahan iklim Ha Vu, sing ngandhani akeh wong-wong New York babagan pengalaman sing nguwatirake sawetara wong sing durung nate: bali menyang omah keluargane ing Hanoi, Vietnam, ing endi tambah panas wis meh ora bisa mlaku ing njaba nalika jam srengenge pucuk. Sawetara wong Amerika uga ngerti babagan Bencana polusi banyu 2016 ing Ha Tinh ing Vietnam tengah. Kita asring ujar babagan perubahan iklim minangka masalah potensial ing AS, Ha negesake, nanging ing Vietnam dheweke bisa ndeleng manawa wis ngganggu urip lan rezeki, lan cepet tambah akeh.

Nick Mottern saka KnowDrones.org ngomong kanthi cepet babagan investasi militer militer AS anyar ing intelijen buatan futuristik lan komputasi awan - lan negesake kesimpulan militer dhewe manawa penyebaran sistem AI ing manajemen senjata nuklir lan perang drone mesthi nyebabake kesalahan gedhene sing ora bisa diprediksi. William Beckler saka Extelltion Rebellion NYC banjur diterangake nerangake prinsip ngatur organisasi sing penting lan cepet tuwuh iki, kalebu tumindak ngganggu sing dirancang kanggo ningkatake kesadaran babagan pentinge perubahan iklim. Kita krungu saka wakil New York City saka Koalisi Tata Kerja Praktek, lan aku nyoba ngupayakake kumpul kasebut menyang pangerten babagan kekuwatan praktis kanthi ngomong babagan tumindak pemberontakan pekerja teknologi sing ora dikarepke sukses.

Iki ing wulan April 2018, nalika disebut "industri pertahanan" mbengung babagan Project Maven, inisiatif militer AS sing paling umum kanggo ngembangake kapinteran intelijen kanggo drone lan sistem senjata liyane. Google, Amazon lan Microsoft kabeh menehi platform intelijen buatan omah kanggo mbayar pelanggan, lan Google katon minangka pemenang kontrak militer Project Maven.

Ing wiwitan taun 2018, buruh Google wiwit ngucapake. Dheweke ora ngerti sebabe perusahaan sing direkrut dheweke dadi karyawan kanthi janji "Aja Jahat" saiki wis tuku tawaran proyek militer sing meh meh padha karo episode "Black Mirror" ing endi asu mekanik AI-powered makhluk nganti mati. Dheweke ujar karo media sosial lan toko-toko tradisional. Dheweke ngatur tumindak lan medharke petisi lan nggawe dheweke krungu.

Pemberontakan para pekerja iki minangka genesis gerakan Pemberontakan Google, lan mbantu nggawe kolaborasi para pekerja teknologi liyane. Nanging sing paling nggumunake babagan protes Google internal marang Project Maven dudu para pekerja teknologi sing padha ngomong. Sing paling nggumunake yaiku Manajemen Google menehi asil panjaluk para pekerja.

Rong taun sabanjure, kasunyatan iki isih dadi saya ngalang-alangi. Aku wis ndeleng pirang-pirang masalah etika sajrone dekade saya dadi tenaga kerja teknologi, nanging aku wis jarang ndeleng perusahaan gedhe sing setuju sacara kategorine kanggo ngatasi masalah etika kanthi cara sing signifikan. Asil saka pemberontakan Google nglawan Project Maven yaiku publikasi saka set prinsip AI sing kudu dicithak maneh kanthi lengkap:

Intelligence Ponggawa ing Google: Prinsip Kita

Google kepengin nggawe teknologi sing ngrampungake masalah sing penting lan mbantu wong-wong ing saben dinane. Kita yakin babagan potensial sing luar biasa kanggo AI lan teknologi canggih liyane kanggo nguatake wong, akeh entuk manfaat kanggo generasi saiki lan mbesuk, lan ngupayakake kabecikan umum.

Tujuan kanggo aplikasi AI

Kita bakal ngevaluasi aplikasi AI kanthi objektif ing ngisor iki. Kita pracaya yen AI kudu:

1. Dadi mupangat sosial.

Pangembangan teknologi anyar sing saya suwe saya gedhe masyarakat. Maju ing AI bakal duwe pengaruh transformatif ing sawetara lapangan, kalebu kesehatan, keamanan, energi, transportasi, manufaktur, lan hiburan. Nalika kita nimbang pangembangan potensial lan panggunaan teknologi AI, kita bakal nimbang macem-macem faktor sosial lan ekonomi, lan bakal nerusake ngendi kita yakin manawa umume entuk bathi luwih akeh ngluwihi risiko lan downsides sing bisa diramal.

AI uga nambah kemampuan kanggo ngerti makna isi ing skala. Kita bakal nyoba nggawe informasi sing berkualitas tinggi lan akurat sing kasedhiya kanthi nggunakake AI, nalika tetep ngormati norma budaya, sosial, lan legal ing negara-negara sing diinstal. Lan kita bakal terus ngira-ngira nalika mriksa teknologi supaya ora komersial.

2. Aja nggawe utawa nguatake bias ora adil.

Algoritma lan data AI bisa nggambarake, nguatake, utawa nyuda bias ora adil. Kita ngerteni manawa mbedakake sing beda karo bias ora adil, lan ora beda karo budaya lan masyarakat. Kita bakal ngindhari pengaruh sing ora adil marang wong, utamane sing ana hubungane karo karakteristik sensitif kayata balapan, suku, jender, nasionalitas, penghasilan, orientasi seksual, kemampuan, lan kapercayan politik utawa agama.

3. Dibangun lan diuji kanggo safety.

Kita bakal terus berkembang lan ngetrapake praktik keamanan lan keamanan sing kuwat kanggo ngindhari asil sing ora disengaja sing nggawe risiko gawe piala. Kita bakal ngrancang sistem AI supaya luwih ati-ati, lan ngupayakake supaya padha sesuai karo praktik-praktik safety AI. Ing kasus sing cocog, kita bakal nguji teknologi AI ing lingkungan sing dibatesi lan ngawasi operasional sawise entuk penyebaran prajurit.

4. Tanggung jawab karo wong liya.

Kita bakal ngrancang sistem AI sing menehi kesempatan sing cocog kanggo saran, panjelasan sing relevan, lan banding. Teknologi AI bakal tundhuk arah lan kontrol manungsa sing cocog.

5. Gabungan prinsip desain privasi.

Kita bakal nggabungake prinsip privasi kita ing pangembangan lan nggunakake teknologi AI kita. Kita bakal menehi kesempatan kanggo kabar lan persetujuan, nyengkuyung arsitektur kanthi njaga privasi, lan nyedhiyakake transparansi lan kontrol sing cocog kanggo panggunaan data.

6. Ndhukung standar kaunggulan ilmiah sing dhuwur.

Inovasi teknologi bosok nganggo metode ilmiah lan prasetya kanggo mbukak priksaan, kaku intelektual, integritas, lan kolaborasi. Piranti AI duweni potensi kanggo mbukak kunci riset ilmiah anyar lan kawruh ing domain kritis kayata biologi, kimia, obat-obatan, lan ilmu pengetahuan lingkungan. Kita kepengin karo standar kecemerlangan ilmiah sing dhuwur nalika kita kerja kanggo memajukan pembangunan AI.

Kita bakal kerja bareng para pemangku kepentingan kanggo ningkatake kepemimpinan sing dipikirake ing wilayah kasebut, kanthi nggambarake pendekatan ilmiah lan multidisiplin. Lan kita bakal tanggung jawab nuduhake kawruh AI kanthi nerbitake bahan pendidikan, praktik paling apik, lan riset sing ndadekake luwih akeh wong bisa ngetrapake aplikasi AI sing migunani.

7. Disedhiyakake kanggo panggunaan sing cocog karo prinsip kasebut.

Akeh teknologi sing nggunakake macem-macem. Kita bakal makarya kanggo mbatesi aplikasi potensial utawa mbebayani. Nalika ngembangake lan nyebarake teknologi AI, kita bakal ngevaluasi kemungkinan panggunaan ing ngisor iki:

• Tujuan utama lan panggunaan: tujuan utama lan kemungkinan nggunakake teknologi lan aplikasi, kalebu raket solusi utawa sing cocog kanggo panggunaan sing mbebayani
• Alam lan keunikan: apa kita nggawe teknologi kasedhiya sing unik utawa luwih kasedhiya
• Ukuran: apa panggunaan teknologi iki bakal duwe pengaruh sing signifikan
• Sifat keterlibatan Google: apa kita nyedhiyakake alat kanthi tujuan umum, nggabungake alat kanggo pelanggan, utawa ngembangake solusi khusus

Aplikasi AI sing ora bakal ngoyak

Kajaba tujuan ndhuwur, kita ora bakal ngrancang utawa nyebar AI ing wilayah aplikasi ing ngisor iki:

1. Teknologi sing nyebabake utawa kamungkinan nyebabake karusakan. Yen ana risiko utama gawe piala, kita bakal nerusake mung yen keuntungan sing entuk manfaat luwih gedhe tinimbang risiko kasebut, lan bakal kalebu watesan keamanan sing cocog.
2. Senjata utawa teknologi liyane sing tujuan utami utawa implementasine yaiku nyebabake utawa langsung nggampangake cedera ing wong.
3. Teknologi sing ngumpulake utawa nggunakake informasi kanggo pengawasan nglanggar norma sing ditampa sacara internasional.
4. Teknologi sing tujuane nglanggar prinsip hukum internasional lan hak asasi manungsa.

Minangka pengalaman ing ruangan iki saya suwe saya gedhe, dhaptar iki bakal saya tambah.

kesimpulan

Kita yakin prinsip iki minangka dhasar sing cocog kanggo perusahaan lan pangembangan AI ing mangsa ngarep. Kita ngakoni manawa wilayah iki dinamis lan berkembang, lan kita bakal nyedhak pakaryan kanthi andhap asor, komitmen kanggo keterlibatan internal lan eksternal, lan kekarepan kanggo ngganti pendekatan nalika sinau sajrone wektu.

Asil positif iki ora ngilangi Google buta teknologi saka kompliti ing macem-macem wilayah liyane, kayata ndhukung ICE, polisi lan kegiatan militer liyane, nglumpukake lan adol akses menyang data pribadi babagan individu, ndhelikake pernyataan politik kontroversial saka asil mesin telusuran lan sing paling penting, supaya para karyawan terus nyritakake babagan iki lan masalah liyane tanpa dipecat kanggo nindakake. Gerakan pemberontakan Google tetep aktif lan aktif banget.

Ing wektu sing padha, penting kanggo ngerteni betapa signifikan babagan gerakan para pekerja Google. Iki dadi nyata sawise protes Google wiwit: departemen pemasaran Pentagon mandheg nerbitake siaran pers anyar babagan Project Maven sing nate nyenengake, pungkasane "ngilangi" proyek kasebut saka visibilitas publik sing sadurunge diteliti. Nanging, inisiatif intelijen intelijen sing anyar lan luwih gedhe wiwit metu saka insidious Pentagon Dewan Inovasi Pertahanan.

Iki diarani Proyek JEDI, jeneng anyar kanggo Pentagon mbuwang senjatan nglereni. Proyek JEDI bakal mbuwang dhuwit luwih akeh tinimbang Project Maven, nanging blitz publisitas kanggo proyek anyar kasebut (ya, militer AS mbuwang akèh wektu lan perhatian ing publisitas lan pemasaran) beda banget karo sing sadurunge. Kabeh bayangan "Black Mirror" sing apik lan seksi. Saiki, tinimbang nekanake drone dystopian medeni sing nggegirisi lan sinematik bisa nggegirisi manungsa, Proyek JEDI nerangake dhewe minangka langkah sing sabar kanggo efisiensi, nggabungake macem-macem database awan supaya bisa mbantu "pejuang" (istilah favorit Pentagon kanggo personel baris ngarep) lan tim dhukungan ing mburi nggedhekake efektifitas informasi. Ing endi Project Maven dirancang kanggo nyuworo apik lan futuristik, Proyek JEDI dirancang supaya bisa nyoto lan praktis.

Ora ana sing bisa dingerteni utawa praktis babagan label rega kanggo Proyek JEDI. Iku kontrak piranti lunak militer paling gedhe ing sejarah donya: $ 10.5 milyar. Akeh saka mripat kita cemlorot nalika krungu babagan timbangan mbuwang militer, lan kita bisa ngliwati beda antarane jutaan lan miliar. Penting kanggo ngerti sepira proyek JEDI luwih gedhe tinimbang inisiatif piranti lunak Pentagon sadurunge. Iku pangatur game, mesin ngasilake kasugihan, mriksa kosong kanggo profesi kanthi biaya mbayar pajek.

Iki mbantu nggoreng ing ngisor rilis pers pemerintah nalika nyoba ngerteni cek kosong belanja militer sing regane $ 10.5 milyar. Sawetara informasi bisa ditemokake saka terbitan militer dhewe, kaya sing ngganggu Wawancara Agustus 2019 karo Joint Leutik Centre Intelligence Center Leftenan Jeneral Jack Shanahan, tokoh utama ing Proyèk Maven sing ilang lan Proyek JEDI sing anyar. Aku bisa entuk luwih akeh kepiye babagan insiden industri pertahanan mikir babagan Proyek JEDI kanthi ngrungokake podcast industri pertahanan disebut "Proyek 38: Masa Depan Kontrak Pamrentah". Tamu Podcast asring ngomong kanthi jujur ​​lan ora gampang babagan topik apa wae sing lagi dirembug. "Akeh wong sing bakal tuku kolam renang anyar ing taun iki" minangka khas obrolan wong njero podcast iki babagan Project JEDI. Kita yakin dheweke bakal.

Mangkene bab sing luar biasa sing ana gandhengane karo prinsip AI Google. Telung pelopor sing jelas kanggo kontrak JEDI $ 10.5 milyar yaiku Google, Amazon lan Microsoft - kanthi urutan kasebut, adhedhasar reputasine minangka inovator AI. Amarga demonstrasi para pekerja nglawan Project Maven ing 2018, pimpinan AI Google ora nganggep Proyek JEDI sing luwih gedhe ing taun 2019. Ing pungkasan taun 2019, diumumake manawa kontrak kasebut dituju menyang Microsoft. Liputan warta sing rame, nanging liputan iki utamane fokus ing persaingan antarane Amazon lan Microsoft, lan kasunyatan manawa papan nomer 3 Microsoft bisa uga menang ngalahake Amazon ing posisi kaping pindho kanggo menang amarga ana pertempuran administrasi Trump karo Washington Post, sing diduweni dening Amazon Jeff Bezos. Amazon saiki bakal diadili kanggo nglawan hadiah Pentagon kanggo $ 2 milyar kanggo Microsoft, lan Oracle uga nuntut. Komentar khusus saka podcast Project 10.5 sing kasebut ing ndhuwur - "Akeh wong sing bakal tuku kolam renang anyar ing taun iki" - ora mung nuduhake anane finansial Microsoft, nanging uga kabeh pengacara sing bakal melu tuntutan ukum kasebut. Kita bisa uga bisa ngira-ngira yen luwih saka 38% $ 3 milyar saka Proyek JEDI bakal dituju pengacara. Ala banget kita ora bisa nggunakake keluwen donya kanggo ngganti.

Perselisihan babagan apa transfer dhuwit wajib pajak iki menyang kontraktor militer kudu nguntungake Microsoft, Amazon utawa Oracle wis nguwasani liputan berita Proyek JEDI. Pesen positif sing bisa ditemokake saka grejengan saru iki - kasunyatan manawa Google mundur saka kontrak piranti lunak militer paling gedhe ing sejarah donya amarga demonstrasi para pekerja - meh ora ana liputan warta babagan Proyek JEDI. 

Iki sebabe penting kanggo nyritakake crita iki marang para aktivis sing fokus ing teknologi sing diklumpukake ing ruangan sing rame ing midtown Manhattan minggu kepungkur kanggo mbahas babagan carane bisa nylametake planet kita, kepiye cara bisa nglawan disinformasi lan politik babagan ilmu iklim. kepiye kita bisa ngrebut kekuwatan para ahli propesi bahan bakar fosil lan profiteers senjata. Ing ruangan cilik iki, kita kabeh bisa ngerteni dimensi saka masalah sing kita hadapi, lan peran kritis sing kudu kita lakoni wiwit diwiwiti. Komunitas teknologi duwe kekuwatan sing signifikan. Kaya manawa kampanye pelecehan bisa beda banget, panemune para pekerja teknologi bisa bedane. Ana akeh cara aktivis pangowahan iklim, aktivis pemberontakan pekerja teknologi lan aktivis antiwar bisa miwiti kerja sama, lan kita bakal nindakake kanthi cara apa wae.

Kita bakal duwe pengarep-arep karo kumpul iki, kanthi diwiwiti kanthi Pengkhasiat Pupuk NYC lan Donya Ora Bisa Ngenteni. Gerakan iki bakal tuwuh - kudu tuwuh. Penyalahgunaan bahan bakar fosil minangka fokus para pemrotes perubahan iklim. Penyalahgunaan bahan bakar fosil uga dadi motif bathi utama saka imperialisme AS lan asil utama sing elek banget saka kegiatan boros militer AS. Tentara militer AS katon polusi paling ala ing jagad iki. Apa buruh teknologi bisa nggunakake kekuwatan ngatur supaya kemenangan luwih migunani tinimbang mundur saka Google JEDI? Kita bisa lan kita kudu. Minggu kepungkur rapat New York City mung langkah cilik. Kita kudu luwih akeh, lan kita kudu menehi gerakan protes gabungan kanggo kabeh.

Marc Eliot Stein minangka direktur teknologi lan media sosial kanggo World BEYOND War.

Foto dening Gregory Schwedock.