Ku Marc Eliot Stein, 10 Pebruari 2020

Kuring nembe diulem nyarios dina pertemuan Pemberontakan Extinction di New York City atas nama World BEYOND War. Acara ieu dirarancang pikeun ngahijikeun tilu kelompok tindakan: aktivis parobahan iklim, koléktor tukang téknologi, sareng aktivis antiwar. Urang mimitian ku akun pribadi anu ngaganggu tina aktivis parobahan iklim Ha Vu, anu nyarios ka riungan di New Yorkers ngeunaan pangalaman anu pikasieuneun sababaraha urang anu pernah ngalaman: uih deui ka bumi kulawargana di Hanoi, Vietnam, dimana naek panas parantos ngajantenkeun ampir teu mungkin pikeun leumpang diluar salami jam cahya panonpoé. Sababaraha jalma Amerika ogé terang ngeunaan 2016 bencana polusi cai di Ha Tinh di Vietnam tengah. Urang sering nyarios ngeunaan perubahan iklim salaku masalah poténsial di AS, Ha nekenkeun, tapi di Vietnam anjeunna tiasa ningali éta parantos ngarusak kahirupan sareng mata pencarian, sareng gancang-gancang parah.

Nick Mottern tina KnowDrones.org nyarios sareng urgénsi anu sami ngeunaan investasi militér anyar Amérika Serikat dina kecerdasan jieunan futuristik sareng komputasi awan - sareng nekenkeun kasimpulan militér nyalira yén panyebaran sistem AI dina manajemen senjata nuklir sareng perang drone pasti bakal ngakibatkeun kasalahan gedéna anu teu bisa diprediksi. William Beckler ti Pambrontakan Pambrontakan NYC dituturkeun ku ngajelaskeun prinsip pangorganisasian organisasi anu penting sareng gancang ieu nuju aya tindakan, kalebet tindakan ngaganggu anu dirancang pikeun ningkatkeun kasadaran pentingna kritis parobihan iklim. Kami ngadangu ti wawakil New York City ti Tech Gagah Koalisi, sareng kuring ngusahakeun pangumpulan pertemuan nuju rasa kakuwasaan praktis ku nyarioskeun perkawis pemberontakan pekerja téknologi anu teu disangka-sangka suksés.

Ieu di April 2018, nalika anu disebut "industri pertahanan" ngahias ngeunaan Project Maven, mangrupikeun inisiatif militer anyar Amérika anu sanés ngamekarkeun kapinteran intelijen pikeun drones sareng sistem pakarang sanés. Google, Amazon sareng Microsoft sadayana nawiskeun platform intelijen jieunan off-the-rak pikeun mayar para nasabah, sareng Google katingali janten juara Kontrak militér Project Maven.

Dina mimiti 2018, pagawé Google mimiti nyarios. Aranjeunna henteu ngartos naha perusahaan anu parantos ngarékrut aranjeunna janten karyawan sareng cagar “Aja Jahat” ayeuna nawar dina proyék militer sigana mirip episode pikasieuneun “Hideung Eunteung” dimana anjing mékanis anu didamel AI digabungkeun manusa makhluk anu maot. Aranjeunna nyarios dina média sosial sareng ka toko-toko tradisional. Aranjeunna ngayakeun lampah sareng panyebaran petisi sareng nyalira ngadangu.

Pemberontakan pagawe ieu mangrupikeun gerak gerakan pemberontakan Google Workers, sareng éta ngabantosan pikeun ngokolakeun koléktor pekerja téknologi séjén. Tapi hal anu paling pikasieuneun ngeunaan protés Google internal ngalawan Project Maven sanés yén para pekerja téknologi anu nyarios. Hal anu paling pikasieuneun nyaéta Manajemén Google hasil tina tungtutan pagawe.

Dua taun ti harita, kanyataan ieu masih ngaraosan kuring. Kuring parantos ningali seueur masalah étika dina dasawarsa kuring salaku tukang téknologi, tapi kuring jarang ningali perusahaan anu ageung satuju sacara teknis pikeun ngabéréskeun masalah étis ku cara anu signifikan. Hasil tina pemberontakan Google ngalawan Project Maven mangrupikeun publikasi tina susunan prinsip AI anu pantes dicét deui sadayana.

Intelijen jieunan di Google: Prinsip-prinsip kami

Google ngaharepkeun nyiptakeun téknologi anu ngajawab masalah penting sareng ngabantosan jalma dina kahirupan sapopoé. Kami optimis ngeunaan poténsi anu luar biasa pikeun AI sareng téknologi maju anu sanés pikeun nguatkeun rahayat, lega pisan kana generasi ayeuna sareng ka hareup, sareng damel pikeun anu hadé.

Tujuan pikeun aplikasi AI

Kami bakal ngira-ngira aplikasi AI upami ningali tujuan ieu. Kami yakin yén AI kedah:

1. Kudu mangpaat sacara sosial.

Ngahontalkeun téknologi anyar anu beuki némpél pikeun masarakat sacara gembleng. Kamajuan di AI bakal gaduh dampak transformatif dina sagala rupa widang, kalebet kasehatan, kaamanan, tanaga, transportasi, manufaktur, sareng hiburan. Nalika urang nganggap pangembangan poténsial sareng kagunaan téknologi AI, urang bakal tumut kana sababaraha faktor sosial sareng ékonomi, sareng bakal lumangsung dimana urang yakin yén kauntungan umum kamungkinan ageung ngaleuwihan résiko sareng kerugian.

AI ogé ningkatkeun kamampuan urang pikeun ngartos makna eusi dina skala. Urang bakal narékahan pikeun ngadamel inpormasi anu kualitasna luhur sareng akurat kalayan tiasa dianggo nganggo AI, bari teras hormat norma budaya, sosial, sareng hukum di nagara-nagara dimana urang beroperasi. Sareng urang bakal teras-terasan ngira-ngira iraha bakal aya téknologi anu sayogi dina dasar non-komersial.

2. Hindarkeun atanapi nyiptakeun bias anu teu adil.

Algoritma AI sareng datasét tiasa ngagambarkeun, nguatkeun, atanapi ngirangan bias teu adil. Urang ngakuan yén ngabédakeun adil tina bias anu henteu sakadar gampang, sareng bénten dina budaya sareng masarakat. Urang bakal milarian pikeun nyegah dampak anu teu adil ka jalma, khususna anu aya hubunganana sareng ciri-ciri sénsitip sapertos ras, etnis, gender, kabangsaan, panghasilan, orientasi seksual, kamampuan, sareng kapercayaan politik atanapi agama.

3. Kudu diwangun sareng diuji kanggo kasalametan.

Kami bakal terus ngembangkeun sareng nerapkeun prakték kaamanan sareng kaamanan anu kuat pikeun ngindarkeun hasil anu teu dihaja anu nyiptakeun résiko ngarugikeun. Urang bakal mendesain sistem AI kami kalayan ati-ati waé, sareng milarian pikeun ngamekarkeun aranjeunna saluyu sareng prakték anu saé dina panalungtikan kaamanan AI. Dina kasus anu pas, urang bakal nguji téknologi AI dina lingkung konstrain sareng ngawas operasina saatosna ditebaran.

4. Kudu tanggung jawab ka jalma-jalma.

Urang bakal ngarancang sistem AI anu masihan kasempetan anu cocog pikeun eupan balik, panjelasan anu relevan, sareng banding. Téknologi AI kami bakal tunduk kana arah sareng kontrol manusa anu luyu.

5. Gabungan prinsip desain privasi.

Urang bakal ngalebetkeun prinsip privasi kami dina pamekaran sareng ngagunakeun téknologi AI kami. Urang bakal masihan kasempetan pikeun perhatosan sareng idin, ajak arsitéktur kalayan panjagaan privasi, sareng nyayogikeun transparansi sareng pangendali anu cocog pikeun panggunaan data.

6. Uphold standar luhur kaunggulan ilmiah.

Inovasi téknologi ditumpukeun dina metode ilmiah sareng komitmen pikeun ngabuka panalungtikan, kaku intelektual, integritas, sareng kolaborasi. Alat AI ngagaduhan poténsi pikeun muka konci panalungtikan ilmiah anyar sareng pangaweruh dina domain kritis sapertos biologi, kimia, ubar, sareng élmu lingkungan. Kami ngaharepkeun standar standar kaunggulan ilmiah nalika urang damel pikeun kamajuan pamekaran AI.

Urang bakal digawekeun ku sababaraha pamangku kapentingan pikeun ngamajukeun kapamimpinan wijaksana di daérah ieu, ngagambar pendekatan ilmiah anu ketat sareng multidisiplinari. Sareng urang bakal tanggung jawab ngabagi pangaweruh AI ku nyebarkeun bahan atikan, prakték anu saé, sareng panalungtikan anu ngajantenkeun langkung seueur jalma ngembangkeun aplikasi AI anu kapaké.

7. Disusun pikeun panggunaan anu saluyu sareng prinsip-prinsip ieu.

Seueur téknologi ngagaduhan kagunaan sababaraha. Urang bakal tiasa ngerjakeun pikeun ngawatesan aplikasi anu berpotensi ngabahayakeun atanapi nyiksa. Nalika urang ngembangkeun sareng nyebarkeun téknologi AI, urang bakal ngira-ngilo kamungkinan ngagunakeun kagunaan faktor ieu:

• Tujuan sareng panggunaan primér: tujuan utami sareng kamungkinan ngagunakeun téknologi sareng aplikasi, kalebet kumaha solusina hubunganana atanapi adaptasi pikeun panggunaan anu ngabahayakeun
• Hakekat sareng keunikan: naha urang ngajantenkeun téknologi aya anu unik atanapi langkung umum anu sayogi
• skala: naha panggunaan téknologi ieu bakal ngagaduhan dampak anu signifikan
• Kaayaan Google naha urang nyayogikeun alat tujuan umum, ngahijikeun alat pikeun konsumén, atanapi ngembangkeun solusi adat

Aplikasi AI kami moal ngudag

Salian tujuan anu diluhur, urang moal ngarancang atanapi nyebarkeun AI di daérah aplikasi di handap ieu:

1. Téknologi anu nyababkeun atanapi kamungkinan nyababkeun umumna. Dimana aya résiko material tina ngarugikeun, urang bakal neruskeun ngan ukur mana anu pedah mancep langkung seueur résiko, sareng bakal ngaleungitkeun konstrain kaamanan anu leres.
2. Pakarang atanapi téknologi sanés anu tujuanana atanapi palaksanaan utami nyaéta ngalaksanakeun atanapi langsung ngagampangkeun tatu ka jalma.
3. Téhnologi anu ngumpulkeun atanapi nganggo inpormasi pikeun panjagaan anu ngalanggar norma-norma anu ditampi sacara internasional.
4. Teknologi anu tujuanna ngalanggar prinsip-prinsip hukum internasional sareng hak asasi manusia.

Nalika pangalaman dina rohangan ieu langkung jero, daptar ieu tiasa mekar.

kacindekan

Kami yakin yén prinsip-prinsip ieu mangrupikeun landasan anu saé pikeun perusahaan sareng pamekaran urang hareup dina AI. Kami ngaku yén daérah ieu dinamis sareng berkembang, sareng urang bakal kaanggo ku urang kalayan hinaan, komitmen pikeun papanggihan internal sareng eksternal, sareng karep nyaluyukeun cara urang nalika urang diajar kana waktosna.

Hasil positip ieu henteu ngabebaskeun raksasa téknologi Google tina kompléksitas dina sagala rupa daérah anu sanés utama, sapertos ngadukung ICE, pulisi sareng kagiatan militer anu sanés, ngahijikeun sareng ngajual aksés pribadi data ngeunaan individu, nyumputkeun pernyataan politik kontroversial tina hasil mesin pencari sareng, anu paling penting, anu ngamungkinkeun para karyawan pikeun terus nyarios ngeunaan masalah-masalah ieu tanpa masalah dipecat pikeun ngalakukeunana. Gerakan pemberontakan Google tetep aktip sareng aktipitas pisan.

Dina waktos anu sami, éta penting pikeun ngakuan kumaha pangaruh tina gerakan para karyawan Google. Hal ieu langsung écés saatos protés Google dimimitian: departemén pamasaran Pentagon lirén ngaluarkeun édisi pers anyar ngeunaan Project Maven anu sakali-seru, pamustunganana "ngaleungitkeun" proyék sadayana tina pisibilitas masarakat anu sateuacanna milarian. Sabalikna, prakarsa intelijen jieunan anyar anu langkung ageung ti mimiti muncul tina pikasieuneun Pentagon Dewan Inovasi Pertahanan.

Ieu disebut Proyek JEDI, nami anyar pikeun Pentagon belanja pikeun pakarang motong-ujung. Proyék JEDI badé ngaluarkeun artos langkung seueur dibanding Project Maven, tapi blitz publisitas pikeun proyék énggal (leres, militér AS nyéépkeun loba waktu sareng perhatian kana publisitas sareng pemasaran) bénten pisan ti anu sateuacana. Sagala imajiner sareng "Hideung Eunteung" anu caket. Ayeuna, tinimbang ngantebkeun seru sareng pikasieuneun dystopian seru anu seru AI tiasa ngaganggu ka manusa, Project JEDI ngajelaskeun sorangan salaku langkah séhat pikeun kamajuan, ngahijikeun sababaraha basis data awan supados tiasa ngabantosan "tukang perang" (istilah favorit Pentagon pikeun personel barisan ti payun) sareng tim dukungan tukang-kantor ngamaksimalkeun efektifitas inpormasi. Dimana Project Maven dirarancang pikeun disada pikeun ngajantenkeun seru sareng futuristik, Proyék JEDI dirarancang pikeun disada akal sareng praktis.

Teu aya anu wijaksana atanapi praktis ngeunaan tag harga pikeun Project JEDI. Éta kontrak software perangkat lunak militér panglegana di dunya: $ 10.5 milyar. Seueur panon urang ngagentos nalika kami nguping ngeunaan timbangan belanja militer, sareng urang tiasa ngalangkungan béda antara jutaan sareng milyaran. Éta penting pikeun ngarti sabaraha langkung ageung Project JEDI tibatan inisiatif perangkat lunak Pentagon saméméhna. Parantos ngagentos kaulinan, mesin anu ngahasilkeun kabeungharan, cek kosong pikeun profiteering ku biaya pajeg.

Éta ngabantosan pikeun ngagosok handapeun permukaan siaran pers pamaréntah nalika nyobian ngartos pamayaran kosong militér cek sakumaha ageung $ 10.5 milyar. Sababaraha inpormasi tiasa dicandak tina publikasi militér nyalira, sapertos anu ngaganggu Wawancara Agustus 2019 sareng Joint Artificial Intelligence Center Leftenan Jéndral Jack Shanahan, hiji tokoh konci dina ngaleungitkeun Project Maven sareng Project JEDI énggal. Kuring tiasa kéngingkeun langkung seueur pandangan kumaha insinyur industri mertahankeun ngeunaan Project JEDI ku ngadangukeun industri pertahanan podcast anu disebut "Proyék 38: Kahareup na Kaserang Pamaréntah". Tamu Podcast sering nyarios jujur ​​sareng teu isin ngeunaan topik naon anu aranjeunna bahas. "Seueur jalma bakal ngagaleuh kolam renang énggal dina taun ieu" mangrupikeun khas tina obrolan insider podcast ieu ngeunaan Project JEDI. Kami yakin éta bakal.

Ieu hal anu luar biasa anu aya hubunganana sareng prinsip AI Google. Tilu palanggan anu atra pikeun kontrak JEDI $ 10.5 milyar anu masif nyaéta Google, Amazon sareng Microsoft - dina urutan éta, dumasar kana reputasina salaku inovator AI. Kusabab pagawé protés ngalawan Project Maven di 2018, pamimpin AI Google henteu janten perhatian pikeun Proyék JEDI anu langkung ageung di 2019. Telat taun 2019, diumumkeun yén kontrak angkat ka Microsoft. Sakedik liputan berita nuturkeun, tapi sinyalna ieu fokus utamina kana persaingan antara Amazon sareng Microsoft, sareng kanyataan yén tempat ka 3 Microsoft sigana diidinan ngéléhkeun tempat ka-2 Amazon pikeun kameunangan kusabab perang anu dilakukeun ku administrasi Trump sareng Washington Post, anu dipimilik ku Amazon urang Jeff Bezos. Amazon ayeuna badé ngadilan pikeun merangan hadiah $ 10.5 milyar ka Pentagon ka Microsoft, sareng Oracle ogé ngagugat. Pernyataan khusus tina podcast Project 38 anu didadarkeun di luhur - "Seueur jalma bakal ngagaleuh kolam renang énggal taun ayeuna" - henteu ngan ukur ngan ukur ngadukung finansial Microsoft tapi ogé ka sadaya pengacara anu bakal ilubiung dina tuntutan hukum ieu. Urang panginten tiasa mendakan dididik yén langkung ti 3% tina $ 10.5 milyar tina Project JEDI bakal dugi ka ahli hukum. Duka teuing kami henteu tiasa ngagunakeunana pikeun ngabantosan lapar dunya lapar gantina.

Perselisihan naha mindahkeun ieu artos pembayar pajak ka kontraktor militér kedah nguntungkeun Microsoft, Amazon atanapi Oracle parantos ngadominasi liputan berita ngeunaan Project JEDI. Pesen positip anu tiasa dicandak tina cangkok cabul ieu - kanyataan yén Google parantos angkat tina kontrak parangkat lunak militér pangageungna dina sajarah dunya kusabab protés para pagawé - ampir teu aya dina liputan berita ngeunaan Project JEDI. 

Ieu sababna penting pikeun nyaritakeun carita ieu ka aktivis fokus téknologi anu dikumpulkeun dina ruangan rame di midtown Manhattan minggu kamari pikeun ngabahas kumaha carana urang tiasa nyalametkeun planet urang, kumaha urang tiasa ngalawan ngalawan disinformasi sareng politik dina élmu iklim. kumaha urang tiasa tahan kana kakuatan anu ageung para profiteer suluh fosil sareng profiteers pakarang. Di rohangan alit ieu, urang sadayana sigana nangkep dimensi tina masalah anu urang hadapi, sareng peran kritis anu urang nyalira kedah ngawitan maén. Komunitas téknologi ngagaduhan kakuatan anu signifikan. Ngan sakumaha kampanye divestment tiasa ngadamel parantos nyata, pangréncang tukang tech tiasa ngajantenkeun bédana. Aya seueur cara aktivis parobahan iklim, aktivis pemberontakan pekerja tech sareng aktivis antiwar tiasa ngawitan damel babarengan, sareng urang bakal lakukeun dina sagala cara anu urang tiasa.

Kami ngagaduhan harepan sareng mimitian ieu, ngiringan dibantuan ku Kepunahan Pemberontakan NYC jeung Dunya henteu Dupi tungguan. Gerakan ieu bakal tumuh - éta kedah tumuh. Penyalahgunaan bahan bakar fosil mangrupikeun fokus tina demonstran perubahan iklim. Nyalahgunakeun bahan bakar fosil ogé duanana mangrupikeun motif kauntungan utami tina imperialisme Amérika Serikat sareng hasil dahsyat utami tina kagiatan boros militér AS. Leres, militér AS siga kitu tunggal polutan paling awon di dunya. Naha pagawé téknologi tiasa nganggo kakuatan pangatur urang pikeun kameunangan langkung saé tibatan ditarikna Google tina Project JEDI? Urang tiasa sareng urang kedah. Rapat Minggu kamari di New York City ngan ukur sakedik maju. Urang kedah ngalakukeun langkung seueur, sareng urang kedah masihan gerakan protés gabungan kami sadaya anu aya.

Marc Eliot Stein nyaéta diréktur téknologi sareng média sosial pikeun World BEYOND War.

Poto ku Gregory Schwedock.