Ni Marc Eliot Stein, Pebrero 10, 2020

Kamakailan ay inimbitahan akong magsalita sa isang pagtitipon ng Extinction Rebellion sa New York City para sa World BEYOND War. Ang kaganapan ay idinisenyo upang makasama ang tatlong mga grupo ng aksyon: mga aktibista sa pagbabago ng klima, mga kolektibong manggagawa sa tech, at mga aktibista ng antiwar. Nagsimula kami sa isang nakakapukaw na personal na account mula sa aktibista sa pagbabago ng klima na si Ha Vu, na nagsabi sa karamihan ng mga tao ng New Yorkers tungkol sa isang nakababahala na karanasan na ilan sa amin ay: bumalik sa bahay ng kanyang pamilya sa Hanoi, Vietnam, kung saan nadagdagan ang init halos imposible itong maglakad sa labas sa oras ng rurok ng sikat ng araw. Ilang Amerikano rin ang nakakaalam tungkol sa 2016 kalamidad sa polusyon ng tubig sa Ha Tinh sa gitnang Vietnam. Kami ay madalas na nagsasalita tungkol sa pagbabago ng klima bilang isang potensyal na problema sa USA, binibigyang diin ni Ha, ngunit sa Vietnam ay nakikita niya na nakakagambala sa mga buhay at kabuhayan, at mabilis na lumala.

Nick Mottern ng Alam angDebones.org nagsalita ng may katulad na pagpipilit tungkol sa kamakailang malawak na pamumuhunan ng militar ng US sa futuristic artipisyal na intelektwal at cloud computing - at binigyang diin ang sariling konklusyon ng militar na ang pag-deploy ng mga sistema ng AI sa pamamahala ng armas nukleyar at pakikidigma ng drone ay hindi maiiwasang humantong sa mga pagkakamali ng hindi mahuhulaan na lakas. Si William Beckler ng Extinction Rebellion NYC ay sinundan sa pamamagitan ng pagpapaliwanag ng mga prinsipyo ng pag-aayos na ito na mahalaga at mabilis na lumalagong organisasyon na kumikilos, kasama na ang mga nakakagambalang aksyon na idinisenyo upang taasan ang kritikal na kahalagahan ng pagbabago ng klima. Narinig namin mula sa isang kinatawan ng New York City ng Coalition ng Tech Workers, at sinubukan kong pivot ang pagtitipon patungo sa isang pakiramdam ng praktikal na kapangyarihan sa pamamagitan ng pagsasalita tungkol sa isang pagkilos ng rebeldeng manggagawa na hindi inaasahan na matagumpay.

Ito ay noong Abril 2018, nang ang isang tinatawag na "industriya ng pagtatanggol" ay naghuhumaling tungkol sa Project Maven, isang lubos na naisapubliko ng bagong hakbangin ng militar ng Estados Unidos upang makabuo ng mga artipisyal na kakayahan sa intelihensya para sa mga drone at iba pang mga sistema ng armas. Lahat ng Google, Amazon at Microsoft lahat ay nag-aalok ng off-the-shelf na mga artipisyal na intelektwal na intelihente para sa pagbabayad ng mga customer, at ang Google ay nakita bilang malamang na nagwagi sa kontrata ng militar na Project Maven.

Noong unang bahagi ng 2018, nagsimulang magsalita ang mga manggagawa sa Google. Hindi nila maintindihan kung bakit ang isang kumpanya na nagrekrut sa kanila bilang mga empleyado na may pangako na "Huwag Maging Masama" ay nag-bid ngayon sa mga proyekto ng militar na maaaring maging katulad ng kakila-kilabot na yugto ng "Black Mirror" kung saan ang mga mekanikal na aso na pinapagana ng AI nilalang sa kamatayan. Nagsalita sila sa social media at sa tradisyonal na mga outlet ng balita. Inayos nila ang mga aksyon at nagpalaganap ng mga petisyon at pinakinggan ang kanilang sarili.

Ang rebeldeng manggagawa na ito ay ang genesis ng kilusan ng Rebelde ng Google Workers, at nakatulong ito upang mai-bootstrap ang iba pang mga kolektibong manggagawa sa tech. Ngunit ang pinaka nakakagulat na bagay tungkol sa panloob na protesta ng Google laban sa Project Maven ay hindi na ang mga manggagawang tech ay nagsasalita. Ang pinaka nakakagulat na bagay ay Ang pamamahala ng Google ay nagbigay ng hinihingi sa mga manggagawa.

Pagkalipas ng dalawang taon, ang katotohanang ito ay tinutuya pa rin ako. Nakita ko ang maraming mga problema sa etikal sa aking mga dekada bilang isang tech worker, ngunit bihira akong nakakakita ng isang malaking kumpanya na ayon sa kategorya na sumang-ayon upang matugunan ang mga problemang etikal sa isang makabuluhang paraan. Ang resulta ng paghihimagsik ng Google laban sa Project Maven ay ang paglathala ng isang set ng mga prinsipyo ng AI na nagkakahalaga ng muling pag-print dito nang buo:

Artipisyal na Intelligence sa Google: Aming Mga Prinsipyo

Hangad ng Google na lumikha ng mga teknolohiya na malulutas ang mahahalagang problema at tulungan ang mga tao sa kanilang pang-araw-araw na buhay. Kami ay umaasa tungkol sa hindi kapani-paniwalang potensyal para sa AI at iba pang mga advanced na teknolohiya upang bigyan ng kapangyarihan ang mga tao, malawak na makikinabang sa kasalukuyan at sa hinaharap na mga henerasyon, at nagtatrabaho para sa pangkaraniwang kabutihan.

Mga layunin para sa mga aplikasyon ng AI

Susuriin namin ang mga aplikasyon ng AI sa pagtingin sa mga sumusunod na layunin. Naniniwala kami na ang AI ay dapat na:

1. Maging kapaki-pakinabang sa lipunan.

Ang pinalawak na pag-abot ng mga bagong teknolohiya na lalong nakakaantig sa lipunan sa kabuuan. Ang mga pagsulong sa AI ay magkakaroon ng mga epekto sa pagbabagong-anyo sa isang malawak na hanay ng mga patlang, kabilang ang pangangalaga sa kalusugan, seguridad, enerhiya, transportasyon, pagmamanupaktura, at libangan. Habang isinasaalang-alang namin ang mga potensyal na pag-unlad at paggamit ng mga teknolohiya ng AI, isasaalang-alang namin ang isang malawak na hanay ng mga salik sa lipunan at pang-ekonomiya, at magpapatuloy kung saan naniniwala kami na ang pangkalahatang malamang na benepisyo ay higit na lumampas sa napakahihintay na mga panganib at pagbagsak.

Pinahuhusay din ng AI ang aming kakayahang maunawaan ang kahulugan ng nilalaman sa sukat. Sisikapin naming gawing magagamit ang mataas na kalidad at tumpak na impormasyon gamit ang AI, habang patuloy na iginagalang ang mga kaugalian sa kultura, sosyal, at ligal sa mga bansa kung saan nagpapatakbo kami. At magpapatuloy kaming mag-isip ng mabuti kung kailan magagamit ang aming mga teknolohiya sa isang di-komersyal na batayan.

2. Iwasan ang paglikha o pagpapatibay ng hindi patas na bias.

Ang mga algorithm at database ng AI ay maaaring sumasalamin, magpalakas, o mabawasan ang hindi patas na mga bias. Kinikilala namin na ang pagtatangi ng patas sa hindi patas na mga bias ay hindi laging simple, at naiiba sa mga kultura at lipunan. Hinahangad nating iwasan ang hindi makatarungang epekto sa mga tao, lalo na sa mga nauugnay sa sensitibong katangian tulad ng lahi, etnisidad, kasarian, nasyonalidad, kita, oryentasyong sekswal, kakayahan, at paniniwala sa politika o relihiyon.

3. Itayo at subukin para sa kaligtasan.

Patuloy kaming bubuo at mag-aplay ng malakas na kasanayan sa kaligtasan at seguridad upang maiwasan ang mga hindi sinasadyang mga resulta na lumikha ng mga peligro ng pinsala. Ididisenyo namin ang aming mga AI system upang maging maingat, at hinahangad na bumuo ng mga ito alinsunod sa mga pinakamahusay na kasanayan sa ligtas na pananaliksik sa AI. Sa mga naaangkop na kaso, susubukan namin ang mga teknolohiya ng AI sa mga napilitang mga kapaligiran at subaybayan ang kanilang operasyon pagkatapos ng pag-deploy.

4. Maging pananagutan sa mga tao.

Ididisenyo namin ang mga sistema ng AI na nagbibigay ng angkop na mga pagkakataon para sa feedback, may kaugnayan na mga paliwanag, at apela. Ang aming mga teknolohiya sa AI ay sasailalim sa naaangkop na direksyon at kontrol ng tao.

5. Isama ang mga prinsipyo sa disenyo ng privacy.

Isasama namin ang aming mga prinsipyo sa privacy sa pag-unlad at paggamit ng aming mga teknolohiya sa AI. Magbibigay kami ng pagkakataon para sa paunawa at pahintulot, hikayatin ang mga arkitektura na may mga proteksyon sa privacy, at magbibigay ng naaangkop na transparency at kontrol sa paggamit ng data.

6. Itaguyod ang mataas na pamantayan ng kahusayan sa agham.

Ang makabagong teknolohiya ay nakaugat sa pamamaraang pang-agham at isang pangako upang buksan ang pagtatanong, mahigpit na intelektwal, integridad, at pakikipagtulungan. Ang mga kasangkapan sa AI ay may potensyal na i-unlock ang mga bagong larangan ng siyentipikong pananaliksik at kaalaman sa mga kritikal na domain tulad ng biology, chemistry, gamot, at mga agham sa kapaligiran. Nais namin ang mataas na pamantayan ng kahusayan sa agham habang nagtatrabaho kami upang isulong ang pag-unlad ng AI.

Makikipagtulungan kami sa isang hanay ng mga stakeholder upang maitaguyod ang maalalahanang pamumuno sa lugar na ito, na gumuhit sa mga pamamaraang pang-agham at multidiskiplinary na pamamaraan. At responsable naming ibahagi ang kaalaman sa AI sa pamamagitan ng pag-publish ng mga materyales sa pang-edukasyon, pinakamahusay na kasanayan, at pananaliksik na nagbibigay-daan sa mas maraming mga tao na bumuo ng mga kapaki-pakinabang na aplikasyon ng AI.

7. Maging magagamit para sa mga gamit na naaayon sa mga alituntuning ito.

Maraming mga teknolohiya ang may maraming paggamit. Nagtatrabaho kami upang limitahan ang potensyal na mapanganib o mapang-abuso na mga aplikasyon. Habang kami ay nagkakaroon at nagtatalaga ng mga teknolohiya ng AI, masusuri namin ang mga malamang na paggamit sa mga sumusunod na kadahilanan:

• Pangunahing layunin at paggamit: ang pangunahing layunin at malamang na paggamit ng isang teknolohiya at aplikasyon, kabilang ang kung gaano kalapit ang solusyon ay nauugnay o maiangkop sa isang nakakapinsalang paggamit
• Kalikasan at natatangi: kung gumagawa tayo ng magagamit na teknolohiya na natatangi o higit na magagamit
• Scale: kung ang paggamit ng teknolohiyang ito ay magkakaroon ng makabuluhang epekto
• Kalikasan ng paglahok ng Google: nagbibigay kami ng mga tool sa pangkalahatang layunin, pagsasama ng mga tool para sa mga customer, o pagbuo ng mga pasadyang solusyon

Ang mga aplikasyon ng AI ay hindi namin ituloy

Bilang karagdagan sa mga layunin sa itaas, hindi namin ididisenyo o i-deploy ang AI sa mga sumusunod na lugar ng aplikasyon:

1. Ang mga teknolohiyang nagdudulot o malamang na maging sanhi ng pangkalahatang pinsala. Kung mayroong isang materyal na peligro ng pinsala, magpapatuloy lamang tayo kung saan naniniwala kami na ang mga benepisyo ay higit na higit sa mga panganib, at isasama ang nararapat na mga hadlang sa kaligtasan.
2. Armas o iba pang mga teknolohiya na ang pangunahing layunin o pagpapatupad ay upang maging sanhi o direktang mapadali ang pinsala sa mga tao.
3. Mga teknolohiyang nagtitipon o gumagamit ng impormasyon para sa pagsubaybay na lumalabag sa mga kaugalian na tinatanggap ng internasyonal.
4. Ang mga teknolohiyang ang layunin ay sumasalungat sa malawak na tinatanggap na mga prinsipyo ng internasyonal na batas at karapatang pantao.

Habang lumalalim ang aming karanasan sa puwang na ito, maaaring lumaki ang listahan na ito.

Konklusyon

Naniniwala kami na ang mga alituntuning ito ay ang tamang pundasyon para sa aming kumpanya at sa aming hinaharap na pag-unlad ng AI. Kinikilala namin na ang lugar na ito ay pabago-bago at umuusbong, at lalapit kami sa aming gawain nang may pagpapakumbaba, isang pangako sa panloob at panlabas na pakikipag-ugnayan, at isang pagpayag na iakma ang aming diskarte habang natututo tayo sa paglipas ng panahon.

Ang positibong resulta na ito ay hindi magpakawala sa tech na higanteng Google mula sa pagiging kumplikado sa iba't ibang mga lugar na may malaking pag-aalala, tulad ng pagsuporta sa ICE, pulisya at iba pang aktibidad ng militar, pag-iipon at pagbebenta ng pag-access sa mga pribadong data tungkol sa mga indibidwal, pagtatago ng mga kontrobersyal na pahayag sa politika mula sa mga resulta ng search engine at, pinaka-mahalaga, na nagpapahintulot sa mga empleyado nito na magpatuloy na makipag-usap sa mga ito at iba pang mga isyu nang hindi pinaputok sa paggawa nito. Ang kilusang paghihimagsik ng mga manggagawa sa Google ay nananatiling aktibo at lubos na nakikibahagi.

Kasabay nito, mahalagang kilalanin kung gaano kalaki ang naging kilusan ng mga manggagawa sa Google. Naging malinaw agad ito matapos na magsimula ang mga protesta ng Google: ang mga kagawaran ng pagmemerkado ng Pentagon ay tumigil sa paglabas ng mga bagong pahayag tungkol sa isang beses na kapana-panabik na Project Maven, na sa kalaunan ay "nawawala" ang proyekto nang buo mula sa publiko na kakayahang makita. Sa halip, ang isang bago at mas malaking artipisyal na inisyatibo ng intelihensiya ay nagsimulang lumitaw mula sa mapanirang insidente ng Pentagon Lupon ng Pag-intensyon ng Depensa.

Ito ay tinawag Proyekto JEDI, isang bagong pangalan para sa paggastos ng Pentagon sa mga gupit na gupit. Ang proyekto ng JEDI ay gagastos ng mas maraming pera kaysa sa Project Maven, ngunit ang blitz ng publisidad para sa bagong proyekto (oo, gumugol ang militar ng US ng isang marami ng oras at pansin sa publisidad at marketing) ay ibang-iba mula sa nauna. Ang lahat ng malambot at sexy "Black Mirror" na imahe ay nawala. Ngayon, sa halip na bigyang-diin ang kapana-panabik at cinematic dystopian horrors na pinapagana ng AI-powered drone sa mga tao, ipinaliwanag ng Project JEDI ang sarili bilang isang matalinong hakbang pasulong para sa kahusayan, pagsasama-sama ng iba't ibang mga database ng ulap upang matulungan ang "mga mandirigma" (ang paboritong termino ng Pentagon para mga tauhan ng harap-linya) at mga koponan ng suporta sa back-office na i-maximize ang pagiging epektibo ng impormasyon. Kung saan ang Project Maven ay idinisenyo upang tunog kapana-panabik at futuristic, ang JEDI ng Proyekto ay idinisenyo upang tunog makatwiran at praktikal.

Walang matalino o praktikal tungkol sa tag ng presyo para sa Project JEDI. Ito ang pinakamalaking kontrata ng software ng militar sa kasaysayan ng mundo: $ 10.5 bilyon. Marami sa ating mga mata ang sumulyap kapag naririnig natin ang tungkol sa mga kaliskis ng paggastos ng militar, at maaari nating laktawan ang pagkakaiba sa pagitan ng milyon-milyon at bilyun-bilyon. Mahalagang maunawaan kung magkano ang mas malaking Project JEDI kaysa sa naunang inisyatibo ng Pentagon software. Ito ay isang tagapagpalit ng laro, isang makina na bumubuo ng yaman, isang blangko na tseke para sa profiteering sa gastos ng nagbabayad ng buwis.

Nakatutulong ito sa pag-gasgas sa ilalim ng paglabas ng press ng gobyerno kapag sinusubukang maunawaan ang paggastos ng blangko ng militar na kasing dami ng $ 10.5 bilyon. Ang ilang impormasyon ay maaaring makuha mula sa sariling mga publication ng militar, tulad ng isang nakakagambala Panayam ng Agosto 2019 sa Joint Artipisyal na Intelligence Center Lieutenant General Jack Shanahan, isang pangunahing pigura sa parehong nawala na Project Maven at ang bagong Project JEDI. Nagawa kong makakuha ng higit pang pananaw sa kung paano iniisip ng mga tagaloob ng industriya ng pagtatanggol tungkol sa Project JEDI sa pamamagitan ng pakikinig sa isang podcast na industriya ng pagtatanggol na tinawag "Proyekto 38: Ang Hinaharap ng Pagkontrata ng Pamahalaan". Ang mga panauhin ng Podcast ay madalas na magsalita nang deretsahan at walang pag-asa tungkol sa anumang paksang tinatalakay nila. "Maraming tao ang bibibili ng mga bagong swimming pool sa taong ito" ay tipikal na chat ng tagaloob ng podcast tungkol sa Project JEDI. Sigurado kami na magiging sila.

Narito ang kahanga-hangang bagay na nauugnay sa mga prinsipyo ng AI ng Google. Ang halata na tatlong mga tagasunod para sa napakalaking $ 10.5 bilyong kontrata ng JEDI ay ang Google, Amazon at Microsoft - sa pagkakasunud-sunod na iyon, batay sa kanilang mga reputasyon bilang mga tagapag-intriga ng AI. Dahil sa protesta ng mga manggagawa laban sa Project Maven noong 2018, ang pinuno ng AI na Google ay wala sa pagsasaalang-alang para sa mas malaking Project JEDI noong 2019. Huling bahagi ng 2019, inihayag na ang kontrata ay napunta sa Microsoft. Sumunod ang isang kaguluhan ng saklaw ng balita, ngunit ang saklaw na ito ay higit na nakatuon sa tunggalian sa pagitan ng Amazon at Microsoft, at sa katotohanang ang ika-3 na puwesto sa Microsoft ay pinapayagan na talunin ang ika-2 pwesto para sa panalo dahil sa nagpapatuloy na laban ng administrasyong Trump sa Washington Post, na pag-aari ng Amazon na si Jeff Bezos. Ang Amazon ay pupunta ngayon sa korte upang labanan ang $ 10.5 bilyong regalo ng Pentagon kay Microsoft, at ang Oracle ay nag-aakusa din. Ang tukoy na pangungusap mula sa Project 38 podcast na nabanggit sa itaas - "Maraming tao ang bibibili ng mga bagong swimming pool sa taong ito" - hindi lamang tumutukoy sa pampinansyal na tulong ng Microsoft kundi pati na rin sa lahat ng mga abugado na lalahok sa mga demanda na ito. Marahil ay makakagawa tayo ng isang edukadong hula na higit sa 3% ng $ 10.5 bilyon ng Project JEDI ang mapupunta sa mga abugado. Napakasamang hindi namin ito magagamit upang makatulong tapusin ang gutom sa mundo sa halip.

Ang pagtatalo sa kung ang paglipat ng pera ng nagbabayad ng buwis na ito sa mga kontratista ng militar ay dapat makinabang sa Microsoft, Amazon o Oracle ay nangibabaw ang saklaw ng balita ng Project JEDI. Ang isang positibong mensahe na makukuha mula sa malaswang graft na ito - ang katotohanang lumayo ang Google mula sa pinakamalaking kontrata ng software ng militar sa kasaysayan ng mundo dahil sa protesta ng mga manggagawa - ay halos wala sa pagsakop ng balita sa Project JEDI. 

Ito ang dahilan kung bakit mahalagang sabihin ang kuwentong ito sa mga aktibistang nakatuon sa tech na natipon sa isang masikip na silid sa midtown Manhattan noong nakaraang linggo upang pag-usapan ang tungkol sa kung paano natin maililigtas ang ating planeta, kung paano tayo makikipaglaban sa disinformation at politika ng agham ng klima, kung paano tayo makakatayo sa napakalaking lakas ng mga tagapagtaguyod ng fossil fuel at mga profiteer ng armas. Sa maliit na silid na ito, lahat ay tila naiintindihan namin ang mga sukat ng problemang kinakaharap namin, at ang kritikal na papel na dapat nating simulang maglaro. Ang tech na komunidad ay may makabuluhang kapangyarihan. Tulad ng maaaring makagawa ng tunay na pagkakaiba ang mga kampanya sa pag-aiba, ang mga paghihimagsik sa mga manggagawa sa tech ay maaaring gumawa ng isang tunay na pagkakaiba. Maraming mga paraan ang mga aktibista sa pagbabago ng klima, mga aktibista ng rebeldeng manggagawa sa tech at mga aktibista ng antiwar ay maaaring magsimulang magtulungan, at gagawin natin ito sa lahat ng makakaya.

Kami ay nagkaroon ng isang pag-asa simula sa pagtitipon na ito, na matulungin na sinimulan ng Pagkalipol Rebolsyon NYC at Hindi Maghintay ang Mundo. Ang kilusang ito ay lalago - dapat itong lumago. Ang pag-abuso sa Fossil fuel ay ang pokus ng mga nagpoprotesta ng pagbabago ng klima. Ang pang-aabuso sa gasolina ng fossil ay parehong pangunahing motibo ng kita ng imperyalismong US at pangunahing pangyayaring malubhang resulta ng namamaga na aktibidad ng militar ng US. Sa katunayan, ang militar ng US ay lilitaw ang nag-iisang pinakamasamang polluter sa buong mundo. Maaari bang gamitin ng mga manggagawa sa tech ang aming pag-aayos ng kapangyarihan para sa mga tagumpay na mas makabuluhan kaysa sa pag-alis ng Google mula sa Project JEDI? Maaari namin at dapat. Noong nakaraang linggo ang pagpupulong ng New York City ay isang maliit na hakbang lamang. Marami tayong dapat gawin, at dapat nating ibigay ang aming pinagsamang kilusang protesta lahat ng nakuha natin.

Si Marc Eliot Stein ay direktor ng teknolohiya at social media para sa World BEYOND War.

Larawan ni Gregory Schwedock.