Na Marc Eliot Stein, Februari 10, 2020

Hivi karibuni nilialikwa kuongea kwenye mkutano wa Uasi wa Ukimbizi huko New York City kwa niaba ya World BEYOND War. Hafla hiyo ilibuniwa kuleta pamoja vikundi vitatu vya hatua: wanaharakati wa mabadiliko ya hali ya hewa, washirika wa teknolojia, na wanaharakati wa vita. Tulianza na akaunti ya kibinafsi ya kuchochea kutoka kwa mwanaharakati wa mabadiliko ya hali ya hewa Ha Vu, ambaye aliliambia umati wa watu wa New Yorkers juu ya uzoefu wa kutisha ambao sisi hatujawahi: kurudi nyumbani kwa familia yake huko Hanoi, Vietnam, ambapo kuongezeka kwa joto tayari imeifanya iwezekani kutembea nje wakati wa masaa ya jua ya kilele. Wamarekani wachache pia wanajua juu ya Msiba wa uchafuzi wa maji wa 2016 huko Ha Tinh katikati mwa Vietnam. Mara nyingi tunazungumza juu ya mabadiliko ya hali ya hewa kama shida inayowezekana huko USA, Ha alisisitiza, lakini huko Vietnam anaweza kuona kuwa tayari kuvuruga maisha na maisha, na kuzidi kuwa mbaya.

Nick Mottern wa KnowDrones.org alizungumza kwa uharaka kama huo juu ya uwekezaji mkubwa wa hivi karibuni wa jeshi la Merika katika ujasusi wa baadaye wa bandia na kompyuta ya wingu - na akasisitiza hitimisho la jeshi mwenyewe kwamba kupelekwa kwa mifumo ya AI katika usimamizi wa silaha za nyuklia na vita vya drone itasababisha makosa ya ukubwa usiotabirika. William Beckler wa Uasi wa Kutoweka NYC ikifuatiwa na kuelezea kanuni za kuandaa shirika hili muhimu na linalokua haraka linafanya kazi, pamoja na vitendo vya usumbufu iliyoundwa na kuongeza ufahamu wa umuhimu muhimu wa mabadiliko ya hali ya hewa. Tulisikia kutoka kwa mwakilishi wa Jiji la New York la Ushirikiano wa Wafanyakazi wa Tech, na nilijaribu kusukuma mkutano kwa maana ya uwezeshaji wa vitendo kwa kuongea juu ya hatua ya uasi ya wafanyikazi wa teknolojia ambayo ilifanikiwa bila kutarajia.

Hii ilikuwa Aprili Aprili 2018, wakati kinachojulikana kama "tasnia ya ulinzi" ilikuwa inazunguka juu ya Mradi wa Maven, mpango mpya wa jeshi la Merika uliotangazwa sana kukuza uwezo wa akili wa bandia kwa mifumo ya densi na mifumo mingine ya silaha. Google, Amazon na Microsoft zote zinatoa majukwaa ya ufundi wa bandia kutoka kwa rafu kwa wateja wanaolipa, na Google ilionekana kama mshindi wa uwezekano wa mkataba wa jeshi la Mradi.

Mwanzoni mwa 2018, wafanyikazi wa Google walianza kuongea. Hawakuelewa kwanini kampuni iliyokuwa imewaandikisha kuwa wafanyikazi na kiapo cha "Usiwe mbaya" ilikuwa sasa ikitoa zabuni juu ya miradi ya kijeshi inayofanana na sehemu ya kutisha ya "Miradi Nyeusi" ambayo mbwa wa mitambo ya AI imejaa binadamu. viumbe hadi kufa. Waliongea kwenye media ya kijamii na kwa jadi maduka ya habari. Waliandaa vitendo na kuzunguka ombi na wakajifanya wasikike.

Uasi huu wa wafanyikazi ulikuwa genesis ya harakati ya uasi ya Wafanyikazi wa Google, na ilisaidia kukuza mianya mingine ya wafanyikazi wa teknolojia. Lakini jambo la kushangaza zaidi juu ya maandamano ya ndani ya Google dhidi ya Mradi Maven haikuwa kwamba wafanyikazi wa teknolojia walikuwa wakiongea. Jambo la kushangaza zaidi ni kwamba Usimamizi wa Google ulijitolea kwa mahitaji ya wafanyikazi.

Miaka miwili baadaye, ukweli huu bado unanishangaza. Nimeona shida nyingi za kiadili katika miongo yangu kama mfanyikazi wa teknolojia, lakini sijapata kuona kampuni kubwa inakubali kushughulikia maswala ya maadili kwa njia muhimu. Matokeo ya uasi wa Google dhidi ya Mradi Maven ilikuwa uchapishaji wa kanuni za AI ambazo zinafaa kuchapishwa hapa kamili:

Ushauri wa bandia kwa Google: kanuni zetu

Google inatamani kuunda teknolojia zinazosuluhisha shida muhimu na kusaidia watu katika maisha yao ya kila siku. Tunatumaini juu ya uwezo mzuri wa AI na teknolojia zingine za hali ya juu kuwawezesha watu, kufaidi sana vizazi vya sasa na vijavyo, na tunafanyia kazi faida nzuri.

Malengo ya maombi ya AI

Tutathmini maombi ya AI kwa kuzingatia malengo yafuatayo. Tunaamini kwamba AI inapaswa:

1. Kuwa na faida katika jamii.

Ufikiaji wa teknolojia mpya unazidi kugusa jamii kwa ujumla. Maendeleo katika AI yatakuwa na athari za mabadiliko katika nyanja anuwai, pamoja na huduma za afya, usalama, nishati, usafirishaji, utengenezaji, na burudani. Tunapozingatia maendeleo na matumizi ya teknolojia za AI, tutazingatia anuwai ya mambo ya kijamii na kiuchumi, na tutaendelea ambapo tunaamini kuwa faida za jumla zinaweza kuzidi hatari zilizoonekana na kushuka.

AI pia huongeza uwezo wetu wa kuelewa maana ya yaliyomo kwa kiwango. Tutajitahidi kupata habari ya hali ya juu na sahihi kupatikana kwa urahisi kwa kutumia AI, wakati tunaendelea kuheshimu kitamaduni, kijamii, na kisheria katika nchi ambazo tunafanya kazi. Na tutaendelea kutathmini kwa kufikiria wakati wa kutengeneza teknolojia zetu kupatikana kwa msingi usio wa kibiashara.

2. Epuka kuunda au kuimarisha upendeleo usio sawa.

Algorithms na data za AI zinaweza kutafakari, kuimarisha, au kupunguza upendeleo usio sawa. Tunatambua kuwa kutofautisha haki na upendeleo usio sawa sio rahisi kila wakati, na hutofautiana katika tamaduni na jamii. Tutatafuta kuzuia athari zisizo za haki kwa watu, haswa zile zinazohusiana na tabia nyeti kama kabila, kabila, jinsia, utaifa, mapato, mwelekeo wa kijinsia, uwezo, na imani ya kisiasa au ya kidini.

3. Kujengwa na kupimwa kwa usalama.

Tutaendelea kukuza na kutumia vitendo vikali vya usalama na usalama ili kuzuia matokeo yasiyotarajiwa ambayo husababisha hatari za kudhuru. Tutabuni mifumo yetu ya AI kuwa waangalifu ipasavyo, na tutafute kuipanga kulingana na mazoea bora katika utafiti wa usalama wa AI. Katika hali sahihi, tutajaribu teknolojia za AI katika mazingira magumu na tutafatilia uendeshaji wao baada ya kupelekwa.

4. Kuwajibika kwa watu.

Tutatengeneza mifumo ya AI ambayo hutoa fursa sahihi kwa maoni, maelezo husika, na rufaa. Teknolojia zetu za AI zitakuwa chini ya mwelekeo sahihi na udhibiti wa mwanadamu.

5. Ingiza kanuni za usiri za faragha.

Tutajumuisha kanuni zetu za faragha katika maendeleo na matumizi ya teknolojia zetu za AI. Tutatoa fursa kwa taarifa na idhini, kuhimiza usanifu na usalama wa faragha, na kutoa uwazi sahihi na udhibiti wa utumiaji wa data.

6. Kuweka viwango vya juu vya ubora wa kisayansi.

Ubunifu wa teknolojia umewekwa katika njia ya kisayansi na kujitolea kufungua uchunguzi, ukali wa kielimu, uadilifu, na kushirikiana. Vyombo vya AI vina uwezo wa kufungua ulimwengu mpya wa utafiti wa kisayansi na maarifa katika nyanja muhimu kama biolojia, kemia, dawa, na sayansi ya mazingira. Tunatamani viwango vya juu vya ubora wa kisayansi tunapofanya kazi ili kuendeleza maendeleo ya AI.

Tutafanya kazi na washikadau kadhaa kukuza uongozi unaofikiria katika eneo hili, tutaangazia mbinu ngumu na za kisayansi. Nasi tutawajibika kushiriki maarifa ya AI kwa kuchapisha vifaa vya kufundishia, mazoea bora, na utafiti ambao unawezesha watu zaidi kukuza programu muhimu za AI.

7. Kuwa inapatikana kwa matumizi yanayopatana na kanuni hizi.

Teknolojia nyingi zina matumizi mengi. Tutafanya kazi kupunguza kikomo cha matumizi mabaya au ya dhuluma. Tunapoendeleza na kupeleka teknolojia za AI, tutathmini matumizi yanayotumiwa kwa kuzingatia sababu zifuatazo.

• Kusudi la msingi na matumizi: Kusudi la msingi na uwezekano wa matumizi ya teknolojia na matumizi, pamoja na jinsi suluhisho lina uhusiano wa karibu na unaoweza kubadilika kwa matumizi mabaya
• Asili na pekee: ikiwa tunatengeneza teknolojia inayopatikana ambayo ni ya kipekee au inayopatikana zaidi
• Kiwango: ikiwa utumiaji wa teknolojia hii utakuwa na athari kubwa
• Asili ya kuhusika kwa Google: ikiwa tunapeana vifaa vya kusudi la jumla, zana za kujumuisha kwa wateja, au tunatengeneza suluhisho za kimila

Maombi ya AI hatutafuata

Kwa kuongeza malengo yaliyotajwa hapo juu, hatutapanga au kupeleka AI katika maeneo ya maombi yafuatayo:

1. Teknolojia ambazo husababisha au zina uwezekano wa kusababisha madhara kwa jumla. Mahali ambapo kuna hatari ya kuumia, tutaendelea tu pale tunapoamini kuwa faida huzidi hatari, na tutatia vikwazo sahihi vya usalama.
2. Silaha au teknolojia zingine ambazo kusudi kuu au utekelezaji wake ni kusababisha au kuwezesha moja kwa moja majeraha kwa watu.
3. Teknolojia ambazo hukusanya au kutumia habari ya ufuatiliaji kukiuka kanuni za kukubalika za kimataifa.
4. Teknolojia ambazo kusudi lake linapingana na kanuni zinazokubaliwa sana za sheria za kimataifa na haki za binadamu.

Wakati uzoefu wetu katika nafasi hii unavyoongezeka, orodha hii inaweza kuongezeka.

Hitimisho

Tunaamini kanuni hizi ndio msingi sahihi kwa kampuni yetu na maendeleo yetu ya baadaye ya AI. Tunakiri kwamba eneo hili lina nguvu na linaibuka, na tutaukaribia kazi yetu kwa unyenyekevu, kujitolea kwa ushiriki wa ndani na nje, na utayari wa kurekebisha mbinu zetu tunapojifunza kwa wakati.

Matokeo haya mazuri hayatoshei Google kubwa ya teknolojia kutoka kwa ugumu katika maeneo mengine mengi ya wasiwasi mkubwa, kama vile kusaidia ICE, polisi na shughuli zingine za jeshi, kuongeza na kuuza upatikanaji wa data ya kibinafsi kuhusu watu, kuficha taarifa za kisiasa zenye utata kutoka kwa matokeo ya injini za utaftaji. na, muhimu zaidi, kuruhusu wafanyikazi wake kuendelea kusema juu ya maswala haya na mengine bila kufukuzwa kazi kwa kufanya hivyo. Harakati ya uasi ya wafanyikazi wa Google inabaki hai na inahusika sana.

Wakati huo huo, ni muhimu kutambua jinsi harakati za wafanyikazi wa Google zilikuwa na athari. Hii ilionekana wazi mara baada ya maandamano ya Google kuanza: Idara za uuzaji za Pentagon zilikacha kutoa matoleo mapya kwa waandishi wa habari kuhusu Mradi uliofurahisha mara moja, hatimaye "kutoweka" mradi kabisa kutokana na kujulikana kwa umma uliokuwa umetafuta hapo awali. Badala yake, mpango mpya na mkubwa wa akili ya bandia ulianza kujitokeza kutoka kwa ujinga wa Pentagon Bodi ya ubunifu wa ulinzi.

Hii iliitwa Mradi wa JEDI, jina mpya la matumizi ya Pentagon kwenye silaha za kukata. Mradi wa JEDI ungetumia pesa nyingi kuliko Mradi Maven, lakini utangazaji wa umma kwa mradi huo mpya (ndio, jeshi la Merika hutumia mengi ya wakati na umakini juu ya utangazaji na uuzaji) ilikuwa tofauti sana na ile ya awali. Picha zote nyembamba na za "Nyeusi" nyeusi zilikuwa zimepita. Sasa, badala ya kusisitiza mambo ya kufurahisha na ya sinema ya dystopian ya AI yenye nguvu inaweza kuwadhuru wanadamu, Mradi JEDI ulijielezea kama hatua ya kusisimua kwa ufanisi, unachanganya hifadhidata mbali mbali za wingu ili kusaidia "warfighters" (neno linalopendwa na Pentagon kwa wafanyakazi wa mstari wa mbele) na timu za kusaidia ofisi-za-ofisi huongeza ufanisi wa habari. Ambapo Maven ya Mradi ilibuniwa ili kusisimua na kufurahisha, JEDI ya Mradi ilibuniwa isikie busara na ya vitendo.

Hakuna kitu cha busara au cha vitendo juu ya lebo ya bei ya Mradi wa JEDI. Ni mkataba mkubwa wa programu ya jeshi katika historia ya ulimwengu: $ bilioni 10.5. Macho yetu mengi huangaza wakati tunasikia juu ya mizani ya matumizi ya jeshi, na tunaweza kuruka tofauti kati ya mamilioni na mabilioni. Ni muhimu kuelewa ni kiasi kipi cha Mradi wa JEDI kuliko mpango wowote uliopita wa programu ya Pentagon. Ni kibadilishaji cha mchezo, injini inayoleta utajiri, cheki tupu cha kupata faida kwa gharama ya walipa kodi.

Inasaidia kukwaruza chini ya uso wa matangazo ya serikali wakati unapojaribu kuelewa ukaguzi wa matumizi ya jeshi kama kubwa kama $ 10.5 bilioni. Habari zingine zinaweza kupatikana kutoka kwa machapisho ya jeshi, kama ya kusumbua Agosti 2019 mahojiano na Kituo cha Ushauri cha Joint Artificial Intelligence Jenerali Jack Shanahan, takwimu muhimu katika Maven Project Maven iliyopotea na JEDI mpya ya Mradi. Niliweza kupata ufahamu zaidi juu ya jinsi waingieji wa tasnia ya ulinzi wanafikiria juu ya Mradi wa JEDI kwa kusikiliza podcast ya tasnia ya ulinzi inayoitwa "Mradi 38: Baadaye ya Mkataba wa Serikali". Wageni wa Podcast mara nyingi huzungumza waziwazi na bila aibu juu ya mada yoyote wanayojadili. "Watu wengi watanunua mabwawa mapya ya kuogelea mwaka huu" ilikuwa mfano wa mazungumzo ya ndani ya podcast kuhusu Mradi JEDI. Tuna hakika watakuwa.

Hapa kuna jambo la kushangaza ambalo linaungana na kanuni za AI za Google. Watangulizi watatu wa wazi wa mkataba mkubwa wa $ 10.5 bilioni wa JEDI wangekuwa Google, Amazon na Microsoft - kwa utaratibu huo, kulingana na sifa zao kama wavumbuzi wa AI. Kwa sababu ya waandamanaji wa wafanyikazi dhidi ya Mradi Maven mnamo 2018, kiongozi wa AI Google hakuwa akizingatia Mradi mkubwa zaidi wa JEDI mnamo 2019. Mwishoni mwa 2019, ilitangazwa kuwa mkataba ulikwenda kwa Microsoft. Mkubwa wa chanjo ya habari ulifuata, lakini chanjo hii ililenga haswa juu ya uhasama kati ya Amazon na Microsoft, na kwa ukweli kwamba mahali pa 3 Microsoft labda iliruhusiwa kupiga Amazon mahali pa 2 kwa ushindi kwa sababu ya vita vinavyoendelea vya serikali ya Trump na Washington Post, ambayo inamilikiwa na Jeff Bezos wa Amazon. Amazon sasa inaenda kortini kupigania zawadi ya $ 10.5 bilioni kwa Pentagon kwa Microsoft, na Oracle pia inadai. Maneno maalum kutoka kwa podcast ya Mradi 38 yaliyotajwa hapo juu - "Watu wengi watakuwa wakinunua mabwawa mapya ya kuogelea mwaka huu" - haikuhusu tu faida ya kifedha ya Microsoft lakini pia kwa mawakili wote watakaoshiriki katika kesi hizi za kisheria. Labda tunaweza kufanya nadhani ya elimu kwamba zaidi ya 3% ya Mradi wa JEDI wa $ 10.5 bilioni wataenda kwa wanasheria. Mbaya sana hatuwezi kuitumia kusaidia kukomesha njaa ya ulimwengu badala yake.

Mzozo juu ya ikiwa uhamishaji huu wa pesa za mlipa ushuru kwa makandarasi wa kijeshi inapaswa kufaidika na Microsoft, Amazon au Oracle imesimamia utangazaji wa habari wa Mradi JEDI. Ujumbe mmoja mzuri wa kukusanywa kutoka kwa ufisadi huu mchafu - ukweli kwamba Google ilikuwa imeondoka kwenye mkataba mkubwa wa programu za kijeshi katika historia ya ulimwengu kwa sababu ya maandamano ya wafanyikazi - imekuwa haipo kabisa katika habari ya Mradi wa JEDI. 

Hii ndio sababu ilikuwa muhimu kuambia hadithi hii kwa wanaharakati waliojikita kwenye teknolojia ambao walikusanyika katika chumba kilichojaa katikati mwa jiji Manhattan wiki iliyopita ili kuzungumza juu ya jinsi tunaweza kuokoa sayari yetu, jinsi tunaweza kupigana na kutengana na siasa za sayansi ya hali ya hewa, jinsi tunaweza kusimama kwa nguvu kubwa ya profesa mafuta ya taa na profiteers silaha. Katika chumba hiki kidogo, sisi wote walionekana kufahamu vipimo vya shida tuliyokuwa tukikabili, na jukumu muhimu ambalo sisi wenyewe lazima tuanze kuchukua. Jamii ya tech ina nguvu kubwa. Kama vile kampeni za kupiga mbizi zinaweza kuleta mabadiliko ya kweli, uasi wa wafanyikazi wa tech unaweza kufanya tofauti halisi. Kuna njia nyingi wanaharakati wa mabadiliko ya hali ya hewa, wanaharakati wa uasi wa wafanyikazi na wanaharakati wa vita wanaweza kuanza kufanya kazi kwa pamoja, na tutakuwa tukifanya hivyo kwa kila njia tunaweza.

Tulikuwa na tumaini la kuanza na mkutano huu, ulioanzishwa na Uasi Uasi wa NYC na Dunia haiwezi Kusubiri. Harakati hii itakua - lazima ikue. Matumizi mabaya ya mafuta ni lengo la waandamanaji wa mabadiliko ya hali ya hewa. Matumizi mabaya ya mafuta pia ni sababu ya msingi ya faida ya ubeberu wa Merika na matokeo mabaya ya msingi ya shughuli za kijeshi za jeshi la Merika. Kwa kweli, jeshi la Merika linaonekana kuwa mchafuzi mbaya kabisa ulimwenguni. Je! Wafanyikazi wa teknolojia wanaweza kutumia nguvu yetu ya kupanga kwa ushindi hata yenye athari zaidi kuliko uondoaji wa Google kutoka kwa Mradi wa JEDI? Tunaweza na lazima. Mkutano wa wiki iliyopita New York City ulikuwa hatua kidogo mbele. Lazima tufanye zaidi, na lazima tutoe harakati zetu za maandamano pamoja

Marc Eliot Stein ni mkurugenzi wa teknolojia na vyombo vya habari vya kijamii kwa World BEYOND War.

Picha na Gregory Schwedock.