Minn Marc Eliot Stein, 10 ta 'Frar, 2020

Riċentement ġejt mistieden nitkellem f'laqgħa ta 'Rebellion Extinction fi New York City f'isem World BEYOND War. L-avveniment kien maħsub biex jiġbor flimkien tliet gruppi ta ’azzjoni: attivisti għat-tibdil fil-klima, kollettivi ta’ ħaddiema tat-teknoloġija u attivisti kontra l-gwerra. Bdejna b'kont personali li ħawwad mill-attivista tat-tibdil fil-klima Ha Vu, li qal lill-folla ta 'New Yorkers dwar esperjenza allarmanti li ftit minna qatt kellhom: jirritorna lejn id-dar tal-familja tagħha f'Hanoi, il-Vjetnam, fejn żieda fis-sħana diġa għamilha kważi impossibbli li timxi barra waqt l-ogħla sigħat tax-xemx. Ftit Amerikani jafu wkoll dwarhom 2016 diżastru tat-tniġġis tal-ilma f'Ha Tinh fil-Vjetnam ċentrali. Spiss nitkellmu dwar it-tibdil fil-klima bħala problema potenzjali fl-Istati Uniti, enfasizza Ha, iżda fil-Vjetnam hi tista 'taraha li diġà tfixkel ħajjiet u għajxien, u tmur għall-agħar malajr.

Nick Mottern tal KnowDrones.org tkellem b'urġenza simili dwar l-investiment massiv reċenti tal-militar ta 'l-Istati Uniti f'intelliġenza artifiċjali futuristika u cloud computing - u enfasizza l-konklużjoni tal-militar stess li l-iskjeramenti ta' sistemi AI fil-ġestjoni ta 'armi nukleari u l-gwerra tad-drones inevitabbilment iwasslu għal żbalji ta' kobor imprevedibbli. William Beckler ta 'Extinction Rebellion NYC segwit billi spjega l-prinċipji organizzattivi li din l-organizzazzjoni importanti u li qed tikber b'rata mgħaġġla tpoġġi f'azzjoni, inklużi azzjonijiet ta' tfixkil iddisinjati biex iqajmu kuxjenza dwar l-importanza kritika tat-tibdil fil-klima. Smajna mingħand rappreżentant ta 'New York City ta' Koalizzjoni tal-Ħaddiema Tek, u ppruvajt nivvota l-ġabra lejn sens ta 'setgħa prattika billi nitkellem dwar azzjoni ta' ribelljoni ta 'ħaddiema tat-teknoloġija li rnexxiet bla mistenni.

Dan seħħ f'April 2018, meta l-hekk imsejħa "industrija tad-difiża" kienet qed taħsib dwar Project Maven, inizjattiva militari ġdida ta 'l-Istati Uniti ppubbliċizzata ħafna biex tiżviluppa kapaċitajiet ta' intelliġenza artifiċjali għal drones u sistemi oħra ta 'armi. Google, Amazon u Microsoft kollha joffru pjattaformi ta 'intelliġenza artifiċjali off-the-shelf għall-klijenti li jħallsu, u Google kien meqjus bħala r-rebbieħ probabbli tal-kuntratt militari tal-Project Maven.

Fil-bidu tal-2018, il-ħaddiema ta 'Google bdew jitkellmu. Ma fehmux għaliex kumpanija li kienet irreklutathom bħala impjegati bil-wegħda "M'għandekx tkun ħażin" issa offriet fuq proġetti militari li x'aktarx jixbħu l-episodju orribbli ta '"Black Mirror" li fih il-klieb mekkaniċi mħaddma bl-AI umani. bnedmin sal-mewt. Huma tkellmu fuq il-midja soċjali u fil-ħwienet tal-aħbarijiet tradizzjonali. Huma organizzaw azzjonijiet u ċċirkulaw petizzjonijiet u semmew lilhom infushom.

Din ir-ribelljoni tal-ħaddiema kienet il-ġenesi tal-moviment tal-Google Workers Rebellion, u dan għen biex jinbnew kollettivi ta ’ħaddiema oħra ta’ teknoloġija oħra. Imma l-iktar ħaġa tal-għaġeb dwar il-protesta interna ta 'Google kontra Project Maven ma kinitx li l-ħaddiema tat-teknoloġija kienu qed jitkellmu. L-iktar ħaġa tal-għaġeb hija li Il-ġestjoni tal-Google ġabet ir-rekwiżiti tal-ħaddiema.

Sentejn wara, dan il-fatt xorta stunni. Rajt ħafna problemi etiċi fl-għexieren ta 'snin tiegħi bħala ħaddiem teknoloġiku, imma rarament rajt kumpanija kbira taqbel kategorikament biex tindirizza l-problemi etiċi b'mod sinifikanti. Ir-riżultat tar-ribelljoni ta 'Google kontra Project Maven kien il-pubblikazzjoni ta' sett ta 'prinċipji AI li ta' min jerġa 'jiġi stampat hawnhekk:

Intelliġenza Artifiċjali fuq Google: Il-Prinċipji tagħna

Google jaspira li joħloq teknoloġiji li jsolvu problemi importanti u jgħinu lin-nies fil-ħajja tagħhom ta 'kuljum. Aħna ottimisti dwar il-potenzjal inkredibbli għall-AI u teknoloġiji avvanzati oħra biex jagħtu s-setgħa lin-nies, jibbenefikaw ħafna l-ġenerazzjonijiet attwali u futuri, u jaħdmu għall-ġid komuni.

Objettivi għal applikazzjonijiet AI

Aħna nevalwaw l-applikazzjonijiet tal-AI fid-dawl tal-għanijiet li ġejjin. Aħna nemmnu li l-AI għandha:

1. Kun benefiċjalment soċjalment.

Il-firxa estiża ta 'teknoloġiji ġodda tmiss dejjem aktar lis-soċjetà kollha kemm hi. L-avvanzi fl-AI se jkollhom impatti trasformattivi f'firxa wiesgħa ta 'oqsma, inklużi kura tas-saħħa, sigurtà, enerġija, trasport, manifattura u divertiment. Hekk kif nikkunsidraw l-iżvilupp u l-użi potenzjali tat-teknoloġiji tal-AI, aħna se nqisu firxa wiesgħa ta 'fatturi soċjali u ekonomiċi, u nipproċedu fejn nemmnu li l-benefiċċji probabbli globali jaqbżu sostanzjalment ir-riskji u l-effetti prevedibbli.

L-AI ttejjeb ukoll l-abilità tagħna li nifhmu t-tifsira tal-kontenut fuq skala kbira. Aħna nagħmlu ħilitna biex nagħmlu informazzjoni ta 'kwalità għolja u preċiża faċilment disponibbli bl-użu ta' AI, filwaqt li nkomplu nirrispettaw in-normi kulturali, soċjali u legali fil-pajjiżi fejn noperaw. U aħna se nkomplu nevalwaw bil-ħsieb meta nagħmlu t-teknoloġiji tagħna disponibbli fuq bażi mhux kummerċjali.

2. Evita li toħloq jew li ssaħħaħ ix-xaqlib inġust.

L-algoritmi u s-settijiet tad-dejta tal-AI jistgħu jirriflettu, isaħħu jew inaqqsu l-preġudizzji inġusti. Aħna nirrikonoxxu li d-distinzjoni ġusta minn preġudizzji inġusti mhix dejjem sempliċi, u tvarja bejn il-kulturi u s-soċjetajiet. Aħna nfittxu li nevitaw impatti inġusti fuq in-nies, partikolarment dawk relatati ma 'karatteristiċi sensittivi bħal razza, etniċità, sess, nazzjonalità, dħul, orjentazzjoni sesswali, abilità, u twemmin politiku jew reliġjuż.

3. Kun mibni u ttestjat għas-sigurtà.

Se nkomplu niżviluppaw u napplikaw prattiċi qawwija ta 'sikurezza u sigurtà biex jiġu evitati riżultati mhux intenzjonati li joħolqu riskji ta' ħsara. Aħna se tiddisinja s-sistemi tal-AI tagħna biex ikunu kawti kif xieraq, u nfittxu li niżviluppawhom skont l-aħjar prattiki fir-riċerka dwar is-sigurtà tal-AI. F'każijiet xierqa, aħna nittestjaw it-teknoloġiji tal-AI f'ambjenti ristretti u nissorveljaw l-operat tagħhom wara l-iskjerament.

4. Ikunu responsabbli lejn in-nies.

Aħna se tiddisinja sistemi AI li jipprovdu opportunitajiet xierqa għal feedback, spjegazzjonijiet rilevanti, u appell. It-teknoloġiji AI tagħna se jkunu soġġetti għal direzzjoni u kontroll uman xierqa.

5. Jinkorporaw prinċipji tad-disinn tal-privatezza.

Aħna ninkorporaw il-prinċipji tal-privatezza tagħna fl-iżvilupp u l-użu tat-teknoloġiji AI tagħna. Aħna se nagħtu opportunità għal avviż u kunsens, ninkoraġġixxu l-arkitetturi b'salvagwardji tal-privatezza, u nipprovdu trasparenza u kontroll xierqa fuq l-użu tad-dejta.

6. Ittejjeb standards għoljin ta 'eċċellenza xjentifika.

L-innovazzjoni teknoloġika għandha l-għeruq fil-metodu xjentifiku u impenn għal inkjesta miftuħa, rigoroż intellettwali, integrità u kollaborazzjoni. L-għodod tal-AI għandhom il-potenzjal li jisfruttaw oqsma ġodda ta 'riċerka xjentifika u għarfien f'oqsma kritiċi bħall-bijoloġija, il-kimika, il-mediċina, u x-xjenzi ambjentali. Aħna naspiraw għal standards għoljin ta 'eċċellenza xjentifika waqt li naħdmu għall-progress tal-iżvilupp tal-AI.

Aħna ser naħdmu ma 'firxa ta' partijiet interessati biex nippromwovu tmexxija maħsuba f'dan il-qasam, billi nislet approċċi xjentifikament rigorużi u multidixxiplinarji. U aħna se naqsmu b'mod responsabbli l-għarfien AI billi tippubblika materjali edukattivi, l-aħjar prattiki, u riċerka li tippermetti aktar nies jiżviluppaw applikazzjonijiet AI utli.

7. Tkun disponibbli għall-użi li jaqblu ma 'dawn il-prinċipji.

Ħafna teknoloġiji għandhom użi multipli. Aħna ser naħdmu biex nillimitaw applikazzjonijiet potenzjalment ta 'ħsara jew abbużivi. Hekk kif niżviluppaw u nibdew teknoloġiji AI, aħna nevalwaw l-użi probabbli fid-dawl tal-fatturi li ġejjin:

• L-iskop primarju u l-użu: l-iskop primarju u l-użu probabbli ta 'teknoloġija u applikazzjoni, inkluż kemm il-qrib is-soluzzjoni hija relatata ma' jew adattabbli għal użu ta 'ħsara
• In-natura u l-uniċità: sew jekk inkunu qed nagħmlu teknoloġija disponibbli li hija unika jew iktar ġeneralment disponibbli
• Skala: jekk l-użu ta 'din it-teknoloġija ser ikollu impatt sinifikanti
• In-natura tal-involviment ta 'Google: kemm jekk qegħdin nipprovdu għodda ta 'skop ġenerali, nintegraw għodod għall-klijenti, jew inkella niżviluppaw soluzzjonijiet apposta

L-applikazzjonijiet tal-AI mhux se nsegwu

Minbarra l-għanijiet ta 'hawn fuq, aħna mhux se niddisinjaw jew nużaw l-AI fl-oqsma ta' applikazzjoni li ġejjin:

1. Teknoloġiji li jikkawżaw jew x'aktarx jikkawżaw ħsara ġenerali. Meta jkun hemm riskju materjali ta 'ħsara, aħna nipproċedu biss fejn nemmnu li l-benefiċċji jegħlbu sostanzjalment ir-riskji, u se jinkorporaw restrizzjonijiet ta' sikurezza xierqa.
2. Armi jew teknoloġiji oħra li l-iskop jew l-implimentazzjoni ewlenin tagħhom huwa li jikkawżaw jew jiffaċilitaw direttament korrimenti lil nies.
3. Teknoloġiji li jiġbru jew jużaw informazzjoni għas-sorveljanza li jiksru normi aċċettati internazzjonalment.
4. Teknoloġiji li l-iskop tagħhom jiksru prinċipji aċċettati b'mod wiesa 'tal-liġi internazzjonali u tad-drittijiet tal-bniedem.

Hekk kif l-esperjenza tagħna f'dan l-ispazju tikber, din il-lista tista 'tevolvi.

konklużjoni

Aħna nemmnu li dawn il-prinċipji huma l-pedament it-tajjeb għall-kumpanija tagħna u l-iżvilupp futur tagħna tal-AI. Aħna nirrikonoxxu li dan il-qasam huwa dinamiku u jevolvi, u aħna se nersqu lejn ix-xogħol tagħna b'umiltà, b'impenn għal impenn intern u estern, u rieda biex tadatta l-approċċ tagħna hekk kif nitgħallmu maż-żmien.

Dan ir-riżultat pożittiv ma jeliminax il-ġgant tat-teknoloġija ta 'Google mill-kompliċità f'diversi oqsma oħra ta' tħassib kbir, bħall-appoġġ tal-ICE, il-pulizija u attivitajiet militari oħra, jinġema 'u jbiegħ aċċess għal dejta privata dwar individwi, jaħbi dikjarazzjonijiet politiċi kontroversjali mir-riżultati tal-magna tat-tiftix. u, l-iktar importanti, li tippermetti lill-impjegati tagħha jkomplu jitkellmu fuq dawn u kwistjonijiet oħra mingħajr ma jiġu sparati talli għamlu hekk. Il-moviment tar-ribelljoni tal-ħaddiema ta 'Google jibqa' attiv u impenjat ħafna.

Fl-istess ħin, huwa importanti li wieħed jagħraf kemm kien impattanti l-moviment tal-ħaddiema ta 'Google. Dan deher ċar immedjatament wara li bdew il-protesti ta ’Google: id-dipartimenti tal-kummerċ tal-Pentagon waqfu milli joħorġu stqarrijiet għall-istampa ġodda dwar il-Project Maven li darba kien eċċitanti, biex eventwalment“ jisparixxu ”l-proġett kompletament mill-viżibbiltà pubblika li kien fittex aktar kmieni. Minflok, inizjattiva ġdida u ferm akbar ta 'intelliġenza artifiċjali bdiet toħroġ mill-insidjuż tal-Pentagon Bord tal-Innovazzjoni tad-Difiża.

Dan kien jissejjaħ Proġett JEDI, isem ġdid għall-infiq tal-Pentagon fuq armi l-aktar avvanzati. Il-Proġett JEDI jonfoq ħafna iktar flus minn Project Maven, iżda l-blitz pubbliċitarju għall-proġett il-ġdid (iva, il-militar Amerikan jonfoq ħafna taż-żmien u l-attenzjoni fuq il-pubbliċità u l-kummerċjalizzazzjoni) kienet differenti ħafna minn dik preċedenti. Kollha l-immaġini eleganti u sexy "Black Mirror" kienet marret. Issa, minflok ma jenfasizza l-orruri distopiċi eċċitanti u ċinematiċi ta ’drones li jaħdmu bl-AI jistgħu jġibu magħhom il-bnedmin, il-Proġett JEDI spjega lilu nnifsu bħala pass sobri’ l quddiem għall-effiċjenza, li jikkombina diversi bażijiet tad-dejta tas-sħab sabiex jgħin lil “warfighters” (it-terminu favorit tal-Pentagon għall persunal ta 'front-line) u timijiet ta' appoġġ ta 'wara l-uffiċċju jimmassimizzaw l-effettività ta' l-informazzjoni. Fejn Project Maven kien iddisinjat għal ħoss eċċitanti u futuristiku, il-Proġett JEDI kien iddisinjat biex ħoss sensibbli u prattiku.

M'hemm xejn sensibbli jew prattiku dwar it-tikketta tal-prezz għall-Proġett JEDI. Huwa l-akbar kuntratt ta ’softwer militari fl-istorja tad-dinja: $ 10.5 biljun. Ħafna mill-għajnejn tagħna jleqqu meta nisimgħu dwar skali ta 'nfiq militari, u nistgħu taqbeż id-differenza bejn miljuni u biljuni. Huwa essenzjali li tifhem kemm hu akbar il-Proġett JEDI minn kwalunkwe inizjattiva preċedenti tas-software Pentagon. Huwa logħba li tbiddel il-logħba, magna li tiġġenera l-ġid, ċekk vojt għal min ifittex bi spejjeż ta 'min iħallas it-taxxa.

Jgħin biex tobrox taħt il-wiċċ tal-istqarrijiet għall-istampa tal-gvern meta tipprova tifhem ċekk vojt ta 'nfiq militari daqs $ 10.5 biljun. Xi informazzjoni tista 'tinġabar mill-pubblikazzjonijiet tal-militar stess, bħal inkwetanti Awwissu tal-2019 intervista mal-Logutenent Ġenerali tal-Logutenent Ġenerali tal-Intelliġenza Artifiċjali Jack Shanahan, figura ewlenija kemm fil-Proġett Maven sparixxa kif ukoll fil-Proġett ġdid JEDI. Stajt insir iktar għarfien dwar kif persuni li jgħixu fl-industrija tad-difiża jaħsbu dwar il-Proġett JEDI billi nisma 'podcast tal-industrija tad-difiża msejjaħ "Proġett 38: Il-Ġejjieni ta 'Kontraenti tal-Gvern". Il-mistednin tal-podcast spiss jitkellmu bla tlaqliq u bla tlaqliq dwar kwalunkwe suġġett li qed jiddiskutu. "Ħafna nies se jkunu qed jixtru pixxini ġodda din is-sena" kienet tipika għall-insider chat ta 'dan il-podcast dwar il-Proġett JEDI. Aħna żgur li se jkunu.

Hawn hi l-ħaġa notevoli li torbot lura mal-prinċipji tal-AI tal-Google. It-tliet persuni ta ’quddiem ovvji għall-kuntratt massiv ta’ $ 10.5 biljun JEDI kienu jkunu Google, Amazon u Microsoft - f’dik l-ordni, ibbażati fuq ir-reputazzjoni tagħhom bħala innovaturi tal-AI. Minħabba l-protesta tal-ħaddiema kontra l-Proġett Maven fl-2018, il-mexxej tal-AI Google kien barra mill-konsiderazzjoni għall-Proġett ferm ikbar JEDI fl-2019. Tard fl-2019, ġie mħabbar li l-kuntratt mar għand Microsoft. Asegwiet numru kbir ta 'kopertura tal-aħbarijiet, iżda din il-kopertura ffokat prinċipalment fuq ir-rivalità bejn Amazon u Microsoft, u fuq il-fatt li t-3 post Microsoft probabbilment tħalla jirbaħ it-2 post Amazon għar-rebħa minħabba l-battalji kontinwi tal-amministrazzjoni Trump ma' Washington Post, li hija proprjetà ta 'Jeff Bezos tal-Amazon. Amazon issa sejjer il-qorti biex jiġġieled ir-rigal tal-Pentagon ta '$ 10.5 biljun lil Microsoft, u Oracle qed ifittex ukoll. Ir-rimarka speċifika mill-podcast tal-Proġett 38 imsemmi hawn fuq - "Ħafna nies se jkunu qed jixtru pixxini ġodda din is-sena" - irreferiet mhux biss għall-barka finanzjarja tal-Microsoft iżda wkoll għall-avukati kollha li se jipparteċipaw f'dawn il-kawżi. Probabbilment nistgħu nagħmlu raden edukat li aktar minn 3% tal-$ 10.5 biljun tal-Proġett JEDI se jmorru għall-avukati. Ħasra li ma nistgħux nużawha biex ngħinu itemm il-ġuħ dinji minflok.

It-tilwima dwar jekk dan it-trasferiment ta 'flus tal-kontribwenti lil kuntratturi militari għandux jibbenefika lil Microsoft, Amazon jew Oracle iddomina l-kopertura tal-aħbarijiet tal-Proġett JEDI. L-uniku messaġġ pożittiv li għandu jittieħed minn din it-tilqima oxxena - il-fatt li Google kien telaq mill-ikbar kuntratt ta ’softwer militari fl-istorja tad-dinja minħabba l-protesta tal-ħaddiema - kien prattikament ineżistenti fil-kopertura tal-aħbarijiet tal-Proġett JEDI. 

Dan hu għaliex kien importanti li tgħid din l-istorja lill-attivisti ffokati fit-teknoloġija li nġabru f'kamra iffullata f'nofs il-ġimgħa Manhattan il-ġimgħa li għaddiet biex jitkellmu dwar kif nistgħu nsalvaw il-pjaneta tagħna, kif nistgħu niġġieldu kontra d-diżinformazzjoni u l-politizzazzjoni tax-xjenza tal-klima, kif nistgħu inħarsu l-qawwa massiva tal-profittaturi tal-fjuwils fossili u dawk li jgawdu l-armi. F’din il-kamra żgħira, aħna lkoll deher naħtfu d-dimensjonijiet tal-problema li konna qed niffaċċjaw, u r-rwol kritiku li aħna nfusna rridu nibdew nilagħbu. Il-komunità tat-teknoloġija għandha poter sinifikanti. Hekk kif il-kampanji ta 'ċessjoni jistgħu jagħmlu differenza vera, ribelljonijiet ta' ħaddiema ta 'teknoloġija jistgħu jagħmlu differenza reali. Hemm ħafna modi kif attivisti għat-tibdil fil-klima, attivisti ta 'ribelljoni u ħaddiema ta' teknoloġija avvanzata u attivisti ta 'kontra l-gwerra jistgħu jibdew jaħdmu flimkien, u aħna se nagħmlu dan f'kull mod li nistgħu.

Kellna bidu ta 'tama b'dan il-ġbir, mibdi b'għajnuna minnu Rebellion ta 'Estinzjoni NYC u, Dinja ma tistax tistenna. Dan il-moviment se jikber - irid jikber. L-abbuż tal-fjuwils fossili huwa l-fokus tad-dimostranti tat-tibdil fil-klima. L-abbuż tal-fjuwils fossili huwa wkoll kemm il-motiv ewlieni tal-profitt ta 'l-imperjaliżmu ta' l-Istati Uniti kif ukoll riżultat terribbli primarju ta 'l-attivitajiet ta' ħela tal-militar Amerikan minfuħ. Tabilħaqq, il-militar ta 'l-Istati Uniti jidher li hu l-agħar wieħed li jniġġes fid-dinja. Il-ħaddiema tat-teknoloġija jistgħu jużaw il-qawwa ta 'organizzazzjoni tagħna għal rebħiet saħansitra aktar ta' impatt mill-irtirar ta 'Google mill-Proġett JEDI? Nistgħu u rridu. Il-laqgħa tal-Ġimgħa li għaddiet fil-Belt ta 'New York kienet biss pass żgħir' il quddiem. Irridu nagħmlu aktar, u rridu nagħtu l-moviment magħqud tagħna ta 'protesta dak kollu li sibna.

Marc Eliot Stein huwa direttur tat-teknoloġija u tal-midja soċjali World BEYOND War.

Ritratt minn Gregory Schwedock.