Troch Marc Eliot Stein, 10 febrewaris 2020

Ik waard koartlyn útnoege om te sprekken by in gearkomst foar Extinction Rebellion yn New York City út namme fan World BEYOND War. It evenemint waard ûntworpen om trije aksjegroepen byinoar te bringen: aktivisten foar klimaatferoaring, kollektiven foar tech-arbeiders, en aktivisten tsjin 'e oarloch. Wy begon mei in oproerjend persoanlik akkount fan klimaatferoaringsaktivist Ha Vu, dy't de mannichte fan New Yorkers fertelde oer in alarmearjende ûnderfining dy't in pear fan ús ea hawwe: weromkomme nei har famyljehûs yn Hanoi, Fietnam, wêr ferhege waarmte hat it hast hast ûnmooglik makke om bûten te rinnen by heulende sinneljochtoeren. In pear Amerikanen witte ek oer de 2016 wetterfersmoarging ramp yn Ha Tinh yn sintraal Fietnam. Wy sprekke faaks fan klimaatferoaring as in potensjaal probleem yn 'e FS, beklamme Ha, mar yn Fietnam kin se it al sjen dat it libben en bestean fersteurt, en rap minder wurdt.

Nick Mottern fan KnowDrones.org spruts mei ferlykbere urginsje oer de resinte massive ynvestearring fan it Amerikaanske leger yn futuristyske keunstmjittige yntelliginsje en wolkekompjûtering - en beklamme de eigen konklúzje fan it leger dat ynset fan AI-systemen yn kearnwapenbehear en drone-oarlochfeart sûnder mis sil liede ta flaters fan ûnfoarspelbere grutte. William Beckler fan Extinction Rebellion NYC folge troch út te lizzen de organisearjende prinsipes dy't dizze wichtige en rap groeiende organisaasje yn aksje bringt, ynklusyf steurende aksjes ûntworpen om bewust te meitsjen fan it kritysk belang fan klimaatferoaring. Wy hearden fan in fertsjintwurdiger fan New York City fan Tech Workers Koalysje, en ik besocht de gearkomste te pivotearjen nei in gefoel fan praktyske empowerment troch te sprekken oer in opstanningsaksje fan tech-arbeiders dy't ûnferwachts suksesfol wie.

Dit wie yn april 2018, doe't de saneamde 'ferdigeningsyndustry' sûzde oer Project Maven, in heul publiseare nij US militêr inisjatyf om keunstmjittige yntelliginsje mooglikheden te ûntwikkeljen foar drones en oare wapensystemen. Google, Amazon en Microsoft biede allegear off-the-shelf keunstmjittige yntelliginsje platfoarms foar beteljende klanten, en Google waard sjoen as de wierskynlike winner fan it militêre kontrakt fan Project Maven.

Begjin 2018 begon Google-arbeiders te sprekken. Se begrepen net wêrom't in bedriuw dat har as wurknimmers hie werven mei it belofte "Don't Be Evil" no biet op militêre projekten dy't wierskynlik lykje op 'e ferskriklike ôflevering fan "Black Mirror" wêryn meganyske hûnen mei AI hûnen minske wêzens ta de dea. Se sprieken op sosjale media en nei tradisjonele nijsútstapkes. Se organiseare aksjes en sirkulearren petysjes en makken harsels te hearren.

Dizze reboelje fan arbeiders wie de genesis fan 'e beweging fan' e Rebellion fan Google Workers, en it holp om oare kollektiven foar tech-arbeiders op te bootjen. Mar it meast fernuverjende ding oer it ynterne Google-protest tsjin Project Maven wie net dat tech-arbeiders sprieken. It wûnderlikste is dat Google-management joech ta oan 'e easken fan arbeiders.

Twa jier letter stunt dit feit my noch. Ik haw yn myn desennia in protte etyske problemen sjoen as in technyske arbeider, mar ik haw selden in grut bedriuw sjoen kategoarysk ynstimme om etyske problemen op in wichtige manier oan te pakken. It resultaat fan 'e reboelje fan Google tsjin Project Maven wie de publikaasje fan in set fan AI-prinsipes dy't it wurdich binne hjir wer yn te drukken:

Keunstmjittige yntelliginsje by Google: Us prinsipes

Google stribbet nei technologyen te meitsjen dy't wichtige problemen oplosse en minsken yn har deistich libben helpe. Wy binne optimistysk oer it ongelooflijke potensjeel foar AI en oare avansearre technologyen om minsken te bemachtigjen, breed profitearje fan hjoeddeistige en takomstige generaasjes, en wurkje foar it algemien goede.

Doelstellings foar AI-applikaasjes

Wy sille AI-tapassingen beoardielje mei it each op de folgjende doelen. Wy leauwe dat AI moat:

1. Wês sosjaal foardielich.

It útwreide berik fan nije technologyen rint hieltyd mear oan 'e maatskippij as gehiel. Foarútgong yn AI sil transformative effekten hawwe yn in breed skala fan fjilden, ynklusyf sûnenssoarch, feiligens, enerzjy, ferfier, fabrikaazje, en ferdivedaasje. Wylst wy potinsjele ûntwikkeling en gebrûk fan AI-technologieën beskôgje, sille wy in breed skala oan sosjale en ekonomyske faktoaren rekkenje, en sille we trochgean wêr't wy leauwe dat de algemiene wierskynlike foardielen de oersichtlike risiko's en neidielen substansjeel mear binne.

AI ferbettert ek ús fermogen om de betsjutting fan ynhâld op skaal te begripen. Wy sille stribje nei hege kwaliteit en krekte ynformaasje maklik beskikber te meitsjen mei help fan AI, wylst wy trochgean mei respektearjen fan kulturele, sosjale en juridyske normen yn 'e lannen wêr't wy wurkje. En wy sille trochgean mei tinken te evaluearjen wannear't wy ús technologyen op in net-kommersjele basis beskikber stelle moatte.

2. Ferjit ûnrjochtfeardige bias te meitsjen of te fersterkjen.

AI-algoritmen en datasets kinne ûnrjochtfeardige foardielen reflektearje, fersterkje of ferminderje. Wy erkenne dat it ûnderskieden fan earlik fan ûnrjochtfeardige foardielen net altyd simpel is, en ferskilt oer kultueren en maatskippijen. Wy sille besykje ûnrjochtfeardige ynfloed op minsken te foarkommen, yn 't bysûnder dyjinge relatearre oan gefoelige skaaimerken lykas ras, etnisiteit, geslacht, nasjonaliteit, ynkommen, seksuele oriïntaasje, fermogen, en politike of religieuze leauwen.

3. Wês boud en testen foar feiligens.

Wy sille trochgean mei ûntwikkeljen en tapasse sterke feiligens- en befeiligingspraktiken om unbedoelde resultaten te foarkommen dy't risiko's foar skea oanmeitsje. Wy sille ús AI-systemen ûntwerpe om passend foarsichtich te wêzen, en besykje se te ûntwikkeljen yn oerienstimming mei bêste praktiken yn AI-feiligensûndersyk. Yn passende gefallen sille wy AI-technologyen yn beheinde omjouwingen testje en har wurking kontrolearje nei de ynset.

4. Wês ferantwurdelik foar minsken.

Wy sille AI-systemen ûntwerpe dy't passende kânsen leverje foar feedback, relevante ferklearrings, en berop. Us AI-technologyen sille ûnderwurpen wêze oan passende minsklike rjochting en kontrôle.

5. Inkorporearje prinsipes fan privacy-ûntwerp.

Wy sille ús privacyprinsipes opnimme yn 'e ûntwikkeling en gebrûk fan ús AI-technologyen. Wy sille kâns jaan foar notifikaasje en tastimming, arsjitektuer oanmoedigje mei beskerming fan privacy en soargje foar passende transparânsje en kontrôle oer it gebrûk fan gegevens.

6. Stypje hege noarmen fan wittenskiplike treflikens.

Technologyske ynnovaasje is woartele yn 'e wittenskiplike metoade en in ynset foar iepen enkête, yntellektuele rigor, yntegriteit en gearwurking. AI-ark hat it potinsjeel om nije gebieten fan wittenskiplik ûndersyk en kennis te ûntsluten yn krityske domeinen lykas biology, skiekunde, medisinen, en miljeuwetenskippen. Wy stribje nei hege noarmen fan wittenskiplike treflikens as wy wurkje oan AI-ûntwikkeling.

Wy sille gearwurkje mei in berik fan belanghawwenden om gedachte liederskip op dit gebiet te befoarderjen, op basis fan wittenskiplik strikte en multydissiplinêre oanpak. En wy sille ferantwurdlik AI-kennis diele troch edukative materialen, best practices, en ûndersyk te publisearjen, wêrtroch mear minsken nuttige AI-applikaasjes kinne ûntwikkelje.

7. Wês beskikber steld foar gebrûk dy't oerienkomt mei dizze prinsipes.

In protte technologyen hawwe meardere gebrûk. Wy sille wurkje om potensjeel skealike as misbrûkende applikaasjes te beheinen. Wylst wy AI-technologyen ûntwikkelje en ynset, sille wy wierskynlik gebrûk evaluearje yn it ljocht fan 'e folgjende faktoaren:

• Primêr doel en gebrûk: it primêre doel en wierskynlik gebrûk fan in technology en applikaasje, ynklusyf hoe nau de oplossing is relatearre oan of oanpasse oan in skealik gebrûk
• Natuer en unykens: of wy binne beskikber te meitsjen technology dy't unyk is of mear algemien beskikber
• skaal: oft it gebrûk fan dizze technology wichtige ynfloed sil hawwe
• Aard fan de belutsenens fan Google: of wy leverje ark foar algemiene doelen, yntegreare ark foar klanten, of ûntwikkelje oanpaste oplossingen

AI-applikaasjes sille wy net neistribje

Neist de boppesteande doelen, sille wy AI net ûntwerpe of ynset yn 'e folgjende tapassingsgebieten:

1. Technologyen dy't algemiene skea feroarsaakje of wierskynlik feroarsaakje. As d'r in materieel risiko is foar skea, sille wy allinich trochgean wêr't wy leauwe dat de foardielen substansjeel swier binne as de risiko's, en sille passende feiligensbeperkingen opnimme.
2. Wapens of oare technologyen waans haaddoel as ymplemintaasje is minsken ferwûning of direkt te fasilitearjen.
3. Technologies dy't ynformaasje sammelje of brûke foar tafersjoch dy't ynternasjonaal aksepteare normen skea.
4. Technologies wêrfan it doel yn striid is mei breed akseptearre prinsipes fan ynternasjonaal rjocht en minskerjochten.

As ús ûnderfining yn dizze romte ferdjippet, kin dizze list evoluearje.

Konklúzje

Wy leauwe dat dizze prinsipes de juste basis binne foar ús bedriuw en ús takomstige ûntwikkeling fan AI. Wy erkenne dat dit gebiet dynamysk en evoluearjend is, en wy sille ús wurk benaderje mei dimmenens, in ynset foar ynterne en eksterne engagement, en in reewilligens om ús oanpak oan te passen as wy oer tiid leare.

Dit positive resultaat befrijt de tech-gigant Google net fan komplisiteit yn ferskate oare gebieten fan grutte soargen, lykas it stypjen fan ICE, plysje en oare militêre aktiviteiten, aggregearjen en ferkeapjen fan tagong ta priveegegevens oer persoanen, ferbergje kontroversjele politike útspraken út 'e sykmasjine-resultaten en, it wichtichste, it tastean fan har meiwurkers om troch te gean oer dizze en oare problemen sûnder te ûntslaan foar it dwaan. De reboeljebeweging fan Google-arbeiders bliuwt aktyf en heul belutsen.

Tagelyk is it wichtich om te erkennen hoe ynfloed de Google arbeidersbeweging wie. Dit waard fuortendaliks dúdlik neidat de Google-protesten begon: de marketingôfdielings fan 'e Pentagon stoppen mei útjaan fan nije parseberjochten oer it ienris spannende Project Maven, en úteinlik' ferdwûn 'it projekt folslein út' e iepenbiere sichtberens dy't it earder socht. Ynstee begon in nij en folle grutter inisjatyf foar keunstmjittige yntelliginsje te ûntstean út 'e ferfelende Pentagon Definsje Ynnovaasjeboerd.

Dit waard neamd Projekt JEDI, in nije namme foar Pentagon útjeften oan nijste wapens. Projekt JEDI soe folle mear jild útjaan dan Project Maven, mar de publisiteit blitz foar it nije projekt (ja, it Amerikaanske leger besteget in protte fan tiid en oandacht op publisiteit en marketing) wie heul oars as de eardere. Alle slanke en sexy "Black Mirror" -byldings wiene fuort. No, yn plak fan de klam te jaan op 'e opwinende en filmyske dystopyske horrors dy't AI-oandreaune drones de minske kinne feroarsaakje, ferklearre Project JEDI himsels as in sobere stap foarút foar effisjinsje, troch ferskate wolkedatabases te kombinearjen om "warfighters" te helpen (de favorite term fan it Pentagon foar front-line personiel) en back-office stipe teams maksimalisearje effektiviteit fan ynformaasje. Wêr't Project Maven ûntworpen wie om spannend en futuristysk te klinke, wie Project JEDI ûntworpen om sinnich en praktysk te klinke.

D'r is neat sinnich as praktysk oer it priiskaartsje foar Project JEDI. It is it grutste militêre softwarekontrakt yn 'e wrâldskiednis: 10.5 miljard dollar. In protte fan ús eagen glânzje oer as wy hearre oer skalen fan militêre besteging, en wy kinne oerslaan oer it ferskil tusken miljoenen en miljarden. It is essensjeel om te begripen hoefolle grutter Project JEDI is dan in eardere Pentagon software-inisjatyf. It is in spultsje-wikseler, in rykdom-generearjende motor, in lege kontrôle foar winst op belestingbeteller.

It helpt te krassen ûnder it oerflak fan parseberjochten fan 'e regearing as jo besykje in lege kontrôle fan militêre útjeften sa grut as $ 10.5 miljard te begripen. Guon ynformaasje kin wurde helle út 'e eigen publikaasjes fan it leger, lykas in steurende Augustus 2019 ynterview mei Joint Artificial Intelligence Center luitenant-generaal Jack Shanahan, in kaai figuer yn sawol it ferdwûnen Project Maven as it nije Project JEDI. Ik koe mear ynsjoch krije yn hoe't ynsiders fan definsje-yndustry tinke oer Project JEDI troch te harkjen nei in neamd podcast fan definsje-yndustry “Projekt 38: De takomst fan oerheidsopdrachten”, Podcastgasten sprekke faaks iepenhertich en ûnbeskamme oer hokker ûnderwerp se ek besprekke. “In soad minsken sille dit jier nije swimbaden keapje” wie typysk foar it insider-petear fan dizze podcast oer Project JEDI. Wy binne der wis fan dat se dat sille wêze.

Hjir is it opmerklike ding dat ferbynt mei Google's AI-prinsipes. De foar de hân lizzende trije foaroprinners foar it massale JEDI-kontrakt fan $ 10.5 miljard soene Google, Amazon en Microsoft west hawwe - yn dy folchoarder, basearre op har reputaasje as AI-fernijers. Fanwegen it arbeidersprotest tsjin Project Maven yn 2018, wie AI-lieder Google bûten beskôging foar it folle gruttere Project JEDI yn 2019. Ein 2019 waard bekend dat it kontrakt nei Microsoft gie. In flits fan nijsdekking folge, mar dizze dekking rjochte him foaral op 'e rivaliteit tusken Amazon en Microsoft, en op it feit dat Microsoft op it 3e plak wierskynlik mocht it twadde plak Amazon te winnen foar de winst fanwegen de oanhâldende gefjochten fan' e Trump-administraasje mei Washington Post, dat is eigendom fan Jeff Bezos fan Amazon. Amazon giet no nei de rjochtbank om it kado fan $ 2 miljard oan Pentagon oan Microsoft te bestriden, en Oracle ferfolget ek. De spesifike opmerking fan 'e hjirboppe neamde podcast Project 10.5 - "In protte minsken sille dit jier nije swimbaden keapje" - ferwiist net allinich nei de finansjele foardiel fan Microsoft, mar ek nei alle advokaten dy't sille meidwaan oan dizze rjochtsaken. Wy kinne wierskynlik in oplate gis meitsje dat mear dan 38% fan $ 3 miljard fan Project JEDI nei advokaten sil gean. Spitich dat wy it net kinne brûke om te helpen ein wrâld honger ynstee.

It skeel oer oft dizze oerdracht fan jild fan belestingbeteller oan militêre oannimmers profitearje moat fan Microsoft, Amazon as Oracle hat de nijsferslach fan Project JEDI dominearre. It iene positive berjocht dat wurde sammele út dit obseine graft - it feit dat Google fuort wie fan 'e grutste militêre softwarekontrakt yn' e wrâldhistoarje fanwegen it protest fan 'e arbeiders - is frijwol net besteand yn' e nijsdekking fan Project JEDI. 

Dit is wêrom it wichtich wie dit ferhaal te fertellen oan 'e tech-rjochte aktivisten dy't ferline wike sammele wiene yn in folume keamer yn' e binnenstêd fan Manhattan om te petearjen oer hoe't wy ús planeet kinne rêde, hoe't wy kinne fjochtsje tsjin disinformaasje en politisearring fan klimaatwittenskip, hoe kinne wy ​​ophâlde mei de massale krêft fan profitearders fan fossile brânstof en wapenprofiterers. Yn dizze lytse keamer leinen wy allegear de dimensjes te begripen fan it probleem dat wy konfronteare, en de krityske rol dy't wy sels moatte begjinne te spyljen. De techmienskip hat wichtige macht. Krekt as ôfstjittingskampanjes kinne in echt ferskil meitsje, kinne rebellen fan tech-arbeiders in echt ferskil meitsje. D'r binne in soad manieren om aktivisten foar klimaatferoaring, rebellenaktivisten fan tech-arbeiders en aktivisten tsjin 'e oarloch te begjinnen gear te wurkjen, en wy sille dat dwaan op elke manier dy't wy kinne.

Wy hienen in hoopfol begjin mei dizze gearkomst, nuttich inisjeare troch Utwreiding Rebellion NYC en Wrâld kin net wachtsje, Dizze beweging sil groeie - it moat groeie. Fossile brânstof misbrûk is de fokus fan protestanten oer klimaatferoaring. Fossylbrânstofmisbrûk is ek sawol it primêre winstmotyf fan 'e Amerikaanske ymperialisme as in primêr ferskriklik resultaat fan' e ferwidere aktiviteiten fan 'e opblaasde Amerikaanske leger. Eins liket it Amerikaanske leger te wêzen de single minste fersmoarger yn 'e wrâld. Kinne tech-arbeiders ús organisearjende krêft brûke foar oerwinningen noch wichtiger dan it weromlûken fan Google út Project JEDI? Wy kinne en wy moatte. Ferline wike yn New York City wie mar in lytse stap foarút. Wy moatte mear dwaan, en wy moatte ús kombineare protestbeweging alles jaan wat wy hawwe.

Marc Eliot Stein is direkteur fan technology en sosjale media foar World BEYOND War.

Foto troch Gregory Schwedock.