Autor Marc Eliot Stein, 10. veljače 2020

Nedavno su me pozvali na govor na skupu izumiranja pobune u New Yorku, u ime World BEYOND War, Događaj je osmišljen kako bi okupio tri akcijske skupine: aktiviste za klimatske promjene, kolege tehnoloških radnika i antiratne aktiviste. Počeli smo s uzburkanim osobnim računom aktivistice Ha Vu, koja je mnoštvu Njujorčana rekla za alarmantno iskustvo koje smo malo tko imali: povratak u kuću njezine obitelji u Hanoju u Vijetnamu, gdje povećana toplina već je učinilo gotovo nemogućim hodanje vani tijekom sati vrhunca sunčeve svjetlosti. Malo Amerikanaca također zna za 2016. katastrofa zagađenja vode u Ha Tinhu u središnjem Vijetnamu. Često govorimo o klimatskim promjenama kao potencijalnom problemu u SAD-u, naglasio je Ha, ali u Vijetnamu ona može vidjeti kako već ometa živote i sredstva za život i brzo se pogoršava.

Nick Mottern od KnowDrones.org sa sličnom hitnošću govorio je o nedavnom masovnom ulaganju američke vojske u futurističku umjetnu inteligenciju i računarstvo u oblaku - i naglasio vlastiti zaključak vojske da će primjena sustava AI u upravljanju nuklearnim oružjem i ratovanju bespilotnim letjelicama neizbježno dovesti do pogrešaka nepredvidive veličine. William Beckler iz Extinction Rebellion NYC, nakon čega slijedi objašnjavanje principa organiziranja koje ova važna i brzorastuća organizacija provodi u djelo, uključujući ometajuće akcije osmišljene kako bi podigle svijest o kritičnoj važnosti klimatskih promjena. Čuli smo se s predstavnikom New Yorka iz Koalicija tehničkih radnika, i pokušao sam okupiti usmjerenje prema osjećaju praktičnog osnaživanja govoreći o akciji pobune tehničara koji je neočekivano uspio.

Bilo je to u travnju 2018., kada je takozvana "obrambena industrija" zujala oko Project Maven-a, vrlo popularne nove američke vojne inicijative za razvoj sposobnosti umjetne inteligencije za bespilotne letjelice i druge sustave oružja. Google, Amazon i Microsoft nude neovisne platforme za umjetnu inteligenciju za plaćanje kupaca, a Google je smatran vjerojatnim pobjednikom vojnog ugovora Project Maven.

Početkom 2018. godine, Googleovi su radnici počeli govoriti. Nisu razumjeli zašto tvrtka koja ih je zaposlila kao zaposlenike uz zakletvu "Ne budite zli" sada licitira za vojne projekte koji vjerojatno nalikuju užasnoj epizodi "Crnog zrcala" u kojoj mehanički psi napajani AI-om love ljude bića do smrti. Razgovarali su na društvenim mrežama i u tradicionalnim medijima. Organizirali su akcije i širili peticije te se izjašnjavali.

Ova radnička pobuna bila je geneza pokreta Google Workers Rebellion i pomogla je pokretanju ostalih tehnoloških radničkih kolektiva. No, najneverovatnija stvar internog Google prosvjeda protiv Project Maven-a nije da su se tehnološki radnici obraćali. Najneverovatnije je to Googleova uprava ustupila je zahtjevima radnika.

Dvije godine kasnije ta me činjenica i dalje zapanjuje. Vidio sam mnoge etičke probleme tijekom svojih desetljeća kao tehnički radnik, ali rijetko sam vidio da velika tvrtka kategorički pristaje riješiti etičke probleme na značajan način. Rezultat Google pobune protiv Project Maven-a bila je objava skupa AI načela koja se ovdje vrijede preispitati u cijelosti:

Umjetna inteligencija kod Googlea: Naši principi

Google teži stvaranju tehnologija koje rješavaju važne probleme i pomažu ljudima u njihovom svakodnevnom životu. Optimistični smo u pogledu nevjerojatnog potencijala AI i drugih naprednih tehnologija za osnaživanje ljudi, široku korist sadašnjim i budućim generacijama i rad za opće dobro.

Ciljevi za AI aplikacije

Provjerit ćemo AI aplikacije s obzirom na sljedeće ciljeve. Vjerujemo da bi AI trebao:

1. Budite društveno korisni.

Prošireni domet novih tehnologija sve više dotiče društvo u cjelini. Napredak AI imat će transformativne utjecaje u širokom rasponu polja, uključujući zdravstvo, sigurnost, energiju, transport, proizvodnju i zabavu. Dok razmatramo potencijalni razvoj i korištenje AI tehnologija, uzet ćemo u obzir širok raspon socijalnih i ekonomskih čimbenika i nastavit ćemo tamo gdje vjerujemo da ukupne vjerojatne koristi znatno premašuju predvidljive rizike i nedostatke.

AI također povećava našu sposobnost razumijevanja značenja sadržaja na ljestvici. Nastojit ćemo osigurati dostupnost visokokvalitetnih i točnih informacija putem AI, istodobno poštujući kulturne, društvene i pravne norme u zemljama u kojima poslujemo. I nastavit ćemo zamišljeno procijeniti kada učiniti dostupnim naše tehnologije na nekomercijalnoj osnovi.

2. Izbjegavajte stvaranje ili jačanje nepoštenih pristranosti.

AI algoritmi i skupovi podataka mogu odražavati, pojačati ili smanjiti nepoštene pristranosti. Svjesni smo da razlikovanje pravedne od nepoštene pristranosti nije uvijek jednostavno, a razlikuje se u kulturama i društvima. Nastojit ćemo izbjeći nepravedne utjecaje na ljude, posebno one koji se odnose na osjetljive karakteristike kao što su rasa, etnička pripadnost, spol, nacionalnost, prihod, seksualna orijentacija, sposobnost i političko ili vjersko vjerovanje.

3. Biti izgrađen i testiran na sigurnost.

Nastavit ćemo razvijati i primjenjivati ​​snažne sigurnosne prakse kako bismo izbjegli nenamjerne rezultate koji stvaraju rizike od štete. Dizajnirat ćemo naše AI sustave na odgovarajući način i nastojat ćemo ih razviti u skladu s najboljim praksama u istraživanjima AI sigurnosti. U odgovarajućim slučajevima, testirat ćemo AI tehnologije u ograničenom okruženju i nadzirati njihov rad nakon primjene.

4. Budite odgovorni prema ljudima.

Dizajnirat ćemo AI sustave koji pružaju odgovarajuće mogućnosti za povratne informacije, relevantna objašnjenja i žalbu. Naše AI tehnologije bit će podložne odgovarajućem ljudskom usmjeravanju i kontroli.

5. Uključite načela dizajna privatnosti.

Ugradit ćemo svoja načela privatnosti u razvoj i uporabu naših AI tehnologija. Pružit ćemo priliku za obavijest i pristanak, potaknuti arhitekture sa zaštitama privatnosti i pružiti odgovarajuću transparentnost i kontrolu nad korištenjem podataka.

6. Podržavati visoke standarde znanstvene izvrsnosti.

Tehnološke inovacije su ukorijenjene u znanstvenoj metodi i opredjeljenju za otvoreno istraživanje, intelektualnu strogost, integritet i suradnju. AI alati mogu potencijalno otključati nova područja znanstvenog istraživanja i znanja u kritičnim područjima kao što su biologija, kemija, medicina i znanosti o okolišu. Težimo visokim standardima znanstvene izvrsnosti dok radimo na napredovanju razvoja AI.

Radit ćemo s nizom dionika na promicanju promišljenog vodstva na ovom području, oslanjajući se na znanstveno rigorozne i multidisciplinarne pristupe. Odgovorno ćemo dijeliti AI znanje objavljivanjem obrazovnih materijala, najboljih praksi i istraživanja koja većem broju ljudi omogućuju razvoj korisnih AI aplikacija.

7. biti na raspolaganju za uporabu koja je u skladu s ovim načelima.

Mnoge tehnologije imaju višestruku upotrebu. Radit ćemo na tome da ograničimo potencijalno štetne ili zloupotrebe aplikacija. Dok razvijamo i primjenjujemo AI tehnologije, procijenit ćemo vjerojatne uporabe u svjetlu sljedećih čimbenika:

• Primarna svrha i uporaba: primarna svrha i vjerojatna uporaba tehnologije i primjene, uključujući koliko je rješenje povezano s štetnom uporabom ili prilagodljivo
• Priroda i jedinstvenost: bilo da pružamo dostupnu tehnologiju koja je jedinstvena ili općenitije dostupna
• skala: hoće li upotreba ove tehnologije imati značajan utjecaj
• Priroda Googleove uključenosti: bilo da pružamo alate opće namjene, integriramo alate za kupce ili razvijamo prilagođena rješenja

AI aplikacije nećemo nastaviti

Pored gore navedenih ciljeva, nećemo dizajnirati ili rasporediti AI u sljedećim područjima aplikacije:

1. Tehnologije koje uzrokuju ili bi mogle prouzročiti ukupnu štetu. Tamo gdje postoji značajan rizik od štete, postupat ćemo samo tamo gdje vjerujemo da koristi značajno nadmašuju rizike i da će uključivati ​​odgovarajuća sigurnosna ograničenja.
2. Oružje ili druge tehnologije čija je glavna svrha ili primjena nanošenje ili izravno olakšavanje ozljede ljudi.
3. Tehnologije koje prikupljaju ili koriste informacije za nadzor koji krše međunarodno prihvaćene norme.
4. Tehnologije čija je svrha suprotna široko prihvaćenim načelima međunarodnog prava i ljudskih prava.

Kako se naše iskustvo u ovom prostoru produbljuje, ovaj se popis može razvijati.

Zaključak

Vjerujemo da su ovi principi pravi temelj za našu tvrtku i naš budući razvoj AI. Priznajemo da je ovo područje dinamično i razvija se, te ćemo svom radu pristupiti skromno, predano unutarnjem i vanjskom angažmanu i spremnosti da prilagodimo svoj pristup kako vremenom učimo.

Ovaj pozitivan rezultat ne oslobađa tehnološkog giganta Googlea od saučesništva u raznim drugim važnim područjima, poput podrške ICE-u, policijskim i drugim vojnim aktivnostima, prikupljanju i prodaji pristupa privatnim podacima o pojedincima, skrivanju kontroverznih političkih izjava od rezultata pretraživača. i što je najvažnije, omogućavajući svojim zaposlenicima da nastave govoriti o tim i drugim pitanjima, a da pritom ne dobiju otkaz. Googleov pokret za pobunu radnika i dalje je aktivan i vrlo je angažiran.

Istodobno, važno je prepoznati koliko je bio snažan Googleov radnički pokret. To je postalo jasno nakon što su počeli Googleovi prosvjedi: marketinški odjeli Pentagona prestali su izdavati nova priopćenja za medije o nekad uzbudljivom Project Mavenu, koji je na kraju „potpuno nestao“ projekt iz vidljivosti koju je ranije tražio. Umjesto toga, nova i mnogo veća inicijativa za umjetnu inteligenciju počela se pojavljivati ​​od podmukla Pentagona Odbor za inovacije u obrani.

Ovo se zvalo Projekt JEDI, novo ime za Pentagon koji troši na vrhunsko oružje. Projekt JEDI potrošio bi mnogo više novca nego Project Maven, ali promidžba novog projekta (da, američka vojska troši mnogo vremena i pozornosti na publicitet i marketing) bila je vrlo različita od ranije. Sve uglađene i seksi slike „Crnog ogledala“ su nestale. Sada, umjesto da naglašava uzbudljive i kinematografske distopijske strahote, bespilotne letjelice koje upravljaju AI mogu nanijeti ljudskim bićima, Project JEDI se objasnio trezvenim korakom naprijed za učinkovitost, kombinirajući razne baze podataka u oblaku kako bi se pomoglo "ratnicima" (najdraži termin Pentagona za sučelja) i timovi za podršku ureda maksimalno povećavaju učinkovitost informacija. Tamo gdje je Project Maven dizajniran tako da zvuči uzbudljivo i futuristički, projekt JEDI dizajniran je tako da zvuči razumno i praktično.

Nema cijene i praktičnosti u vezi s cijenama za Project JEDI. To je najveći ugovor o vojnom softveru u svjetskoj povijesti: 10.5 milijardi dolara. Mnoge nam oči zasipaju kad čujemo o ljestvici vojne potrošnje, a možemo preskočiti razliku između milijuna i milijardi. Bitno je razumjeti koliko je veći Project JEDI od bilo koje prethodne softverske inicijative Pentagona. To je izmjenjivač igara, motor koji stvara bogatstvo, prazan ček za profit na trošak poreznih obveznika.

Pomaže ogrebotina ispod površine vladinih priopćenja za javnost kada pokušava shvatiti bjanko ček koji troši vojsku čak 10.5 milijardi dolara. Neke se informacije mogu prikupiti iz vlastitih publikacija, poput uznemirujućih Intervju u kolovozu 2019. s general-pukovnikom Jacka Shanahana iz Centra za umjetnu inteligenciju, ključna figura kako u nestalom Project Mavenu, tako i u novom Projektu JEDI. Uspio sam steći više uvida u to kako insajderi obrambene industrije razmišljaju o Projektu JEDI slušajući podcast pod nazivom obrambena industrija pod nazivom „Projekt 38: Budućnost vladinog ugovaranja“. Gosti podcasta često iskreno i neskriveno govore o bilo kojoj temi o kojoj razgovaraju. "Mnogo će ljudi ove godine kupiti nove bazene" bilo je tipično za insajderski chat ovog podcasta o projektu JEDI. Sigurni smo da će biti.

Evo izvanredne stvari koja se povezuje s Googleovim načelima AI. Očigledna tri glavna cilja za ogroman JEDI ugovor vrijedan 10.5 milijardi dolara bili bi Google, Amazon i Microsoft - tim redoslijedom, na temelju njihove reputacije AI inovatora. Zbog prosvjeda radnika protiv Project Mavena 2018. godine, čelnik AI-a Google nije bio u obzir za mnogo veći projekt JEDI 2019. Krajem 2019. objavljeno je da je ugovor pripao Microsoftu. Uslijedio je nalet vijesti, ali ovo se izvješće uglavnom fokusiralo na rivalstvo između Amazona i Microsofta, te na činjenicu da je trećem mjestu Microsoft vjerojatno bilo dopušteno pobijediti drugo mjesto Amazonu za pobjedu zbog trajnih borbi Trumpove administracije s Washington Postom, koja je u vlasništvu Amazonova Jeffa Bezosa. Amazon će se sada pred sudom boriti protiv Pentagonovog poklona Microsoftu od 3 milijardi dolara, a tuži i Oracle. Konkretna napomena iz gore spomenutog podcasta Project 2 - "Mnogo će ljudi ove godine kupiti nove bazene" - odnosila se ne samo na Microsoftovu financijsku blagodat, već i na sve pravnike koji će sudjelovati u tim parnicama. Vjerojatno možemo obrazovano pretpostaviti da će više od 10.5% od 38 milijardi dolara Projekta JEDI otići odvjetnicima. Šteta što to ne možemo iskoristiti za pomoć kraj svjetske gladi umjesto.

Spor oko toga bi li ovaj prijenos novca poreznih obveznika vojnim dobavljačima trebao koristiti Microsoftu, Amazonu ili Oracleu dominirao je vijestima o projektu JEDI. Jedna pozitivna poruka koju je potrebno prikupiti iz ove opscene kaleme - činjenica da je Google zbog prosvjeda radnika odstupio od najvećeg ugovora o vojnom softveru u svjetskoj povijesti - gotovo nije postojala u vijestima o projektu JEDI. 

Zbog toga je bilo važno ovu priču ispričati tehnološki fokusiranim aktivistima koji su se prošlog tjedna okupili u prepunoj sobi na središnjem Manhattanu kako bi razgovarali o tome kako možemo spasiti naš planet, kako se možemo boriti protiv dezinformacija i politizacije klimatskih znanosti, kako se možemo suprotstaviti ogromnoj snazi ​​profitera fosilnog goriva i oružja. Čini se da smo u ovoj maloj sobi shvatili dimenzije problema s kojima smo suočeni i kritičnu ulogu koju sami moramo početi igrati. Tehnička zajednica ima značajnu moć. Baš kao što kampanje razdvajanja mogu donijeti stvarnu razliku, tako i pobune tehnoloških radnika mogu stvarno promijeniti. Na mnogo načina aktivisti za klimatske promjene, tehnološki aktivisti, pobunjenici i antiratni aktivisti mogu započeti zajednički rad, a mi ćemo to raditi na sve moguće načine.

Imali smo nadajući početak ovog okupljanja, što je pomoglo pokrenuti Izumiranje pobune NYC i Svijet ne može čekati. Taj će pokret rasti - mora rasti. Zlouporaba fosilnih goriva u središtu je prosvjednika klimatskih promjena. Zlouporaba fosilnih goriva također je primarni motiv profita američkog imperijalizma i primarni strašni rezultat rastrošnog djelovanja napuhane američke vojske. Čini se da je to američka vojska jedini najgori zagađivač na svijetu, Mogu li tehnološki radnici iskoristiti našu organizacijsku moć za pobjede još utjecajnije od Googleovog izlaska iz Projekta JEDI? Možemo i moramo. Prošlotjedni sastanak New Yorka bio je samo mali korak naprijed. Moramo učiniti više i moramo pružiti našem kombiniranom protestnom pokretu sve što imamo.

Marc Eliot Stein direktor je tehnologije i društvenih medija za World BEYOND War.

Fotografiju Gregory Schwedock.