Autor: Marc Eliot Stein, 10. februara 2020

Nedavno su me pozvali na govor na skupu izumiranja pobune u New Yorku u ime World BEYOND War. Događaj je osmišljen kako bi okupio tri akcione grupe: aktiviste za klimatske promjene, kolege tehnoloških radnika i antiratne aktiviste. Počeli smo s uzburkanim ličnim obračunom aktivistice za klimatske promjene Ha Vu, koja je mnoštvu Njujorčana rekla za alarmantno iskustvo koje smo malo tko imali: povratak u kuću njene porodice u Hanoju u Vijetnamu, gdje povećana vrućina već je onemogućilo hodanje vani za vrijeme vršnih sunčevih sati. Malo Amerikanaca takođe zna za ovo 2016. katastrofa zagađenja vode u Ha Tinh u središnjem Vijetnamu. Često govorimo o klimatskim promjenama kao potencijalnom problemu u SAD-u, naglasio je Ha, ali u Vijetnamu ona može vidjeti kako već ometa živote i sredstva za život, a brzo se pogoršava.

Nick Mottern od KnowDrones.org sa sličnom hitnošću govorio je o nedavnom masovnom ulaganju američke vojske u futurističku umjetnu inteligenciju i računarstvo u oblaku - i naglasio vlastiti zaključak vojske da će postavljanje AI sistema u upravljanje nuklearnim oružjem i ratovanje bespilotnim letjelicama neizbježno dovesti do grešaka nepredvidivog obima. William Beckler iz Extinction Rebellion NYC praćen objašnjenjem principa organizovanja koje ova važna i brzo rastuća organizacija sprovodi u delo, uključujući ometajuće akcije osmišljene da podignu svest o kritičnoj važnosti klimatskih promena. Čuli smo se sa predstavnikom New Yorka iz Koalicija tehničkih radnikai pokušao sam okupljanje usmjeriti prema osjećaju praktičnog osnaživanja govoreći o akciji pobune tehničkih radnika koja je neočekivano uspjela.

Bilo je to u aprilu 2018. godine, kada se takozvana „odbrambena industrija“ zujala oko Project Maven-a, vrlo popularne nove američke vojne inicijative za razvoj sposobnosti umjetne inteligencije za bespilotne letjelice i druge sisteme oružja. Google, Amazon i Microsoft nude neovisne platforme umjetne inteligencije za plaćanje kupaca, a Google je smatran vjerovatnim pobjednikom vojnog ugovora Project Maven.

Početkom 2018. godine, Googleovi radnici počeli su govoriti. Nisu shvatili zašto kompanija koja ih je zaposlila kao zaposlene uz zakletvu „Ne budi zlobna“ sada licitira za vojne projekte koji vjerovatno nalikuju užasnoj epizodi „Crnog ogledala“ u kojoj mehanički psi napajani AI-om love ljude bića do smrti. Oni su razgovarali na društvenim medijima i u tradicionalnim medijima. Organizirali su akcije i širili peticije i izjašnjavali se o njima.

Ova radnička pobuna bila je generacija pokreta Google Workers Rebellion, a pomogla je i pokretanje ostalih tehnoloških radničkih kolektiva. Ali najneverovatnija stvar internog Google protesta protiv Project Maven-a nije to što su se tehnološki radnici obraćali. Najneverovatnije je to Googleovo upravljanje ustupilo je zahtjevima radnika.

Dve godine kasnije, ova činjenica me i dalje zapanjuje. Vidio sam mnoge etičke probleme tokom svojih desetljeća kao tehnički radnik, ali rijetko sam vidio da velika kompanija kategorički pristaje riješiti etičke probleme na značajan način. Rezultat Google pobune protiv Project Maven-a bila je objava skupa AI principa koje ovdje vrijedi prepisati u cijelosti:

Umjetna inteligencija kod Googlea: Naši principi

Google teži stvaranju tehnologija koje rješavaju važne probleme i pomažu ljudima u njihovom svakodnevnom životu. Optimistični smo u pogledu nevjerojatnog potencijala AI i drugih naprednih tehnologija za osnaživanje ljudi, široku korist sadašnjim i budućim generacijama i rad za opće dobro.

Ciljevi za AI aplikacije

Procijenit ćemo AI aplikacije s obzirom na sljedeće ciljeve. Vjerujemo da AI treba:

1. Budite društveno korisni.

Prošireni domet novih tehnologija sve više dodiruje društvo u cjelini. Napredak u AI imaće transformativne uticaje u širokom rasponu oblasti, uključujući zdravstvo, sigurnost, energiju, transport, proizvodnju i zabavu. Dok razmatramo potencijalni razvoj i upotrebu AI tehnologija, uzet ćemo u obzir širok spektar društvenih i ekonomskih faktora, i nastavit ćemo tamo gdje vjerujemo da ukupne vjerovatne koristi znatno premašuju predvidljive rizike i nedostatke.

AI takođe povećava našu sposobnost razumevanja značenja sadržaja na skali. Nastojat ćemo da osiguramo dostupnost visokokvalitetnih i točnih informacija putem AI, istodobno poštujući kulturne, društvene i pravne norme u zemljama u kojima djelujemo. I nastavit ćemo zamišljeno procijeniti kada učiniti naše tehnologije dostupnim na nekomercijalnoj osnovi.

2. Izbjegavajte stvaranje ili jačanje nepravedne pristranosti.

AI algoritmi i skupovi podataka mogu odražavati, pojačati ili smanjiti nepoštene pristranosti. Svjesni smo da razlikovanje pravedne od nepoštene pristranosti nije uvijek jednostavno, a razlikuje se u kulturama i društvima. Nastojat ćemo izbjeći nepravedne utjecaje na ljude, posebno one koji se odnose na osjetljive karakteristike poput rase, etničke pripadnosti, spola, nacionalnosti, prihoda, seksualne orijentacije, sposobnosti i političkog ili vjerskog vjerovanja.

3. Biti izgrađen i testiran na sigurnost.

Nastavit ćemo razvijati i primjenjivati ​​snažne sigurnosne prakse kako bismo izbjegli nenamjerne rezultate koji stvaraju rizike od štete. Dizajniraćemo naše AI sisteme na odgovarajući način i nastojat ćemo ih razviti u skladu s najboljim praksama u istraživanju AI sigurnosti. U odgovarajućim slučajevima, testirat ćemo AI tehnologije u ograničenim okruženjima i nadgledati njihov rad nakon implementacije.

4. Budite odgovorni ljudima.

Dizajnirat ćemo AI sisteme koji pružaju odgovarajuće mogućnosti za povratne informacije, relevantna objašnjenja i žalbu. Naše AI tehnologije bit će podložne odgovarajućem ljudskom pravcu i kontroli.

5. Uključiti principe dizajna privatnosti.

Ugradit ćemo naša načela privatnosti u razvoj i korištenje naših AI tehnologija. Pružit ćemo mogućnost za obavijesti i pristanke, ohrabrit ćemo arhitekture sa zaštitom privatnosti i pružiti odgovarajuću transparentnost i kontrolu nad korištenjem podataka.

6. Podržati visoke standarde naučne izvrsnosti.

Tehnološke inovacije su ukorijenjene u naučnoj metodi i posvećenosti otvorenom istraživanju, intelektualnoj strogosti, integritetu i suradnji. AI alati mogu potencijalno otključati nove oblasti naučnog istraživanja i znanja u kritičnim oblastima kao što su biologija, hemija, medicina i nauke o životnoj sredini. Mi težimo visokim standardima naučne izvrsnosti dok radimo na napredovanju razvoja AI.

Radit ćemo s nizom dionika na promociji promišljenog liderstva u ovom području, oslanjajući se na naučno rigorozne i multidisciplinarne pristupe. I odgovorno ćemo dijeliti AI znanje objavljivanjem obrazovnih materijala, najboljih praksi i istraživanja koja više ljudima omogućuju razvoj korisnih AI aplikacija.

7. Omogućiti dostupnost za upotrebu u skladu s ovim principima.

Mnoge tehnologije imaju višestruku upotrebu. Radit ćemo na tome da ograničimo potencijalno štetne ili zloupotrebe aplikacija. Dok razvijamo i implementiramo AI tehnologije, procijenit ćemo vjerojatne upotrebe u svjetlu sljedećih faktora:

• Primarna svrha i upotreba: primarna svrha i vjerojatna uporaba tehnologije i primjene, uključujući koliko je rješenje usko povezano sa štetnom uporabom ili prilagođeno njoj
• Priroda i jedinstvenost: bilo da pružamo dostupnu tehnologiju koja je jedinstvena ili općenitije dostupna
• Skala: da li će upotreba ove tehnologije imati značajan uticaj
• Priroda Googleove uključenosti: bilo da pružamo alate opće namjene, integriramo alate za kupce ili razvijamo prilagođena rješenja

AI aplikacije nećemo nastaviti

Pored gore navedenih ciljeva, nećemo dizajnirati ili rasporediti AI u sljedećim područjima aplikacije:

1. Tehnologije koje uzrokuju ili bi mogle prouzrokovati ukupnu štetu. Tamo gdje postoji značajan rizik od štete, postupat ćemo samo tamo gdje vjerujemo da koristi značajno nadmašuju rizike, te će uključivati ​​odgovarajuća sigurnosna ograničenja.
2. Oružje ili druge tehnologije čija je glavna svrha ili primjena nanošenje ili direktno olakšavanje ozljeda ljudima.
3. Tehnologije koje prikupljaju ili koriste informacije za nadzor koji krše međunarodno prihvaćene norme.
4. Tehnologije čija je svrha suprotna široko prihvaćenim načelima međunarodnog prava i ljudskih prava.

Kako se naše iskustvo u ovom prostoru produbljuje, ovaj se popis može razvijati.

zaključak

Vjerujemo da su ovi principi pravi temelj našoj kompaniji i našem budućem razvoju AI. Priznajemo da je ovo područje dinamično i razvija se, te ćemo svom radu pristupiti skromno, predano unutarnjem i vanjskom angažmanu i spremnosti da prilagodimo svoj pristup kako vremenom učimo.

Ovaj pozitivan rezultat ne oslobađa tehnološkog giganta Googlea od saučesništva u raznim drugim područjima od najvećeg zabrinutosti, kao što su podrška ICE-u, policijskim i drugim vojnim aktivnostima, objedinjavanje i prodaja pristupa privatnim podacima o pojedincima, skrivanje kontroverznih političkih izjava od rezultata pretraživača. i što je najvažnije, omogućavajući svojim zaposlenima da nastave da govore o tim i drugim pitanjima, a da pritom ne dobiju otkaz. Pokret pobune radnika Google-a i dalje je aktivan i vrlo je angažiran.

U isto vrijeme, važno je prepoznati koliko je bio snažan pokret Googleovih radnika. To je postalo jasno nakon što su počeli Googleovi protesti: marketinški odjeli Pentagona prestali su izdavati nova saopštenja za medije o nekad uzbudljivom Project Mavenu, koji je na kraju „potpuno nestao“ iz vidljivosti javnosti koji je ranije tražio. Umjesto toga, nova i mnogo veća inicijativa za umjetnu inteligenciju počela se pojavljivati ​​na podmuklosti Pentagona Odbor za inovacije u odbrani.

Ovo se zvalo Projekat JEDI, novo ime potrošnje Pentagona na vrhunsko oružje. Projekt JEDI potrošio bi mnogo više novca nego Project Maven, ali publicitet je blizak za novi projekt (da, američka vojska troši mnogo vremena i pažnje na publicitetu i marketingu) bila je vrlo različita od prethodne. Sve uglađene i seksi slike „Crnog ogledala“ su nestale. Sada, umjesto da naglašava uzbudljive i kinematografske distopijske strahote, bespilotne letelice napajane AI mogu nanijeti ljudskim bićima, Project JEDI se objasnio trezvenim korakom naprijed za učinkovitost, kombinirajući razne baze podataka u oblaku kako bi se pomoglo "ratnicima" (najdraži termin Pentagona za sučelja) i timovi za podršku ureda maksimalno povećavaju efikasnost informacija. Tamo gdje je Project Maven dizajniran tako da zvuči uzbudljivo i futuristički, projekt JEDI dizajniran je tako da zvuči razumno i praktično.

O cijenama za Projekt JEDI nema ništa razumno i praktično. To je najveći ugovor o vojnom softveru u svjetskoj istoriji: 10.5 milijardi dolara. Mnoga nam se oči preglede kad čujemo o ljestvici vojne potrošnje, a možemo preskočiti razliku između miliona i milijardi. Važno je shvatiti koliko je veći projekat JEDI od bilo koje prethodne softverske inicijative Pentagona. To je izmjenjivač igara, motor koji stvara bogatstvo, prazan ček za profit na trošak poreznih obveznika.

Pomaže ogrebotina ispod površine vladinih saopštenja za štampu kada pokušava shvatiti bjanko ček od vojne potrošnje od čak 10.5 milijardi dolara. Neke informacije mogu se dobiti iz vlastitih publikacija, poput uznemirujućih Intervju u kolovozu 2019. godine sa zajedničkim potpukovnikom Jackom Shanahanom iz Centra za umjetnu inteligenciju, ključna figura kako u nestalom Project Mavenu, tako i u novom Projektu JEDI. Uspio sam steći više uvida u to kako insajderi obrambene industrije razmišljaju o Projektu JEDI slušajući podcast pod nazivom obrambena industrija „Projekat 38: Budućnost vladinog ugovaranja“. Gosti podcasta često iskreno i neskriveno govore o bilo kojoj temi o kojoj razgovaraju. "Mnogo ljudi će ove godine kupiti nove bazene" bilo je tipično za insajderski chat ovog podcasta o projektu JEDI. Sigurni smo da će biti.

Evo izvanredne stvari koja se povezuje sa Googleovim principima inteligencije. Očigledna tri favorita za ogroman JEDI ugovor vrijedan 10.5 milijardi dolara bili bi Google, Amazon i Microsoft - tim redoslijedom, na osnovu njihove reputacije kao AI inovatora. Zbog protesta radnika protiv Project Mavena 2018. godine, čelnik AI-a Google nije bio u obzir za mnogo veći projekt JEDI 2019. Krajem 2019. godine objavljeno je da je ugovor pripao Microsoftu. Uslijedio je nalet vijesti, ali ovo se izvještavanje uglavnom fokusiralo na rivalstvo između Amazona i Microsofta, te na činjenicu da je trećem mjestu Microsoft vjerovatno bilo dozvoljeno da pobijedi drugo mjesto na Amazonu zbog pobjede zbog trajnih borbi Trumpove administracije s Washington Postom, koja je u vlasništvu Amazonova Jeffa Bezosa. Amazon će se sada pred sudom boriti protiv Pentagonovog poklona Microsoftu od 3 milijardi dolara, a tuži i Oracle. Konkretna napomena iz gore spomenutog podcasta Project 2 - „Mnogi će ljudi kupiti nove bazene ove godine“ odnosila se ne samo na Microsoftovu finansijsku blagodat, već i na sve advokate koji će učestvovati u ovim parnicama. Vjerovatno možemo obrazovano pretpostaviti da će više od 10.5% od 38 milijardi dolara Projekta JEDI otići pravnicima. Šteta što to ne možemo iskoristiti za pomoć kraj svjetske gladi Umjesto toga.

Spor oko toga da li bi ovaj transfer novca poreskih obveznika vojnim dobavljačima trebao koristiti Microsoftu, Amazonu ili Oracleu dominirao je vijestima o projektu JEDI. Jedna pozitivna poruka koju će se izvući iz ovog bezobraznog kalemljenja - činjenica da je Google zbog protesta radnika odstupio od najvećeg ugovora o vojnom softveru u svetskoj istoriji - gotovo nije postojala u izveštavanju vesti o projektu JEDI. 

Zato je bilo važno ovu priču ispričati tehnološki fokusiranim aktivistima koji su se prošle sedmice okupili u prepunoj sobi u središtu Menhetna kako bi razgovarali o tome kako možemo spasiti našu planetu, kako se možemo boriti protiv dezinformacija i politizacije klimatskih znanosti, kako se možemo suprotstaviti ogromnoj snazi ​​profitera fosilnog goriva i oružja. U ovoj maloj sobi kao da smo shvatili dimenzije problema s kojim smo suočeni i kritičnu ulogu koju sami moramo početi igrati. Tehnička zajednica ima značajnu moć. Baš kao što kampanje za odvajanje mogu donijeti stvarnu razliku, tako i pobune tehnoloških radnika mogu stvarno promijeniti. Aktivisti pobune, tehnološki aktivisti, pobunjenici i antiratni aktivisti mogu započeti zajednički rad, a mi ćemo to raditi na sve moguće načine.

Imali smo nade započeti s ovim okupljanjem, koje je pomoglo pokrenuti Izumiranje pobune NYC i Svijet ne može čekati. Taj će pokret rasti - mora rasti. Zloupotreba fosilnih goriva u fokusu je protestanata zbog klimatskih promjena. Zloupotreba fosilnih goriva također je i primarni motiv profita američkog imperijalizma i primarni strašni rezultat rastrošnog djelovanja napuhane američke vojske. Čini se da je to američka vojska jedini najgori zagađivač na svijetu. Mogu li tehnički radnici iskoristiti našu organizacijsku moć za pobjede još utjecajnije od Googleova povlačenja iz Projekta JEDI? Možemo i moramo. Prošlotjedni sastanak u New Yorku bio je samo mali korak naprijed. Moramo učiniti više i moramo pružiti našem kombiniranom protestnom pokretu sve što imamo.

Marc Eliot Stein direktor je tehnologije i društvenih medija za World BEYOND War.

Fotograf Gregory Schwedock.