Avtor Marc Eliot Stein, 10. februarja 2020

Pred kratkim so me v imenu New Yorka povabili, da nastopim na zborovanju izumiranja v New Yorku World BEYOND War. Dogodek je bil zasnovan tako, da združuje tri akcijske skupine: aktiviste za podnebne spremembe, kolege tehnoloških delavcev in protivojne aktiviste. Začeli smo z ganljivim osebnim računom aktivistke za podnebne spremembe Ha Vu, ki je množici Newyorčanov povedala o zaskrbljujoči izkušnji, ki jih je malo od nas kdaj: vrnitvi v dom njene družine v Hanoju v Vietnamu, kjer povečana toplota je že skoraj nemogoče hoditi zunaj v urah največje sončne svetlobe. Malo Američanov ve tudi za 2016 katastrofa onesnaževanja vode v Ha Tinh v osrednjem Vietnamu. O podnebnih spremembah pogosto govorimo kot o možnem problemu v ZDA, je poudarila Ha, toda v Vietnamu lahko opazi, da že moti življenje in preživetje ter se hitro poslabša.

Nick Mottern iz KnowDrones.org s podobno nujnostjo spregovoril o nedavnih velikih naložbah ameriške vojske v futuristično umetno inteligenco in računalništvo v oblaku - in poudaril lastni zaključek vojske, da bo uvajanje sistemov umetne inteligence v upravljanje jedrskega orožja in vojskovanje z brezpilotnimi letali neizogibno povzročilo napake nepredvidljive velikosti. William Beckler iz Extinction Rebellion NYC, ki mu je sledila razlaga organizacijskih načel, ki jih ta pomembna in hitro rastoča organizacija izvaja, vključno z motečimi akcijami, namenjenimi ozaveščanju kritičnega pomena podnebnih sprememb. Slišali smo predstavnika New Yorka iz mesta Koalicija tehničnih delavcevin skušal sem zbrati preusmeriti občutek praktičnega opolnomočenja, tako da sem govoril o uporništvu tehniških delavcev, ki je bil nepričakovano uspešen.

To je bilo aprila 2018, ko je tako imenovana "obrambna industrija" brenčala o Project Mavenu, zelo oglaševani novi ameriški vojaški pobudi za razvoj zmogljivosti umetne inteligence za drone in druge orožne sisteme. Google, Amazon in Microsoft ponujajo brezplačne platforme za umetno inteligenco za plačevanje kupcev, Google pa je bil verjetni zmagovalec vojaške pogodbe Project Maven.

V začetku leta 2018 so Googlovi delavci začeli govoriti. Niso razumeli, zakaj podjetje, ki jih je zaposlilo kot zaposlene z zavezo "Ne bodi hudoben", zdaj oddaja vojaške projekte, ki verjetno spominjajo na grozljivo epizodo "Črnega ogledala", v kateri mehanski psi, ki jih poganja AI, lovijo človeka bitja do smrti. Govorili so o družbenih medijih in tradicionalnih novicah. Organizirali so akcije in pošiljali peticije ter se oglasili.

Ta delavski upor je bila geneza gibanja Google Workers Rebellion in je pomagal pri zagonu drugih tehnoloških delavskih kolektivov. Toda najbolj presenetljivo pri Googlovem protestu proti Project Mavenu ni bilo to, da so se tehnični delavci oglasili. Najbolj presenetljivo je to Googlovo vodstvo je popustilo zahtevam delavcev.

Dve leti pozneje me to dejstvo še vedno osupne. V svojih desetletjih sem kot tehnični delavec videl veliko etičnih težav, le redko pa sem videl, da se veliko podjetje kategorično strinja, da bi etične težave reševalo na pomemben način. Rezultat Googlovega upora proti Project Mavenu je bila objava sklopa AI načel, ki jih je vredno tukaj ponovno ponatisniti:

Umetna inteligenca pri Googlu: naša načela

Google si prizadeva ustvariti tehnologije, ki rešujejo pomembne težave in pomagajo ljudem v njihovem vsakdanjem življenju. Optimistični smo glede neverjetnega potenciala AI in drugih naprednih tehnologij za opolnomočenje ljudi, široko korist sedanjim in prihodnjim generacijam ter delo v skupno dobro.

Cilji za aplikacije AI

Vloge AI bomo ocenili glede na naslednje cilje. Verjamemo, da bi moral AI:

1. Bodite družbeno koristni.

Razširjen domet novih tehnologij se vse bolj dotika družbe kot celote. Napredek AI bo imel transformativne vplive na številnih področjih, vključno z zdravstvom, varnostjo, energijo, prevozom, proizvodnjo in zabavo. Ko upoštevamo potencialni razvoj in uporabo AI tehnologij, bomo upoštevali široko paleto socialnih in ekonomskih dejavnikov in nadaljevali tam, kjer menimo, da skupne verjetne koristi bistveno presegajo predvidljiva tveganja in slabosti.

AI tudi povečuje našo sposobnost razumevanja pomena vsebine v merilu. Prizadevali si bomo, da bomo z AI omogočili dostop do kakovostnih in natančnih informacij, hkrati pa bomo še naprej spoštovali kulturne, družbene in pravne norme v državah, v katerih delujemo. In še naprej bomo premišljeno ocenjevali, kdaj naj bodo naše tehnologije na voljo na nekomercialni osnovi.

2. Izogibajte se ustvarjanju ali krepitvi nepoštenih pristranskosti.

AI algoritmi in nabori podatkov lahko odražajo, okrepijo ali zmanjšajo nepošteno pristranskost. Zavedamo se, da razlikovanje pravičnih od nepoštenih pristranskosti ni vedno preprosto in se razlikuje po kulturah in družbah. Prizadevali si bomo preprečiti neupravičene vplive na ljudi, zlasti tiste, ki so povezani z občutljivimi lastnostmi, kot so rasa, narodnost, spol, narodnost, dohodek, spolna usmerjenost, sposobnost ter politično ali versko prepričanje.

3. Bodite vgrajeni in preizkušeni zaradi varnosti.

Še naprej bomo razvijali in uporabljali močne varnostne prakse, da se izognemo nenamernim rezultatom, ki povzročajo tveganje za škodo. Naše sisteme AI bomo zasnovali tako previdno in jih poskušali razviti v skladu z najboljšimi praksami v raziskavah varnosti AI. V primernih primerih bomo testirali AI tehnologije v omejenih okoljih in spremljali njihovo delovanje po uvedbi.

4. Bodite odgovorni do ljudi.

Oblikovali bomo AI sisteme, ki nudijo ustrezne priložnosti za povratne informacije, ustrezna pojasnila in pritožbo. Naše AI tehnologije bodo podvržene ustreznim človeškim usmeritvam in nadzorom.

5. Vključite načela oblikovanja zasebnosti.

Naša načela zasebnosti bomo vključili v razvoj in uporabo AI tehnologij. Dali bomo priložnost za obvestilo in soglasje, arhitekture spodbudili z varovanjem zasebnosti ter zagotovili ustrezno preglednost in nadzor nad uporabo podatkov.

6. Podpirati visoke standarde znanstvene odličnosti.

Tehnološke inovacije so zakoreninjene v znanstveni metodi in zavezanosti odprtemu preiskovanju, intelektualni strogosti, integriteti in sodelovanju. Orodja AI lahko odkrijejo nova področja znanstvenega raziskovanja in znanja na kritičnih področjih, kot so biologija, kemija, medicina in znanosti o okolju. Prizadevamo si za visoke standarde znanstvene odličnosti, ko si prizadevamo za napredek razvoja AI.

Sodelovali bomo z različnimi zainteresiranimi stranmi za spodbujanje premišljenega vodstva na tem področju, pri čemer bomo temeljili na znanstveno natančnih in multidisciplinarnih pristopih. Odgovorno bomo delili znanje o AI z objavo izobraževalnih gradiv, najboljših praks in raziskav, ki več ljudem omogočajo razvoj uporabnih aplikacij za AI.

7. Dajte na voljo za uporabo, ki je skladna s temi načeli.

Mnoge tehnologije imajo več možnosti uporabe. Prizadevali si bomo omejiti potencialno škodljive ali zlorabljene aplikacije. Ko razvijamo in uporabljamo AI tehnologije, bomo ocenili verjetne uporabe glede na naslednje dejavnike:

• Primarni namen in uporaba: primarni namen in verjetna uporaba tehnologije in uporabe, vključno s tem, kako tesno je rešitev povezana s škodljivo uporabo ali prilagodljiva nanjo
• Narava in edinstvenost: ali ponujamo edinstveno tehnologijo ali bolj splošno dostopno tehnologijo
• Merilo: ali bo imela uporaba te tehnologije pomemben vpliv
• Vrsta Googlove vpletenosti: ali ponujamo orodja za splošno rabo, vključujemo orodja za stranke ali razvijamo rešitve po meri

AI aplikacij ne bomo nadaljevali

Poleg zgornjih ciljev ne bomo zasnovali ali uporabili AI na naslednjih področjih uporabe:

1. Tehnologije, ki povzročajo ali bi lahko povzročile splošno škodo. Kadar obstaja velika nevarnost škode, bomo nadaljevali le, če verjamemo, da koristi bistveno presegajo tveganja in bodo vključevale ustrezne varnostne omejitve.
2. Orožje ali druge tehnologije, katerih glavni namen ali izvajanje je povzročiti ali neposredno olajšati poškodbe ljudi.
3. Tehnologije, ki zbirajo ali uporabljajo informacije za nadzor, ki krši mednarodno sprejete norme.
4. Tehnologije, katerih namen je v nasprotju s splošno sprejetimi načeli mednarodnega prava in človekovih pravic.

Ko se naše izkušnje na tem področju poglabljajo, se lahko ta seznam razvija.

zaključek

Verjamemo, da so ta načela pravi temelj za naše podjetje in naš prihodnji razvoj AI. Priznamo, da je to področje dinamično in se razvija, k svojemu delu pa bomo pristopili ponižno, zavzeto za notranje in zunanje udejstvovanje ter pripravljenost za prilagoditev svojega pristopa, ko se ga učimo sčasoma.

Ta pozitiven rezultat ne odtehta tehnološkega velikana Google pred sostorilstvom na različnih drugih pomembnih področjih, kot so podpiranje ICE, policija in druge vojaške dejavnosti, zbiranje in prodaja dostopa do zasebnih podatkov o posameznikih, skrivanje spornih političnih izjav iz rezultatov iskalnikov in kar je najpomembneje, da svojim zaposlenim omogoči, da še naprej govorijo o teh in drugih vprašanjih, ne da bi bili za to odpuščeni. Googlovo uporniško gibanje ostaja aktivno in zelo angažirano.

Hkrati je pomembno prepoznati, kako vplivno je bilo Googlovo gibanje delavcev. To je postalo takoj po začetku Googlovih protestov: trženjski oddelki Pentagona so prenehali izdajati nova sporočila za javnost o nekdaj vznemirljivem Project Mavenu, ki je projekt v celoti izginil iz javne prepoznavnosti, ki si jo je prej prizadeval. Namesto tega se je iz zahrbtnega Pentagona začela pojavljati nova in veliko večja pobuda za umetno inteligenco Odbor za inovacije na področju obrambe.

To se je imenovalo Projekt JEDI, novo ime porabe Pentagona za vrhunsko orožje. Projekt JEDI bi porabil veliko več denarja kot Project Maven, vendar je za nov projekt blitva javnosti (ja, ameriška vojska porabi Veliko časa in pozornosti na oglaševanje in trženje) se je zelo razlikovala od prejšnjega. Vseh elegantnih in seksi posnetkov črnega ogledala ni bilo več. Zdaj, namesto da bi poudarjal vznemirljive in kinematografske distopijske grozote, ki bi jih brezpilotni brezpilotni brezpilotni letali lahko nanesli na človeka, se je projekt JEDI razložil kot trezen korak naprej za učinkovitost, saj je združeval različne baze podatkov v oblaku, da bi pomagal "bojevnikom" (najljubši izraz Pentagona za osebje, zaposleno na liniji) in podporne ekipe za povečanje učinkovitosti informacij. Kjer je Project Maven zasnovan tako, da zveni vznemirljivo in futuristično, je bil projekt JEDI zasnovan tako, da zveni smiselno in praktično.

O ceni znamke Project JEDI ni nič smiselnega ali praktičnega. Gre za največjo pogodbo o vojaški programski opremi v svetovni zgodovini: 10.5 milijarde ameriških dolarjev. Mnoge oči se nam zaslepijo, ko slišimo o lestvicah vojaške porabe in lahko preskočimo razliko med milijoni in milijardami. Ključnega pomena je razumeti, koliko je večji projekt JEDI kot katera koli prejšnja programska pobuda Pentagon. Gre za menjalnik iger, motor, ki ustvarja bogastvo, prazen ček za dobiček na stroške davkoplačevalcev.

Pomaga praskati pod površino vladnih sporočil za javnost, ko poskuša razumeti vojaški potrošni prazen ček v višini 10.5 milijarde dolarjev. Nekaj ​​informacij je mogoče zbrati iz vojaških publikacij, kot so moteče Avgust 2019 intervju s skupnim podporočnikom Centra za umetno inteligenco Jackom Shanahanom, ključna podoba tako izginule Project Maven kot novega projekta JEDI. Dobil sem boljši vpogled v to, kako notranji strokovnjaki obrambne industrije razmišljajo o projektu JEDI s poslušanjem podcasta za obrambno industrijo, imenovanega „Projekt 38: Prihodnost vladnih pogodb“. Gosti podcastov pogosto odkrito in nesramno govorijo o kateri koli temi, o kateri razpravljajo. "Veliko ljudi bo letos kupovalo nove bazene" je bilo značilno za notranji klepet tega podcasta o projektu JEDI. Prepričani smo, da bodo.

Tu je izjemna stvar, ki je povezana z Googlovimi načeli umetne inteligence. Očitni trije vodilni za ogromno pogodbo JEDI v višini 10.5 milijarde dolarjev bi bili Google, Amazon in Microsoft - v tem vrstnem redu, glede na njihov sloves inovatorjev AI. Zaradi protesta delavcev proti projektu Maven leta 2018 vodja umetne inteligence Google ni upošteval veliko večjega projekta JEDI leta 2019. Konec leta 2019 je bilo objavljeno, da je pogodba šla v roke Microsoftu. Sledil je naval poročanja, vendar se je to poročilo osredotočalo predvsem na rivalstvo med Amazonom in Microsoftom in na dejstvo, da je 3. mestu Microsoft verjetno uspelo premagati 2. mesto Amazon za zmago zaradi nenehnih bitk Trumpove administracije z Washington Post ki je v lasti Amazonovega Jeffa Bezosa. Amazon bo zdaj na sodišču spopadel s Pentagonovim darilom Microsoftu v višini 10.5 milijarde dolarjev, toži pa tudi Oracle. Konkretna pripomba zgoraj omenjenega podcasta Project 38 - "Veliko ljudi bo letos kupovalo nove bazene" - se ni nanašala samo na Microsoftovo finančno blaginjo, temveč tudi na vse odvetnike, ki bodo sodelovali v teh tožbah. Verjetno lahko dobro ugibamo, da bo več kot 3% 10.5 milijard dolarjev projekta JEDI odšlo pravnikom. Škoda, da si z njim ne moremo pomagati konec svetovne lakote namesto tega.

Spor glede tega, ali bi moral ta prenos davkoplačevalskega denarja vojaškim izvajalcem koristiti Microsoftu, Amazonu ali Oracleu, je prevladoval v poročanju o projektu JEDI. Eno pozitivnih sporočil, ki jih je bilo treba pridobiti iz te nespodobne presaditve - dejstvo, da se je Google zaradi protesta delavcev oddaljil od največje pogodbe o vojaški programski opremi v svetovni zgodovini, v novice o projektu JEDI skoraj ni. 

Zato je bilo pomembno to zgodbo povedati tehnološko osredotočenim aktivistom, ki so se prejšnji teden zbrali v prenatrpani sobi sredi mesta Manhattan, da bi se pogovarjali o tem, kako lahko rešimo naš planet, kako se lahko borimo proti dezinformaciji in politizaciji klimatskih znanosti, kako se lahko vzdržimo velike moči dobičkov iz fosilnih goriv in dobičkov iz orožja. V tej majhni sobi se nam je zdelo, da vsi dojemamo dimenzije problema, s katerim se soočamo, in kritično vlogo, ki jo moramo sami igrati. Tehnična skupnost ima pomembno moč. Tako kot lahko kampanje za odtujitev resnično spremenijo, lahko tudi upori tehnoloških delavcev resnično spremenijo. Aktivisti za podnebne spremembe, tehnološki delavci, uporniki in protivojni aktivisti lahko začnejo sodelovati, in to bomo storili na vse načine.

Upali smo začeti s tem druženjem, ki ga je s pomočjo iniciative začel Izumrtni upor NYC in Svet ne more čakati. To gibanje bo raslo - mora rasti. Zloraba fosilnih goriv je v središču protestnikov podnebnih sprememb. Zloraba fosilnih goriv je tudi glavni motiv zaslužka ameriškega imperializma in glavni strašni rezultat potratnih dejavnosti napihnjene ameriške vojske. Zdi se, da je ameriška vojska res tako edini najhujši onesnaževalec na svetu. Ali lahko tehnološki delavci uporabijo našo organizacijsko moč za zmage še bolj odmevno kot Googlov umik iz Project JEDI? Lahko in moramo. Prejšnji teden je bilo srečanje v New Yorku le majhen korak naprej. Moramo narediti več in svojemu skupnemu protestnemu gibanju moramo dati vse, kar imamo.

Marc Eliot Stein je direktor za tehnologijo in družbene medije za World BEYOND War.

Avtor fotografije Gregory Schwedock