Av Marc Eliot Stein, 10 februari 2020

Jag blev nyligen inbjuden att tala vid en Extinction Rebellion-sammankomst i New York City på uppdrag av World BEYOND War. Evenemanget var utformat för att sammanföra tre aktionsgrupper: klimatförändringsaktivister, tekniska arbetarkollektiv och antikrigsaktivister. Vi började med en gripande personlig redogörelse från klimatförändringsaktivisten Ha Vu, som berättade för folkmassan New York-bor om en alarmerande upplevelse som få av oss någonsin har haft: att återvända till sin familjs hem i Hanoi, Vietnam, där ökad värme har redan gjort det nästan omöjligt att gå utomhus under högljus. Få amerikaner känner också till Vattenföroreningskatastrof 2016 i Ha Tinh i centrala Vietnam. Vi talar ofta om klimatförändringar som ett potentiellt problem i USA, betonade Ha, men i Vietnam kan hon se att det redan stör liv och försörjning och snabbt blir värre.

Nick Mottern från KnowDrones.org talade med liknande brådska om den amerikanska militärens senaste massiva satsning på futuristisk artificiell intelligens och cloud computing – och betonade militärens egen slutsats att utplaceringar av AI-system inom kärnvapenhantering och drönarkrigföring oundvikligen kommer att leda till fel av oförutsägbar storlek. William Beckler från Extinction Rebellion NYC följt av att förklara de organiseringsprinciper som denna viktiga och snabbväxande organisation sätter igång, inklusive störande åtgärder utformade för att öka medvetenheten om klimatförändringarnas avgörande betydelse. Vi hörde från en representant från New York City Tekniska arbetare koalition, och jag försökte vrida sammankomsten mot en känsla av praktiskt bemyndigande genom att tala om en teknisk arbetarrevoltaktion som var oväntat framgångsrik.

Detta var i april 2018, när den så kallade "försvarsindustrin" surrade om Project Maven, ett mycket publicerat nytt amerikanskt militärt initiativ för att utveckla artificiell intelligens för drönare och andra vapensystem. Google, Amazon och Microsoft erbjuder alla plattformar för artificiell intelligens från hyllan för betalande kunder, och Google sågs som den troliga vinnaren av Project Mavens militära kontrakt.

I början av 2018 började Google-anställda säga ifrån. De förstod inte varför ett företag som hade rekryterat dem som anställda med löftet "Don't Be Evil" nu lade bud på militära projekt som troligen skulle likna det fruktansvärda avsnittet av "Black Mirror" där AI-drivna mekaniska hundar jagar människor varelser till döds. De pratade på sociala medier och till traditionella nyhetskanaler. De organiserade aktioner och cirkulerade framställningar och gjorde sig hörda.

Detta arbetaruppror var uppkomsten av Google Workers Rebellion-rörelsen, och det hjälpte till att starta andra tekniska arbetarkollektiv. Men det mest häpnadsväckande med den interna Google-protesten mot Project Maven var inte att teknikarbetare sa till. Det mest häpnadsväckande är det Googles ledning gav efter för arbetarnas krav.

Två år senare förbluffar detta faktum mig fortfarande. Jag har sett många etiska problem under mina decennier som teknikarbetare, men jag har sällan sett ett stort företag kategoriskt gå med på att ta itu med etiska problem på ett betydande sätt. Resultatet av Googles uppror mot Project Maven var publiceringen av en uppsättning AI-principer som är värda att skriva ut här i sin helhet:

Artificiell intelligens hos Google: Våra principer

Google strävar efter att skapa teknik som löser viktiga problem och hjälper människor i deras dagliga liv. Vi är optimistiska om den otroliga potentialen för AI och andra avancerade teknologier för att stärka människor, gynna nuvarande och framtida generationer i stor utsträckning och arbeta för det gemensamma bästa.

Mål för AI-applikationer

Vi kommer att bedöma AI-applikationer med hänsyn till följande mål. Vi anser att AI bör:

1. Var samhällsnyttig.

Den utökade räckvidden för ny teknik berör allt mer samhället som helhet. Framsteg inom AI kommer att ha transformativa effekter inom ett brett spektrum av områden, inklusive hälsovård, säkerhet, energi, transport, tillverkning och underhållning. När vi överväger potentiell utveckling och användning av AI-teknik kommer vi att ta hänsyn till ett brett spektrum av sociala och ekonomiska faktorer och kommer att fortsätta där vi tror att de totala sannolika fördelarna avsevärt överstiger de förutsebara riskerna och nackdelarna.

AI förbättrar också vår förmåga att förstå innebörden av innehåll i stor skala. Vi kommer att sträva efter att göra högkvalitativ och korrekt information lättillgänglig med hjälp av AI, samtidigt som vi fortsätter att respektera kulturella, sociala och juridiska normer i de länder där vi är verksamma. Och vi kommer att fortsätta att noggrant utvärdera när vi ska göra vår teknik tillgänglig på icke-kommersiell basis.

2. Undvik att skapa eller förstärka orättvis partiskhet.

AI-algoritmer och datauppsättningar kan återspegla, förstärka eller minska orättvisa fördomar. Vi inser att det inte alltid är enkelt att skilja rättvisa från orättvisa fördomar och skiljer sig åt mellan kulturer och samhällen. Vi kommer att försöka undvika orättvisa effekter på människor, särskilt sådana som är relaterade till känsliga egenskaper som ras, etnicitet, kön, nationalitet, inkomst, sexuell läggning, förmåga och politisk eller religiös övertygelse.

3. Byggas och testas för säkerhet.

Vi kommer att fortsätta att utveckla och tillämpa starka säkerhets- och säkerhetsrutiner för att undvika oavsiktliga resultat som skapar risker för skada. Vi kommer att utforma våra AI-system så att de är lämpligt försiktiga och försöker utveckla dem i enlighet med bästa praxis inom AI-säkerhetsforskning. I lämpliga fall kommer vi att testa AI-tekniker i begränsade miljöer och övervaka deras funktion efter implementering.

4. Var ansvarig inför människor.

Vi kommer att designa AI-system som ger lämpliga möjligheter till feedback, relevanta förklaringar och överklagande. Vår AI-teknik kommer att vara föremål för lämplig mänsklig ledning och kontroll.

5. Inkorporera integritetsdesignprinciper.

Vi kommer att införliva våra integritetsprinciper i utvecklingen och användningen av vår AI-teknik. Vi kommer att ge möjlighet till meddelande och samtycke, uppmuntra arkitekturer med integritetsskydd och tillhandahålla lämplig transparens och kontroll över användningen av data.

6. Upprätthålla höga standarder för vetenskaplig excellens.

Teknologisk innovation är rotad i den vetenskapliga metoden och ett engagemang för öppen undersökning, intellektuell rigoritet, integritet och samarbete. AI-verktyg har potential att låsa upp nya områden av vetenskaplig forskning och kunskap inom kritiska domäner som biologi, kemi, medicin och miljövetenskap. Vi strävar efter höga standarder för vetenskaplig excellens när vi arbetar för att utveckla AI-utvecklingen.

Vi kommer att arbeta med en rad olika intressenter för att främja genomtänkt ledarskap inom detta område, med utgångspunkt i vetenskapligt rigorösa och multidisciplinära tillvägagångssätt. Och vi kommer ansvarsfullt att dela AI-kunskap genom att publicera utbildningsmaterial, bästa praxis och forskning som gör det möjligt för fler människor att utveckla användbara AI-applikationer.

7. Görs tillgänglig för användning som överensstämmer med dessa principer.

Många tekniker har flera användningsområden. Vi kommer att arbeta för att begränsa potentiellt skadliga eller missbrukande applikationer. När vi utvecklar och distribuerar AI-teknik kommer vi att utvärdera sannolika användningsområden i ljuset av följande faktorer:

• Primärt syfte och användning: det primära syftet och sannolika användningen av en teknik och applikation, inklusive hur nära lösningen är relaterad till eller anpassningsbar till en skadlig användning
• Natur och unikhet: om vi gör tillgänglig teknik som är unik eller mer allmänt tillgänglig
• Skala: huruvida användningen av denna teknik kommer att ha betydande inverkan
• Typ av Googles engagemang: oavsett om vi tillhandahåller generella verktyg, integrerar verktyg för kunder eller utvecklar anpassade lösningar

AI-applikationer kommer vi inte att driva

Utöver ovanstående mål kommer vi inte att designa eller distribuera AI i följande applikationsområden:

1. Teknik som orsakar eller sannolikt orsakar total skada. Där det finns en väsentlig risk för skada, kommer vi att fortsätta endast där vi anser att fördelarna väsentligt överväger riskerna och kommer att införliva lämpliga säkerhetsbegränsningar.
2. Vapen eller annan teknik vars huvudsakliga syfte eller implementering är att orsaka eller direkt underlätta skada på människor.
3. Teknik som samlar in eller använder information för övervakning som bryter mot internationellt accepterade normer.
4. Teknik vars syfte strider mot allmänt accepterade principer för internationell rätt och mänskliga rättigheter.

När vår erfarenhet i detta utrymme fördjupas, kan den här listan utvecklas.

Slutsats

Vi tror att dessa principer är den rätta grunden för vårt företag och vår framtida utveckling av AI. Vi erkänner att detta område är dynamiskt och utvecklas, och vi kommer att närma oss vårt arbete med ödmjukhet, ett engagemang för internt och externt engagemang och en vilja att anpassa vårt tillvägagångssätt allt eftersom vi lär oss över tiden.

Detta positiva resultat fritar inte teknikjätten Google från medverkan i olika andra områden av stor oro, som att stödja ICE, polis och andra militära aktiviteter, samla in och sälja tillgång till privata uppgifter om individer, dölja kontroversiella politiska uttalanden från sökmotorresultat och, viktigast av allt, att låta sina anställda fortsätta att säga ifrån om dessa och andra frågor utan att få sparken för att de gör det. Googles arbetarrebellrörelse är fortfarande aktiv och mycket engagerad.

Samtidigt är det viktigt att inse hur stor effekt Googles arbetarrörelse var. Detta blev omedelbart klart efter att Google-protesterna började: Pentagons marknadsavdelningar slutade ge ut nya pressmeddelanden om det en gång så spännande Project Maven, och så småningom "försvann" projektet helt och hållet från den offentliga synlighet det tidigare hade eftersträvat. Istället började ett nytt och mycket större initiativ för artificiell intelligens växa fram ur Pentagons lömska Defence Innovation Board.

Detta kallades Projekt JEDI, ett nytt namn för Pentagon-utgifterna för banbrytande vapen. Project JEDI skulle spendera mycket mer pengar än Project Maven, men publiciteten för det nya projektet (ja, den amerikanska militären spenderar en katalognummer tid och uppmärksamhet på publicitet och marknadsföring) skilde sig mycket från den tidigare. Alla de eleganta och sexiga "Black Mirror"-bilderna var borta. Nu, istället för att betona de spännande och filmiska dystopiska fasor AI-drivna drönare kan åsamka människor, förklarade Project JEDI sig som ett nyktert steg framåt för effektivitet, genom att kombinera olika molndatabaser för att hjälpa "krigsfighters" (Pentagons favoritterm för frontlinjepersonal) och back-office supportteam maximerar informationseffektiviteten. Där Project Maven designades för att låta spännande och futuristiskt, designades Project JEDI för att låta vettigt och praktiskt.

Det finns inget vettigt eller praktiskt med prislappen för Project JEDI. Det är det största militära mjukvarukontraktet i världshistorien: 10.5 miljarder dollar. Många av våra ögon blixtrar när vi hör om skalor för militära utgifter, och vi kan hoppa över skillnaden mellan miljoner och miljarder. Det är viktigt att förstå hur mycket större Project JEDI är än något tidigare programvaruinitiativ från Pentagon. Det är en game changer, en välståndsgenererande motor, en blankocheck för vinstsysselsättning på skattebetalarnas bekostnad.

Det hjälper till att skrapa under ytan av regeringens pressmeddelanden när man försöker förstå en militärutgiftsblankett så stor som 10.5 miljarder dollar. Viss information kan hämtas från militärens egna publikationer, som en störande Intervju augusti 2019 med Joint Artificial Intelligence Center Generallöjtnant Jack Shanahan, en nyckelfigur i både det försvunna Project Maven och det nya Project JEDI. Jag kunde få mer insikt i hur försvarsindustrins insiders tänker om Project JEDI genom att lyssna på en försvarsindustripodcast som heter "Projekt 38: Framtiden för statliga entreprenader". Poddgäster talar ofta uppriktigt och ogenerat om vilket ämne de än diskuterar. "Många människor kommer att köpa nya simbassänger i år" var typiskt för denna podcasts insiderchatt om Project JEDI. Vi är säkra på att de kommer att bli det.

Här är det anmärkningsvärda som knyter an till Googles AI-principer. De uppenbara tre föregångarna för det enorma JEDI-kontraktet på 10.5 miljarder dollar skulle ha varit Google, Amazon och Microsoft – i den ordningen, baserat på deras rykte som AI-innovatörer. På grund av arbetarnas protest mot Project Maven 2018 var AI-ledaren Google utan hänsyn till det mycket större Project JEDI 2019. Sent under 2019 tillkännagavs att kontraktet gick till Microsoft. En uppsjö av nyhetsbevakning följde, men denna bevakning fokuserade främst på rivaliteten mellan Amazon och Microsoft, och på det faktum att 3:e platsen Microsoft förmodligen fick slå 2:a platsen Amazon för vinsten på grund av Trump-administrationens pågående strider med Washington Post, som ägs av Amazons Jeff Bezos. Amazon går nu till domstol för att bekämpa Pentagons gåva på 10.5 miljarder dollar till Microsoft, och Oracle stämmer också. Den specifika kommentaren från Project 38-podden som nämns ovan – ”Många människor kommer att köpa nya simbassänger i år” – hänvisade inte bara till Microsofts ekonomiska välsignelse utan också till alla advokater som kommer att delta i dessa rättegångar. Vi kan förmodligen göra en kvalificerad gissning att mer än 3% av Project JEDI:s 10.5 miljarder dollar kommer att gå till advokater. Synd att vi inte kan använda det för att hjälpa sluta världens hunger istället.

Tvisten om huruvida denna överföring av skattebetalarnas pengar till militära entreprenörer skulle gynna Microsoft, Amazon eller Oracle har dominerat nyhetsbevakningen av Project JEDI. Det enda positiva budskapet som kan hämtas från denna obscena transplantation – det faktum att Google hade gått bort från det största militära mjukvarukontraktet i världshistorien på grund av arbetarprotesten – har praktiskt taget inte existerat i nyhetsbevakningen av Project JEDI. 

Det är därför det var viktigt att berätta den här historien för de teknikfokuserade aktivisterna som samlades i ett trångt rum i centrala Manhattan förra veckan för att prata om hur vi kan rädda vår planet, hur vi kan kämpa mot desinformation och politisering av klimatvetenskap, hur vi kan stå upp mot den massiva makten hos fossilbränsleprofitörer och vapenprofitörer. I det här lilla rummet verkade vi alla förstå dimensionerna av problemet vi stod inför, och den avgörande roll vi själva måste börja spela. Teknikgemenskapen har betydande makt. Precis som avyttringskampanjer kan göra en verklig skillnad, kan teknikarbetareuppror göra verklig skillnad. Det finns många sätt som klimatförändringsaktivister, teknikarbetares upprorsaktivister och antikrigsaktivister kan börja arbeta tillsammans på, och vi kommer att göra det på alla sätt vi kan.

Vi fick en hoppfull start med denna sammankomst, hjälpsamt initierad av Extinction Rebellion NYC och Världen kan inte vänta. Denna rörelse kommer att växa – den måste växa. Missbruk av fossila bränslen är i fokus för klimatförändringsdemonstranter. Missbruk av fossila bränslen är också både USA-imperialismens primära vinstmotiv och ett primärt fruktansvärt resultat av den uppblåsta amerikanska militärens slösaktiga aktiviteter. Det verkar den amerikanska militären verkligen vara den enskilt värsta förorenaren i världen. Kan teknikarbetare använda vår organiseringskraft för segrar som är ännu mer effektiv än Googles tillbakadragande från Project JEDI? Vi kan och vi måste. Förra veckans möte i New York City var bara ett litet steg framåt. Vi måste göra mer, och vi måste ge vår kombinerade proteströrelse allt vi har.

Marc Eliot Stein är chef för teknik och sociala medier för World BEYOND War.

Foto av Gregory Schwedock.