Af Marc Eliot Stein, 10. februar 2020

Jeg blev for nylig inviteret til at tale ved en Extinction Rebellion-samling i New York City på vegne af World BEYOND War. Arrangementet var designet til at samle tre aktionsgrupper: klimaændringsaktivister, teknologiarbejderkollektiver og antikrigsaktivister. Vi startede med en rørende personlig beretning fra klimaændringsaktivisten Ha Vu, som fortalte mængden af ​​newyorkere om en alarmerende oplevelse, som de færreste af os nogensinde har haft: at vende tilbage til sin families hjem i Hanoi, Vietnam, hvor øget varme har allerede gjort det næsten umuligt at gå udenfor i spidsbelastningsperioder. Få amerikanere kender også til Vandforureningskatastrofe i 2016 i Ha Tinh i det centrale Vietnam. Vi taler ofte om klimaændringer som et potentielt problem i USA, understregede Ha, men i Vietnam kan hun se, at det allerede forstyrrer liv og levebrød og hurtigt bliver værre.

Nick Mottern fra KnowDrones.org talte med lignende hast om det amerikanske militærs nylige massive investering i futuristisk kunstig intelligens og cloud computing – og understregede militærets egen konklusion om, at indsættelse af AI-systemer i atomvåbenstyring og dronekrigsførelse uundgåeligt vil føre til fejl af uforudsigelig størrelse. William Beckler fra Extinction Rebellion NYC efterfulgt af at forklare de organiseringsprincipper, som denne vigtige og hurtigt voksende organisation sætter i værk, herunder forstyrrende handlinger designet til at øge bevidstheden om den kritiske betydning af klimaændringer. Vi hørte fra en repræsentant fra New York City Tech Workers Coalition, og jeg forsøgte at dreje forsamlingen hen imod en følelse af praktisk empowerment ved at tale om en oprørsaktion for teknologiarbejdere, der var uventet vellykket.

Dette var i april 2018, hvor den såkaldte "forsvarsindustri" summede om Project Maven, et meget publiceret nyt amerikansk militærinitiativ til at udvikle kunstig intelligens-kapaciteter til droner og andre våbensystemer. Google, Amazon og Microsoft tilbyder alle tilgængelige kunstig intelligens-platforme til betalende kunder, og Google blev set som den sandsynlige vinder af Project Maven-militærkontrakten.

I begyndelsen af ​​2018 begyndte Google-medarbejdere at sige fra. De forstod ikke, hvorfor et firma, der havde rekrutteret dem som medarbejdere med løftet "Don't Be Evil", nu bød på militære projekter, der sandsynligvis ville ligne den forfærdelige episode af "Black Mirror", hvor AI-drevne mekaniske hunde jager mennesker væsener ihjel. De talte op på sociale medier og til traditionelle nyhedsmedier. De organiserede aktioner og rundsendte andragender og gjorde sig hørt.

Dette arbejderoprør var tilblivelsen af ​​Google Workers Rebellion-bevægelsen, og det hjalp med at opstarte andre teknologiarbejderkollektiver. Men det mest forbløffende ved den interne Google-protest mod Project Maven var ikke, at teknologiarbejdere talte op. Det mest forbløffende er det Googles ledelse gav efter for arbejdernes krav.

To år senere overrasker dette faktum mig stadig. Jeg har set mange etiske problemer i mine årtier som tekniker, men jeg har sjældent set en stor virksomhed kategorisk gået med til at løse etiske problemer på en væsentlig måde. Resultatet af Google-oprøret mod Project Maven var offentliggørelsen af ​​et sæt AI-principper, som er værd at genoptrykke her i sin helhed:

Kunstig intelligens hos Google: Vores principper

Google stræber efter at skabe teknologier, der løser vigtige problemer og hjælper mennesker i deres daglige liv. Vi er optimistiske med hensyn til det utrolige potentiale for kunstig intelligens og andre avancerede teknologier til at styrke mennesker, i vid udstrækning gavne nuværende og fremtidige generationer og arbejde for det fælles bedste.

Mål for AI-applikationer

Vi vil vurdere AI-applikationer i lyset af følgende mål. Vi mener, at AI bør:

1. Vær social gavnlig.

Den udvidede rækkevidde af nye teknologier berører i stigende grad samfundet som helhed. Fremskridt inden for kunstig intelligens vil have transformative virkninger på en lang række områder, herunder sundhedspleje, sikkerhed, energi, transport, fremstilling og underholdning. Når vi overvejer potentiel udvikling og anvendelse af AI-teknologier, vil vi tage højde for en bred vifte af sociale og økonomiske faktorer og fortsætte, hvor vi mener, at de overordnede sandsynlige fordele væsentligt overstiger de forudsigelige risici og ulemper.

AI forbedrer også vores evne til at forstå betydningen af ​​indhold i stor skala. Vi vil stræbe efter at gøre højkvalitets og nøjagtig information let tilgængelig ved hjælp af kunstig intelligens, samtidig med at vi fortsat respekterer kulturelle, sociale og juridiske normer i de lande, hvor vi opererer. Og vi vil fortsat omhyggeligt vurdere, hvornår vi skal gøre vores teknologier tilgængelige på et ikke-kommercielt grundlag.

2. Undgå at skabe eller forstærke unfair bias.

AI-algoritmer og datasæt kan afspejle, forstærke eller reducere uretfærdige skævheder. Vi anerkender, at det ikke altid er nemt at skelne mellem retfærdige og uretfærdige skævheder, og det er forskelligt på tværs af kulturer og samfund. Vi vil søge at undgå uretfærdige påvirkninger af mennesker, især dem, der er relateret til følsomme karakteristika såsom race, etnicitet, køn, nationalitet, indkomst, seksuel orientering, evner og politisk eller religiøs overbevisning.

3. Bliv bygget og testet for sikkerhed.

Vi vil fortsætte med at udvikle og anvende stærk sikkerhed og sikkerhedspraksis for at undgå utilsigtede resultater, der skaber risici for skade. Vi vil designe vores AI-systemer til at være passende forsigtige og søge at udvikle dem i overensstemmelse med bedste praksis inden for AI-sikkerhedsforskning. I passende tilfælde vil vi teste AI-teknologier i begrænsede miljøer og overvåge deres drift efter implementering.

4. Vær ansvarlig over for mennesker.

Vi vil designe AI-systemer, der giver passende muligheder for feedback, relevante forklaringer og appel. Vores AI-teknologier vil være underlagt passende menneskelig ledelse og kontrol.

5. Indarbejde principper for privatlivsdesign.

Vi vil inkorporere vores privatlivsprincipper i udviklingen og brugen af ​​vores AI-teknologier. Vi vil give mulighed for meddelelse og samtykke, tilskynde til arkitekturer med beskyttelse af privatlivets fred og sørge for passende gennemsigtighed og kontrol over brugen af ​​data.

6. Overhold høje standarder for videnskabelig ekspertise.

Teknologisk innovation er forankret i den videnskabelige metode og en forpligtelse til åben undersøgelse, intellektuel stringens, integritet og samarbejde. AI-værktøjer har potentialet til at låse op for nye områder af videnskabelig forskning og viden inden for kritiske domæner som biologi, kemi, medicin og miljøvidenskab. Vi stræber efter høje standarder for videnskabelig ekspertise, mens vi arbejder på at fremme AI-udvikling.

Vi vil arbejde sammen med en række interessenter for at fremme tankevækkende lederskab på dette område ved at trække på videnskabeligt stringente og tværfaglige tilgange. Og vi vil ansvarligt dele AI-viden ved at udgive undervisningsmateriale, bedste praksis og forskning, der gør det muligt for flere mennesker at udvikle nyttige AI-applikationer.

7. Gøres tilgængelig til brug, der er i overensstemmelse med disse principper.

Mange teknologier har flere anvendelsesmuligheder. Vi vil arbejde på at begrænse potentielt skadelige eller misbrugende applikationer. Mens vi udvikler og implementerer AI-teknologier, vil vi vurdere sandsynlige anvendelser i lyset af følgende faktorer:

• Primært formål og anvendelse: det primære formål og sandsynlige brug af en teknologi og applikation, herunder hvor tæt løsningen er relateret til eller kan tilpasses en skadelig anvendelse
• Natur og unikhed: om vi stiller teknologi til rådighed, der er unik eller mere alment tilgængelig
• Skala: om brugen af ​​denne teknologi vil have væsentlig betydning
• Arten af ​​Googles involvering: uanset om vi leverer værktøjer til generelle formål, integrerer værktøjer til kunder eller udvikler tilpassede løsninger

AI-applikationer vil vi ikke forfølge

Ud over ovenstående mål vil vi ikke designe eller implementere kunstig intelligens i følgende applikationsområder:

1. Teknologier, der forårsager eller sandsynligvis vil forårsage generel skade. Hvor der er en væsentlig risiko for skade, vil vi kun gå videre, hvor vi mener, at fordelene væsentligt opvejer risiciene, og vil inkorporere passende sikkerhedsbegrænsninger.
2. Våben eller andre teknologier, hvis hovedformål eller implementering er at forårsage eller direkte lette skade på mennesker.
3. Teknologier, der indsamler eller bruger information til overvågning, der overtræder internationalt accepterede normer.
4. Teknologier, hvis formål strider mod bredt accepterede principper i international lov og menneskerettigheder.

Efterhånden som vores erfaring i dette rum bliver dybere, kan denne liste udvikle sig.

Konklusion

Vi mener, at disse principper er det rigtige grundlag for vores virksomhed og vores fremtidige udvikling af kunstig intelligens. Vi anerkender, at dette område er dynamisk og udviklende, og vi vil gribe vores arbejde an med ydmyghed, en forpligtelse til internt og eksternt engagement og en vilje til at tilpasse vores tilgang, efterhånden som vi lærer over tid.

Dette positive resultat fritager ikke teknologigiganten Google fra medvirken til forskellige andre områder af stor bekymring, såsom at støtte ICE, politi og andre militære aktiviteter, samle og sælge adgang til private data om enkeltpersoner, skjule kontroversielle politiske udtalelser fra søgemaskineresultater og vigtigst af alt, at tillade sine medarbejdere at fortsætte med at udtale sig om disse og andre spørgsmål uden at blive fyret for at gøre det. Google Workers oprørsbevægelsen er fortsat aktiv og meget engageret.

Samtidig er det vigtigt at erkende, hvor virkningsfuld Googles arbejderbevægelse var. Dette blev umiddelbart klart efter Google-protesterne begyndte: Pentagons marketingafdelinger holdt op med at udsende nye pressemeddelelser om det engang så spændende Project Maven, og til sidst "forsvandt" projektet helt fra den offentlige synlighed, det tidligere havde søgt. I stedet begyndte et nyt og meget større kunstig intelligens-initiativ at dukke op fra Pentagons lumske Defence Innovation Board.

Dette blev kaldt Projekt JEDI, et nyt navn for Pentagons udgifter til avancerede våben. Project JEDI ville bruge meget flere penge end Project Maven, men reklamen for det nye projekt (ja, det amerikanske militær bruger en meget tid og opmærksomhed på omtale og markedsføring) var meget anderledes end den tidligere. Alle de slanke og sexede "Black Mirror"-billeder var væk. Nu, i stedet for at understrege de spændende og filmiske dystopiske rædsler, AI-drevne droner kunne påføre mennesker, forklarede Project JEDI sig selv som et nøgternt skridt fremad for effektivitet, idet det kombinerede forskellige cloud-databaser for at hjælpe "krigskæmpere" (Pentagons yndlingsbetegnelse for frontlinjepersonale) og back-office supportteams maksimerer informationseffektiviteten. Hvor Project Maven var designet til at lyde spændende og futuristisk, var Project JEDI designet til at lyde fornuftigt og praktisk.

Der er intet fornuftigt eller praktisk ved prisskiltet for Project JEDI. Det er den største militærsoftwarekontrakt i verdenshistorien: 10.5 milliarder dollars. Mange af vores øjne blæser over, når vi hører om omfanget af militærudgifter, og vi kan springe over forskellen mellem millioner og milliarder. Det er vigtigt at forstå, hvor meget større Project JEDI er end noget tidligere Pentagon-softwareinitiativ. Det er en game changer, en velstandsgenererende motor, en blankocheck for profitmagt på skatteydernes regning.

Det hjælper med at kradse under overfladen af ​​regeringens pressemeddelelser, når man forsøger at forstå en blankocheck på militærudgifter så stor som 10.5 milliarder dollars. Nogle oplysninger kan hentes fra militærets egne publikationer, som en foruroligende August 2019 interview med Joint Artificial Intelligence Center Generalløjtnant Jack Shanahan, en nøglefigur i både det forsvundne Project Maven og det nye Project JEDI. Jeg var i stand til at få mere indsigt i, hvordan forsvarsindustriens insidere tænker om Project JEDI ved at lytte til en forsvarsindustris podcast kaldet "Projekt 38: Fremtiden for offentlige kontrakter". Podcastgæster taler ofte ærligt og uforskammet om det emne, de diskuterer. "Mange mennesker vil købe nye svømmebassiner i år" var typisk for denne podcasts insiderchat om Project JEDI. Det er vi sikre på, at de bliver.

Her er det bemærkelsesværdige, der knytter sig til Googles AI-principper. De åbenlyse tre frontløbere for den enorme JEDI-kontrakt på 10.5 milliarder dollar ville have været Google, Amazon og Microsoft – i nævnte rækkefølge, baseret på deres ry som AI-innovatorer. På grund af arbejdernes protest mod Project Maven i 2018, var AI-leder Google ude af hensyn til det meget større Project JEDI i 2019. Sent i 2019 blev det annonceret, at kontrakten gik til Microsoft. En byge af nyhedsdækning fulgte, men denne dækning fokuserede hovedsageligt på rivaliseringen mellem Amazon og Microsoft, og på det faktum, at 3. pladsen Microsoft sandsynligvis fik lov til at slå 2. pladsen Amazon for sejren på grund af Trump-administrationens igangværende kampe med Washington Post, som ejes af Amazons Jeff Bezos. Amazon går nu i retten for at bekæmpe Pentagons gave på 10.5 milliarder dollars til Microsoft, og Oracle sagsøger også. Den specifikke bemærkning fra Project 38-podcasten nævnt ovenfor - "En masse mennesker vil købe nye svømmebassiner i år" - refererede ikke kun til Microsofts økonomiske velsignelse, men også til alle de advokater, der vil deltage i disse retssager. Vi kan formentlig komme med et kvalificeret gæt på, at mere end 3% af Project JEDIs $10.5 milliarder vil gå til advokater. Ærgerligt at vi ikke kan bruge det til at hjælpe ende verdens sult i stedet.

Striden om, hvorvidt denne overførsel af skatteyderpenge til militærentreprenører skulle komme Microsoft, Amazon eller Oracle til gode, har domineret nyhedsdækningen af ​​Project JEDI. Det eneste positive budskab, der kan hentes fra denne obskøne graft – det faktum, at Google var trådt væk fra den største militære softwarekontrakt i verdenshistorien på grund af arbejderprotesten – har næsten ikke eksisteret i nyhedsdækningen af ​​Project JEDI. 

Det er derfor, det var vigtigt at fortælle denne historie til de teknologifokuserede aktivister, der var samlet i et overfyldt lokale i Midtown Manhattan i sidste uge for at tale om, hvordan vi kan redde vores planet, hvordan vi kan kæmpe mod desinformation og politisering af klimavidenskab, hvordan vi kan stå op mod den massive magt hos profitører og våbenprofitører. I dette lille rum syntes vi alle at forstå dimensionerne af det problem, vi stod over for, og den kritiske rolle, vi selv skal begynde at spille. Teknologisamfundet har betydelig magt. Ligesom frasalgskampagner kan gøre en reel forskel, kan oprør fra teknologiarbejdere gøre en reel forskel. Der er mange måder, hvorpå klimaændringsaktivister, teknologiarbejdere oprørsaktivister og antikrigsaktivister kan begynde at arbejde sammen, og vi vil gøre det på alle måder, vi kan.

Vi fik en håbefuld start med denne sammenkomst, hjælpsomt iværksat af Extinction Rebellion NYC , Verden kan ikke vente. Denne bevægelse vil vokse – den skal vokse. Misbrug af fossile brændstoffer er i fokus for demonstranter for klimaændringer. Misbrug af fossilt brændsel er også både USA-imperialismens primære profitmotiv og et primært forfærdeligt resultat af det oppustede amerikanske militærs ødselagtige aktiviteter. Det ser det amerikanske militær ud til at være den værste enkeltforurener i verden. Kan teknologiarbejdere bruge vores organiseringskraft til sejre endnu mere virkningsfuldt end Googles tilbagetrækning fra Project JEDI? Vi kan og skal. Sidste uges møde i New York City var blot et lille skridt fremad. Vi skal gøre mere, og vi skal give vores kombinerede protestbevægelse alt, hvad vi har.

Marc Eliot Stein er direktør for teknologi og sociale medier for World BEYOND War.

Foto af Gregory Schwedock.