Door Marc Eliot Stein, 10 februari 2020

Ik was onlangs uitgenodigd om namens Extinction Rebellion te spreken op een bijeenkomst van Extinction Rebellion in New York City World BEYOND War. Het evenement was bedoeld om drie actiegroepen samen te brengen: activisten voor klimaatverandering, collectieven van techwerkers en anti-oorlogsactivisten. We begonnen met een opwindend persoonlijk verslag van klimaatveranderingsactiviste Ha Vu, die de menigte New Yorkers vertelde over een alarmerende ervaring die weinigen van ons ooit hebben meegemaakt: terugkeren naar het huis van haar familie in Hanoi, Vietnam, waar verhoogde hitte heeft het al bijna onmogelijk gemaakt om naar buiten te lopen tijdens piekzonuren. Weinig Amerikanen weten ook van de 2016 ramp met watervervuiling in Ha Tinh in centraal Vietnam. We spreken vaak over klimaatverandering als een potentieel probleem in de VS, benadrukte Ha, maar in Vietnam ziet ze dat het levens en levensonderhoud al ontwricht en snel erger wordt.

Nick Motter van KnowDrones.org sprak met dezelfde urgentie over de recente massale investeringen van het Amerikaanse leger in futuristische kunstmatige intelligentie en cloud computing - en benadrukte de eigen conclusie van het leger dat de inzet van AI-systemen in kernwapenbeheer en drone-oorlogvoering onvermijdelijk zal leiden tot fouten van onvoorspelbare omvang. William Beckler van Extinction Rebellion NYC legde vervolgens de organisatieprincipes uit die deze belangrijke en snelgroeiende organisatie in praktijk brengt, inclusief ontwrichtende acties die zijn ontworpen om het bewustzijn van het cruciale belang van klimaatverandering te vergroten. We hoorden van een vertegenwoordiger van New York City van Coalitie van technische arbeiders, en ik probeerde de bijeenkomst om te buigen naar een gevoel van praktische empowerment door te spreken over een opstandsactie van techwerkers die onverwacht succesvol was.

Dit was in april 2018, toen de zogenaamde "defensie-industrie" gonsde van Project Maven, een veelbesproken nieuw Amerikaans militair initiatief om kunstmatige intelligentie voor drones en andere wapensystemen te ontwikkelen. Google, Amazon en Microsoft bieden allemaal kant-en-klare platforms voor kunstmatige intelligentie voor betalende klanten, en Google werd gezien als de waarschijnlijke winnaar van het militaire contract van Project Maven.

Begin 2018 begonnen Google-medewerkers zich uit te spreken. Ze begrepen niet waarom een ​​bedrijf dat hen had aangeworven als werknemers met de belofte "Don't Be Evil" nu bood op militaire projecten die waarschijnlijk zouden lijken op de gruwelijke aflevering van "Black Mirror" waarin door AI aangedreven mechanische honden mensen doodjagen. Ze spraken zich uit op sociale media en traditionele nieuwsuitzendingen. Ze organiseerden acties en verspreidden petities en lieten van zich horen.

Deze arbeidersopstand was het ontstaan ​​van de Google Workers Rebellion-beweging en het hielp andere collectieven van techwerkers op gang te brengen. Maar het meest verbazingwekkende aan het interne Google-protest tegen Project Maven was niet dat techwerkers zich uitspraken. Het meest verbazingwekkende is dat Het management van Google gaf toe aan de eisen van de arbeiders.

Twee jaar later verbijstert dit feit me nog steeds. Ik heb in mijn decennia als techwerker veel ethische problemen gezien, maar ik heb zelden gezien dat een groot bedrijf het categorisch eens was om ethische problemen op een significante manier aan te pakken. Het resultaat van de opstand van Google tegen Project Maven was de publicatie van een reeks AI-principes die de moeite waard zijn om hier volledig te herdrukken:

Kunstmatige intelligentie bij Google: onze principes

Google streeft ernaar technologieën te ontwikkelen die belangrijke problemen oplossen en mensen helpen in hun dagelijks leven. We zijn optimistisch over het ongelooflijke potentieel van AI en andere geavanceerde technologieën om mensen sterker te maken, huidige en toekomstige generaties veel voordeel te bieden en te werken voor het algemeen belang.

Doelstellingen voor AI-toepassingen

We beoordelen AI-toepassingen op de volgende doelstellingen. Wij geloven dat AI:

1. Wees sociaal voordelig.

Het grotere bereik van nieuwe technologieën raakt steeds meer de samenleving als geheel. Vooruitgang in AI zal transformerende gevolgen hebben op een breed scala van gebieden, waaronder gezondheidszorg, beveiliging, energie, transport, productie en entertainment. Bij het overwegen van de mogelijke ontwikkeling en het gebruik van AI-technologieën, houden we rekening met een breed scala aan sociale en economische factoren, en gaan we verder als we van mening zijn dat de algemene waarschijnlijke voordelen de voorzienbare risico's en nadelen aanzienlijk overtreffen.

AI verbetert ook ons ​​vermogen om de betekenis van content op grote schaal te begrijpen. We zullen ernaar streven om hoogwaardige en nauwkeurige informatie direct beschikbaar te maken met behulp van AI, terwijl we de culturele, sociale en wettelijke normen blijven respecteren in de landen waar we actief zijn. En we zullen zorgvuldig blijven evalueren wanneer we onze technologieën op niet-commerciële basis beschikbaar kunnen maken.

2. Vermijd het creëren of versterken van oneerlijke vooringenomenheid.

AI-algoritmen en datasets kunnen oneerlijke vooroordelen weerspiegelen, versterken of verminderen. We erkennen dat onderscheid maken tussen eerlijke en oneerlijke vooroordelen niet altijd eenvoudig is en verschilt per cultuur en samenleving. We zullen proberen onrechtvaardige gevolgen voor mensen te voorkomen, met name die met betrekking tot gevoelige kenmerken zoals ras, etniciteit, geslacht, nationaliteit, inkomen, seksuele geaardheid, bekwaamheid en politieke of religieuze overtuiging.

3. Gebouwd en getest zijn op veiligheid.

We zullen doorgaan met het ontwikkelen en toepassen van sterke veiligheids- en beveiligingspraktijken om onbedoelde resultaten te voorkomen die risico's op schade met zich meebrengen. We zullen onze AI-systemen zo ontwerpen dat ze de nodige voorzichtigheid betrachten en proberen ze te ontwikkelen in overeenstemming met best practices in AI-veiligheidsonderzoek. In voorkomende gevallen testen we AI-technologieën in beperkte omgevingen en monitoren we hun werking na implementatie.

4. Leg verantwoording af aan mensen.

We zullen AI-systemen ontwerpen die passende mogelijkheden bieden voor feedback, relevante uitleg en beroep. Onze AI-technologieën zullen onderworpen zijn aan passende menselijke leiding en controle.

5. Integreer privacy-ontwerpprincipes.

We zullen onze privacyprincipes meenemen in de ontwikkeling en het gebruik van onze AI-technologieën. We bieden de mogelijkheid voor kennisgeving en toestemming, moedigen architecturen met privacywaarborgen aan en bieden passende transparantie en controle over het gebruik van gegevens.

6. Handhaaf hoge normen van wetenschappelijke excellentie.

Technologische innovatie is geworteld in de wetenschappelijke methode en een toewijding aan open onderzoek, intellectuele strengheid, integriteit en samenwerking. AI-tools hebben het potentieel om nieuwe domeinen van wetenschappelijk onderzoek en kennis te ontsluiten in kritieke domeinen zoals biologie, scheikunde, geneeskunde en milieuwetenschappen. We streven naar hoge normen van wetenschappelijke uitmuntendheid terwijl we werken aan de ontwikkeling van AI.

We zullen samenwerken met een reeks belanghebbenden om doordacht leiderschap op dit gebied te bevorderen, gebruikmakend van wetenschappelijk rigoureuze en multidisciplinaire benaderingen. En we zullen AI-kennis op verantwoorde wijze delen door educatief materiaal, best practices en onderzoek te publiceren waarmee meer mensen nuttige AI-toepassingen kunnen ontwikkelen.

7. Beschikbaar worden gesteld voor gebruik dat in overeenstemming is met deze principes.

Veel technologieën hebben meerdere toepassingen. We zullen ons best doen om potentieel schadelijke of misbruikende toepassingen te beperken. Terwijl we AI-technologieën ontwikkelen en implementeren, zullen we het waarschijnlijke gebruik evalueren in het licht van de volgende factoren:

• Primair doel en gebruik: het primaire doel en het waarschijnlijke gebruik van een technologie en toepassing, inclusief hoe nauw de oplossing verband houdt met of kan worden aangepast aan schadelijk gebruik
• Aard en uniciteit: of we nu technologie beschikbaar stellen die uniek of meer algemeen beschikbaar is
• Schaal: of het gebruik van deze technologie een significante impact zal hebben
• Aard van de betrokkenheid van Google: of we nu tools voor algemeen gebruik leveren, tools voor klanten integreren of maatwerkoplossingen ontwikkelen

AI-toepassingen zullen we niet nastreven

Naast de bovenstaande doelstellingen zullen we geen AI ontwerpen of implementeren in de volgende toepassingsgebieden:

1. Technologieën die algehele schade veroorzaken of waarschijnlijk zullen veroorzaken. Waar er een materieel risico op schade bestaat, zullen we alleen doorgaan als we van mening zijn dat de voordelen substantieel opwegen tegen de risico's, en zullen we passende veiligheidsbeperkingen in acht nemen.
2. Wapens of andere technologieën waarvan het hoofddoel of de toepassing ervan is om mensen letsel toe te brengen of direct te vergemakkelijken.
3. Technologieën die informatie verzamelen of gebruiken voor surveillance die in strijd is met internationaal aanvaarde normen.
4. Technologieën waarvan het doel in strijd is met algemeen aanvaarde beginselen van internationaal recht en mensenrechten.

Naarmate onze ervaring op dit gebied zich verdiept, kan deze lijst evolueren.

Conclusie

Wij geloven dat deze principes de juiste basis vormen voor ons bedrijf en onze toekomstige ontwikkeling van AI. We erkennen dat dit gebied dynamisch en evoluerend is, en we zullen ons werk benaderen met nederigheid, een toewijding aan interne en externe betrokkenheid en de bereidheid om onze aanpak aan te passen naarmate we in de loop van de tijd leren.

Dit positieve resultaat ontslaat de technologiegigant Google niet van medeplichtigheid aan verschillende andere gebieden van groot belang, zoals het ondersteunen van ICE, politie en andere militaire activiteiten, het verzamelen en verkopen van toegang tot privégegevens over individuen, het verbergen van controversiële politieke verklaringen in de resultaten van zoekmachines en, belangrijker nog, het toestaan ​​dat zijn werknemers zich kunnen blijven uitspreken over deze en andere kwesties zonder daarvoor te worden ontslagen. De opstandsbeweging van Google-arbeiders blijft actief en zeer betrokken.

Tegelijkertijd is het belangrijk om te erkennen hoe invloedrijk de Google-arbeidersbeweging was. Dit werd meteen duidelijk nadat de Google-protesten waren begonnen: de marketingafdelingen van het Pentagon stopten met het uitgeven van nieuwe persberichten over het eens zo opwindende Project Maven, waardoor het project uiteindelijk volledig 'verdween' van de publieke zichtbaarheid die het eerder had gezocht. In plaats daarvan begon een nieuw en veel groter initiatief voor kunstmatige intelligentie te ontstaan ​​uit de verraderlijke kant van het Pentagon Defensie Innovation Board.

Dit heette Project JEDI, een nieuwe naam voor de uitgaven van het Pentagon aan geavanceerde wapens. Project JEDI zou veel meer geld uitgeven dan Project Maven, maar de publiciteitsblitz voor het nieuwe project (ja, het Amerikaanse leger besteedt een lot tijd en aandacht voor publiciteit en marketing) was heel anders dan de vorige. Alle gestroomlijnde en sexy 'Black Mirror'-beelden waren verdwenen. In plaats van de opwindende en filmische dystopische verschrikkingen te benadrukken die AI-aangedreven drones mensen kunnen aandoen, legde Project JEDI zichzelf uit als een nuchtere stap voorwaarts op het gebied van efficiëntie, door verschillende clouddatabases te combineren om 'warfighters' (de favoriete term van het Pentagon voor eerstelijnspersoneel) en backoffice-ondersteuningsteams te helpen de informatie-effectiviteit te maximaliseren. Waar Project Maven is ontworpen om opwindend en futuristisch te klinken, is Project JEDI ontworpen om verstandig en praktisch te klinken.

Er is niets zinnigs of praktisch aan het prijskaartje voor Project JEDI. Het is het grootste militaire softwarecontract in de wereldgeschiedenis: 10.5 miljard dollar. Veel van onze ogen worden glazig als we horen over schalen van militaire uitgaven, en we kunnen het verschil tussen miljoenen en miljarden overslaan. Het is essentieel om te begrijpen hoeveel groter Project JEDI is dan enig eerder Pentagon-software-initiatief. Het is een spelwisselaar, een motor die rijkdom genereert, een blanco cheque voor winstbejag op kosten van de belastingbetaler.

Het helpt om onder de oppervlakte van persberichten van de overheid te krabben wanneer je probeert een blanco cheque voor militaire uitgaven van maar liefst $ 10.5 miljard te begrijpen. Sommige informatie kan worden ontleend aan de eigen publicaties van het leger, zoals een verontrustende Interview in augustus 2019 met luitenant-generaal Jack Shanahan van het Joint Artificial Intelligence Center, een sleutelfiguur in zowel het verdwenen Project Maven als het nieuwe Project JEDI. Ik kreeg meer inzicht in hoe insiders uit de defensie-industrie denken over Project JEDI door te luisteren naar een podcast over de defensie-industrie genaamd "Project 38: De toekomst van overheidscontracten". Podcast-gasten spreken vaak openhartig en ongegeneerd over het onderwerp dat ze bespreken. "Veel mensen zullen dit jaar nieuwe zwembaden kopen" was typerend voor de insider-chat van deze podcast over Project JEDI. We weten zeker dat ze dat zullen zijn.

Dit is het opmerkelijke dat verband houdt met de AI-principes van Google. De voor de hand liggende drie koplopers voor het enorme JEDI-contract van $ 10.5 miljard zouden Google, Amazon en Microsoft zijn geweest - in die volgorde, op basis van hun reputatie als AI-innovators. Vanwege het arbeidersprotest tegen Project Maven in 2018, kwam AI-leider Google buiten beschouwing voor het veel grotere Project JEDI in 2019. Eind 2019 werd bekend dat het contract naar Microsoft ging. Er volgde een golf van berichtgeving, maar deze berichtgeving was vooral gericht op de rivaliteit tussen Amazon en Microsoft, en op het feit dat de derde plaats Microsoft waarschijnlijk de tweede plaats Amazon mocht verslaan voor de overwinning vanwege de voortdurende strijd van de regering-Trump met Washington Post, dat eigendom is van Jeff Bezos van Amazon. Amazon stapt nu naar de rechtbank om de gift van $ 3 miljard van het Pentagon aan Microsoft aan te vechten, en Oracle klaagt ook aan. De specifieke opmerking uit de hierboven genoemde Project 2-podcast – “Veel mensen zullen dit jaar nieuwe zwembaden kopen” – verwees niet alleen naar de financiële voordelen van Microsoft, maar ook naar alle advocaten die aan deze rechtszaken zullen deelnemen. We kunnen waarschijnlijk een weloverwogen schatting maken dat meer dan 10.5% van Project JEDI's $ 38 miljard naar advocaten zal gaan. Jammer dat we het niet kunnen gebruiken om te helpen een einde maken aan de honger in de wereld gebruiken.

Het geschil over de vraag of deze overdracht van belastinggeld aan militaire aannemers ten goede zou moeten komen aan Microsoft, Amazon of Oracle heeft de berichtgeving over Project JEDI gedomineerd. De enige positieve boodschap die uit deze obscene graft kan worden afgeleid - het feit dat Google vanwege het arbeidersprotest afstand heeft gedaan van het grootste militaire softwarecontract in de wereldgeschiedenis - komt vrijwel niet voor in de berichtgeving over Project JEDI. 

Daarom was het belangrijk om dit verhaal te vertellen aan de op technologie gerichte activisten die vorige week in een overvolle zaal in het centrum van Manhattan bijeen waren om te praten over hoe we onze planeet kunnen redden, hoe we kunnen vechten tegen desinformatie en politisering van de klimaatwetenschap, hoe we het hoofd kunnen bieden aan de enorme macht van profiteurs van fossiele brandstoffen en wapens. In deze kleine kamer leken we allemaal de dimensies te begrijpen van het probleem waarmee we werden geconfronteerd, en de cruciale rol die we zelf moeten gaan spelen. De technische gemeenschap heeft een aanzienlijke macht. Net zoals desinvesteringscampagnes een echt verschil kunnen maken, kunnen opstanden van techwerkers een echt verschil maken. Er zijn veel manieren waarop klimaatveranderingsactivisten, rebellenactivisten van techwerkers en anti-oorlogsactivisten kunnen gaan samenwerken, en we zullen dat op alle mogelijke manieren doen.

We hadden een hoopvolle start met deze bijeenkomst, behulpzaam geïnitieerd door Uitsterven Opstand NYC en Wereld kan niet wachten. Deze beweging zal groeien – ze moet groeien. Misbruik van fossiele brandstoffen is de focus van demonstranten tegen klimaatverandering. Het misbruik van fossiele brandstoffen is zowel het primaire winstmotief van het VS-imperialisme als een primair verschrikkelijk resultaat van de verkwistende activiteiten van het opgeblazen Amerikaanse leger. Inderdaad, het Amerikaanse leger lijkt te zijn de grootste vervuiler ter wereld. Kunnen techwerkers onze organiserende kracht gebruiken voor overwinningen die nog meer impact hebben dan de terugtrekking van Google uit Project JEDI? We kunnen en we moeten. De bijeenkomst in New York City van vorige week was slechts een kleine stap voorwaarts. We moeten meer doen en we moeten onze gecombineerde protestbeweging alles geven wat we hebben.

Marc Eliot Stein is directeur technologie en sociale media voor World BEYOND War.

Foto door Gregory Schwedock.