Deur Marc Eliot Stein, 10 Februarie 2020

Ek is onlangs genooi om namens 'n vergadering van die Uitwissing-rebellie in New York Stad te praat World BEYOND War. Die geleentheid is ontwerp om drie aksiegroepe bymekaar te bring: aktiviste vir klimaatsverandering, kollektiewe tegnici en anti-oorlogsaktiviste. Ons het begin met 'n opwindende persoonlike verhaal van die klimaatveranderingsaktivis Ha Vu, wat die skare New Yorkers vertel het van 'n onrusbarende ervaring wat min van ons ooit gehad het: terugkeer na haar gesin se huis in Hanoi, Vietnam, waar verhoogde hitte dit het dit al byna onmoontlik gemaak om buite te loop tydens die vinnige sonligure. Min Amerikaners weet ook van die Waterbesoedeling ramp 2016 in Ha Tinh in Sentraal-Viëtnam. Ons praat gereeld van klimaatsverandering as 'n potensiële probleem in die VSA, benadruk Ha, maar in Viëtnam kan sy sien dat dit lewens en lewensonderhoud tans ontwrig en vinnig erger word.

Nick Mottern van KnowDrones.org het met soortgelyke dringendheid gepraat oor die onlangse massiewe belegging van die Amerikaanse weermag in futuristiese kunsmatige intelligensie en wolkrekenaarskap - en beklemtoon die weermag se eie gevolgtrekking dat die implementering van KI-stelsels in kernwapenbestuur en hommeltuig-oorlogvoering noodwendig tot foute van onvoorspelbare omvang sal lei. William Beckler van Extinction Rebellion NYC, gevolg deur die organiseringsbeginsels wat hierdie belangrike en vinnig groeiende organisasie in werking stel, te verduidelik, insluitend ontwrigtende aksies wat ontwerp is om bewustheid van die kritieke belang van klimaatsverandering te verhoog. Ons het gehoor van 'n verteenwoordiger van New York City Tegniese werkers koalisie, en ek het probeer om die byeenkoms in die rigting van 'n gevoel van praktiese bemagtiging te draai deur te praat oor 'n opstandaksie van tegniese werkers wat onverwags suksesvol was.

Dit was in April 2018, toe die sogenaamde 'verdedigingsbedryf' gons oor Project Maven, 'n nuwe Amerikaanse militêre inisiatief om kunsmatige intelligensievermoëns vir drones en ander wapenstelsels te ontwikkel. Google, Amazon en Microsoft bied almal kunsmatige intelligensieplatforms vir betalende kliënte op die mark, en Google is gesien as die waarskynlike wenner van die militêre kontrak Project Maven.

Begin 2018 het Google-werkers begin praat. Hulle het nie verstaan ​​waarom 'n maatskappy wat hulle as werknemers gewerf het met die belofte "Don't Be Evil" nie, nou op militêre projekte gaan bieg, wat waarskynlik sal lyk soos die afgryslike episode van "Black Mirror" waarin meganiese honde met AI-honde mense wesens tot die dood toe. Hulle het op sosiale media en met tradisionele nuuswinkels gepraat. Hulle het aksies gereël en petisies gesirkuleer en hulself laat hoor.

Hierdie werkersopstand was die ontstaan ​​van die Google Workers Rebellion-beweging, en dit het daartoe bygedra om ander tegnologiese werkers-kollektiewe te ontgin. Maar die verbasendste ding van die interne Google-protes teen Project Maven was nie dat tegniese werkers praat nie. Die verstommendste is dit Google-bestuur het aan die eise van die werkers voldoen.

Twee jaar later verbaas hierdie feit my nog steeds. Ek het in my dekades baie etiese probleme gesien as 'n tegniese werker, maar ek het selde gesien dat 'n groot onderneming kategorieë instem om etiese probleme op 'n beduidende manier aan te spreek. Die resultaat van die Google-rebellie teen Project Maven was die publikasie van 'n stel AI-beginsels wat die moeite werd is om hier volledig te herdruk:

Kunsmatige intelligensie op Google: ons beginsels

Google streef daarna om tegnologieë te skep wat belangrike probleme oplos en mense in hul daaglikse lewens help. Ons is optimisties oor die ongelooflike potensiaal vir AI en ander gevorderde tegnologieë om mense te bemagtig, die huidige en toekomstige geslagte wyd bevoordeel en tot die algemene voordeel te werk.

Doelstellings vir AI-toepassings

Ons sal AI-toepassings beoordeel met die oog op die volgende doelstellings. Ons glo dat AI:

1. Wees sosiaal voordelig.

Die uitgebreide omvang van nuwe tegnologieë raak toenemend die samelewing as geheel. Vooruitgang in AI sal transformatiewe gevolge hê in 'n wye verskeidenheid velde, insluitend gesondheidsorg, sekuriteit, energie, vervoer, vervaardiging en vermaak. Terwyl ons die potensiële ontwikkeling en gebruike van AI-tegnologieë oorweeg, sal ons 'n wye verskeidenheid sosiale en ekonomiese faktore in ag neem, en sal voortgaan waar ons glo dat die moontlike voordele wesenlik groter is as die voorsienbare risiko's en nadele.

AI verhoog ook ons ​​vermoë om die betekenis van inhoud op skaal te verstaan. Ons sal daarna streef om inligting van hoë gehalte en akkuraat beskikbaar te stel met behulp van AI, terwyl ons voortgaan om kulturele, sosiale en wetlike norme te respekteer in die lande waar ons werk. En ons sal voortgaan om deurdagte te evalueer wanneer ons ons tegnologie op 'n nie-kommersiële basis beskikbaar sal stel.

2. Vermy die skep of versterking van onbillike vooroordeel.

AI-algoritmes en datastelle kan onbillike vooroordele weerspieël, versterk of verminder. Ons erken dat die onderskeiding van billikheid van onregverdige vooroordele nie altyd eenvoudig is nie en verskil tussen kulture en samelewings. Ons sal poog om onregverdige gevolge op mense te vermy, veral die wat verband hou met sensitiewe eienskappe soos ras, etnisiteit, geslag, nasionaliteit, inkomste, seksuele oriëntasie, vermoë en politieke of godsdienstige geloof.

3. Word gebou en getoets vir veiligheid.

Ons sal voortgaan om sterk veiligheids- en sekuriteitspraktyke te ontwikkel en toe te pas om onbedoelde resultate te vermy wat risiko's vir skade veroorsaak. Ons sal ons AI-stelsels ontwerp om toepaslik te wees en ons poog om dit te ontwikkel in ooreenstemming met die beste praktyke in AI-veiligheidsnavorsing. In toepaslike gevalle sal ons AI-tegnologieë in beperkte omgewings toets en die werking daarvan monitor na ontplooiing.

4. Verantwoordelik teenoor mense.

Ons sal AI-stelsels ontwerp wat gepaste geleenthede bied vir terugvoer, relevante verduidelikings en appèl. Ons AI-tegnologieë sal onderhewig wees aan toepaslike menslike rigting en beheer.

5. Neem die beginsels van privaatheidsontwerp in.

Ons sal ons privaatheidsbeginsels insluit in die ontwikkeling en gebruik van ons AI-tegnologieë. Ons sal geleentheid gee vir kennisgewing en toestemming, argitekture aanmoedig met privaatheidsmaatreëls en toepaslike deursigtigheid en beheer oor die gebruik van data bied.

6. Gebruik hoë standaarde vir wetenskaplike uitnemendheid.

Tegnologiese innovasie is gewortel in die wetenskaplike metode en 'n verbintenis tot openlike ondersoek, intellektuele strengheid, integriteit en samewerking. AI-instrumente het die potensiaal om nuwe gebiede van wetenskaplike navorsing en kennis op kritieke gebiede soos biologie, chemie, geneeskunde en omgewingswetenskappe te ontsluit. Ons streef daarna om hoë standaarde vir wetenskaplike uitnemendheid te bevorder, terwyl ons werk om AI-ontwikkeling te bevorder.

Ons sal saam met 'n aantal belanghebbendes saamwerk om deurdagte leierskap op hierdie gebied te bevorder, op wetenskaplike streng en multidissiplinêre benaderings. En ons sal AI-kennis verantwoordelik deel deur opvoedkundige materiaal, beste praktyke en navorsing te publiseer wat meer mense in staat stel om nuttige AI-toepassings te ontwikkel.

7. Word beskikbaar gestel vir gebruike wat ooreenstem met hierdie beginsels.

Baie tegnologieë het veelvuldige gebruike. Ons sal daaraan werk om toepassings wat potensieel skadelik of beledigend is, te beperk. Terwyl ons AI-tegnologieë ontwikkel en ontplooi, sal ons die moontlike gebruike evalueer in die lig van die volgende faktore:

• Primêre doel en gebruik: die primêre doel en waarskynlike gebruik van 'n tegnologie en toepassing, insluitend hoe noukeurig die oplossing verband hou met of aanpasbaar is vir 'n skadelike gebruik
• Aard en uniekheid: of ons tegnologie wat uniek of meer algemeen beskikbaar is, beskikbaar stel
• skaal: of die gebruik van hierdie tegnologie 'n beduidende impak sal hê
• Aard van Google se betrokkenheid: of ons algehele doeleindes aanbied, gereedskap vir kliënte integreer of om persoonlike oplossings te ontwikkel

AI-toepassings wat ons nie sal nastreef nie

Benewens bogenoemde doelstellings, sal ons AI nie ontwerp of ontplooi in die volgende toepassingsareas nie:

1. Tegnologieë wat algehele skade berokken of waarskynlik sal berokken. Waar daar 'n wesenlike risiko van skade is, sal ons voortgaan slegs wanneer ons glo dat die voordele die risiko's wesenlik oorskry, en gepaste veiligheidsbeperkings sal insluit.
2. Wapens of ander tegnologieë waarvan die hoofdoel of implementering is om mense skade te berokken of direk te vergemaklik.
3. Tegnologieë wat inligting versamel of gebruik vir toesig wat internasionaal aanvaarde norme oortree.
4. Tegnologieë waarvan die doel in stryd is met die algemeen aanvaarde beginsels van internasionale reg en menseregte.

Namate ons ervaring in hierdie ruimte verdiep, kan hierdie lys ontwikkel.

Gevolgtrekking

Ons glo dat hierdie beginsels die regte basis is vir ons onderneming en ons toekomstige ontwikkeling van AI. Ons erken dat hierdie gebied dinamies en ontwikkelend is, en ons sal ons werk met nederigheid, 'n verbintenis tot interne en eksterne betrokkenheid, en 'n bereidwilligheid om ons benadering aan te pas soos ons mettertyd leer, aanpas.

Hierdie positiewe resultaat onthef die tegnologiereus Google nie van medepligtigheid op verskillende ander terreine wat groot kommer het nie, soos om ICE, polisie en ander militêre aktiwiteite te ondersteun, toegang tot privaat data oor individue te versamel en te verkoop, en omstrede politieke uitsprake uit die resultate van die soekenjin te verberg en, die belangrikste, om sy werknemers toe te laat om oor hierdie en ander kwessies te praat sonder om afgedank te word. Die rebelliebeweging van Google-werknemers bly aktief en baie betrokke.

Terselfdertyd is dit belangrik om te besef hoe invloedryk die werkersbeweging van Google was. Dit het onmiddellik duidelik geword nadat die Google-betogings begin het: die bemarkingsdepartemente van die Pentagon het opgehou om nuwe persverklarings oor die eens opwindende Project Maven uit te reik en uiteindelik die projek heeltemal te verdwyn uit die openbare sigbaarheid wat hy vroeër gesoek het. In plaas daarvan het 'n nuwe en veel groter kunsmatige intelligensie-inisiatief uit die verraderlike Pentagon begin verskyn Verdedigingsinnovasieraad.

Dit is genoem Projek JEDI, 'n nuwe naam vir die besteding van Pentagon aan vooraanstaande wapens. Projek JEDI sou veel meer geld spandeer as Project Maven, maar die publisiteit blitz vir die nuwe projek (ja, die Amerikaanse weermag bestee 'n baie tyd en aandag aan publisiteit en bemarking) was baie anders as die vorige. Al die gladde en sexy “Black Mirror” -beelde is weg. Nou, in plaas daarvan om die opwindende en filmiese gruwels van die distopiese klanke wat AI-aangedrewe drone op mense kan veroorsaak, te beklemtoon, het Project JEDI homself as 'n nugtere stap vir doeltreffendheid verduidelik, en verskillende wolkedatabasisse gekombineer om "oorlogsvegters" (die Pentagon se gunsteling term vir personeel in die voorste linies) en ondersteuningspanne by die kantoor maksimeer effektiwiteit van inligting. Waar Project Maven ontwerp is om opwindend en futuristies te klink, is Project JEDI ontwerp om sinvol en prakties te klink.

Daar is niks sinvol of prakties aan die prysetiket vir Project JEDI nie. Dit is die grootste militêre sagtewarekontrak in die wêreldgeskiedenis: $ 10.5 miljard. Baie van ons oë glinster as ons van skaal van militêre uitgawes hoor, en ons kan oor die verskil tussen miljoene en miljarde rande gaan. Dit is noodsaaklik om te verstaan ​​hoeveel groter Project JEDI is as enige vorige Pentagon-sagteware-inisiatief. Dit is 'n speletjie-wisselaar, 'n welvaartgenererende enjin, 'n blanke tjek vir winsbejag ten koste van belastingbetaler.

Dit help om onder die oppervlak van die regering se persverklarings te krap wanneer u probeer om 'n leë tjek van soveel as $ 10.5 miljard te bestee. Sommige inligting kan uit die eie publikasies van die weermag verkry word, soos 'n onrusbarende Augustus 2019-onderhoud met die Joint Artificial Intelligence Centre, luitenant-generaal Jack Shanahan, 'n sleutelfiguur in beide die verdwene Project Maven en die nuwe Project JEDI. Ek kon meer insig kry oor hoe insiders van die verdedigingsbedryf oor Project JEDI dink deur na 'n podcast van die verdedigingsbedryf te luister “Projek 38: Die toekoms van regeringskontraktering”. Podcast-gaste praat dikwels openhartig en onbeskaamd oor watter onderwerp hulle ook al bespreek. 'Baie mense sal vanjaar nuwe swembaddens koop', was tipies van hierdie podcast se binneklets oor Project JEDI. Ons is seker hulle sal dit wees.

Dit is die merkwaardige ding wat aansluit by Google se AI-beginsels. Die voor die hand liggende drie voorlopers vir die massiewe JEDI-kontrak van $ 10.5 miljard sou Google, Amazon en Microsoft gewees het - in daardie volgorde, gebaseer op hul reputasie as AI-innoveerders. Vanweë die werkers wat in 2018 teen Project Maven betoog het, was die AI-leier Google buite rekening met die veel groter projek JEDI in 2019. Laat in 2019 is aangekondig dat die kontrak aan Microsoft gaan. 'N Vloed van nuusdekking het gevolg, maar hierdie dekking het hoofsaaklik gefokus op die wedywering tussen Amazon en Microsoft, en op die feit dat Microsoft waarskynlik die 3de plek vir die oorwinning in die Amazon-posisie kon wen as gevolg van die voortslepende gevegte van die Trump-administrasie met Washington Post. wat deur Amazon, Jeff Bezos, besit word. Amazon gaan nou hof toe om die Pentagon se geskenk van $ 2 miljard aan Microsoft te beveg, en Oracle kla ook aan. Die spesifieke opmerking van die Project 10.5-podcast hierbo genoem: 'Baie mense sal vanjaar nuwe swembaddens koop' - verwys nie net na Microsoft se finansiële voordeel nie, maar ook na al die advokate wat aan hierdie regsgedinge sal deelneem. Ons kan waarskynlik 'n opgevoede raaisel maak dat meer as 38% van Project JEDI se $ 3 miljard aan prokureurs sal gaan. Jammer dat ons dit nie kan help om te help nie einde wêreld honger plaas.

Die geskil oor die vraag of hierdie oordrag van belastingbetalersgeld aan militêre kontrakteurs Microsoft, Amazon of Oracle moet bevoordeel, het die nuusdekking van Project JEDI oorheers. Die een positiewe boodskap wat uit hierdie onwelvoeglike implantaat verkry moet word - die feit dat Google vanweë die betoging van die werkers van die grootste militêre sagtewarekontrak in die wêreldgeskiedenis afgesien het - was feitlik onbestaanbaar in die nuusdekking van Project JEDI. 

Dit is waarom dit belangrik was om hierdie verhaal te vertel aan die tegniekgerigte aktiviste wat verlede week in 'n stampvol kamer in die middestad van Manhattan bymekaargekom het om te praat oor hoe ons ons planeet kan red, hoe ons kan veg teen disinformasie en verpolitisering van klimaatwetenskap, hoe ons die massiewe krag van winsmakers en wapenbuiters kan hanteer. In hierdie klein vertrek het dit gelyk asof ons almal die dimensies van die probleem waarmee ons te kampe het, begryp, en die kritieke rol wat ons self moet begin speel. Die tegnologiese gemeenskap het aansienlike mag. Net soos afstortingsveldtogte 'n daadwerklike verskil kan maak, kan opstandings van tegniese werkers 'n werklike verskil maak. Daar is baie maniere waarop klimaatsveranderingsaktiviste, opstandingsaktiviste van tegniese werkers en anti-oorlogsaktiviste kan begin saamwerk, en ons sal dit op elke manier doen.

Ons het 'n hoopvolle begin gehad met hierdie byeenkoms, wat behulpsaam is deur Uitwissing Rebellie NYC en Wêreld kan nie wag nie. Hierdie beweging sal groei - dit moet groei. Misbruik van fossiele brandstof is die fokus van betogers teen klimaatsverandering. Misbruik van fossielbrandstowwe is ook die primêre winsmotief van die Amerikaanse imperialisme en 'n primêre gevolg van die verspreide bedrywighede van die Amerikaanse weermag. Inderdaad, die Amerikaanse weermag blyk te wees die enkele slegste besoedelaar ter wêreld. Kan tegniese werkers ons organisatoriese krag gebruik om oorwinnings te maak wat selfs groter is as die onttrekking van Google aan Project JEDI? Ons kan en ons moet. Verlede week se vergadering in New York was 'n klein stap vorentoe. Ons moet meer doen, en ons moet ons gekombineerde protesbeweging alles gee wat ons het.

Marc Eliot Stein is direkteur van tegnologie en sosiale media vir World BEYOND War.

Foto deur Gregory Schwedock.