Vum Marc Eliot Stein, 10. Februar 2020

Ech war viru kuerzem invitéiert fir op enger Extinction Rebellioun Versammlung zu New York City ze schwätzen fir World BEYOND WarAn. D'Evenement war entwéckelt fir dräi Aktiounsgruppen matzebréngen: Klimawandelaktivisten, Tech Aarbechterkollektiv, an Antiwar Aktivisten. Mir hunn ugefaang mat engem opreegende perséinleche Kont vum Klimawandelaktivist Ha Vu, deen de Leit vun den New Yorker erzielt huet iwwer eng alarméierend Erfahrung, déi e puer vun eis jeemools haten: zréck an hir Famill doheem an Hanoi, Vietnam, wou erhéicht Hëtzt huet et scho bal onméiglech gemaach sech dobausse während de spektakuläre Sonneliichtstonnen ze trennen. Puer Amerikaner wëssen och iwwer de 2016 Waasserverschmotzungskatastroph zu Ha Tinh am zentrale Vietnam. Mir schwätze dacks vu Klimawandel als e potenziellen Problem an den USA, huet Ha betount, awer a Vietnam ka se gesinn datt et d'Liewen an d'Erliewnisser ëmmer stéiert, a séier verschlechtert.

Nick Mottern vum KnowDrones.org huet mat ähnlecher Dréngung iwwer déi rezent massiv Investitioun vum US Militär a futuristesch kënschtlech Intelligenz a Cloud Computing geschwat - an de Militär seng eege Conclusioun ënnerstrach datt Asaz vun AI Systemer an Atomwaffemanagement an Dronekricher onweigerlech zu Feeler vun onberechenbarer Gréisst féieren. De William Beckler vun der Extinction Rebellion NYC gefollegt vun den Organiséierungsprinzipien erkläert dës wichteg a séier wuessend Organisatioun an Aktioun, inklusiv disruptive Aktiounen entwéckelt fir d'Bewosstsinn vun der kritescher Bedeitung vum Klimawandel ze erhéijen. Mir hunn vun engem New York City Vertrieder vun Tech Aarbechter Koalitioun, an ech hu probéiert d'Versammlung ze dreiwen a Richtung e Sënn vu praktescher Empowerment andeems ech iwwer eng Tech-Aarbechter-Rebelliounsaktioun schwätzen, déi onerwaart erfollegräich war.

Dëst war am Abrëll 2018, wéi déi sougenannten "Verteidegungsindustrie" iwwer Project Maven gesonge gouf, eng héich verëffentlecht nei US Militärinitiativ fir kënschtlech Intelligenz Fäegkeeten fir Dronen an aner Waffesystemer z'entwéckelen. Google, Amazon a Microsoft bidden all ofgeschloss kënschtlech Intelligenz Plattforme fir Bezuelende Clienten, a Google gouf als de méigleche Gewënner vum Project Maven militäresche Kontrakt gesinn.

Am fréien 2018 hunn Google Aarbechter ugefaang ze schwätzen. Si hunn net verstanen firwat eng Firma déi se als Mataarbechter rekrutéiert huet mam Verméigen "Don't Be Evil" elo op militäresch Projete bitt, déi méiglecherweis als déi schrecklech Episode vu "Black Mirror" ausgesinn, an deem AI-ugedriwwen mechanesch Hënn honn Mënsch Wesen zum Doud. Si hunn op de soziale Medien an zu traditionelle Nouvellen geschwat. Si hunn Aktiounen organiséiert a Petitioune circuléiert a sech selwer héieren.

Dës Aarbechter Rebellioun war d'Genesis vun der Google Workers Rebellioun Bewegung, an et huet gehollef aner Tech Aarbechter Sammler ze booten. Awer déi erstaunlechst Saach iwwer den internen Google Protest géint Project Maven war net datt Tech-Aarbechter schwätzen. Dat Erstaunleches ass dat Google Gestioun huet dem Demande vun den Aarbechter noginn.

Zwee Joer méi spéit stécht dës Tatsaach mech nach ëmmer. Ech hunn vill ethesch Probleemer a menge Joerzéngte als Tech Aarbechter gesinn, awer ech hunn selten eng grouss Firma kategoresch gesinn averstanen fir ethesch Probleemer op eng bedeitend Manéier ze adresséieren. D'Resultat vun der Google Rebellioun géint Project Maven war d'Publikatioun vun engem Set vun AI Prinzipien, déi et wäert sinn hei nei z'drucken:

Kënschtlech Intelligenz bei Google: Eis Grondsätz

Google streeft Technologien ze kreéieren déi wichteg Probleemer léisen an d'Leit an hirem Alldag hëllefen. Mir si optimistesch iwwer dat onheemlecht Potenzial fir AI an aner fortgeschratt Technologien fir d'Leit z'empfänken, breet aktuell an zukünfteg Generatiounen a schaffe fir d'Allgemengheet.

Ziler fir AI Uwendungen

Mir wäerten AI Uwendungen bewäerten mat Bléck op folgend Ziler. Mir gleewen datt AI soll:

1. Gitt sozial gutt.

Déi erweidert Erréchen vun neien Technologien beréiert ëmmer méi d'Gesellschaft als Ganzt. Fortschrëtter an AI wäerte transformativ Auswierkungen an enger breeder Palette vu Felder hunn, inklusiv Gesondheetsservicer, Sécherheet, Energie, Transport, Fabrikatioun, an Ënnerhalung. Well mir déi potenziell Entwécklung a Gebrauch vun AI Technologien berücksichtegen, wäerte mir eng breet Palette vu sozialen a wirtschaftleche Faktoren berücksichtegen, a wäerte weidergoe wou mir gleewen datt d'gesamt méiglech Virdeeler wesentlech méi wéi déi virauszegesi Risiken an Nodeeler iwwerschreiden.

AI verbessert och eis Fäegkeet fir d'Bedeitung vum Inhalt op Skala ze verstoen. Mir beméien eis, qualitativ a korrekt Informatiounen mat AI liicht verfügbar ze maachen, a bleift awer weider kulturell, sozial a legal Normen an de Länner wou mir operéieren. A mir wäerte weider Gedanke maachen, wéini eis Technologien op eng net-kommerziell Basis verfügbar sinn.

2. Vermeit Schafung oder Verstäerkung vun Ongerechtfäerdegt Bias.

AI Algorithmen an Datesätz kënnen ongerecht Biasen reflektéieren, verstäerken oder reduzéieren. Mir erkennen datt d'Ënnerscheedung vun de Faire vun ongerechte Biasen net ëmmer einfach ass, a sech an de Kulturen a Gesellschaften ënnerscheet. Mir sichen eng ongerecht Effekt op Mënschen ze vermeiden, besonnesch déi mat sensiblen Eegenschaften wéi Rass, Ethnie, Geschlecht, Nationalitéit, Akommes, sexuell Orientéierung, Fäegkeet a politesch oder reliéis Iwwerzeegung.

3. Sidd gebaut a getest fir Sécherheet.

Mir wäerte weider staark Sécherheets- a Sécherheetspraktiken entwéckelen an ëmsetzen fir onbedéngt Resultater ze vermeiden déi Risiko vu Schued erstellen. Mir designen eis AI Systemer fir passend virsiichteg ze sinn, a sichen se am Aklang mat de beschten Praktiken an der AI Sécherheetsfuerschung z'entwéckelen. An entspriechende Fäll testen mir AI Technologien a geplangten Ëmfeld an iwwerwaachen hir Operatioun nom Ofbau.

4. Verantwortlech mat de Leit sinn.

Mir designen AI Systemer déi passend Méiglechkeete fir Feedback, relevant Erklärungen, an Appel ginn. Eis AI Technologien ënnerleien dem entspriechenden mënschlechen Direktioun a Kontroll.

5. Integréiert Prinzipien fir Privatsphär Design.

Mir wäerten eis Privatsphärprinzipien an der Entwécklung an der Notzung vun eisen AI Technologien integréieren. Mir ginn d'Geleeënheet fir Notiz an d'Zoustëmmung z'erreechen, d'Architekturen mat Privatsphärschutz z'erméiglechen, a passend Transparenz a Kontroll iwwer d'Benotzung vun Daten ze bidden.

6. Iwwerzeegen héich Standarden vu wëssenschaftlecher excellence.

Technologesch Innovatioun ass an der wëssenschaftlecher Method gewuer an en Engagement fir oppen Ufro, intellektuell Rigueur, Integritéit, an Zesummenaarbecht. AI Tools hunn d'Potenzial fir nei Räicher vu wëssenschaftlecher Fuerschung a Wëssen a kriteschen Beräicher wéi Biologie, Chimie, Medizin an Ëmweltwëssenschaften z'entwéckelen. Mir striewen héije Standards vu wëssenschaftlecher excellence wéi mir schaffen fir d'AI Entwécklung ze förderen.

Mir wäerte mat enger Rëtsch vun Interessenten schaffen fir nodenklech Leadership an dësem Beräich ze förderen, a wëssend op wëssenschaftlech rigoréis a multidisziplinär Approche. A mir wäerten verantwortlech AI Wëssen deelen andeems Dir pädagogesch Materialien, Best Practices a Fuerschung publizéiert, déi méi Leit et erlaben nëtzlech AI Uwendungen ze entwéckelen.

7. Gitt fir Uwendungen zur Verfügung déi mat dëse Prinzipien entspriechen.

Vill Technologien hu verschidde Gebrauch. Mir schaffen fir potenziell schiedlech oder mëssbraucht Uwendungen ze limitéieren. Wéi mir AI Technologien entwéckelen an implementéieren, beurteele mir méiglecherweis Gebrauch a Liicht vun de folgende Faktoren:

• Primär Zweck a Gebrauch: de primäre Zweck a méiglecherweis Benotzung vun enger Technologie an Uwendung, och wéi enk d'Léisung mat enger schiedlecher Benotzung ze dinn oder adaptéiert ass
• Natur an Eenzegaartegkeet: ob mir Technologie verfügbar maachen déi eenzegaarteg ass oder méi allgemeng verfügbar
• Skala: ob d'Benotzung vun dëser Technologie bedeitende Impakt wäert hunn
• Aart vun der Bedeelegung vu Google: ob mir allgemeng Zwecker ubidden, Tools fir Clienten z'integréieren oder personaliséiert Léisungen entwéckelen

AI Uwendungen wäerte mir net verfollegen

Zousätzlech zu den uewe genannten Objektiver, wäerte mir AI net an den folgenden Uwendungsberäicher designen oder ofsetzen:

1. Technologien déi allgemeng Schued verursaache oder verursaache kënnen. Wou et e materiellen Risiko vu Schued besteet, gi mir nëmme weider wou mir gleewen datt d'Virdeeler wesentlech méi héich sinn wéi d'Risiken, a passend Sécherheetsbegrëffer integréieren.
2. Waffen oder aner Technologien deenen hir Haaptzil oder Ëmsetzung ass Leit ze verursaachen oder direkt ze vermeiden.
3. Technologien déi Informatioun sammelen oder benotzt fir Iwwerwaachung déi international acceptéiert Normen verletzen.
4. Technologien deem säin Zweck géint akzeptéiert Prinzipien vum internationale Recht a Mënscherechter contraverse.

Wéi d'Erfarung an dësem Raum verdéift, kann dës Lëscht evoluéieren.

Konklusioun

Mir gleewen datt dës Prinzipien de richtege Fundament fir eis Firma an eis zukünfteg Entwécklung vun AI sinn. Mir unerkennen datt dëst Gebitt dynamesch ass an entwéckelt, a mir wäerten eis Aarbecht mat Humilitéit verflichten, e Engagement fir intern an extern Engagement, an e Wëllen fir eis Approche unzepassen wéi mir mat der Zäit léieren.

Dëst positivt Resultat befreit den Tech Ris Google net vu Komplizitéit a verschiddenen anere Beräicher vun der grousser Suerg, sou wéi ICE, Police an aner militäresch Aktivitéiten z'ënnerstëtzen, d'Aggregatioun an d'Verkaaf vun Zougang zu privaten Donnéeën iwwer Eenzelen, verstoppt kontrovers politesch Aussoe vu Sichmotor Resultater an am wichtegsten et erlaabt hir Mataarbechter weider ze schwätzen iwwer dës an aner Themen ouni ze entloossen dofir. D'Google Aarbechter-Rebelliounsbewegung bleift aktiv an héich engagéiert.

Zur selwechter Zäit ass et wichteg ze erkennen wéi beaflosst d'Google Aarbechterbewegung war. Dëst gouf direkt kloer nodeems d'Google Protester ugefaang hunn: de Pentagon Marketing Departementer hunn opgehalen mat neiem Pressematdeelung iwwer de eemol opreegende Project Maven auszeginn, schliisslech "verschwonnen" de Projet komplett aus der ëffentlecher Visibilitéit déi et virdru gesicht huet. Amplaz, huet eng nei a vill méi grouss kënschtlech Intelligenz Initiativ ugefaang aus dem Pentagon Insidious erauszekommen Verdeedegung Innovatioun Board.

Dëst gouf genannt Projet JEDIan, en neien Numm fir Pentagon Ausgaben op opzedeelen Wäitschëss. Project JEDI géif vill méi Sue verbréngen wéi Project Maven, awer d'Publizitéit Blitz fir den neie Projet (jo, d'US Militär verbréngt e vill der Zäit an Opmierksamkeet op Publizitéit a Marketing) war ganz anescht wéi déi fréier. Déi ganz glat a sexy “Black Mirror” Bildmass war verschwonnen. Elo, anstatt déi spannend an filmesch dystopesch Schrecken ze betounen, déi AI-ugedriwwen Drohnen op d'Mënschheet kéinte verursaachen, huet de Project JEDI sech als e süchtege Schrëtt fir d'Effizienz erkläert, verschidde Cloud-Datebanke kombinéiert fir "Kricher" ze hëllefen (de Pentagon säi Liiblingsbegrëff fir frontline personals) an backoffice Supportteams maximal Informatiounseffektivitéit. Wou Project Maven entworf gouf fir spannend an futuristesch ze kléngen, war de Project JEDI entwéckelt fir sënnvoll a praktesch ze kléngen.

Et ass näischt sënnbar oder praktesch iwwer de Präis Tag fir Project JEDI. Et ass dee gréissten militäresche Softwarekontrakt an der Weltgeschicht: 10.5 Milliarden Dollar. Vill vun eisen Aen gläerzen iwwer wa mer iwwer Skale vu Militärausgaben héieren, a mir kënnen iwwer den Ënnerscheed tëscht Milliounen a Milliarden iwwergoen. Et ass essentiell ze verstoen wéi vill méi grouss Project JEDI ass wéi all virdrun Pentagon Software Initiativ. Et ass e Spillwechsel, e Räichtum generéierende Motor, eng eidel Scheck fir Profittering op Steierzueler Käschten.

Et hëlleft ënnert der Uewerfläch vu Regierung Pressematdeelungen ze krazen wann Dir probéiert e Militärausgaben eidel Scheck esou grouss wéi $ 10.5 Milliard ze verstoen. E puer Informatioune kënnen aus de Militär eegene Publikatioune gesammelt ginn, wéi eng beonrouegend August 2019 Interview mam Joint Artificial Intelligence Center Leitnant General Jack Shanahan, eng Schlësselfigur souwuel am verschwonnene Project Maven wéi och am neie Project JEDI. Ech konnt méi Asiicht kréien wéi d'Verdeedegung Industrie Insider iwwer Project JEDI denken andeems Dir op eng Verdeedegung Industrie Podcast nennt "Projet 38: D'Zukunft vun de Regierungskontrakter". Podcast Gäscht schwätzen dacks candidly an ongenéiert iwwer egal wéi en Thema se diskutéieren. “Vill Leit kafen dëst Joer nei Schwammen” war typesch fir dëse Podcast sengem Insider Chat iwwer de Projet JEDI. Mir si sécher datt se wäerte sinn.

Hei ass dat bemierkenswäert wat mat den AI Prinzipien vu Google verbënnt. Déi offensichtlech dräi Virleefer fir de massive $ 10.5 Milliarde JEDI Kontrakt wiere Google, Amazon a Microsoft gewiescht - an där Reiefolleg, baséiert op hire Ruffen als AI Innovateuren. Wéinst dem Aarbechterprotest géint de Projet Maven am Joer 2018, war den AI Leader Google aus Iwwerleeung fir de vill méi grousse Projet JEDI am Joer 2019. Spéit am Joer 2019 gouf ugekënnegt datt de Kontrakt u Microsoft gaang ass. E Stroum vun der Newsofdeckung ass gefollegt, awer dës Ofdeckung fokusséiert haaptsächlech op d'Rivalitéit tëscht Amazon a Microsoft, an op d'Tatsaach datt déi 3. Plaz Microsoft méiglecherweis erlaabt ass déi 2. Plaz Amazon fir de Gewënn ze schloen wéinst der lafender Schluechte vun der Trump Administratioun mat Washington Post, déi am Besëtz vum Amazon Jeff Bezos ass. Amazon geet elo viru Geriicht fir dem Pentagon säin $ 10.5 Milliard Kaddo u Microsoft ze bekämpfen, an Oracle klëmmt och. Déi spezifesch Bemierkung vum uewe genannte Podcast Project 38 - "Vill Leit kafen dëst Joer nei Schwammen" - bezitt sech net nëmmen op de finanzielle Boun vu Microsoft, awer och op all d'Affekoten, déi un dëse Kloen deelhuelen. Mir kënnen wahrscheinlech en ausgebilte Giss maachen datt méi wéi 3% vum Projet JEDI $ 10.5 Milliarden un Affekote ginn. Schued datt mir et net benotze fir ze hëllefen Enn Welt Honger anstatt.

De Sträit iwwer dës Iwwerweisung vu Steierzuelergeld u Militärkontrakter sollt Microsoft, Amazon oder Oracle profitéieren huet d'News Ofdeckung vum Project JEDI dominéiert. Dee positive Message dee vun dësem obszénge Grëff gesammelt gëtt - de Fakt datt Google vum gréisste Militärsoftwarekontrakt an der Weltgeschicht fortgaang ass wéinst dem Aarbechterprotest - war praktesch net existent an der Newsofdeckung vum Projet JEDI. 

Duerfir war et wichteg dës Geschicht mat den tech-fokusséierte Aktivisten ze erzielen, déi d'lescht Woch an engem iwwerraden Zëmmer am Midtown Manhattan versammelt goufen, fir iwwer eis ze schwätzen, wéi mir eise Planéit retten, wéi mir géint Desinformatioun an d'Politiséierung vu Klimawëssenschafte kämpfen, wéi mir eis mat der massiver Kraaft vu fossille Brennstoffer a Waffe profitéiere kënnen. An dësem klenge Raum schénge mir all d'Dimensioune vum Problem ze begéinen, mat deem mir stellen, an déi kritesch Roll, déi mir selwer musse fänken ze spillen. D'Tech Gemeinschaft huet bedeitend Kraaft. Just wéi Ofwécklungskampagnen kënnen e reellen Ënnerscheed maachen, kënnen d'Tellaarbechter-Rebellioune e reellen Ënnerscheed maachen. Et gi vill Weeër Klimawandelaktivisten, Tech Aarbechter Rebellioun Aktivisten an Antiwar Aktivisten kënnen ufänken mateneen ze schaffen, a mir wäerte sou maachen op all Manéier wéi mir kënnen.

Mir haten en hoffentlechen Ufank mat dëser Versammlung, hëllefsbereet vum Ausstierwen Rebellioun NYC an Welt Can not Wait. Dës Bewegung wäert wuessen - et muss wuessen. Fossile Brennstoffmëssbrauch ass de Fokus vu Klimawandel Protester. Fossile Brennstoffmëssbrauch ass och de primäre Profittmotiv vum US Imperialismus an e primär schrecklecht Resultat vun der opgeblosen US Militär verschwenden Aktivitéiten. Tatsächlech schéngt d'US Militär ze sinn déi eenzeg schlëmmst Verschmotzung op der WeltAn. Kënnen Tech Aarbechter eis Organisatiounskraaft fir Victoiren nach méi impactvoll benotzen wéi de Réckzuch vu Google vum Project JEDI? Mir kënnen a mir mussen. D'lescht Woch zu New York City Reunioun war just e klenge Schrëtt no vir. Mir musse méi maachen, a mir mussen eis kombinéiert Protestbewegung alles ginn wat mir hunn.

De Marc Eliot Stein ass Direkter fir Technologie a soziale Medien fir World BEYOND War.

Photo vum Gregory Schwedock.