Von Marc Eliot Stein, 10. Februar 2020

Ich wurde kürzlich eingeladen, bei einem Extinction Rebellion-Treffen in New York City im Namen von zu sprechen World BEYOND War. Die Veranstaltung sollte drei Aktionsgruppen zusammenbringen: Aktivisten für den Klimawandel, Kollektive für Techniker und Antikriegsaktivisten. Wir begannen mit einem mitreißenden persönlichen Bericht der Klimawandelaktivistin Ha Vu, die der Menge der New Yorker von einer alarmierenden Erfahrung erzählte, die nur wenige von uns jemals gemacht haben: Rückkehr in das Haus ihrer Familie in Hanoi, Vietnam, wo erhöhte Hitze hat es bereits fast unmöglich gemacht, während der Hauptstunden des Sonnenlichts nach draußen zu gehen. Nur wenige Amerikaner wissen auch über die Katastrophe der Wasserverschmutzung 2016 in Ha Tinh in Zentralvietnam. Wir sprechen oft vom Klimawandel als potenziellem Problem in den USA, betonte Ha, aber in Vietnam kann sie sehen, dass er bereits Leben und Lebensunterhalt stört und sich schnell verschlimmert.

Nick Mottern von KnowDrones.org sprach mit ähnlicher Dringlichkeit über die jüngsten massiven Investitionen des US-Militärs in futuristische künstliche Intelligenz und Cloud Computing - und betonte die eigene Schlussfolgerung des Militärs, dass der Einsatz von KI-Systemen im Nuklearwaffenmanagement und im Drohnenkrieg unweigerlich zu Fehlern von unvorhersehbarem Ausmaß führen wird. William Beckler von Extinction Rebellion NYC erläuterte anschließend die Organisationsprinzipien, die diese wichtige und schnell wachsende Organisation in die Tat umsetzt, einschließlich disruptiver Maßnahmen, um das Bewusstsein für die entscheidende Bedeutung des Klimawandels zu schärfen. Wir haben von einem New Yorker Vertreter von gehört Koalition der Tech-Arbeiterund ich versuchte, die Versammlung in Richtung eines Gefühls der praktischen Ermächtigung zu lenken, indem ich über eine Rebellionsaktion der Techniker sprach, die unerwartet erfolgreich war.

Dies war im April 2018, als die sogenannte „Verteidigungsindustrie“ über Project Maven schwärmte, eine vielbeachtete neue US-Militärinitiative zur Entwicklung künstlicher Intelligenz für Drohnen und andere Waffensysteme. Google, Amazon und Microsoft bieten handelsübliche Plattformen für künstliche Intelligenz für zahlende Kunden an, und Google wurde als wahrscheinlicher Gewinner des Militärvertrags für Project Maven angesehen.

Anfang 2018 begannen Google-Mitarbeiter, sich zu äußern. Sie verstanden nicht, warum eine Firma, die sie als Angestellte mit dem Versprechen „Don't Be Evil“ rekrutiert hatte, jetzt auf militärische Projekte bot, die wahrscheinlich der schrecklichen Episode von „Black Mirror“ ähneln, in der KI-angetriebene mechanische Hunde Menschen verfolgen Wesen zu Tode. Sie sprachen über soziale Medien und traditionelle Nachrichtenagenturen. Sie organisierten Aktionen und verteilten Petitionen und machten sich Gehör.

Diese Arbeiterrebellion war die Genese der Google Workers Rebellion-Bewegung und half dabei, andere Tech-Arbeiter-Kollektive zu booten. Das Erstaunlichste an dem internen Google-Protest gegen Project Maven war jedoch nicht, dass sich Techniker meldeten. Das Erstaunlichste ist das Das Google-Management gab den Anforderungen der Mitarbeiter nach.

Zwei Jahre später betäubt mich diese Tatsache immer noch. Ich habe in meinen Jahrzehnten als Techniker viele ethische Probleme gesehen, aber ich habe selten ein großes Unternehmen gesehen, das sich kategorisch bereit erklärt, ethische Probleme in signifikanter Weise anzugehen. Das Ergebnis der Google-Rebellion gegen Project Maven war die Veröffentlichung einer Reihe von KI-Prinzipien, die es wert sind, hier vollständig nachgedruckt zu werden:

Künstliche Intelligenz bei Google: Unsere Prinzipien

Google ist bestrebt, Technologien zu entwickeln, die wichtige Probleme lösen und Menschen in ihrem täglichen Leben helfen. Wir sind optimistisch über das unglaubliche Potenzial von KI und anderen fortschrittlichen Technologien, Menschen zu befähigen, gegenwärtigen und zukünftigen Generationen in großem Umfang zu helfen und für das Gemeinwohl zu arbeiten.

Ziele für KI-Anwendungen

Wir werden KI-Anwendungen im Hinblick auf die folgenden Ziele bewerten. Wir glauben, dass KI:

1. Sozial vorteilhaft sein.

Die erweiterte Reichweite neuer Technologien berührt zunehmend die gesamte Gesellschaft. Fortschritte in der KI werden transformative Auswirkungen auf eine Vielzahl von Bereichen haben, darunter Gesundheitswesen, Sicherheit, Energie, Transport, Fertigung und Unterhaltung. Wenn wir die potenzielle Entwicklung und Nutzung von KI-Technologien in Betracht ziehen, werden wir eine breite Palette sozialer und wirtschaftlicher Faktoren berücksichtigen und dort vorgehen, wo wir der Ansicht sind, dass der wahrscheinliche Gesamtnutzen die vorhersehbaren Risiken und Nachteile erheblich übersteigt.

KI verbessert auch unsere Fähigkeit, die Bedeutung von Inhalten im Maßstab zu verstehen. Wir werden uns bemühen, mithilfe von KI qualitativ hochwertige und genaue Informationen verfügbar zu machen und dabei weiterhin die kulturellen, sozialen und rechtlichen Normen in den Ländern zu respektieren, in denen wir tätig sind. Und wir werden weiterhin sorgfältig prüfen, wann unsere Technologien nichtkommerziell verfügbar sein sollen.

2. Vermeiden Sie es, unfaire Vorurteile zu erzeugen oder zu verstärken.

KI-Algorithmen und -Datensätze können unfaire Vorurteile widerspiegeln, verstärken oder reduzieren. Wir erkennen an, dass die Unterscheidung zwischen fairen und unfairen Vorurteilen nicht immer einfach ist und sich zwischen den Kulturen und Gesellschaften unterscheidet. Wir werden versuchen, ungerechte Auswirkungen auf Menschen zu vermeiden, insbesondere solche, die mit sensiblen Merkmalen wie Rasse, ethnischer Zugehörigkeit, Geschlecht, Nationalität, Einkommen, sexueller Orientierung, Fähigkeit und politischem oder religiösem Glauben zusammenhängen.

3. Gebaut und auf Sicherheit geprüft werden.

Wir werden weiterhin strenge Sicherheitsmaßnahmen entwickeln und anwenden, um unbeabsichtigte Ergebnisse zu vermeiden, die zu Schadensrisiken führen. Wir werden unsere KI-Systeme so gestalten, dass sie angemessen vorsichtig sind, und versuchen, sie gemäß den Best Practices in der KI-Sicherheitsforschung zu entwickeln. In geeigneten Fällen werden wir KI-Technologien in eingeschränkten Umgebungen testen und ihren Betrieb nach der Bereitstellung überwachen.

4. Seien Sie gegenüber Menschen rechenschaftspflichtig.

Wir werden KI-Systeme entwickeln, die geeignete Möglichkeiten für Feedback, relevante Erklärungen und Attraktivität bieten. Unsere KI-Technologien unterliegen einer angemessenen menschlichen Anleitung und Kontrolle.

5. Integrieren Sie die Prinzipien des Datenschutzdesigns.

Wir werden unsere Datenschutzgrundsätze in die Entwicklung und Nutzung unserer KI-Technologien einbeziehen. Wir werden Gelegenheit zur Benachrichtigung und Zustimmung geben, Architekturen mit Datenschutzbestimmungen fördern und angemessene Transparenz und Kontrolle über die Verwendung von Daten bieten.

6. Hohe Standards für wissenschaftliche Exzellenz einhalten.

Technologische Innovation basiert auf der wissenschaftlichen Methode und dem Engagement für offene Forschung, intellektuelle Genauigkeit, Integrität und Zusammenarbeit. KI-Werkzeuge haben das Potenzial, neue Bereiche der wissenschaftlichen Forschung und des Wissens in kritischen Bereichen wie Biologie, Chemie, Medizin und Umweltwissenschaften zu erschließen. Wir streben nach hohen Standards wissenschaftlicher Exzellenz, wenn wir daran arbeiten, die KI-Entwicklung voranzutreiben.

Wir werden mit einer Reihe von Stakeholdern zusammenarbeiten, um eine durchdachte Führung in diesem Bereich zu fördern, wobei wir uns auf wissenschaftlich strenge und multidisziplinäre Ansätze stützen. Und wir werden verantwortungsbewusst KI-Wissen teilen, indem wir Lehrmaterialien, Best Practices und Forschungsergebnisse veröffentlichen, die es mehr Menschen ermöglichen, nützliche KI-Anwendungen zu entwickeln.

7. für Verwendungen zur Verfügung gestellt werden, die diesen Grundsätzen entsprechen.

Viele Technologien haben mehrere Verwendungszwecke. Wir werden daran arbeiten, potenziell schädliche oder missbräuchliche Anwendungen einzuschränken. Bei der Entwicklung und Bereitstellung von KI-Technologien werden wir die wahrscheinlichen Verwendungszwecke unter Berücksichtigung der folgenden Faktoren bewerten:

• Hauptzweck und Verwendung: der Hauptzweck und die wahrscheinliche Verwendung einer Technologie und Anwendung, einschließlich der Frage, wie eng die Lösung mit einer schädlichen Verwendung zusammenhängt oder an diese angepasst werden kann
• Natur und Einzigartigkeit: ob wir Technologie zur Verfügung stellen, die einzigartig oder allgemeiner verfügbar ist
• Maßstab: ob der Einsatz dieser Technologie erhebliche Auswirkungen haben wird
• Art der Beteiligung von Google: ob wir Allzweckwerkzeuge bereitstellen, Werkzeuge für Kunden integrieren oder kundenspezifische Lösungen entwickeln

KI-Anwendungen werden wir nicht verfolgen

Zusätzlich zu den oben genannten Zielen werden wir AI in den folgenden Anwendungsbereichen nicht entwerfen oder bereitstellen:

1. Technologien, die einen Gesamtschaden verursachen oder wahrscheinlich verursachen. Wenn ein materielles Schadensrisiko besteht, werden wir nur dann vorgehen, wenn wir der Ansicht sind, dass der Nutzen die Risiken erheblich überwiegt und angemessene Sicherheitsbeschränkungen enthält.
2. Waffen oder andere Technologien, deren hauptsächlicher Zweck oder Einsatz darin besteht, Verletzungen von Personen zu verursachen oder direkt zu erleichtern.
3. Technologien, die Informationen zur Überwachung sammeln oder verwenden und dabei gegen international anerkannte Normen verstoßen.
4. Technologien, deren Zweck allgemein anerkannten Grundsätzen des Völkerrechts und der Menschenrechte zuwiderläuft.

Wenn sich unsere Erfahrung in diesem Bereich vertieft, kann sich diese Liste weiterentwickeln.

Zusammenfassung

Wir glauben, dass diese Prinzipien die richtige Grundlage für unser Unternehmen und unsere zukünftige Entwicklung von KI sind. Wir erkennen an, dass dieser Bereich dynamisch ist und sich weiterentwickelt, und wir werden unsere Arbeit mit Demut, einer Verpflichtung zu internem und externem Engagement und der Bereitschaft, unseren Ansatz im Laufe der Zeit anzupassen, angehen.

Dieses positive Ergebnis entbindet den Technologieriesen Google nicht von Komplizenschaft in verschiedenen anderen Bereichen, die Anlass zu großer Sorge geben, beispielsweise die Unterstützung von ICE, Polizei und anderen militärischen Aktivitäten, das Zusammenführen und Verkaufen von Zugangsdaten zu Privatpersonen sowie das Ausblenden kontroverser politischer Aussagen aus Suchmaschinenergebnissen und vor allem den Mitarbeitern die Möglichkeit zu geben, sich weiterhin zu diesen und anderen Themen zu äußern, ohne dafür entlassen zu werden. Die Rebellionsbewegung der Google-Mitarbeiter ist weiterhin aktiv und engagiert.

Gleichzeitig ist es wichtig zu erkennen, wie effektiv die Google-Arbeiterbewegung war. Dies wurde unmittelbar nach Beginn der Google-Proteste deutlich: Die Marketingabteilungen des Pentagons gaben keine neuen Pressemitteilungen mehr über das einst aufregende Projekt Maven heraus und "verschwanden" schließlich vollständig aus der Öffentlichkeit, nach der es zuvor gesucht hatte. Stattdessen begann eine neue und viel größere Initiative für künstliche Intelligenz aus dem heimtückischen Pentagon hervorzugehen Verteidigungsinnovationsausschuss.

Dies wurde aufgerufen Projekt JEDI, ein neuer Name für Pentagon-Ausgaben für Waffen der Spitzenklasse. Das Projekt JEDI würde viel mehr Geld ausgeben als das Projekt Maven, aber der Werbesprung für das neue Projekt (ja, das US - Militär gibt a Menge Zeit und Aufmerksamkeit auf Werbung und Marketing) war sehr verschieden von der früheren. Alle eleganten und sexy "Black Mirror" -Bilder waren verschwunden. Anstatt die aufregenden und filmischen dystopischen Horroreffekte hervorzuheben, die KI-Drohnen auf den Menschen ausüben können, erklärte sich Project JEDI als nüchterner Schritt vorwärts für die Effizienz und kombinierte verschiedene Cloud-Datenbanken, um „Warfightern“ zu helfen (der Lieblingsbegriff des Pentagons für Front-Line-Personal) und Back-Office-Support-Teams maximieren die Informationseffektivität. Während Project Maven aufregend und futuristisch klingen sollte, sollte Project JEDI vernünftig und praktisch klingen.

Es gibt nichts Sinnvolles oder Praktisches am Preisschild für Project JEDI. Es ist der größte Vertrag für militärische Software in der Weltgeschichte: 10.5 Milliarden US-Dollar. Viele unserer Augen leuchten, wenn wir etwas über die Höhe der Militärausgaben hören, und wir können die Differenz zwischen Millionen und Milliarden überspringen. Es ist wichtig zu verstehen, wie viel größer Project JEDI ist als jede frühere Pentagon-Software-Initiative. Es ist ein Game Changer, ein Motor, der Wohlstand schafft, ein Blankoscheck, um auf Kosten der Steuerzahler zu profitieren.

Es hilft, unter der Oberfläche von Pressemitteilungen der Regierung zu kratzen, wenn versucht wird, einen Blankoscheck für Militärausgaben in Höhe von 10.5 Milliarden US-Dollar zu erfassen. Einige Informationen können aus den eigenen Veröffentlichungen des Militärs entnommen werden, beispielsweise eine störende August 2019 Interview mit Generalleutnant Jack Shanahan vom Joint Artificial Intelligence Center, eine Schlüsselfigur sowohl im verschwundenen Project Maven als auch im neuen Project JEDI. In einem Podcast der Rüstungsindustrie mit dem Titel "Project JEDI" konnte ich mehr über die Meinung von Insidern der Rüstungsindustrie erfahren „Projekt 38: Die Zukunft des öffentlichen Auftragswesens“. Podcast-Gäste sprechen oft offen und unverfroren über das Thema, über das sie diskutieren. "Viele Leute werden dieses Jahr neue Schwimmbäder kaufen" war typisch für den Insider-Chat dieses Podcasts über das Projekt JEDI. Wir sind sicher, dass sie es sein werden.

Hier ist das Bemerkenswerte, das an die KI-Prinzipien von Google anknüpft. Die offensichtlichen drei Spitzenreiter für den massiven JEDI-Vertrag über 10.5 Milliarden US-Dollar wären Google, Amazon und Microsoft gewesen - in dieser Reihenfolge, basierend auf ihrem Ruf als KI-Innovatoren. Aufgrund des Protestes der Arbeiter gegen Project Maven im Jahr 2018 wurde AI-Leiter Google für das viel größere Projekt JEDI im Jahr 2019 nicht berücksichtigt. Ende 2019 wurde bekannt gegeben, dass der Vertrag an Microsoft ging. Es folgte eine Flut von Nachrichten, aber diese Berichterstattung konzentrierte sich hauptsächlich auf die Rivalität zwischen Amazon und Microsoft und auf die Tatsache, dass Microsoft aufgrund der anhaltenden Kämpfe der Trump-Administration mit der Washington Post wahrscheinlich den 3. Platz Amazon um den Sieg schlagen durfte. Das ist im Besitz von Jeff Bezos von Amazon. Amazon wird jetzt vor Gericht gehen, um das 2-Milliarden-Dollar-Geschenk des Pentagon an Microsoft zu bekämpfen, und Oracle verklagt ebenfalls. Die spezifische Bemerkung aus dem oben erwähnten Podcast von Projekt 10.5 ​​- „In diesem Jahr werden viele Menschen neue Schwimmbäder kaufen“ - bezog sich nicht nur auf den finanziellen Segen von Microsoft, sondern auch auf alle Anwälte, die an diesen Klagen teilnehmen werden. Wir können wahrscheinlich davon ausgehen, dass mehr als 38% der 3 Milliarden US-Dollar von Project JEDI an Anwälte gehen werden. Schade, dass wir damit nicht helfen können Welthunger beenden stattdessen.

Der Streit darüber, ob diese Überweisung von Steuergeldern an Militärunternehmer Microsoft, Amazon oder Oracle zugute kommen sollte, hat die Berichterstattung über Project JEDI dominiert. Die einzige positive Botschaft, die aus diesem obszönen Transplantat hervorgeht - die Tatsache, dass Google aufgrund des Protestes der Arbeiter vom größten Vertrag über militärische Software in der Weltgeschichte zurückgetreten war -, war in der Berichterstattung über das Projekt JEDI praktisch nicht vorhanden. 

Aus diesem Grund war es wichtig, diese Geschichte den technikorientierten Aktivisten zu erzählen, die letzte Woche in einem überfüllten Raum in Midtown Manhattan versammelt waren, um darüber zu sprechen, wie wir unseren Planeten retten können, wie wir gegen Desinformation und Politisierung der Klimawissenschaft kämpfen können. Wie können wir gegen die massive Macht der Profiteure für fossile Brennstoffe und der Waffenprofiteure bestehen? In diesem kleinen Raum schienen wir alle die Dimensionen des Problems zu verstehen, mit dem wir konfrontiert waren, und die entscheidende Rolle, die wir selbst spielen müssen. Die Tech-Community hat erhebliche Macht. Genauso wie Desinvestitionskampagnen einen echten Unterschied bewirken können, können Aufstände der Techniker einen echten Unterschied bewirken. Es gibt viele Möglichkeiten, wie Aktivisten des Klimawandels, Aktivisten der Rebellion der Techniker und Aktivisten der Antikriegsbewegung zusammenarbeiten können, und wir werden dies auf jede mögliche Weise tun.

Wir hatten einen hoffnungsvollen Start mit dieser Versammlung, die hilfreich initiiert wurde von Aussterben Rebellion NYC und Die Welt kann es kaum erwarten. Diese Bewegung wird wachsen - sie muss wachsen. Der Missbrauch fossiler Brennstoffe steht im Mittelpunkt der Demonstranten des Klimawandels. Der Missbrauch fossiler Brennstoffe ist auch sowohl das Hauptgewinnmotiv des US-Imperialismus als auch ein schreckliches Ergebnis der verschwenderischen Aktivitäten des aufgeblähten US-Militärs. In der Tat scheint das US-Militär zu sein der schlimmste Umweltverschmutzer der Welt. Können Techniker unsere Organisationskraft für Siege noch effektiver einsetzen als Googles Rückzug aus dem Projekt JEDI? Wir können und wir müssen. Das Treffen in New York City in der vergangenen Woche war nur ein kleiner Schritt nach vorne. Wir müssen mehr tun, und wir müssen unserer kombinierten Protestbewegung alles geben, was wir haben.

Marc Eliot Stein ist Director of Technology und Social Media für World BEYOND War.

Foto von Gregory Schwedock.