"Google sollte nicht im Krieg tätig sein": Die Waffe der künstlichen Intelligenz verstehen

Von Marc Eliot Stein, Juni 8, 2018

Anfang April haben mehr als 3100-Google-Mitarbeiter unterschrieben ein Brief das beginnt mit den Worten "Google sollte nicht im Geschäft des Krieges sein". Der Brief ist eine Reaktion auf die Teilnahme des Unternehmens an einem neuen Programm für künstliche Intelligenz des US-Verteidigungsministeriums namens Project Maven, das als „maßgeschneiderte KI-Überwachungs-Engine“ zur Interpretation visueller Bilder beschrieben wird Drohnenund schließt mit einer starken Anfrage von Google-Mitarbeitern an deren Management:

"In Anerkennung der moralischen und ethischen Verantwortung von Google und der Gefährdung des Ansehens von Google bitten wir Sie,

1. Brechen Sie dieses Projekt sofort ab

2. Entwurf, Veröffentlichung und Durchsetzung einer klaren Richtlinie, die besagt, dass weder Google noch seine Vertragspartner jemals Kriegstechnologien entwickeln werden. “

Dieser mutige Akt des Protests und der sozialen Verantwortung ist bemerkenswert für seine Klarheit und verdient Anerkennung als einer der wenigen bekannten Fälle von aktiven Wissenschaftlern oder Arbeitern, die direkt gegen ihre Teilnahme an den Schrecken des Krieges protestieren, zusammen mit dem Russell-Einstein-Manifest von 1955, die die Abschaffung des Krieges als einzigen Weg vorwärts für eine Welt forderte, die jetzt auf allen Seiten mit Atomwaffen ausgerüstet ist.

Dieser bemerkenswerte Brief sowie der Rücktritt von Dutzenden von Google-Mitarbeitern haben sich einen Monat später bewährt, als das Google-Management dies ankündigte es würde Project Maven nicht erneuern Nach Vertragsabschluss im März hat 2019 die „Gegenreaktion“ auf die öffentliche Reputation von Google als Hauptgrund für diese Managemententscheidung anerkannt. Diese Antwort entspricht zwar nicht den Anforderungen des ursprünglichen Schreibens, ist jedoch eindeutig ein Schritt in die richtige Richtung und zeigt das Potenzial des Google-Mitarbeiterprotestakts als Grundlage, auf dem aufgebaut werden kann, wenn sich die Welt mit der Erkenntnis auseinandersetzt, dass die USA Das Militär (und vermutlich auch andere Streitkräfte) bemüht sich rasch darum, künstliche Intelligenz zu waffen.

World BEYOND War hat eine neue Petition veröffentlicht, um diesen Google-Mitarbeitern zu danken. Wir sollten ihnen nicht nur für ihren Mut danken, sondern uns auch Gedanken machen über die Auswirkungen dieser neuen Technologieform und über unsere gemeinsame Verantwortung, die Worst-Case-Szenarien ihrer fortgesetzten Nutzung zu vermeiden.

Der beste Weg, sich diese Worst-Case-Szenarien vorzustellen, besteht darin, über die Militarisierung zweier Fähigkeiten nachzudenken, bei denen künstliche Intelligenz bereits unseren Alltag berührt: Gesichtserkennung und fahrerlose Fahrzeuge. Wie Sie wissen, hat die künstliche Intelligenz bereits den Punkt erreicht, an dem Sie mithilfe eines Algorithmus leicht und sofort identifiziert werden können, wenn Sie jemals ein Foto auf Facebook markiert haben. Überall auf der Welt sind „Sicherheitskameras“ aufgetaucht, die unbekannten Organisationen plötzlich die ungeprüfte Möglichkeit geben, ohne unsere Erlaubnis, unser Wissen oder unsere Kontrolle Gesichter mit „Identitätsdatenbanken“ zu sammeln und zu vergleichen, die unsere Informationen enthalten.

Die Technologie der fahrerlosen Fahrzeuge hat sich auch mit geringer Beteiligung oder geringem Bewusstsein seitens der Allgemeinheit weiterentwickelt. Der erste Tod in einem fahrerlosen Auto war in 2016, als ein Tesla gegen einen LKW prallte. Der erste Fall eines Fußgängers, der von einem fahrerlosen Fahrzeug getötet wurde war erst vor drei Monaten, im März 2018, als ein autonomer Uber eine Frau über die Straße in Arizona stieß.

Diese Fakten erklären die Dringlichkeit des Google-Briefs, der eine Technologieindustrie widerspiegelt, die von Gewinn, Wettbewerb und Shareholder Value besessen ist. Hier sind einige andere Punkte, die verstanden werden müssen, um ein vollständiges Bild des Dilemmas zu bekommen, in dem sich unsere Welt bereits befindet, und der harten Konsequenzen, denen wir uns derzeit gegenübersehen.

Project Maven ist ein kleines Projekt. JEDI ist das größere Projekt.

Der Google-Brief machte auf das Projekt Maven aufmerksam, das das Unternehmen jetzt für nicht erneuerbar erklärt. Noch wichtiger ist, dass in dem Schreiben auf die Existenz eines größeren Projekts des US-Verteidigungsministeriums mit dem Namen JEDI (Joint Enterprise Defense Infrastructure) hingewiesen wurde, das im Mittelpunkt der weiteren Aufmerksamkeit für dieses Thema stehen sollte. Über dieses geheime Projekt gibt es nur wenige Informationen in der Öffentlichkeit, aber sein Anwendungsbereich umfasst sowohl künstliche Intelligenz als auch Cloud Computing, was auf eine enorme Rechenleistung und Skalierbarkeit hinweist, sowie den Zugang zu einem unendlichen Vorrat an Datenbanken mit geografischen und persönlichen Informationen.

Wie die meisten militärischen Technologieprojekte soll JEDI nicht einmal für die Steuerzahler sichtbar sein, aber wir sollten hoffen, dass Informationen über dieses große und teure Projekt der Öffentlichkeit zugänglich gemacht werden. Die beneidenswerte Wahl eines Projektnamens, der offensichtlich „Star Wars“ auslösen soll, legt nahe, dass das Verteidigungsministerium dieses Projekt mit einem beunruhigenden Maß an Größe und Selbstschmeichelei betrachtet. Yoda wäre nicht beeindruckt.

Google-Mitarbeiter haben sich gemeldet. Wo sind Amazon und Microsoft Mitarbeiter?

In dem von 3100 + Google-Mitarbeitern unterzeichneten Brief werden andere Unternehmen namentlich genannt:

"Das Argument, dass andere Unternehmen wie Microsoft und Amazon ebenfalls teilnehmen, macht dies für Google nicht weniger riskant."

In der Tat ist Amazon auf dem sehr lukrativen Gebiet des Cloud Computing sogar noch größer als Google. Während die meisten Menschen Amazon als den weltweit größten Online-Shop ansehen, kennen Software-Entwickler und -Technologen ein völlig anderes Amazon. Das weltweit führende Unternehmen für Cloud-Computing ermöglicht kleinen und großen Unternehmen, schnell und einfach Serverfunktionen zu erwerben und zu nutzen. Vor zehn Jahren hatten die meisten Unternehmen ihre eigenen Server. Heutzutage vermieten die meisten Unternehmen Server von Amazon. Regierungs- und Militärorganisationen zählen zu denen, die sich auf die Cloud-Dienste von Amazon verlassen, zu denen auch erweiterte Funktionen für künstliche Intelligenz und Datenbanken gehören. Wir sollten hoffen, dass die Mitarbeiter von Amazon von ihren Kollegen bei Google inspiriert werden und beginnen, öffentlich über die sozialen Folgen der von ihnen geleisteten Arbeit zu sprechen. Werden Mitarbeiter von Amazon wie ihre Google-Kollegen erklären, dass „Amazon nicht im Kriegsgeschäft sein sollte“?

Unternehmen wie Google und Amazon haben ein einzigartiges Engagement für Open Source-Communities.

Nicht alle Unternehmen sind gleich, und in der Tat wurde Googles berühmte selbst auferlegte Regel „Nicht böse sein“ von unzähligen Open-Source-Entwicklern ernst genommen, die möglicherweise keine Google-Mitarbeiter sind, aber Beiträge leisten und mit Google in Open-Source-Bibliotheken wie z TensorFlow, die tiefe Lernfähigkeiten bietet.

Dies ist einer der Gründe, warum der Brief der Google-Mitarbeiter eine solche Schockwelle für die weltweite Community von Open Source-Entwicklern war. Während ein traditioneller Militärunternehmer wie Raytheon oder General Dynamics seine gesamte Arbeit in der Regel in privaten Bibliotheken mit künstlicher Intelligenz wie TensorFlow ausführt, handelt es sich um eine einzigartige Zusammenarbeit zwischen Unternehmen und dem öffentlichen Sektor. Die globale Open-Source-Software-Community war ein wesentlicher Bestandteil der Entwicklung und des gesunden Wachstums des gesamten Internets, und diese Community stand seit jeher für ein ausdrückliches Gefühl sozialer Verantwortung. Wenn Mitarbeiter sagen, "Google sollte nicht im Krieg sein", sprechen sie nicht nur für ihre Kollegen bei Google, sondern auch für die internationale Community von Open Source-Entwicklern, die zu ihren Projekten beitragen.

Waffengestützte KI ist nicht nur in den USA Realität.

Wir hätten keinen Brief von 3100-Google-Mitarbeitern brauchen sollen, um uns vor der Tatsache zu warnen, dass das Zeitalter der künstlichen Intelligenz mit Waffen bereits bevorsteht, und das nicht nur in den Vereinigten Staaten von Amerika. In den USA wird dies unweigerlich zu einer wachsenden öffentlichen Angst und Hysterie darüber führen, was andere Länder auf dem Gebiet der waffengestützten KI tun. Militärprofiteure auf der ganzen Welt rechnen mit diesem Wettrüsten, um eskalieren zu können. Dies ist die schreckliche Realität der Situation, in der wir uns bereits befinden.

Die einzig vernünftige Antwort ist die Abschaffung des Krieges.

Das von Bertrand Russell, Albert Einstein und anderen in 1955 unterzeichnete Manifest zur Verbreitung von Atomwaffen wies auf eine Antwort hin, die uns noch aus dem Weg geht. Der einzige vernünftige Weg für eine Welt, die von Angst gepackt ist und explodieren will, ist die Abschaffung des Krieges. Dies war in 1955 völlig klar, aber die damaligen Führer waren nicht in der Lage, diese Hoffnung zu erfüllen.

Heute, 63 Jahre später, sehen wir nach wie vor deutlich, dass Krieg nur mehr Krieg bringt und dass der technologische Fortschritt den Einsatz weiter erhöhen wird. Die widerliche Vision von Killer-Drohnen, die mit riesigen Echtzeitdatenbanken verbunden und mit modernsten Fähigkeiten der künstlichen Intelligenz ausgestattet sind, um Menschen zu jagen, ist keine Vision der Zukunft mehr (wie in der beängstigenden „Metalhead“ -Episode von "Black Mirror", der erst letztes Jahr ausgestrahlt wurde). Alle Teile sind vorhanden, um diese widerliche Vision Wirklichkeit werden zu lassen, und die mutige Tat von mehr als 3100 Google-Mitarbeitern hat uns jetzt gezeigt, dass sogar einige Unternehmen, die sich verpflichtet haben, einen moralischen Standard aufrechtzuerhalten, mit voller Geschwindigkeit in Richtung dieser Zukunft vorankommen das will niemand. Der Einsatz wird noch einmal erhöht. Wir alle - nicht nur Google-Mitarbeiter, nicht nur Softwareentwickler, sondern wir alle - sind dafür verantwortlich, das schlimmste Problem zu lösen, das die Welt je gekannt hat, und auf die vollständige Abschaffung des Krieges hinzuarbeiten.