„A Google-nak nem szabad a háborúban lennie”: a mesterséges intelligencia fegyverzetének megértése

Marc Eliot Stein, június 8, 2018

Április elején több mint 3100 Google-alkalmazott írt alá levél amely a következővel kezdődik: „A Google nem lehet a háborúban”. A levél az Egyesült Államok Védelmi Minisztériumának új projektjei, a Project Maven nevű mesterséges intelligencia programban való részvételére adott válasz, amelyet úgynevezett „testreszabott AI felügyeleti motor” -nak neveznek, melynek célja a vizuális képek értelmezése. herék, és a Google alkalmazottainak erőteljes kérésével zárja le a menedzsmentjüket:

„Felismerve a Google erkölcsi és etikai felelősségét és a Google hírnevét fenyegető veszélyt, kérjük, hogy:

1. A projektet azonnal törölje

2. Tervezzen, nyilvánosságra hozza és érvényesítse a világos politikát, amely megállapítja, hogy sem a Google, sem a vállalkozók nem építenek hadviselési technológiát.

A tiltakozás és a társadalmi felelősségvállalás bátor cselekedete figyelemre méltó annak tisztasága miatt, és megérdemli, hogy az aktív tudósok vagy a munkavállalók kevés ismertté váljanak, akik közvetlenül ellenzik a háborús borzalmakban való részvételüket. Russell-Einstein manifeszt 1955, amely arra késztette a háború eltörlését, mint az egyetlen utat, amely a világ minden részén nukleáris fegyverrel fegyveres.

Ez a figyelemre méltó levél, valamint a több tucat Google-alkalmazott lemondása, egy hónap múlva bizonyította hatalmát, amikor a Google vezetősége bejelentette, hogy nem újítaná meg a Maven projektet miután a szerződés március 2019-ben befejeződött, és elismerte a Google nyilvános hírnevének „visszafogását”, ami a vezetői döntés elsődleges oka. Bár ez a válasz nem felel meg az eredeti levélben foglalt követelményeknek, nyilvánvalóan egy helyes irányba tett lépés, és megmutatja a Google munkavállalói tiltakozásának lehetőségét, mint alapot, amelyre építve a világ megragadja azt a felismerést, hogy az USA katonai (és feltehetően más katonai erők) is gyorsan mozognak a mesterséges intelligencia fegyverezésére.

World BEYOND War új petíciót tett közzé, hogy köszönetet mondjon ezeknek a Google alkalmazottaknak. Nemcsak meg kell köszönnünk őket a bátorságukért, hanem mindenképpen gondolkodnunk kell magunkról az új technológia formáinak következményeiről és a közös felelősségünkről, hogy elkerüljük a folyamatos használat legrosszabb forgatókönyveit.

A legjobb módja annak, hogy elképzeljük ezeket a legrosszabb forgatókönyveket, a két képesség militarizálása, amelyekben a mesterséges intelligencia már megérinti mindennapi életünket: az arcfelismerés és a vezető nélküli járművek. Mint tudod, ha valaha is megjelentél egy fotót a Facebookon, a mesterséges intelligencia már elérte azt a pontot, ahol könnyen és azonnal azonosíthatod az algoritmus segítségével. A „Biztonsági kamerák” is világszerte emelkedtek, hirtelen megadva az ismeretlen szervezeteknek, hogy az engedély nélkül, tudásunkban vagy irányításunkban az „identitás-adatbázissal” összegyűjtsék az arcokat.

A járművezetők nélküli járművek technológiája a közszféra kevés részvételével vagy tudatosságával is előrehaladt. A vezető nélküli autóban az első halál 2016-ban volt, amikor egy Tesla összeomlott egy teherautóba. Az első eset, amikor egy gyalogos meghalt egy vezető nélküli járműben csak három hónapja volt, március 2018-ban, amikor egy autonóm Uber lerohant egy nőt, aki átkelte az Arizonát.

Ezek a tények magyarázzák a Google levél sürgősségét, amely tükrözi a nyereség, a verseny és a tulajdonosi érték megszállott technológiai iparágát. Íme néhány olyan pont, amelyet úgy kell érteni, hogy teljes képet kapjunk a dilemmáról, amiről világunk most már van, és a súlyos következményeinkről.

A projekt Maven egy kis projekt. A JEDI a nagyobb projekt.

A Google levél felhívta a figyelmet a Project Maven-re, amelyre a vállalat most azt mondja, hogy nem fog megújulni. Még ennél is fontosabb, hogy a levél felhívta a figyelmet arra, hogy létezik egy nagyobb amerikai védelmi minisztérium, a JEDI (Közös Védelmi Infrastruktúra) projekt, melynek elsődleges hangsúlyt kell fektetnie a téma további figyelemfelhívására. Kevés nyilvános információ áll rendelkezésre erről a titkos projektről, de hatóköre magában foglalja a mesterséges intelligenciát és a felhőalapú számítástechnikát is, amely hatalmas számítási teljesítményt és skálázhatóságot jelez, valamint hozzáférést biztosít a földrajzi és egyéni személyes adatokat tartalmazó adatbázisok alap nélküli ellátásához.

A legtöbb katonai technológiai projekthez hasonlóan a JEDI-nek sem az az adófizető számára láthatónak kell lennie, aki fizeti, hanem reméljük, hogy a nagy és drága projektről szóló tájékoztatás nyilvánosságra kerül. A „Star Wars” -ot nyilvánvalóan a projekt nevének borzasztó választása azt sugallja, hogy a Védelmi Minisztérium a projektet zavaró nagyságrendű és önellátó szinten látja. Yoda nem lesz lenyűgözve.

A Google alkalmazottai felszólaltak. Hol vannak az Amazon és a Microsoft alkalmazottai?

Az 3100 + Google munkatársai által aláírt levél más cégeket nevez ki:

„Az az érv, hogy más cégek, mint például a Microsoft és az Amazon is részt vesznek, nem teszi ezt kevésbé kockázatosnak a Google számára.”

Valóban, a számítási felhő nagyon jövedelmező területén az Amazon még nagyobb, mint a Google. Míg a legtöbb ember az Amazon-ra gondol, mint a világ legnagyobb online áruháza, a szoftverfejlesztők és a technológusok teljesen ismerik az Amazon-t. Ez a cég vezeti a világot a számítástechnikában, lehetővé téve a kis- és nagyvállalatok számára, hogy gyorsan és egyszerűen vásárolhassanak és használhassanak szerver képességeket. Tíz évvel ezelőtt a legtöbb vállalat saját szervereket üzemeltetett. Ma a legtöbb cég bérleti szerverterületet az Amazon-tól. A kormányzati és katonai szervezetek azok közé tartoznak, akik az Amazon felhőszolgáltatásaira támaszkodnak, amelyek magukban foglalják a fejlett mesterséges intelligencia és adatbázis-képességeket is. Reméljük, hogy az Amazon munkatársait inspirálja a Google-i társaik, és elkezdenek nyilvánosan beszélni a munkájuk társadalmi következményeiről. Vajon az Amazon bármely alkalmazottja, mint a Google társaik, kijelentik, hogy „az Amazon nem lehet a háborúban”?

Az olyan vállalatok, mint a Google és az Amazon egyedülálló elkötelezettséggel rendelkeznek a nyílt forráskódú közösségek iránt.

Minden vállalat nem egyforma, és a Google híres önkényes szabálya a „Not Be Evil” -ra komolyan vette a számtalan nyílt forráskódú fejlesztőt, akik esetleg nem a Google alkalmazottai, hanem hozzájárulnak a Google-hoz a nyílt forráskódú könyvtárakhoz, például TensorFlow, amely mély tanulási képességeket biztosít.

Ez az egyik oka annak, hogy a Google alkalmazottai levél olyan sokkhullámot jelentett a nyílt forráskódú fejlesztők globális közösségének. Míg a hagyományos katonai vállalkozó, mint például a Raytheon vagy a General Dynamics, saját, mesterséges intelligencia könyvtárakban végzi munkáját, mint például a TensorFlow, a vállalatok és a nyilvánosság közötti egyedülálló együttműködés. A globális nyílt forráskódú szoftverek közössége szerves részét képezte az egész internet fejlődésének és egészséges növekedésének, és ez a közösség mindig a társadalmi felelősségvállalás kifejezett érzését állította. Amikor a munkavállalók azt mondják, hogy „a Google nem kell a háborúban élni”, nemcsak a Google munkatársainak, hanem a nyílt forráskódú fejlesztők nemzetközi közösségének is beszélnek, akik hozzájárulnak a projektjeikhez.

A fegyveres AI valóság, és nem csak az USA-ban.

Nem kellett volna, hogy az 3100 Google munkatársainak levelet küldjünk arra, hogy figyelmeztessen minket arra, hogy a fegyveres mesterséges intelligencia kora már ránk, és nem csak az Amerikai Egyesült Államokban van. Az USA-ban ez elkerülhetetlenül növekvő nyilvános félelmet és hisztériát eredményez majd arról, hogy mások mit csinálnak a fegyveres AI területén. A világ minden tájáról származó katonai nyertesek biztosan számítanak erre a fegyveres versenyre, hogy felgyorsuljanak. Ez a helyzet szörnyű valósága.

Az egyetlen jó válasz a háború eltörlése.

Bertrand Russell, Albert Einstein és az 1955 mások által aláírt nukleáris proliferációról szóló manifeszt egy olyan választ mutatott, amely még mindig elutasít minket. A háború megszüntetése az egyetlen út, hogy a félelem és a felrobbanás által megragadt világ megragadja a háborút. Ez teljesen világos volt az 1955-ban, de az idő vezetői nem tudták ezt a reményt teljesíteni.

Ma, 63 évvel később, olyan egyértelműen látjuk, mint valaha, hogy a háború csak újabb háborút hoz, és hogy a technológiai fejlődés továbbra is emeli a tétet. A tömeges valós idejű adatbázisokhoz kapcsolt és az embereket lenyomva tartó, a legkorszerűbb mesterséges intelligencia képességekkel felszerelt gyilkos drónok beteges elképzelése már nem a jövő jövőképe (mint az ijesztő „Metalhead” epizódban). „Fekete tükör”, amely csak tavaly került adásba). Minden darab a helyén van, hogy valósággá váljon ez a beteges jövőkép, és a több mint 3100 Google-alkalmazott bátor cselekedete most megmutatta számunkra, hogy még néhány olyan társaság is, amely vállalta, hogy erkölcsi normákat tart fenn, teljes sebességgel halad előre a jövő felé. hogy senki sem akarja. A tét megemelkedik, még egyszer. Mindannyiunk felelőssége - nemcsak a Google alkalmazottai, nemcsak a szoftverfejlesztők, hanem mindannyian - a világ valaha ismert legrosszabb problémájának megoldása és a háború teljes megszüntetése érdekében dolgozunk.