Marc Eliot Stein, 10. február 2020

Nemrégiben meghívtak, hogy beszéljek egy kihalási lázadás New York-i gyűlésén a (z) nevében World BEYOND War. Az esemény célja három akciócsoport összefogása: az éghajlatváltozás aktivistái, a műszaki dolgozók kollektívái és a háborúellenes aktivisták. Kezdjük a Ha Vu klímaváltozási aktivista keverõ személyes beszámolójával, aki elmondta az új yorkerek tömegének egy olyan riasztó élményrõl, amelyet kevés emberünk valaha is megtapasztalhat: visszatérve családjának otthonába, a vietnami Hanoiba, ahol megnövekedett hő már tette lehetetlenné a kint járást napfény csúcsidőben. Kevés amerikai is tud róla 2016-os vízszennyezés-katasztrófa Ha Tinh-ben Vietnam központjában. Az USA-ban gyakran beszélünk az éghajlatváltozásról mint potenciális problémáról, hangsúlyozta Ha, de Vietnamban látja, hogy ez már megzavarja az életeket és a megélhetést, és gyorsan rosszabbodik.

Nick Mottern a KnowDrones.org hasonló sürgősséggel beszélt az Egyesült Államok hadseregének a futurisztikus mesterséges intelligenciába és a felhőalapú számítástechnikába irányuló közelmúltbeli hatalmas beruházásairól - és hangsúlyozta a katonaság saját következtetését, miszerint az AI rendszerek telepítése az atomfegyverek kezelésében és a drónháborúban elkerülhetetlenül kiszámíthatatlan nagyságú hibákhoz vezet. William Beckler, az NYC Extinction Rebellion NYC, majd elmagyarázta azokat a rendezési elveket, amelyeket ez a fontos és gyorsan növekvő szervezet működésbe hoz, beleértve a klímaváltozás kritikus fontosságának tudatosítására irányuló megzavaró intézkedéseket. New York-i képviselőtől hallottunk Technikai dolgozók koalíciója, és megpróbáltam elmozdítani az összejövetelt a gyakorlati felhatalmazás érzése felé azáltal, hogy egy műszaki dolgozók lázadási akciójáról beszéltem, amely váratlanul sikeres volt.

Ez 2018 áprilisában volt, amikor az úgynevezett „védelmi ipar” felváltotta a Project Maven-t, amely egy nagymértékben nyilvánosságra hozott új amerikai katonai kezdeményezés volt a drónok és más fegyverrendszerek mesterséges intelligencia képességeinek fejlesztésére. A Google, az Amazon és a Microsoft közönséges mesterséges intelligencia platformokat kínálnak a fizető ügyfelek számára, és a Google-t a Project Maven katonai szerződés valószínűsített nyertesének tekintették.

2018 elején a Google dolgozói elkezdtek felszólalni. Nem tudták megérteni, hogy egy olyan vállalat, amely alkalmazottakat toborzott a "Ne légy gonosz" záloggal, most olyan katonai projektekre licitált, amelyek valószínűleg hasonlítanak a "Black Mirror" szörnyű epizódjára, amelyben az AI-hajtású mechanikus kutyák emberi embereket kapnak halálos lények. Beszéltek a közösségi médiában és a hagyományos hírlevelekben. Akciókat szerveztek, petíciókat terjesztettek és meghallgatták őket.

Ez a munkavállalói lázadás volt a Google Workers Rebellion mozgalom generációja, és elősegítette a technológiai munkások más kollektívumainak elindítását. A legmeglepőbb a Google Maven Project Maven elleni tiltakozása kapcsán azonban nem az volt, hogy a műszaki szakemberek felszólaltak. A legmegdöbbentőbb dolog ez A Google vezetése eleget tett a munkavállalók igényeinek.

Két évvel később ez a tény még mindig megdöbbent. Sok etikai problémát láttam évtizedek óta műszaki dolgozóként, de ritkán láttam, hogy egy nagyvállalat kategorikusan beleegyezik abba, hogy az etikai problémákat jelentős módon kezelje. A Project Maven elleni Google lázadás eredményeként az AI alapelveit közzétették, amelyeket érdemes itt újra kinyomtatni:

Mesterséges intelligencia a Google-on: alapelveink

A Google arra törekszik, hogy olyan technológiákat hozzon létre, amelyek megoldják a fontos problémákat és segítenek az embereknek mindennapi életükben. Optimista vagyunk abban, hogy az AI és más fejlett technológiák hihetetlen potenciállal bírnak az emberek felhatalmazására, a jelenlegi és a jövő generációk széles körű hasznára és a közjó érdekében történő munkára.

AI alkalmazások céljai

Az AI alkalmazásokat az alábbi célok figyelembevételével fogjuk értékelni. Úgy gondoljuk, hogy az AI-nek:

1. Legyen társadalmilag előnyös.

Az új technológiák kibővített vonzereje egyre inkább a társadalom egészét érinti. Az AI előrelépései átalakító hatásokkal járnak számos területen, ideértve az egészségügyet, a biztonságot, az energiát, a szállítást, a gyártást és a szórakoztatást. Amikor figyelembe vesszük az AI technológiák lehetséges fejlesztését és felhasználását, figyelembe vesszük a társadalmi és gazdasági tényezők széles skáláját, és ott folytatjuk, ahol úgy gondoljuk, hogy az általános valószínű előnyök jelentősen meghaladják az előre látható kockázatokat és hátrányokat.

Az AI javítja képességünket a tartalom jelentőségének megértésében is. Arra törekszünk, hogy a magas színvonalú és pontos információkat az AI segítségével könnyen elérhetővé tegyük, miközben tiszteletben tartjuk a kulturális, társadalmi és jogi normákat azokban az országokban, ahol működünk. És továbbra is elgondolkodva értékeljük, mikor kell elérhetővé tenni technológiáinkat nem kereskedelmi alapon.

2. Kerülje a tisztességtelen elfogultság létrehozását vagy megerősítését.

Az AI algoritmusok és adatkészletek tükrözik, megerősítik vagy csökkenthetik a tisztességtelen torzításokat. Elismerjük, hogy a tisztességes és a tisztességtelen elfogultság megkülönböztetése nem mindig egyszerű, és kultúrák és társadalmak között különbözik. Arra törekszünk, hogy elkerüljük az emberekre gyakorolt ​​igazságtalan hatásokat, különös tekintettel az olyan érzékeny tulajdonságokkal kapcsolatos tényezőkre, mint például a faj, etnikai hovatartozás, nem, nemzetiség, jövedelem, szexuális irányultság, képesség, valamint politikai vagy vallási meggyőződés.

3. Fel kell készülni és ellenőrizni kell a biztonság szempontjából.

Folytatjuk az erős biztonsági és védelmi gyakorlatok fejlesztését és alkalmazását a káros kockázatot okozó nem kívánt eredmények elkerülése érdekében. Megtervezzük az AI-rendszereinket, hogy azok megfelelő óvatossággal rendelkezzenek, és törekszünk azok fejlesztésére az AI biztonsági kutatása során bevált gyakorlatokkal összhangban. Megfelelő esetekben az AI technológiákat korlátozott környezetben teszteljük és figyelemmel kísérjük azok működését a telepítés után.

4. Legyen felelős az emberek előtt.

Olyan AI rendszereket fogunk kidolgozni, amelyek megfelelő lehetőségeket biztosítanak a visszajelzéshez, a vonatkozó magyarázatokhoz és a fellebbezéshez. AI technológiáinkat megfelelő emberi irányításnak és irányításnak kell alávetni.

5. Helyezze be az adatvédelmi tervezési alapelveket.

Beépítjük az adatvédelmi elveinket AI technológiáink fejlesztésébe és használatába. Adunk lehetőséget értesítésre és beleegyezésre, ösztönözzük az architektúrákat az adatvédelmi biztosítékokkal, valamint megfelelő átláthatóságot és ellenőrzést biztosítunk az adatok felhasználása felett.

6. Tartsa be a tudományos kiválóság magas színvonalát.

A technológiai innováció a tudományos módszer és a nyílt kutatás, a szellemi szigor, az integritás és az együttműködés iránti elkötelezettség gyökere. Az AI-eszközök képesek felszabadítani a tudományos kutatás és tudás új területeit olyan kritikus területeken, mint a biológia, a kémia, az orvostudomány és a környezettudomány. Arra törekszünk, hogy magas szintű tudományos kiválóságot dolgozzunk az AI fejlesztésének előmozdítása érdekében.

Együttműködünk az érdekelt felek körével az átgondolt vezetés előmozdítása érdekében ezen a területen, tudományosan szigorú és multidiszciplináris megközelítések alapján. És felelősségteljesen megosztjuk az AI ismereteit oktatási anyagok, bevált gyakorlatok és kutatások közzétételével, amelyek lehetővé teszik, hogy több ember fejlesszen ki hasznos AI alkalmazásokat.

7. Az ezen alapelvekkel összhangban lévő felhasználások számára elérhetővé kell tenni.

Sok technológiának többféle felhasználása van. Igyekszünk korlátozni a potenciálisan káros vagy visszaélésszerű alkalmazásokat. Az AI technológiák fejlesztése és telepítése során a következő tényezők fényében fogjuk értékelni a valószínű felhasználásokat:

• Elsődleges cél és felhasználás: a technológia és alkalmazás elsődleges célja és valószínű használata, ideértve azt is, hogy a megoldás milyen szorosan kapcsolódik a káros felhasználáshoz vagy alkalmazkodik ahhoz
• Természet és egyediség: függetlenül attól, hogy rendelkezésre bocsátunk-e egyedülálló vagy általánosan elérhető technológiát
• Skála: vajon ennek a technológiának a használata jelentős hatással van-e
• A Google részvételének jellege: függetlenül attól, hogy általános célú eszközöket biztosítunk, eszközöket integrálunk az ügyfelek számára, vagy egyedi megoldásokat dolgozunk ki

AI alkalmazásokat nem folytatunk

A fenti célokon kívül nem tervezzük vagy telepítsük az AI-t a következő alkalmazási területeken:

1. Technológiák, amelyek általános károkat okoznak vagy valószínűleg okoznak. Ha fennáll a károsodás lényeges kockázata, akkor csak akkor folytatjuk, ha úgy gondoljuk, hogy az előnyök lényegesen meghaladják a kockázatokat, és megfelelő biztonsági korlátozásokat tartalmaznak.
2. Fegyverek vagy más technológiák, amelyek fő célja vagy megvalósítása az emberek sérülésének okozása vagy közvetlen megkönnyítése.
3. Technológiák, amelyek információkat gyűjtnek vagy használnak a nemzetközileg elfogadott normákat megsértő megfigyeléshez.
4. Technológiák, amelyek célja ellentétes a nemzetközi jog és az emberi jogok általánosan elfogadott elveivel.

Ahogy ezen a téren tapasztalataink elmélyülnek, ez a lista tovább fejlődhet.

Következtetés

Hisszük, hogy ezek az alapelvek megfelelő alapot jelentenek cégünknek és az AI jövőbeni fejlesztésének. Elismerjük, hogy ez a terület dinamikus és fejlődő, és alázattal, a belső és külső elkötelezettség iránti elkötelezettséggel, valamint az idővel megtanult hozzáállás hajlandóságával közelítjük meg munkánkat.

Ez a pozitív eredmény nem mentesíti a Google óriási óriást a sok más, komoly aggodalomra okot adó területen, például az ICE, a rendőrség és más katonai tevékenységek támogatása, az egyének személyes adatainak összegyűjtése és értékesítése, az ellentmondásos politikai nyilatkozatok elrejtése a keresőmotor eredményeiből és ami a legfontosabb, hogy lehetővé tegyük alkalmazottainak, hogy továbbra is beszéljenek ezekről és más kérdésekről anélkül, hogy erre felmentek volna. A Google munkavállalói lázadó mozgalma továbbra is aktív és nagyon elkötelezett.

Ugyanakkor fontos felismerni, hogy a Google munkavállalói mozgása mennyire befolyásolta. Ez azonnal világossá vált, miután a Google tiltakozása megkezdődött: a Pentagon marketing részlegei abbahagyták új sajtóközlemények kiadását az egykor izgalmas Project Maven-ről, végül „eltűnve” a projektet a korábban igényelt nyilvánosság számára. Ehelyett egy új, sokkal nagyobb mesterséges intelligencia kezdeményezés kezdett megjelenni a Pentagon hamisságában Védelmi Innovációs Testület.

Ezt hívták JEDI projekt, egy új név Pentagonnak a legmodernebb fegyverekkel kapcsolatos kiadásokra. A JEDI projekt sokkal több pénzt költene, mint a Project Maven, de az új projekt nyilvánosságra hozatala (igen, az amerikai katonaság egy sok idő és figyelem a reklámozásra és a marketingre) nagyon különbözött a korábbitól. Az összes karcsú és szexi „fekete tükör” kép eltűnt. Most, ahelyett, hogy hangsúlyozná az izgalmas és mozifilmi disztopiai szörnyűségeket, amelyeket az AI-hajtású drónák okozhatnak az embereknek, a JEDI projekt egy józan előrelépést jelentett a hatékonyság előmozdítása érdekében, különféle felhőadatbázisok egyesítésével, hogy segítsen a „harcosoknak” (a Pentagon kedvenc kifejezése front-line személyzet) és a back-office támogató csoportok maximalizálják az információ hatékonyságát. Ahol a Maven projektet úgy tervezték, hogy izgalmasnak és futurisztikusnak tűnjön, a JEDI projektet úgy tervezték, hogy ésszerű és praktikus legyen.

A JEDI projekt árcédulájában nincs semmi ésszerű vagy praktikus. Ez a világtörténelem legnagyobb katonai szoftverszerződése: 10.5 milliárd dollár. Számos szemünk átgondolódik, amikor a katonai kiadások nagyságrendjéről hallunk, és átugorhatjuk a milliók és milliók közötti különbséget. Fontos megérteni, hogy a JEDI Project mennyivel nagyobb, mint bármely korábbi Pentagon szoftver kezdeményezés. Ez egy játékváltó, egy jólétet generáló motor, egy üres csekk az adófizetők költségén történő profitálásra.

Segít felkarcolni a kormány sajtóközleményeinek felületét, amikor megpróbálják felfogni a 10.5 milliárd dolláros katonai kiadási üres csekket. Néhány információ a katonaság saját kiadványaiból szerezhető be, például zavaró 2019. augusztus interjú Jack Shanahan Közös Mesterséges Intelligencia Központ hadnagyával, kulcsfontosságú figura mind az eltűnt Project Maven, mind az új JEDI projektben. Több betekintést tudtam szerezni abban, hogy a védelmi iparág bennfentesei gondolkodnak a JEDI projektről, és meghallgatták a honvédelmi ipar podcastját, „38. projekt: A kormányzati szerződések jövője”. A podcast vendégei gyakran őszintén és gátlástalanul beszélnek bármilyen témáról, amelyet megvitatnak. „Sokan vásárolnak új medencéket ebben az évben” - ez volt jellemző a podcast belső beszélgetésére a JEDI projektről. Biztosak vagyunk benne, hogy lesznek.

Itt van az a figyelemre méltó dolog, amely a Google AI elveihez kötődik. A hatalmas, 10.5 milliárd dolláros JEDI-szerződés nyilvánvalóan három éllovasa a Google, az Amazon és a Microsoft lett volna - ebben a sorrendben, az AI-innovátor hírnevük alapján. Mivel a munkavállalók 2018-ban tiltakoztak a Project Maven ellen, az AI vezetője, Google nem vette figyelembe a jóval nagyobb projektet, a JEDI-t 2019-ben. 2019 végén jelentették be, hogy a szerződést a Microsoft kapta. A híradások sokasága következett, de ez a tudósítás főként az Amazon és a Microsoft közötti versengésre összpontosított, és arra a tényre, hogy a 3. helyen álló Microsoft valószínűleg megengedte, hogy a győzelemért legyőzze a 2. helyet megszerző Amazonot a Trump-adminisztráció Washington Posttal folytatott harcai miatt amely az Amazon Jeff Bezos tulajdona. Az Amazon most bírósághoz fordul, hogy megküzdjön a Pentagon 10.5 milliárd dolláros Microsoft-ajándékával, és az Oracle is pert indít. A Project 38 podcast fent említett külön megjegyzése - „Sokan vesznek új úszómedencéket az idén” - nemcsak a Microsoft pénzügyi előnyeire, hanem az összes ügyvédre is vonatkozott, akik részt vesznek ezekben a perekben. Valószínűleg művelt feltételezéssel tehetjük meg, hogy a JEDI projekt 3 milliárd dollárjának több mint 10.5% -a ügyvédeknek megy. Kár, hogy nem tudjuk felhasználni a segítségére az éhség vége helyette.

Az a vita, hogy az adófizetők pénzének katonai vállalkozóknak történő átutalása a Microsoft, az Amazon vagy az Oracle javát szolgálja-e, uralta a JEDI projekt híradásait. Az egyik pozitív üzenet, amelyet ebből a trágár graftból kell levonni - az a tény, hogy a Google a munkavállalók tiltakozása miatt elállt a világtörténelem legnagyobb katonai szoftverszerződésétől - gyakorlatilag nem létezett a JEDI projekt híradásában. 

Ezért volt fontos elmondani ezt a történetet a tech-központú aktivistáknak, akiket a múlt héten egy zsúfolt szobában gyűlt össze Manhattan belvárosában, hogy megbeszéljék, hogyan tudjuk megmenteni bolygónkat, hogyan harcolhatunk az éghajlattudomány dezinformációja és politizálása ellen, hogyan állhatunk szemben a fosszilis tüzelőanyagokkal és a fegyverekkel való haszonélvezők hatalmas hatalmával szemben. Ebben a kis szobában úgy tűnt, hogy mindannyian felfogjuk a felmerült probléma dimenzióit, és a kritikus szerepet is el kell kezdenünk. A tech közösségnek jelentős hatalma van. Ahogyan az elidegenítési kampányok valódi változást hozhatnak, a technológiai dolgozók lázadásai valódi változást is eredményezhetnek. Az éghajlatváltozás aktivistái, a technológiai dolgozók lázadó aktivistái és a háborúellenes aktivisták sokféle módon együttműködhetnek, és mindent megteszünk.

Reményesen elkezdtük ezt az összejövetelt, amelyet segítőkészen kezdeményezett Kioltási lázadás NYC és a A világ nem várhat. Ez a mozgalom növekedni fog - növekednie kell. A fosszilis üzemanyaggal való visszaélés áll a klímaváltozással tiltakozók középpontjában. A fosszilis tüzelőanyaggal való visszaélés egyben az amerikai imperializmus elsődleges profitmotívuma és az amerikai dagadt hadsereg pazarló tevékenységének elsődleges szörnyű eredménye. Úgy tűnik, hogy az amerikai hadsereg az az egyetlen legrosszabb szennyező a világon. Használhatják-e a műszaki szakemberek a szervezési erőnket a győzelmekért még hatékonyabban, mint a Google kilépése a JEDI projektből? Meg tudjuk és kell. A múlt heti New York City-i találkozó csak egy apró lépés volt. Többet kell tennünk, és mindent meg kell adnunk a kombinált tiltakozási mozgalomnak.

Marc Eliot Stein a. Technológiai és szociális média igazgatója World BEYOND War.

Fotó: Gregory Schwedock.