Marcas Eliotas Steinas, 10 m. Vasario 2020 d

Neseniai buvau pakviestas pasisakyti iš Gimimo sukilimo susirinkime Niujorke, vardu World BEYOND War. Renginys buvo skirtas suburti tris veiklos grupes: klimato kaitos aktyvistus, technikos darbuotojų kolektyvus ir prieškario aktyvistus. Pradėjome nuo nerimastingos asmeninės klimato kaitos aktyvistės Ha Vu, kuri niujorkiečių miniai papasakojo apie nerimą keliančią patirtį, kurią daugelis iš mūsų kada nors turi: grįžimo į savo šeimos namus Hanojuje, Vietname, kur padidėjęs karštis jau padarė beveik neįmanoma vaikščioti lauke piko valandomis saulės. Nedaug amerikiečių taip pat žino apie 2016 metų vandens taršos katastrofa Ha Tinh mieste Vietnamas. Dažnai kalbame apie klimato pokyčius kaip galimą JAV problemą, pabrėžė Ha, tačiau Vietname ji gali pastebėti, kad tai jau trikdo gyvenimus ir pragyvenimo šaltinius, ir greitai blogėja.

Nickas Motternas iš KnowDrones.org panašiai skubiai kalbėjo apie pastarąsias milžiniškas JAV kariuomenės investicijas į futuristinį dirbtinį intelektą ir debesų kompiuteriją - ir pabrėžė pačios kariškių išvadą, kad dirbtinio intelekto sistemų diegimas branduolinių ginklų valdymo ir bepiločių orlaivių karo metu neišvengiamai sukels nenuspėjamo masto klaidas. Williamas Beckleris iš NYC „Extinction Rebellion NYC“ paaiškino organizavimo principus, kuriuos ši svarbi ir sparčiai auganti organizacija įgyvendina, įskaitant griaunamuosius veiksmus, skirtus informuoti apie kritinę klimato kaitos svarbą. Girdėjome iš Niujorko atstovo Technikos darbuotojų koalicija, ir aš bandžiau susieti susirinkimą link praktinio įgalinimo jausmo, kalbėdamas apie netikėtai sėkmingą technikos darbuotojų maišto veiksmą.

Tai įvyko 2018 m. Balandžio mėn., Kai vadinamoji „gynybos pramonė“ dvelkė „Project Maven“ - plačiai paskelbta nauja JAV karine iniciatyva, kuria siekiama sukurti dirbtinio intelekto pajėgumus dronams ir kitoms ginklų sistemoms. „Google“, „Amazon“ ir „Microsoft“ moka klientams neprilygstamas dirbtinio intelekto platformas, o „Google“ buvo laikoma tikruoju „Project Maven“ karinės sutarties laimėtoju.

2018 m. Pradžioje „Google“ darbuotojai pradėjo kalbėti. Jie nesuprato, kodėl įmonė, įdarbinusi juos kaip darbuotojus su įkeitimu „Nebūk blogis“, dabar siūlydavo karinius projektus, kurie greičiausiai primena siaubingą „Juodojo veidrodžio“ epizodą, kuriame AI varomi mechaniniai šunys apkabina žmogų būtybių iki mirties. Jie kalbėjo socialinėje žiniasklaidoje ir tradicinėse naujienų vietose. Jie organizavo akcijas ir išplatino peticijas bei išklausė save.

Šis darbuotojų maištas buvo „Google Workers Rebellion“ judėjimo genezė ir jis padėjo įkliūti kitiems technikos darbuotojų kolektyvams. Tačiau labiausiai stebinantis vidinis „Google“ protestas prieš „Project Maven“ nebuvo tas, kad kalbėjosi technologijų darbuotojai. Labiausiai stebina tai „Google“ vadovybė patenkino darbuotojų reikalavimus.

Po dvejų metų šis faktas vis dar mane stulbina. Per savo dešimtmečius, kaip technikos darbuotojas, mačiau daug etinių problemų, tačiau retai mačiau didelę kompaniją, kuri kategoriškai sutinka reikšmingai spręsti etines problemas. „Google“ maišto prieš „Project Maven“ rezultatas buvo paskelbtas PG principų rinkinys, kurį verta perspausdinti čia:

Dirbtinis intelektas „Google“: mūsų principai

„Google“ siekia sukurti technologijas, kurios išspręstų svarbias problemas ir padėtų žmonėms kasdieniame gyvenime. Mes optimistiškai žiūrime į neįtikėtiną PG ir kitų pažangių technologijų potencialą suteikti daugiau galimybių žmonėms, plačiai duoti naudos dabartinei ir ateities kartoms bei dirbti bendram labui.

PG taikymo tikslai

Mes įvertinsime PG paraiškas atsižvelgiant į šiuos tikslus. Mes tikime, kad PG turėtų:

1. Būkite socialiai naudingi.

Išplėstas naujųjų technologijų pasirinkimas vis labiau liečia visą visuomenę. AI pažanga turės transformacinį poveikį daugelyje sričių, įskaitant sveikatos apsaugą, saugumą, energetiką, transportavimą, gamybą ir pramogas. Nagrinėdami galimą PG technologijų plėtrą ir naudojimą, atsižvelgsime į daugybę socialinių ir ekonominių veiksnių ir veiksime ten, kur manome, kad bendra tikėtina nauda iš esmės viršija numatomą riziką ir neigiamas puses.

PG taip pat sustiprina mūsų sugebėjimą suprasti turinio prasmę mastu. Stengsimės, kad aukštos kokybės ir tiksli informacija būtų lengvai prieinama naudojantis AI, ir toliau laikysimės kultūros, socialinių ir teisinių normų šalyse, kuriose dirbame. Ir mes toliau apgalvotai įvertinsime, kada mūsų technologijas bus galima naudoti nekomerciniu pagrindu.

2. Venkite nesąžiningo šališkumo sukūrimo ar sustiprinimo.

PG algoritmai ir duomenų rinkiniai gali atspindėti, sustiprinti arba sumažinti nesąžiningus šališkumus. Mes suprantame, kad atskirti sąžiningą ir nesąžiningą šališkumą ne visada yra paprasta ir skirtingose ​​kultūrose bei visuomenėse. Sieksime išvengti neteisėto poveikio žmonėms, ypač susijusiems su tokiomis jautriomis savybėmis kaip rasė, etninė priklausomybė, lytis, tautybė, pajamos, seksualinė orientacija, sugebėjimai ir politinis ar religinis įsitikinimas.

3. Būk pastatytas ir patikrintas dėl saugumo.

Mes toliau plėtosime ir taikysime stiprią saugos ir saugumo praktiką, kad išvengtume nepageidaujamų rezultatų, sukuriančių žalos pavojų. Mes suprojektuosime savo PG sistemas taip, kad jos būtų pakankamai atsargios, ir sieksime jas tobulinti laikydamiesi geriausios PG saugos tyrimų praktikos. Tam tikrais atvejais mes išbandysime AI technologijas ribotoje aplinkoje ir stebėsime jų veikimą po dislokavimo.

4. Būkite atskaitingas žmonėms.

Mes suprojektuosime PG sistemas, teikiančias tinkamas galimybes gauti grįžtamąjį ryšį, svarbius paaiškinimus ir apeliaciją. Mūsų PG technologijas tinkamai valdys ir valdys žmonės.

5. Įtraukite privatumo projektavimo principus.

Kurdami ir naudodamiesi AI technologijomis, įtrauksime savo privatumo principus. Mes suteiksime galimybę pranešti ir duoti sutikimą, skatinsime architektūras, užtikrinančias privatumo apsaugą, ir užtikrinsime tinkamą duomenų naudojimo skaidrumą ir kontrolę.

6. Laikykitės aukštų mokslo kompetencijos standartų.

Technologinės naujovės yra pagrįstos moksliniu metodu ir įsipareigojimu atvirai tyrinėti, intelektualiam griežtumui, sąžiningumui ir bendradarbiavimui. PG priemonės turi galimybę atverti naujas mokslinių tyrimų ir žinių sritis tokiose kritinėse srityse kaip biologija, chemija, medicina ir aplinkos mokslai. Siekdami aukštojo mokslo plėtros, siekiame aukštų mokslo kompetencijos standartų.

Mes bendradarbiausime su įvairiomis suinteresuotosiomis šalimis, siekdami skatinti apgalvotą lyderystę šioje srityje, remdamiesi moksliškai griežtu ir daugiadisciplininiu požiūriu. Atsakingai dalinsimės PG žiniomis, skelbdami mokomąją medžiagą, geriausią patirtį ir tyrimus, kurie įgalins daugiau žmonių kurti naudingas PG programas.

7. Pateikite galimybę naudotis šiais principais.

Daugelis technologijų gali būti naudojamos įvairiai. Mes stengsimės apriboti galimai kenksmingas ar piktnaudžiavimo programas. Kurdami ir diegdami AI technologijas, įvertinsime galimą naudojimą atsižvelgiant į šiuos veiksnius:

• Pagrindinis tikslas ir naudojimas: pagrindinis tikslas ir tikėtinas technologijos ir programos naudojimas, įskaitant tai, kaip glaudžiai sprendimas yra susijęs su žalingu naudojimu ar pritaikomas tokiam naudojimui
• Gamta ir unikalumas: ar pateikiame unikalią ar apskritai prieinamą technologiją
• Skalė: ar šios technologijos naudojimas turės didelę įtaką
• „Google“ dalyvavimo pobūdis: ar tiekiame bendrosios paskirties įrankius, integruojame įrankius klientams, ar kuriame pasirinktinius sprendimus

AI paraiškų mes nevykdysime

Be aukščiau išvardytų tikslų, mes nesukursime ir neišdėsime AI šiose taikymo srityse:

1. Technologijos, kurios daro arba gali padaryti bendrą žalą. Kai yra esminė žalos rizika, mes veiksime tik tada, kai manysime, kad nauda iš esmės nusveria riziką, ir įtrauksime tinkamus saugos apribojimus.
2. Ginklai ar kitos technologijos, kurių pagrindinis tikslas ar įgyvendinimas yra sukelti ar tiesiogiai palengvinti žmonių sužalojimą.
3. Technologijos, kurios kaupia arba naudoja informaciją stebėjimui, pažeidžiant tarptautiniu mastu priimtas normas.
4. Technologijos, kurių tikslas prieštarauja plačiai pripažintiems tarptautinės teisės ir žmogaus teisių principams.

Pagilėjus mūsų patyrimui šioje erdvėje, šis sąrašas gali tobulėti.

Išvada

Mes tikime, kad šie principai yra tinkamas pagrindas mūsų įmonei ir mūsų AI plėtrai ateityje. Mes pripažįstame, kad ši sritis yra dinamiška ir besivystanti, ir į savo darbą žiūrėsime nuolankiai, atsidavę vidiniam ir išoriniam įsitraukimui ir norėdami pritaikyti savo požiūrį, kaip sužinome laikui bėgant.

Šis teigiamas rezultatas neatleidžia technikos milžino „Google“ nuo dalyvavimo įvairiose kitose svarbiausiose srityse, tokiose kaip palaikymas ICE, policijoje ir kitoje karinėje veikloje, privačių duomenų apie asmenis kaupimas ir pardavimas, prieštaringų politinių teiginių slėpimas paieškos sistemose. ir, svarbiausia, leisti savo darbuotojams ir toliau kalbėti šiais ir kitais klausimais, neatleidžiant už tai. „Google“ darbuotojų maišto judėjimas išlieka aktyvus ir labai aktyvus.

Tuo pat metu svarbu pripažinti, koks buvo „Google“ darbuotojų judėjimo poveikis. Tai paaiškėjo iškart po to, kai prasidėjo „Google“ protestai: Pentagono rinkodaros skyriai nutraukė naujų pranešimų spaudai apie kažkada įdomų „Project Maven“ projektą, galiausiai projektą visiškai „išmesdami“ iš viešumo, kurio anksčiau siekė. Vietoje to, Pentagono klastotė ėmė reikšti naują ir daug didesnę dirbtinio intelekto iniciatyvą Gynybos inovacijų valdyba.

Tai buvo vadinama Projektas JEDI, naujas pavadinimas Pentagono išlaidoms moderniausiems ginklams. JEDI projektas išleistų daug daugiau pinigų nei „Project Maven“, tačiau naujojo projekto viešinimas (taip, JAV kariuomenė išleidžia daug laiko ir dėmesio viešinimui bei rinkodarai) labai skyrėsi nuo ankstesnių. Visi dailūs ir seksualūs „Juodo veidrodžio“ vaizdai dingo. Dabar, užuot akcentavęs jaudinančius ir kinematografinius distopinius siaubus, kuriuos AI sukeliantys dronai gali sukelti žmonėms, JEDI projektas paaiškino save kaip blaivų žingsnį į priekį siekiant efektyvumo, sujungdamas įvairias debesų duomenų bazes, kad padėtų „kovotojams“ (mėgstamiausias Pentagono terminas maksimaliai padidina informacijos efektyvumą. Ten, kur „Project Maven“ buvo sukurtas taip, kad skambėtų įdomiai ir futuristiškai, „JEDI“ projektas buvo sukurtas taip, kad skambėtų protingai ir praktiškai.

Projekto JEDI kainoraštyje nėra nieko protingo ar praktiško. Tai didžiausia karinės programinės įrangos sutartis pasaulio istorijoje: 10.5 milijardo JAV dolerių. Daugelis mūsų akys aplenkia, kai išgirstame apie karinių išlaidų skalę, ir galime praleisti skirtumą tarp milijonų ir milijardų. Svarbu suprasti, koks yra didesnis JEDI projektas nei bet kuri ankstesnė „Pentagon“ programinės įrangos iniciatyva. Tai žaidimų keitiklis, turtus kuriantis variklis, tuščias čekis, leidžiantis pelnytis mokesčių mokėtojų sąskaita.

Tai padeda subraižyti vyriausybės pranešimų spaudai paviršių, bandant suvokti karinių išlaidų tuščią čekį, siekiantį 10.5 mlrd. USD. Kai kurios informacijos, kaip nerimą keliančią informaciją, galima gauti iš pačios kariuomenės leidinių 2019 m. Rugpjūčio mėn. Interviu su Jungtinio dirbtinio intelekto centro generolu leitenantu Jacku Shanahanu, pagrindinė figūra tiek dingusiame projekto „Maven“, tiek naujame projekte „JEDI“. Aš galėjau daugiau sužinoti apie tai, kaip gynybos pramonės atstovai galvoja apie projektą JEDI, klausydamasis gynybos pramonės podcast'o, pavadinto „38 projektas: Vyriausybės sutarčių ateitis“. „Podcast“ svečiai dažnai kalba atvirai ir nesivaržydami bet kokia tema. „Daug žmonių šiais metais pirks naujus baseinus“ buvo būdingas šio tinklalaidės vidiniam pokalbiui apie „Project JEDI“. Esame tikri, kad jie bus.

Štai nepaprastas dalykas, susiejantis su „Google“ AI principais. Akivaizdūs trys milžiniškos 10.5 mlrd. USD vertės JEDI sutarties lyderiai būtų buvę „Google“, „Amazon“ ir „Microsoft“ - tokia tvarka, atsižvelgiant į jų, kaip dirbtinio intelekto novatorių, reputaciją. Dėl darbuotojų protesto prieš „Project Maven“ 2018 m. Dirbtinio intelekto lyderis „Google“ neatsižvelgė į daug didesnį projektą JEDI 2019 m. Vėlai 2019 m. Buvo paskelbta, kad sutartis atiteko „Microsoft“. Vėliau pasirodė daugybė naujienų, tačiau ši informacija daugiausia buvo skirta „Amazon“ ir „Microsoft“ varžyboms ir faktui, kad 3-ioji „Microsoft“ tikriausiai buvo leista nugalėti 2-ąją „Amazon“ dėl pergalės dėl vykstančių D.Trumpo administracijos kovų su „Washington Post“, kuri priklauso „Amazon“ atstovui Jeffui Bezosui. „Amazon“ dabar kreipiasi į teismą kovodama su Pentagono 10.5 mlrd. USD dovana „Microsoft“, o „Oracle“ taip pat bylinėjasi. Pirmiau minėta „Project 38“ tinklalaidės konkreti pastaba - „Daug žmonių šiais metais pirks naujus baseinus“ - buvo susijusi ne tik su „Microsoft“ finansine nauda, ​​bet ir su visais advokatais, kurie dalyvaus šiose bylose. Mes tikriausiai galime pagrįstai spėti, kad daugiau nei 3% projekto JEDI 10.5 mlrd. USD atiteks teisininkams. Blogai, kad negalime jo panaudoti, kad padėtume pabaigos pasaulio alkis vietoj.

Ginčas dėl to, ar šis mokesčių mokėtojų pinigų pervedimas kariniams rangovams turėtų būti naudingas „Microsoft“, „Amazon“ ar „Oracle“, dominavo „JEDI“ projekto naujienose. Vieno teigiamo pranešimo, gauto iš šio nepadoraus įskiepio, - fakto, kad „Google“ atsisakė didžiausios karinės programinės įrangos sutarties pasaulyje per visą istoriją dėl darbuotojų protesto, projekto JEDI naujienose beveik nebuvo. 

Štai kodėl buvo svarbu papasakoti šią istoriją technikos akcininkams, kurie praėjusią savaitę buvo susirinkę perpildytame kambaryje Manheteno centre, kad papasakotų apie tai, kaip galime išgelbėti savo planetą, kaip galime kovoti su klimato mokslo dezinformacija ir politizavimu, kaip mes galime atsispirti didžiulėms iškastinio kuro ir ginklų išnaudotojų galioms. Atrodė, kad šiame mažame kambaryje visi suvokėme iškilusios problemos matmenis, ir mes turime pradėti vaidinti svarbų vaidmenį. Technikos bendruomenė turi didelę galią. Lygiai taip pat, kaip atsiejimo kampanijos gali iš tikrųjų pakeisti, technologijų darbuotojų maištai gali padaryti realų skirtumą. Yra daugybė būdų, kaip klimato kaitos aktyvistai, technologijų darbuotojų maišto aktyvistai ir prieškario aktyvistai gali pradėti dirbti išvien, ir mes tai darysime visais įmanomais būdais.

Mums buvo viltingai pradėti šį susibūrimą, kurį naudingai inicijavo Gesinimo sukilimas NYC ir Pasaulis negali laukti. Šis judėjimas augs - jis turi augti. Piktnaudžiavimas iškastiniu kuru yra klimato kaitos protestuotojų dėmesys. Piktnaudžiavimas iškastiniu kuru taip pat yra pagrindinis JAV imperializmo pelno motyvas ir pagrindinis baisus išpūstos JAV kariuomenės švaistomos veiklos rezultatas. Iš tiesų, atrodo, kad JAV kariuomenė vienintelis blogiausias teršėjas pasaulyje. Ar technikos darbuotojai gali panaudoti mūsų organizacinę galią pergalėms dar labiau paveikti nei „Google“ pasitraukimas iš projekto JEDI? Mes galime ir privalome. Praėjusios savaitės Niujorko susitikimas buvo tik mažas žingsnis į priekį. Turime padaryti daugiau, o savo kombinuotam protesto judėjimui turime duoti viską, ką turime.

Marc Eliot Stein yra technologijos ir socialinės žiniasklaidos direktorius World BEYOND War.

Gregorio Schwedocko nuotrauka.