Autor: Marc Eliot Stein, 10. veebruar 2020

Mind kutsuti hiljuti New Yorgi nimel toimunud Extinction Rebellioni kogunemisel esinema World BEYOND War. Ürituse eesmärk oli koondada kolm tegevusgruppi: kliimamuutuste aktivistid, tehnikatöötajate kollektiivid ja sõjavastased aktivistid. Alustasime segava isikliku ülevaatega kliimamuutuste aktivisti Ha Vu käest, kes rääkis newyorklaste rahvale murettekitavast kogemusest, mis vähestel meist kunagi on: naasmine oma pere koju Vietnami Hanoisse, kus suurenenud kuumus on juba teinud päikesevalguse tipptundidel väljas kõndimise peaaegu võimatuks. Vähesed ameeriklased teavad ka 2016. aasta veereostuse katastroof aastal Ha Tinhis Vietnami keskosas. Me räägime USA-s sageli kliimamuutustest kui võimalikust probleemist, rõhutas Ha, kuid Vietnamis võib ta näha, et see häirib juba elusid ja elatist ning süveneb kiiresti.

Nick Mottern KnowDrones.org rääkis sama tungivalt USA sõjaväe hiljutistest ulatuslikest investeeringutest futuristlikku tehisintellekti ja pilvandmetöötlusse - ning rõhutas sõjaväe enda järeldust, et tehisintellekti süsteemide kasutuselevõtt tuumarelvade haldamisel ja droonisõjas toob paratamatult kaasa ettearvamatu ulatusega vigu. William Beckler, NYC väljasuremismäss, järgnes selle olulise ja kiiresti kasvava organisatsiooni rakendatavate korralduspõhimõtete selgitamine, sealhulgas häirivad tegevused, mille eesmärk oli tõsta teadlikkust kliimamuutuste kriitilisest tähtsusest. Kuulsime New Yorgi linna esindajalt Tehnikatöötajate koalitsioonja proovisin kogunemist suunata praktilise mõjuvõimu poole, rääkides tehnikatöötajate mässumeetmest, mis oli ootamatult edukas.

See oli 2018. aasta aprillis, kui niinimetatud kaitsetööstus sumises Project Maveni kohta, mis on USA kõrgelt avalikustatud sõjaline algatus droonide ja muude relvasüsteemide tehisintellekti võimete arendamiseks. Google, Amazon ja Microsoft pakuvad kõik tasulistele klientidele tavapäraseid tehisintellekti platvorme ning Google peeti Project Maveni sõjalise lepingu tõenäoliseks võitjaks.

2018. aasta alguses hakkasid Google'i töötajad sõna võtma. Nad ei mõistnud, miks ettevõte, kes oli värvanud nad töötajaks pandiga “Ära ole kuri”, tegi nüüd pakkumise sõjalistele projektidele, mis tõenäoliselt meenutavad “Musta peegli” õudusttekitavat episoodi, kus AI-toega mehaanilised koerad pidasid inimese kinni olendid surmani. Nad vestlesid sotsiaalmeedias ja traditsiooniliste uudiste väljaannetega. Nad korraldasid aktsioone ja jagasid petitsioone ning andsid endast arvamuse.

See töötajate mäss oli Google Workers Rebellioni liikumise genees ja see aitas käivitada teisi tehniliste töötajate kollektiive. Kuid kõige hämmastavam Google'i sisemise protestiga Project Maveni vastu polnud see, et tehnikatöötajad räägiksid. Kõige hämmastavam on see Google'i juhtkond vastas töötajate nõudmistele.

Kaks aastat hiljem jahmatas see fakt mind endiselt. Olen näinud oma tehnikumi töötajana aastakümnete jooksul palju eetilisi probleeme, kuid olen harva näinud, kuidas suur ettevõte on kategooriliselt nõus eetilisi probleeme olulisel viisil käsitlema. Projekti Maveni vastu suunatud Google'i mässu tulemuseks oli AI põhimõtete kogumi avaldamine, mida tasub siin täielikult uuesti trükkida:

Tehisintellekt Google'is: meie põhimõtted

Google soovib luua tehnoloogiaid, mis lahendavad olulisi probleeme ja aitavad inimesi igapäevaelus. Oleme optimistlikud AI ja muude kõrgtehnoloogiate uskumatute võimaluste osas, mis võimaldavad inimestel jõudu anda, praegustele ja tulevastele põlvkondadele suurt kasu tuua ning töötada ühise hüvangu nimel.

AI-rakenduste eesmärgid

Hindame AI rakendusi järgmiste eesmärkide silmas pidades. Me usume, et AI peaks:

1. Ole sotsiaalselt kasulik.

Uute tehnoloogiate laiendatud ulatus puudutab üha enam kogu ühiskonda. AI edusammudel on ümberkujundav mõju paljudes valdkondades, sealhulgas tervishoid, turvalisus, energeetika, transport, tootmine ja meelelahutus. Arvestades AI-tehnoloogiate potentsiaalset arengut ja kasutamist, võtame arvesse mitmesuguseid sotsiaalseid ja majanduslikke tegureid ning jätkame seal, kus usume, et üldine tõenäoline kasu ületab oluliselt prognoositavaid riske ja varjukülgi.

AI suurendab ka meie võimet mõista sisu tähendust ulatuslikult. Püüame teha kvaliteetse ja täpse teabe AI abil hõlpsasti kättesaadavaks, järgides samal ajal ka meie tegutsevate riikide kultuurilisi, sotsiaalseid ja õigusnorme. Ja me jätkame läbimõeldult hindamist, millal oma tehnoloogiad mitteärilistel alustel kättesaadavaks teha.

2. Vältige ebaausate eelarvamuste loomist või tugevdamist.

AI algoritmid ja andmekogumid võivad ebaausaid eelarvamusi kajastada, tugevdada või vähendada. Mõistame, et õiglase ja ebaõiglase eelarvamuse eristamine ei ole alati lihtne ning erineb kultuuride ja ühiskondade lõikes. Püüame vältida ebaõiglast mõju inimestele, eriti selliste tundlike tunnustega nagu rass, rahvus, sugu, rahvus, sissetulek, seksuaalne sättumus, võime ning poliitiline või usuline veendumus.

3. Ole ehitatud ja ohutuse osas testitud.

Jätkame tugevate ohutus- ja turvatavade väljatöötamist ja rakendamist, et vältida tahtmatut tulemust, mis tekitab kahjuriski. Kujundame oma AI-süsteemid piisavalt ettevaatlikuks ja püüame neid välja töötada vastavalt AI-ohutuse uuringute parimatele tavadele. Vajadusel katsetame AI-tehnoloogiaid piiratud keskkonnas ja jälgime nende toimimist pärast juurutamist.

4. Ole inimeste ees aruandekohustuslik.

Kujundame AI-süsteemid, mis pakuvad sobivaid võimalusi tagasiside saamiseks, asjakohaste selgituste saamiseks ja edasikaebamiseks. Meie AI-tehnoloogiaid juhitakse ja kontrollitakse vastavalt inimestele.

5. Kaasake privaatsuse kujundamise põhimõtted.

Kaasame oma privaatsuspõhimõtted oma AI-tehnoloogiate väljatöötamisse ja kasutamisse. Anname võimaluse teatiseks ja nõusoleku saamiseks, julgustame privaatsuse kaitsega arhitektuure ning tagame andmete kasutamise asjakohase läbipaistvuse ja kontrolli.

6. Järgida kõrgeid teaduse tipptasemeid.

Tehnoloogilise innovatsiooni juured on teaduslikus meetodis ja pühendumuses avatud uurimisele, intellektuaalsele rangusele, terviklikkusele ja koostööle. AI-vahenditel on potentsiaal avada uusi teadusuuringute valdkondi ja teadmisi sellistes kriitilistes valdkondades nagu bioloogia, keemia, meditsiin ja keskkonnateadused. AI arendamise edendamisel püüdleme kõrge teadusliku tipptaseme poole.

Teeme koostööd paljude sidusrühmadega, et edendada läbimõeldud juhtimist selles valdkonnas, tuginedes teaduslikult rangetele ja multidistsiplinaarsetele lähenemisviisidele. Ja jagame vastutustundlikult AI-alaseid teadmisi, avaldades õppematerjale, parimaid tavasid ja uuringuid, mis võimaldavad rohkematel inimestel välja töötada kasulikke AI-rakendusi.

7. Olema kättesaadav kasutamiseks nende põhimõtete kohaselt.

Paljudel tehnoloogiatel on mitu kasutust. Töötame selle nimel, et piirata potentsiaalselt kahjulikke või kuritahtlikke rakendusi. AI-tehnoloogiate väljatöötamisel ja juurutamisel hindame tõenäolist kasutamist järgmiste tegurite valguses:

• Peamine eesmärk ja kasutamine: tehnoloogia ja rakenduse peamine eesmärk ja tõenäoline kasutamine, sealhulgas kui tihedalt on lahendus seotud kahjuliku kasutusega või sellega kohandatav
• Loodus ja ainulaadsus: kas teeme kättesaadavaks tehnoloogia, mis on ainulaadne või üldisemalt kättesaadav
• Skaala: kas selle tehnoloogia kasutamisel on oluline mõju
• Google'i osaluse olemus: kas pakume üldotstarbelisi tööriistu, integreerime klientidele tööriistu või arendame kohandatud lahendusi

AI rakendusi me ei jätka

Lisaks ülaltoodud eesmärkidele ei kavanda ega juuruta me AI järgmistes rakendusvaldkondades:

1. Tehnoloogiad, mis põhjustavad või tõenäoliselt põhjustavad üldist kahju. Kui on oluline kahjustamisoht, tegutseme ainult siis, kui usume, et kasu ületab oluliselt riskid ja sisaldab asjakohaseid ohutuspiiranguid.
2. Relvad või muud tehnoloogiad, mille peamine eesmärk või rakendamine on inimestele vigastuste tekitamine või otsene hõlbustamine.
3. Tehnoloogiad, mis koguvad või kasutavad teavet rahvusvaheliselt aktsepteeritud norme rikkuvaks jälgimiseks.
4. Tehnoloogiad, mille eesmärk on vastuolus rahvusvahelise õiguse ja inimõiguste üldtunnustatud põhimõtetega.

Kuna meie kogemus selles ruumis süveneb, võib see nimekiri areneda.

Järeldus

Usume, et need põhimõtted on õige alus meie ettevõttele ja AI edaspidisele arendamisele. Tunnistame, et see valdkond on dünaamiline ja arenev, ning läheneme oma tööle alandlikult, pühendumusega sisemisele ja välisele kaasamisele ning valmisolekuga kohandada oma lähenemist aja jooksul õpitavana.

See positiivne tulemus ei vabasta tehnoloogiahiiglast Google'ist kaasosalusest paljudes muudes suurtes probleemides, näiteks ICE, politsei ja muu sõjalise tegevuse toetamisel, üksikisikute privaatsetele andmetele juurdepääsu koondamisel ja müümisel, vastuoluliste poliitiliste avalduste varjamisel otsingumootorite tulemustes ja mis kõige tähtsam, võimaldades töötajatel jätkuvalt rääkida neil ja muudel teemadel ilma, et teda selle eest vallandataks. Google'i töötajate mässuliikumine on endiselt aktiivne ja aktiivne.

Samal ajal on oluline mõista, kui mõjukas oli Google'i töötajate liikumine. See sai kohe selgeks pärast Google'i protestide algust: Pentagoni turundusosakonnad lõpetasid uute pressiteadete väljaandmise kord põnevast Project Mavenist, lõpuks “kaotasid” projekti täielikult varasema avalikkuse silmis. Selle asemel hakkas Pentagoni salakavalusest välja tulema uus ja palju suurem tehisintellekti algatus Kaitseinnovatsiooni juhatus.

Seda kutsuti Projekt JEDI, uus nimi Pentagoni eesrindlike relvade kulutamiseks. Projekt JEDI kulutaks palju rohkem raha kui Project Maven, kuid uue projekti reklaamikulud (jah, USA sõjavägi kulutab osa aja ja tähelepanu reklaamimisele ja turundusele) erines varasemast väga. Kõik klanitud ja seksikad “Musta peegli” kujutised olid kadunud. Nüüd, selle asemel, et rõhutada põnevaid ja kinemaatilisi düstoopilisi õudusi, mida AI-tüüpi droonid võivad inimestele tekitada, selgitas projekt JEDI end kaine sammuna tõhususe poole, ühendades erinevaid pilveandmebaase, et aidata “sõjamehi” (Pentagoni lemmiktermin eesliinil olevad töötajad) ja tugiteenuste meeskonnad maksimeerivad teabe tõhusust. Seal, kus Project Maven oli mõeldud põnevaks ja futuristlikuks, oli Project JEDI mõistlik ja praktiline.

Projekti JEDI hinnasildil pole midagi mõistlikku ega praktilist. See on maailma ajaloo suurim sõjalise tarkvara leping: 10.5 miljardit dollarit. Kui me kuuleme sõjaliste kulutuste skaaladest, löövad paljud silmad üle ja võime vahele jätta erinevuse miljonite ja miljardite vahel. On oluline mõista, kui palju suurem on JEDI projekt kui ükski varasem Pentagoni tarkvaraalgatus. See on mänguvahetaja, jõukust teeniv mootor, maksumaksja kulul tulu saamise tšekk.

See aitab kriimustada valitsuse pressiteadete pinda, kui püüda mõista sõjaliste kulutuste tühi tšekk koguni 10.5 miljardit dollarit. Teatavat teavet võib hankida sõjaväe enda väljaannetest, nagu häiriv August 2019 intervjuu ühise tehisintellekti keskuse kindralleitnandi Jack Shanahaniga, võtmefiguur nii kadunud Projekt Mavenis kui ka uues projektis JEDI. Suutsin saada rohkem ülevaate sellest, kuidas kaitsetööstuses tegutsejad mõtlevad projekti JEDI kohta, kuulates kaitsetööstuse taskuhäälingut nimega “Projekt 38: valitsuse lepingute tulevik”. Podcasti külalised räägivad sageli avameelselt ja varjamatult mis tahes teemal, mida nad arutavad. "Paljud inimesed ostavad sel aastal uusi basseine" oli tüüpiline selle podcasti siseringi vestlusele Project JEDI kohta. Oleme kindlad, et saavad.

Siin on tähelepanuväärne asi, mis on seotud Google'i tehisintellekti põhimõtetega. Massiivse 10.5 miljardi dollari suuruse JEDI-lepingu ilmsed kolm eestvedajat oleksid olnud Google, Amazon ja Microsoft - selles järjekorras, lähtudes nende mainest tehisintellekti uuendajatena. Kuna töötajad protestisid 2018. aastal Project Maveni vastu, siis tehisintellekti juht Google ei arvesta 2019. aastal palju suurema projekti JEDI jaoks. 2019. aasta lõpus teatati, et leping läks Microsoftile. Järgnes uudiste leviala, kuid see kajastus keskendus peamiselt Amazoni ja Microsofti rivaalitsemisele ning asjaolule, et 3. koha Microsoftil lubati tõenäoliselt võita võita 2. koha Amazon Trumpi administratsiooni käimasolevate lahingute tõttu Washington Postiga, mis kuulub Amazoni Jeff Bezosele. Amazon läheb nüüd kohtusse, et võidelda Pentagoni 10.5 miljardi dollari suuruse kingituse vastu Microsofti vastu ning ka Oracle kaebab kohtusse. Eespool mainitud Podcasti projekt 38 ​​konkreetne märkus - „Sel aastal ostavad paljud inimesed uusi basseine” - viitas lisaks Microsofti rahalisele õnnetusele ka kõigile advokaatidele, kes nendes kohtuprotsessides osalevad. Tõenäoliselt võime arvata, et üle 3% projekti JEDI 10.5 miljardist dollarist läheb advokaatidele. Kahju, et me ei saa seda aidata maailma nälja lõpp asemel.

Projekti JEDI uudistes on domineerinud vaidlus selle üle, kas maksumaksja raha ülekandmine sõjalistele töövõtjatele peaks olema kasulik Microsoftile, Amazonile või Oracle'ile. Ainus positiivne sõnum, mis sellest rõvedast pookoksast võis saada - asjaolu, et Google oli töötajate protesti tõttu loobunud maailma ajaloo suurimast sõjalise tarkvara lepingust - on projekti JEDI uudistes kajastatud praktiliselt olematu. 

Seetõttu oli oluline rääkida see lugu tehnikakeskstele aktivistidele, kes kogunesid eelmisel nädalal Manhattani kesklinna rahvarohkesse ruumi, et rääkida sellest, kuidas saaksime oma planeedi päästa, kuidas saaksime võidelda desinformatsiooni ja kliimateaduse politiseerimise vastu, kuidas suudame seista vastu fossiilkütuste ja relvade ärakasutajate massilisele jõule. Selles väikeses ruumis näisid kõik haaravat meie ees seisva probleemi mõõtmeid ja kriitiline roll, mida me ise peame mängima, peaks olema. Tehnikakogukonnal on märkimisväärne jõud. Nii nagu loovutamiskampaaniad võivad tõeliselt midagi muuta, võivad ka tehnikatöötajate mässud tõeliselt midagi muuta. Kliimamuutuste aktivistid, tehnikatöötajate mässumeelsed aktivistid ja sõjavastased aktivistid saavad mitmel viisil hakata koostööd tegema ja teeme seda igal võimalusel.

Selle kogunemisega, mille algatas abistavalt, oli meil lootusrikas algus Kustutus mäss NYC ja Maailm ei saa oodata. See liikumine kasvab - see peab kasvama. Fossiilkütuste kuritarvitamine on kliimamuutuste vastu meeleavaldajate keskmes. Fossiilkütuste kuritarvitamine on ühtlasi nii USA imperialismi peamine kasumimotiiv kui ka pundunud USA sõjaväe raiskav tegevus. Tõepoolest, USA sõjavägi näib olevat kõige halvem saastaja maailmas. Kas tehnotöötajad saavad meie korraldusjõudu võitude jaoks kasutada veelgi mõjusamalt kui Google'i loobumine projektist JEDI? Saame ja peame. Eelmise nädala New Yorgi kohtumine oli vaid pisike samm edasi. Peame tegema rohkem ja andma oma ühendatud protestiliikumisele kõik, mis meil on.

Marc Eliot Stein on tehnoloogia- ja sotsiaalmeedia direktor World BEYOND War.

Foto autor: Gregory Schwedock.