Kirjoittanut Marc Eliot Stein, 10. helmikuuta 2020

Minut kutsuttiin äskettäin puhumaan Extinction Rebellion -tapahtumassa New Yorkin kaupungissa World BEYOND War. Tapahtuma oli tarkoitettu yhdistämään kolme toimintaryhmää: ilmastomuutoksen aktivistit, tekniikan työntekijöiden ryhmät ja sodanvastaiset aktivistit. Aloitimme sekoittavalla henkilökohtaisella tilillä ilmastonmuutosaktivistilta Ha Vuilta, joka kertoi newyorkilaisten joukosta huolestuttavan kokemuksen, joka harvoilla meistä koskaan on: palaamisesta perheensä kotiin Hanoiin, Vietnamiin, missä lisääntynyt lämpö on jo tehnyt melkein mahdottomaksi kävellä ulkona auringonvalon ruuhka-aikoina. Harvat amerikkalaiset tietävät myös Vesi 2016 saastekatastrofi Ha Tinhissä Vietnamin keskustassa. Puhumme usein ilmastonmuutoksesta potentiaalisena ongelmana Yhdysvalloissa, Ha korosti, mutta Vietnamissa hän näkee sen jo häiritsevän elämää ja toimeentuloa ja pahenevan nopeasti.

Nick Mottern / KnowDrones.org puhui yhtä kiireellisesti Yhdysvaltain armeijan viimeaikaisesta massiivisesta investoinnista futuristiseen tekoälyyn ja pilvipalveluihin - ja korosti armeijan omaa johtopäätöstä, että tekoälyjärjestelmien käyttöönotto ydinaseiden hallinnassa ja dronesodassa johtaa väistämättä virheisiin, joiden suuruus on arvaamaton. William Beckler, NYC: n sukupuuttoon kapina, seurasi selittämällä organisointiperiaatteet, jotka tämä tärkeä ja nopeasti kasvava organisaatio toteuttaa, mukaan lukien häiritsevät toimet, joiden tarkoituksena on lisätä tietoisuutta ilmastonmuutoksen kriittisestä merkityksestä. Kuulimme New Yorkin edustajalta Tekniikan työntekijöiden koalitio, ja yritin kääntää kokoontumista kohti käytännön voimaantumisen tunnetta puhumalla tekniikan työntekijöiden kapinatoiminnasta, joka oli yllättäen onnistunut.

Tämä tapahtui huhtikuussa 2018, jolloin niin sanottu ”puolustusteollisuus” heräsi Project Maven -tapahtumasta, joka on erittäin julkistettu uusi Yhdysvaltain armeijan aloite, jolla kehitetään keinotekoisen älykkyyden ominaisuuksia drooneille ja muille asejärjestelmille. Google, Amazon ja Microsoft tarjoavat kaikki hyllyltä maksavan asiakkaan tekoälyalustoja, ja Google nähtiin todennäköisen Project Maven -sotilasvoittajan voittajana.

Vuoden 2018 alussa Google-työntekijät alkoivat puhua. He eivät ymmärtäneet, miksi yritys, joka oli rekrytoinut heidät työntekijöiksi lupauksella “Älä ole paha”, tarjoutui nyt sotilaallisiin hankkeisiin, jotka todennäköisesti muistuttavat “Black Mirrorin” kauhistuttavaa jaksoa, jossa AI-moottorilla varustetut mekaaniset koirat metsästävät ihmistä olentoja kuolemaan. He puhuivat sosiaalisessa mediassa ja perinteisissä uutistoiminnoissa. He järjestivät toimia ja jakoivat vetoomuksia ja kuulivat itseään.

Tämä työntekijöiden kapina oli Google Workers Rebellion -liikkeen synty, ja se auttoi käynnistämään muita tekniikan työntekijöiden ryhmiä. Mutta hämmästyttävintä Googlen sisäisessä protestissa Project Mavenia vastaan ​​ei ollut se, että tekniikan työntekijät puhuivat. Hämmästyttävintä on se Googlen johto vastasi työntekijöiden vaatimuksia.

Kaksi vuotta myöhemmin tämä tosiasia edelleen hämmentää minua. Olen nähnyt monia eettisiä ongelmia vuosikymmeninä teknisenä työntekijänä, mutta olen harvoin nähnyt suuren yrityksen kategorisesti suostuvan käsittelemään eettisiä ongelmia merkittävällä tavalla. Projekti Mavenia vastaan ​​kohdistuneen Google-kapinan seurauksena julkaistiin joukko AI-periaatteita, jotka kannattaa tulostaa kokonaan tässä:

Keinotekoinen älykkyys Googlessa: periaatteemme

Google pyrkii luomaan tekniikoita, jotka ratkaisevat tärkeät ongelmat ja auttavat ihmisiä jokapäiväisessä elämässä. Olemme optimistisia AI: n ja muiden edistyneiden tekniikoiden uskomattoman potentiaalin suhteen, joka antaa ihmisille mahdollisuuden, hyödyttää laajasti nykyisiä ja tulevia sukupolvia ja työskennellä yhteisen edun hyväksi.

AI-sovellusten tavoitteet

Arvioimme AI-sovelluksia seuraavien tavoitteiden kannalta. Uskomme, että AI: n tulisi:

1. Ole sosiaalisesti hyödyllinen.

Uuden tekniikan laajentunut ulottuvuus koskettaa yhä enemmän koko yhteiskuntaa. AI-edistyksellä on muuttuvia vaikutuksia monilla aloilla, mukaan lukien terveydenhuolto, turvallisuus, energia, kuljetus, valmistus ja viihde. Kun harkitsemme AI-tekniikoiden mahdollista kehittämistä ja käyttöä, otamme huomioon laajan joukon sosiaalisia ja taloudellisia tekijöitä ja jatkamme tapauksissa, joissa uskomme, että todennäköiset kokonaishyödyt ylittävät huomattavasti odotettavissa olevat riskit ja epäkohdat.

AI parantaa myös kykyämme ymmärtää sisällön merkitys mittakaavassa. Pyrimme saamaan korkealaatuisen ja tarkan tiedon helposti saataville AI: n avulla, samalla kun kunnioitamme kulttuurisia, sosiaalisia ja laillisia normeja maissa, joissa toimimme. Ja arvioimme jatkossakin harkiten, milloin teknologioita tarjotaan saataville ei-kaupallisin perustein.

2. Vältä epäreilun puolueellisuuden luomista tai vahvistamista.

AI-algoritmit ja tietojoukot voivat heijastaa, vahvistaa tai vähentää epäreiluja virheitä. Ymmärrämme, että reilun ja epäreilun puolueellisuuden erottaminen ei ole aina helppoa ja eroaa kulttuurien ja yhteiskuntien välillä. Pyrimme välttämään epäoikeudenmukaisia ​​vaikutuksia ihmisiin, etenkin sellaisia ​​arkaluontoisiin piirteisiin kuten rotu, etnisyys, sukupuoli, kansallisuus, tulot, seksuaalinen suuntautuminen, kyky sekä poliittinen tai uskonnollinen vakaumus.

3. Ole rakennettu ja testattu turvallisuuden suhteen.

Jatkamme vahvien turvallisuuskäytäntöjen kehittämistä ja soveltamista välttääksemme tahattomia tuloksia, jotka aiheuttavat vahingon vaaraa. Suunnittelemme AI-järjestelmämme olemaan riittävän varovaisia ​​ja pyrimme kehittämään niitä AI-turvallisuustutkimuksen parhaiden käytäntöjen mukaisesti. Testaamme soveltuvissa tapauksissa AI-tekniikoita rajoitetuissa ympäristöissä ja seuraamme niiden toimintaa käyttöönoton jälkeen.

4. Ole vastuussa ihmisille.

Suunnittelemme AI-järjestelmiä, jotka tarjoavat asianmukaiset mahdollisuudet palautteelle, asiaa koskeville selityksille ja vetoomukselle. AI-tekniikkamme ohjataan ja ohjataan asianmukaisella tavalla ihmisillä.

5. Ota mukaan yksityisyyden suunnittelun periaatteet.

Aiomme sisällyttää tietosuojaperiaatteemme AI-tekniikkamme kehittämiseen ja käyttöön. Annamme mahdollisuuden ilmoittautumiseen ja suostumukseen, rohkaisemme arkkitehtuureja tietosuojalaitteilla ja tarjoamme asianmukaisen avoimuuden ja tiedon käytön valvonnan.

6. Pidä korkeat tieteellisen tason vaatimukset.

Teknologinen innovaatio perustuu tieteelliseen menetelmään ja sitoutumiseen avoimeen tutkimukseen, älylliseen kurinalaisuuteen, eheyteen ja yhteistyöhön. AI-työkaluilla on mahdollisuus avata uusia tieteellisen tutkimuksen ja tiedon alueita kriittisillä aloilla, kuten biologia, kemia, lääketiede ja ympäristötieteet. Pyrimme korkeatasoisiin tieteelliseen huippuosaamiseen pyrkiessään edistämään AI-kehitystä.

Teemme yhteistyötä useiden sidosryhmien kanssa edistääksemme harkittua johtajuutta tällä alueella hyödyntämällä tieteellisesti tiukkoja ja monitieteisiä lähestymistapoja. Jaamme vastuullisesti AI-tietämystä julkaisemalla koulutusmateriaaleja, parhaita käytäntöjä ja tutkimusta, jonka avulla useammat ihmiset voivat kehittää hyödyllisiä AI-sovelluksia.

7. Saatava saataville näiden periaatteiden mukaisia ​​käyttötarkoituksia varten.

Monilla tekniikoilla on useita käyttötarkoituksia. Pyrimme rajoittamaan mahdollisesti haitallisia tai väärinkäyttäviä sovelluksia. Kun kehitämme ja otamme käyttöön AI-tekniikoita, arvioimme todennäköiset käytöt seuraavien tekijöiden valossa:

• Ensisijainen tarkoitus ja käyttö: tekniikan ja sovelluksen ensisijainen tarkoitus ja todennäköinen käyttö, mukaan lukien kuinka läheisesti ratkaisu liittyy haitallisiin käyttötarkoituksiin tai mukautettavissa siihen
• Luonto ja ainutlaatuisuus: tarjoammeko ainutlaatuista vai yleisesti saatavilla olevaa tekniikkaa
• asteikko: onko tämän tekniikan käytöllä merkittäviä vaikutuksia
• Googlen osallistumisen luonne: tarjoammeko yleiskäyttöisiä työkaluja, integroimme työkaluja asiakkaille vai kehitämme räätälöityjä ratkaisuja

AI-sovelluksia emme jatka

Edellä olevien tavoitteiden lisäksi emme suunnittele tai ota käyttöön AI: tä seuraavilla sovellusalueilla:

1. Teknologiat, jotka aiheuttavat tai todennäköisesti aiheuttavat yleistä haittaa. Jos on olemassa olennainen vahingon riski, jatkamme vain silloin, kun uskomme, että hyödyt ovat huomattavasti suuremmat kuin riskit, ja niihin sisällytetään asianmukaiset turvallisuusrajoitukset.
2. Aseet tai muut tekniikat, joiden päätarkoituksena tai toteutuksena on aiheuttaa ihmisille loukkaantumisia tai helpottaa niitä suoraan.
3. Teknologiat, jotka keräävät tai käyttävät tietoja kansainvälisesti hyväksyttyjä normeja rikkovaan seurantaan.
4. Teknologiat, joiden tarkoitus on ristiriidassa kansainvälisen oikeuden ja ihmisoikeuksien yleisesti hyväksyttyjen periaatteiden kanssa.

Kun kokemuksemme tästä tilasta syvenee, tämä luettelo voi muuttua.

Yhteenveto

Uskomme, että nämä periaatteet ovat oikea perusta yrityksellemme ja AI: n tulevalle kehityksellemme. Ymmärrämme, että tämä alue on dynaaminen ja kehittyvä, ja lähestymme työtämme nöyryydellä, sitoutumisella sisäiseen ja ulkoiseen sitoutumiseen ja halukkuudella mukauttaa lähestymistapamme oppimalla ajan myötä.

Tämä positiivinen tulos ei vapauta tekniikkajättilää Googlea osallistumisesta moniin muihin vakavasti huolestuttaviin alueisiin, kuten ICE: n, poliisin ja muun sotilaallisen toiminnan tukemiseen, yksityishenkilöiden henkilökohtaisten tietojen käyttöoikeuksien yhdistämiseen ja myyntiin, kiistanalaisten poliittisten lausuntojen piilottamiseen hakukoneiden tuloksista ja mikä tärkeintä, antaa työntekijöilleen mahdollisuuden jatkaa puhetta näistä ja muista asioista ilman, että heidät erotetaan. Google-työntekijöiden kapinaliike on edelleen aktiivinen ja erittäin kiinnostunut.

Samanaikaisesti on tärkeää tunnistaa, kuinka vaikuttava Google-työntekijöiden liike oli. Tämä tuli heti selväksi Google-mielenosoitusten alkaessa: Pentagonin markkinointiosastot lopettivat uusien lehdistötiedotteiden julkaisun kerran kiinnostavasta Project Mavenista, lopulta “katoamalla” projektin kokonaan aiemmin pyytämästään julkisesta näkyvyydestä. Sen sijaan Pentagonin salakuuntelusta alkoi ilmaantua uusi ja paljon suurempi tekoäly-aloite Puolustuksen innovaatiolautakunta.

Tätä kutsuttiin Projekti JEDI, uusi nimi Pentagonille kuluttamaan huippuluokan aseita. JEDI-projekti käyttäisi paljon enemmän rahaa kuin Project Maven, mutta uuden projektin julkisuus (kyllä, Yhdysvaltain armeija käyttää erä aika ja huomio julkisuuteen ja markkinointiin) oli hyvin erilainen kuin aikaisemmin. Kaikki tyylikäs ja seksikäs ”Black Mirror” -kuvat olivat poissa. Nyt sen sijaan, että painotettaisiin jännittäviä ja elokuvamaisia ​​dystopiollisia kauhuja, joita AI-koneilla toimivat droonit saattavat aiheuttaa ihmisille, projekti JEDI selitti itsensä raittiina askeleena kohti tehokkuutta, yhdistämällä erilaisia ​​pilvitietokantoja auttaakseen ”soturit” (Pentagonin suosikki termi etulinjan henkilökunta) ja back-office-tukitiimit maksimoivat tiedon tehokkuuden. Missä Project Maven suunniteltiin kuulostamaan jännittävältä ja futuristiselta, projekti JEDI suunniteltiin kuulostamaan järkevältä ja käytännölliseltä.

Projektin JEDI hintalappussa ei ole mitään järkevää tai käytännöllistä. Se on maailmanhistorian suurin armeijan ohjelmistosopimus: 10.5 miljardia dollaria. Monet silmämme katoavat, kun kuulemme sotilasmenojen asteikoista, ja voimme ohittaa miljoonien ja miljardien eron. On välttämätöntä ymmärtää, kuinka paljon suurempi Project JEDI on kuin mikä tahansa aikaisempi Pentagon-ohjelmistoaloite. Se on pelivaihtaja, hyvinvointia tuottava moottori, tyhjä sekki veronmaksajien eduksi saamiseksi.

Se auttaa naarmuttamaan hallituksen lehdistötiedotteiden pintaa, kun yritetään ymmärtää jopa 10.5 miljardin dollarin armeijan menot. Jotkut tiedot voidaan hankkia armeijan omista julkaisuista, kuten häiritsevä Elokuu 2019 haastattelu Yhteisen tekoälyn keskuksen kenraaliluutnantin Jack Shanahanin kanssa, avainhenkilö sekä kadonneessa Project Mavenissa että uudessa JEDI-projektissa. Pystyin saamaan enemmän tietoa siitä, kuinka puolustusteollisuuden sisäpiiriläiset ajattelevat Project JEDI: tä kuuntelemalla puolustusteollisuuden podcastia nimeltään ”Hanke 38: Hallituksen tulevaisuus”. Podcast-vieraat puhuvat usein vilpittömästi ja häpeämättömästi mistä tahansa aiheesta, josta he keskustelevat. "Monet ihmiset ostavat uusia uima-altaita tänä vuonna" oli tyypillistä tämän podcastin sisäpiirikeskustelulle Project JEDI: stä. Olemme varmoja, että he tulevat olemaan.

Tässä on merkittävä asia, joka liittyy takaisin Googlen tekoälyperiaatteisiin. Massiivisen 10.5 miljardin dollarin JEDI-sopimuksen ilmeiset kolme edelläkävijää olisivat olleet Google, Amazon ja Microsoft - tässä järjestyksessä, perustuen heidän maineeseen tekoälyn innovaattoreina. Koska työntekijät protestoivat Project Mavenia vastaan ​​vuonna 2018, tekoälyn johtaja Google ei ottanut huomioon paljon suurempaa JEDI-projektia vuonna 2019. Myöhään vuonna 2019 ilmoitettiin, että sopimus meni Microsoftille. Seuraavaksi tuli uutisia, mutta tämä katsaus keskittyi lähinnä Amazonin ja Microsoftin väliseen kilpailuun ja siihen, että kolmannen sijan Microsoft saattoi todennäköisesti voittaa toisen sijan Amazonin voiton vuoksi Trumpin hallinnon jatkuvien taistelujen vuoksi Washington Postin kanssa, jonka omistaa Amazonin Jeff Bezos. Amazon on nyt menossa oikeuteen taistellakseen Pentagonin 3 miljardin dollarin lahjasta Microsoftille, ja Oracle myös haastaa. Edellä mainittu Project 2-podcastin erityishuomautus - "Monet ihmiset ostavat uusia uima-altaita tänä vuonna" - viittasi paitsi Microsoftin taloudelliseen hyötyyn myös kaikkiin asianajajiin, jotka osallistuvat näihin oikeusjuttuihin. Voimme luultavasti arvata, että yli 10.5% JEDI-projektin 38 miljardista dollarista menee asianajajille. Harmi, emme voi käyttää sitä auttamaan lopettaa maailman nälkä sen sijaan.

Kiista siitä, pitäisikö veronmaksajien rahojen siirrosta sotilashankkijoille hyötyä Microsoftille, Amazonille tai Oraclelle, on hallinnut JEDI-projektin uutislähetyksiä. Ainoa positiivinen viesti, joka on saatava tästä säädyttömästä siirteestä - se, että Google oli eronnut maailman historian suurimmasta sotilaallisesta ohjelmistosopimuksesta työntekijöiden mielenosoituksen vuoksi, on ollut melkein olematon JEDI-projektin uutisissa. 

Siksi oli tärkeää kertoa tämä tarina teknisesti kiinnostuneille aktivisteille, jotka kokoontuivat viime viikolla Manhattanin keskustan tungosta huoneeseen keskustelemaan siitä, kuinka voimme pelastaa planeettamme, kuinka voimme taistella ilmastotieteen väärää tietoa ja politisointia vastaan, kuinka voimme vastustaa fossiilisten polttoaineiden hyödyntäjien ja aseiden hyödyntäjien valtavaa voimaa. Tässä pienessä huoneessa me kaikki näyttelimme ymmärtävänmme kohtaamiemme ongelman ulottuvuuksia, ja kriittisen roolin, jonka meidän itsemme on alettava suorittaa. Tekniikkayhteisöllä on huomattava voima. Aivan kuten divestointikampanjat voivat tehdä todellisen vaikutuksen, tekniikan työntekijöiden kapinoinnilla voi olla todellinen ero. Ilmastonmuutosaktivistit, tekniikan työntekijöiden kapina-aktivistit ja sodanvastaiset aktivistit voivat olla monella tapaa työskennellä yhdessä, ja teemme niin kaikkemme.

Meillä oli toiveikas aloitus tästä kokouksesta, jonka aloitti avuliaasti Sammutuskamppailu NYC ja Maailma ei voi odottaa. Tämä liike kasvaa - sen täytyy kasvaa. Fossiilisten polttoaineiden väärinkäyttö on ilmastonmuutoksen mielenosoittajien keskipiste. Fossiilisten polttoaineiden väärinkäyttö on myös sekä Yhdysvaltain imperialismin ensisijainen voittomotiivi että ensisijainen kauhea seuraus paisuneen Yhdysvaltain armeijan tuhlaustoiminnasta. Todellakin, Yhdysvaltain armeija näyttää olevan maailman pahin saastuttaja. Voivatko teknologiatyöntekijät käyttää järjestämisvoimamme voittojen saavuttamiseen jopa tehokkaammin kuin Googlen vetäytyminen JEDI-projektista? Voimme ja meidän täytyy. Viime viikon New York City -kokous oli vain pieni askel eteenpäin. Meidän on tehtävä enemmän, ja meidän on annettava yhdistetylle protestiliikkeellemme kaikki mitä meillä on.

Marc Eliot Stein on teknologian ja sosiaalisen median johtaja World BEYOND War.

Kuva: Gregory Schwedock.