Marc Eliot Stein-ek egina, 10ko otsailaren 2020a

Duela gutxi New Yorkeko Extinction Rebellion elkarretaratze batean hitz egitera gonbidatu ninduten. World BEYOND War. Ekitaldia hiru ekintza-talde biltzeko diseinatu zen: klima-aldaketaren ekintzaileak, teknologia-langileen kolektiboak eta gerraren aurkako ekintzaileak. Ha Vu klima-aldaketaren aldeko aktibistaren kontakizun pertsonal hunkigarri batekin hasi ginen, zeinak New Yorkeko jendetzari gutako gutxik bizi izan dugun esperientzia kezkagarri bati buruz kontatu baitzion: Hanoi-n (Vietnam) bere familiaren etxera itzultzea. beroa areagotu dagoeneko ia ezinezkoa egin du eguzki-argiaren ordu gorenetan kanpoan ibiltzea. Estatubatuar gutxik ere ezagutzen dute 2016ko uraren kutsaduraren hondamendia Vietnam erdialdeko Ha Tinh-en. Askotan hitz egiten dugu klima-aldaketa AEBetan arazo potentzial gisa, azpimarratu du Ha-k, baina Vietnamen ikusten du jada bizitzak eta bizimoduak apurtzen dituela eta azkar okerrera egiten duela.

Nick Mottern-en KnowDrones.org Antzeko urgentziaz hitz egin zuen AEBetako armadak adimen artifizial futuristaren eta hodeiko informatikan egindako azken inbertsio masiboari buruz - eta armadaren ondorioa azpimarratu zuen AI sistemen inplementazioak arma nuklearren kudeaketan eta droneen gerran ezinbestean ezusteko tamainako akatsak ekarriko dituela. Extinction Rebellion NYC-eko William Beckler-ek jarraitu zuen hazten ari den erakunde garrantzitsu eta azkar honek martxan jartzen dituen antolakuntza-printzipioak azaldu zituen, klima-aldaketaren garrantzi kritikoaz kontzientziatzeko diseinatutako ekintza disruptiboak barne. New Yorkeko ordezkari baten berri izan dugu Teknologiako Langileen Koalizioa, eta topaketa ahalduntze praktikoaren zentzu batera bideratzen saiatu nintzen, ustekabean arrakasta izan zuen teknologia-langileen matxinada-ekintza bati buruz hitz eginez.

2018ko apirilean izan zen, "defentsa industria" delakoa Project Maven-en inguruan, droneentzako eta beste arma-sistemetarako adimen artifizialaren gaitasunak garatzeko AEBetako ekimen militar berri bat oso zabalduta zegoenean. Googlek, Amazonek eta Microsoftek adimen artifizialeko plataformak eskaintzen dituzte bezeroei ordaintzeko, eta Google Project Maven kontratu militarraren irabazlea zela ikusi zuten.

2018 hasieran, Google-ko langileak hitz egiten hasi ziren. Ez zuten ulertzen zergatik "Ez izan gaiztoa" konpromisoarekin langile gisa kontratatu zituen enpresa batek "Ispilu Beltza"ren atal izugarriaren antza izan dezakeen proiektu militarretarako lizitazioa egiten ari zen, non AI bidezko txakur mekanikoek gizakiak atzematen dituzten. izakiak hiltzeraino. Sare sozialetan eta ohiko albistegietan hitz egin zuten. Ekintzak antolatu eta eskaerak zabaldu eta euren burua entzunarazi zuten.

Langileen matxinada hau Google Workers Rebellion mugimenduaren sorrera izan zen, eta beste teknologiako langileen kolektiboak abiarazten lagundu zuen. Baina Project Maven-en aurkako Googleren barneko protestaren gauzarik harrigarriena ez zen teknologiako langileak hitz egiten ari zirela. Harrigarriena hori da Google-ren kudeaketak langileen eskaerei amore eman zien.

Bi urte geroago, gertakari honek oraindik zur eta lur uzten nau. Arazo etiko asko ikusi ditut teknologiako langile gisa nire hamarkadetan, baina oso gutxitan ikusi dut enpresa handi bat modu esanguratsuan arazo etikoei aurre egiteko modu kategorikoan adosten. Project Maven-en aurkako Google-ren matxinadaren emaitza hemen oso-osorik berriro inprimatzea merezi duten AI printzipio multzo bat argitaratu zen:

Inteligentzia artifiziala Google-n: gure printzipioak

Google-k arazo garrantzitsuak konpontzen dituzten eta jendeari eguneroko bizitzan laguntzen duten teknologiak sortzea nahi du. Baikor gaude AI eta beste teknologia aurreratuek jendea ahalduntzeko, egungo eta etorkizuneko belaunaldiei asko mesede egiteko eta onura komunaren alde lan egiteko duten ahalmen ikaragarriari buruz.

AI aplikazioen helburuak

AI aplikazioak ebaluatuko ditugu hurrengo helburuei begira. Gure ustez, IAk:

1. Izan sozialki onuragarria.

Teknologia berrien irismenak gero eta gehiago ukitzen du gizarte osoa. AIren aurrerapenek eragin eraldatzaileak izango dituzte hainbat esparrutan, besteak beste, osasungintza, segurtasuna, energia, garraioa, fabrikazioa eta entretenimendua. AI teknologien garapen eta erabilera potentzialak kontuan hartzen ditugunez, faktore sozial eta ekonomiko ugari hartuko ditugu kontuan, eta onura orokor posibleek aurreikusten diren arriskuak eta alde txarrak nabarmen gainditzen dituztela uste dugun tokian jarraituko dugu.

AI-k edukien esanahia eskalan ulertzeko gaitasuna ere hobetzen du. AI erabiliz kalitate handiko eta zehatza den informazioa erraz erabilgarri izan dadin ahaleginduko gara, dihardugun herrialdeetako arau kulturalak, sozialak eta juridikoak errespetatzen jarraituz. Eta arreta handiz ebaluatzen jarraituko dugu gure teknologiak erabilgarri ez-komertzial batean.

2. Saihestu alderdikeria bidegabea sortzea edo indartzea.

AI algoritmoek eta datu-multzoek bidegabeko joerak islatu, indartu edo murriztu ditzakete. Onartzen dugu bidezkoa eta bidegabeko alborapenak bereiztea ez dela beti erraza, eta desberdina dela kultura eta gizarteen artean. Pertsonengan eragin bidegabeak saihesten saiatuko gara, bereziki arraza, etnia, generoa, nazionalitatea, diru-sarrerak, sexu-orientazioa, gaitasunak eta sinesmen politiko edo erlijiosoa bezalako ezaugarri sentikorrei lotutakoak.

3. Segurtasunerako eraiki eta probatu.

Segurtasun- eta segurtasun-praktika sendoak garatzen eta aplikatzen jarraituko dugu, kalte-arriskuak sortzen dituzten nahi gabeko emaitzak saihesteko. Gure AI sistemak behar bezala zuhur izateko diseinatuko ditugu eta horiek garatzen saiatuko gara AI segurtasunaren ikerketako praktika onen arabera. Kasu egokietan, AI teknologiak probatuko ditugu ingurune mugatuetan eta haien funtzionamendua kontrolatuko dugu zabaldu ondoren.

4. Jendearen aurrean kontuak izan.

Iritzia, azalpen garrantzitsuak eta erakargarritasuna emateko aukera egokiak eskaintzen dituzten AI sistemak diseinatuko ditugu. Gure AI teknologiak giza zuzendaritza eta kontrol egokiaren menpe egongo dira.

5. Pribatutasunaren diseinuaren printzipioak txertatzea.

Gure pribatutasun-printzipioak gure AI teknologien garapenean eta erabileran sartuko ditugu. Jakinarazpena eta baimena emateko aukera emango dugu, pribatutasun-bermeak dituzten arkitekturak bultzatuko ditugu eta datuen erabileraren gardentasun eta kontrol egokia emango dugu.

6. Bikaintasun zientifikoko estandar altuei eustea.

Berrikuntza teknologikoa metodo zientifikoan eta ikerketa irekiaren, zorroztasun intelektualaren, osotasunaren eta lankidetzaren aldeko apustuan oinarritzen da. AI tresnek ikerketa zientifikoaren eta ezagutzaren eremu berriak desblokeatzeko ahalmena dute biologia, kimika, medikuntza eta ingurumen-zientzietan bezalako domeinu kritikoetan. Bikaintasun zientifikoko estandar altuak izatea nahi dugu, IAren garapenean aurrera egiten dugun bitartean.

Hainbat eragilerekin lan egingo dugu arlo honetan lidergo gogoetatsua sustatzeko, zientifikoki zorrotzak eta diziplina anitzeko ikuspegiak erabiliz. Eta arduraz partekatuko dugu AI ezagutza, jende gehiagok AI aplikazio erabilgarriak garatzeko aukera ematen duten hezkuntza-materialak, praktika onak eta ikerketak argitaratuz.

7. Printzipio hauekin bat datozen erabileretarako eskuragarri egotea.

Teknologia askok erabilera anitz dituzte. Potentzialki kaltegarriak edo abusuak izan daitezkeen aplikazioak mugatzeko lan egingo dugu. AI teknologiak garatzen eta zabaltzen ditugun heinean, balizko erabilerak ebaluatuko ditugu faktore hauen arabera:

• Helburu nagusia eta erabilera: teknologia eta aplikazio baten helburu nagusia eta erabilera litekeena, irtenbidea erabilera kaltegarri bati zenbateraino lotuta dagoen edo harekin egoki daitekeen barne.
• Natura eta berezitasuna: teknologia bakarra edo orokorrean eskuragarri jartzen ari garen
• Eskala: teknologia honen erabilerak eragin handia izango duen
• Google-ren parte-hartzearen izaera: erabilera orokorreko tresnak eskaintzen ari garen, bezeroentzako tresnak integratzen edo irtenbide pertsonalizatuak garatzen ari garen

Ez ditugun AI aplikazioak jarraituko

Aurreko helburuez gain, ez dugu AI diseinatuko edo zabalduko aplikazio-eremu hauetan:

1. Kalte orokorra eragiten duten edo eragin dezaketen teknologiak. Kalte-arrisku materiala dagoenean, onurak arriskuak nabarmen gainditzen dituela uste dugunean bakarrik jarraituko dugu eta segurtasun-murriztapen egokiak sartuko ditugu.
2. Helburu edo ezarpen nagusia pertsonei zauriak eragitea edo zuzenean erraztea duten armak edo bestelako teknologiak.
3. Nazioartean onartutako arauak hausten dituzten zaintzarako informazioa biltzen edo erabiltzen duten teknologiak.
4. Helburuak nazioarteko zuzenbidearen eta giza eskubideen printzipioak oso onartuak kontrasten dituen teknologiak.

Espazio honetan dugun esperientzia sakontzen doan heinean, zerrenda honek eboluzionatu egin dezake.

Ondorioa

Printzipio hauek gure enpresarako eta etorkizuneko IA garatzeko oinarri egokiak direla uste dugu. Arlo hau dinamikoa eta eboluzionala dela aitortzen dugu, eta gure lanari umiltasunez, barne eta kanpoko konpromisoarekin eta denboran ikasi ahala gure ikuspegia egokitzeko borondatearekin helduko diogu.

Emaitza positibo honek ez du Google erraldoi teknologikoa kentzen duten beste hainbat arlotan konplizitatetik libratzen, hala nola, ICE, polizia eta beste jarduera militar batzuen laguntzarekin, pertsonei buruzko datu pribatuetarako sarbidea batu eta saltzea, bilatzaileen emaitzetatik adierazpen politiko eztabaidagarriak ezkutatzea. eta, batez ere, langileei gai horiei eta beste batzuei buruz hitz egiten jarraitzeko aukera ematea, horregatik kaleratu gabe. Google langileen matxinada mugimenduak aktibo eta oso engaiatuta jarraitzen du.

Aldi berean, garrantzitsua da Google langileen mugimenduak zenbaterainoko eragina izan zuen aitortzea. Google-ren protestak hasi eta berehala argi geratu zen hori: Pentagonoko marketin-sailek garai batean zirraragarria den Project Maven-ari buruzko prentsa-ohar berriak igortzeari utzi zioten, azkenean proiektua lehen bilatzen zuen ikusgarritasun publikotik guztiz "desagertzen" zen. Horren ordez, Pentagonoaren maltzurkeriatik adimen artifizialaren ekimen berri eta askoz handiagoa sortzen hasi zen. Defentsa Berrikuntza Batzordea.

Hau deitzen zen JEDI proiektua, Pentagonoak puntako armen gastuaren izen berria. JEDI proiektuak Project Mavenek baino askoz ere diru gehiago gastatuko luke, baina proiektu berriaren publizitate blitz-ak (bai, AEBetako armadak bat gastatzen du. asko denbora eta arreta publizitatean eta marketinean) oso desberdina zen aurrekoaren aldean. "Black Mirror" irudi dotore eta sexy guztiak desagertu ziren. Orain, AI bidezko droneek gizakiei eragin ditzaketen izu distopiko zirraragarri eta zinematografikoak azpimarratu beharrean, JEDI Proiektuak eraginkortasunerako aurrerapauso soila gisa azaldu zuen bere burua, hodeiko hainbat datu-base konbinatuz "gerralariei" laguntzeko (Pentagonoaren hitzik gogokoena). lehen lerroko langileak) eta back-office laguntza-taldeek informazioaren eraginkortasuna maximizatzen dute. Project Maven zirraragarria eta futurista izateko diseinatu zen, Project JEDI zentzuzkoa eta praktikoa izateko diseinatu zen.

Ez dago ezer zentzuzko edo praktikorik JEDI Proiektuaren prezioari buruz. Munduaren historiako software militarraren kontratu handiena da: 10.5 mila milioi dolar. Gure begietako asko distiratsu geratzen dira gastu militarren eskalen berri entzutean, eta milioi eta milioien arteko aldea salta dezakegu. Ezinbestekoa da ulertzea Pentagonoko aurreko edozein software-ekimen baino zenbat handiagoa den Project JEDI. Joko aldatzailea da, aberastasuna sortzeko motorra, zergadunen kontura irabaziak egiteko txeke hutsa.

Gobernuaren prentsa-oharren gainazalean murrizten laguntzen du 10.5 mila milioi dolar bezainbesteko gastu militarraren txeke zuri bat ulertzen saiatzean. Militarren argitalpenetatik informazio batzuk atera daitezke, kezkagarri bat bezala 2019ko abuztuan Elkarrizketa Inteligentzia Artifizialaren Zentro Bateratua Jack Shanahan teniente jeneralarekin, bai desagertutako Project Maven bai Project JEDI berrian funtsezko figura. Defentsa industriaren barnekoek JEDI proiektuari buruz nola pentsatzen duten ezagutzeko gai izan nintzen defentsa industria izeneko podcast bat entzunda. "38. proiektua: Gobernuaren kontratazioaren etorkizuna". Podcasteko gonbidatuek sarritan argi eta lotsagabe hitz egiten dute eztabaidatzen ari diren gaiari buruz. "Aurten jende askok igerileku berriak erosiko ditu" podcast honen barneko txataren ohikoa zen JEDI proiektuari buruz. Izango direla ziur gaude.

Hona hemen Google-ren AI printzipioekin lotzen den gauza nabarmena. 10.5 mila milioi dolarreko JEDI kontratu masiborako hiru aurrekari agerikoak Google, Amazon eta Microsoft izango ziren, ordena horretan, AI berritzaile gisa duten ospearen arabera. 2018an Project Maven-en aurkako langileen protesta dela eta, AI liderra Googlek 2019an askoz ere proiektu handiagoko JEDI kontuan hartu gabe. 2019aren amaieran, kontratua Microsoft-era joan zela iragarri zen. Albisteen estaldura mordoa etorri zen, baina estaldura hau Amazon eta Microsoft-en arteko lehian zentratu zen batez ere, eta ziurrenik Microsoft-ek 3. postuan Amazoni irabazi zion 2. postuari irabazi zion Trump-en administrazioak Washington Post-ekin izandako borrokaldiaren ondorioz. Amazoneko Jeff Bezos-en jabetzakoa da. Amazon epaitegietara joango da orain Pentagonoak Microsoft-i egindako 10.5 mila milioi dolar opariaren aurka borrokatzeko, eta Oraclek ere auzitara jo du. Goian aipatutako Project 38 podcast-eko ohar zehatzak – “Aurten jende askok igerileku berriak erosiko ditu”– Microsoft-en finantza-onari ez ezik, auzi hauetan parte hartuko duten abokatu guztiei ere egin die erreferentzia. Ziurrenik, asmakizun argi bat egin dezakegu JEDI Proiektuaren 3 mila milioi dolarren % 10.5 baino gehiago abokatuentzat izango dela. Lastima ezin dugula laguntzeko erabili munduko gosea amaitzea ordez.

Zergadunen diruaren transferentzia horrek kontratista militarrei Microsoft, Amazon edo Oracleri mesede egin behar dion ala ez eztabaidan nagusitu da JEDI Proiektuaren albisteen estalduran. Injerto lizun honetatik atera behar den mezu positibo bakarra - Googlek munduko historiako software militarren kontratu handienetik aldendu izana langileen protesta dela eta - ia ez da existitzen JEDI Proiektuaren albisteetan. 

Horregatik garrantzitsua izan zen pasa den astean Manhattan erdialdeko gela jendez betetako gela batean bildutako teknologia ardatz duten aktibistei istorio hau kontatzea gure planeta nola salba dezakegun hitz egiteko, nola borrokatu dezakegun desinformazioaren eta klima zientziaren politizazioaren aurka. nola aurre egin dezakegun erregai fosilen aprobetxatzaileen eta armen aprobetxatzaileen botere masiboari. Gela txiki honetan, denok jasaten ari ginen arazoaren dimentsioak eta guk geuk betetzen hasi behar genuen paper kritikoa. Teknologia komunitateak botere handia du. Desinbertsio-kanpainek benetako aldea eragin dezaketen bezala, teknologia-langileen matxinadek benetako aldea eragin dezakete. Klima-aldaketaren ekintzaileak, teknologia-langileen matxinada-ekintzaileak eta gerraren aurkako ekintzaileak elkarrekin lanean hasteko modu asko daude, eta ahal dugun modu guztietan egingo dugu.

Topaketa honekin hasiera itxaropentsu bat izan genuen, laguntasunez hasitakoa Extinction Rebellion NYC Mundua ezin da itxaron. Mugimendu hau hazi egingo da, hazi behar du. Erregai fosilen gehiegikeria da klima aldaketaren aurkako manifestarien ardatza. Erregai fosilen erabilera abusua AEBetako inperialismoaren irabazi-asmo nagusia eta AEBetako armada hanpatuaren xahupen jardueraren emaitza ikaragarria da. Izan ere, AEBetako armadak hala dirudi munduko kutsatzailerik txarrena. Erabili al dezakete teknologia-langileek gure antolakuntza-ahalmena Googlek JEDI proiektutik ateratzeak baino are eragin handiagoa lortzeko garaipenetarako? Ahal dugu eta behar dugu. Joan den asteko New Yorkeko bilera aurrerapauso txiki bat besterik ez zen izan. Gehiago egin behar dugu, eta gure protesta mugimendu konbinatuan lortu dugun guztia eman behar diogu.

Marc Eliot Stein teknologia eta sare sozialen zuzendaria da World BEYOND War.

Gregory Schwedock erabiltzailearen argazkia.