"Google ez litzateke gerrako negozioan egon": adimen artifizialaren armategia ulertzea

Marc Eliot Stein-ek, June 8, 2018

Apirilaren hasieran, 3100 Google langile baino gehiagok sinatu zuten gutun bat hau da, "Google ez luke gerraren negozioan" hitzekin hasten. Gutuna da konpainiaren Estatu Batuetako Defentsa Defentsa Adimen artifizialeko proiektu berri baten proiektuaren erantzuna, Maven izeneko proiektua, hau da, "AI pertsonalizatutako zaintza motorra" deskribatzen du. drones, eta Google-ren langileek beren kudeaketari eskaera indartsuarekin amaitzen dute:

"Google-ren erantzukizun morala eta etikoa aitortuz eta Google-ren ospeari mehatxupena aitortzen dizugu:

1. Utzi berehala proiektua

2. Aurrera, iragarri eta argitu ezazu politika argi bat eginez, Googlek eta haren kontratistek ez dutela inoiz gerrako teknologia sortuko "

Protesta eta erantzukizun sozialaren ekintza ausart honek bere argitasuna nabarmentzen du, eta merezi du zientzialari aktiboak edo gerrako izugarrikeriak zuzenean aurka egiten duten langile ezagunak ezagutzen direla. Russell-Einstein manifestua 1955en eskutik, hau da, gerra desagertzearren, armak nuklearrak alderdi guztietan armaturiko bide bakarra da.

Gutun bikain honek, Google-ko dozenaka langile izandako dimisioa, frogatu zuen bere boterea hilabete beranduago Google-ren kudeaketa hori iragarri zuenean ez zuen Maven proiektua berritu kontratua martxoan amaitu zenetik 2019, eta Google-ren ospea publikoaren aurkako "erreakzio" aitortu du kudeaketa erabaki honen arrazoi nagusia. Erantzun horrek ez du jatorrizko gutunaren eskaerak betetzen, argi eta garbi, norabide egokian urrats bat da, eta Google-ren langileen protesta ekintza potentziala erakusten du, munduak Estatu Batuek AEBetan burutzen duen oinarri gisa erakusten duena. militarrak (eta ustez, beste indar militar batzuk ere) azkar ari dira mugitzen adimen artifiziala armatzeko.

World BEYOND War Google-ko langile horiei eskerrak emateko eskaera berri bat argitaratu du. Ez diegu soilik eskertu behar izan beren ausardia, baizik eta bakoitzak ere gogor pentsatu beharko luke geure buruari teknologia modu berri honen inplikazioei, eta gure erantzukizun partekatua etengabe erabiltzen den kasu okerrenak ekiditeko.

Kasurik okerrenak irudikatzeko modurik onena adimen artifiziala gure eguneroko bizitzan dagoeneko bi gaitasunen militarizazioaz pentsatzea da: aurpegiko aitorpena eta gidaririk gabeko ibilgailuak. Facebook-en argazki bat etiketatu bazenuenez, adimen artifiziala algoritmoaren bidez erraz eta berehala identifikatu ahal izateko puntura iritsi da dagoeneko. "Segurtasun kamerak" ere mundu osoan zehar igo dira, bat-batean erakunde ezezagunek aukera ezin hobea dute aurrez aurre eta gure baimenik gabe, ezagutza edo kontrolik gabe gure informazioa biltzen duten "identitate datu-baseak" biltzeko.

Gidaririk gabeko ibilgailuen teknologiak ere aurrera egin du herri komunen jabetzarekin eta inplikazio txikiarekin. Gidaririk gabeko auto batean lehen heriotza 2016en izan zen, Tesla kamioi batean sartu zenean. Ibilgailurik gabeko ibilgailuak hiltzen dituen lehen kasua duela hiru hilabete besterik ez zen2018 martxoan, Uber autonomia batek kalean zeharkatu zuen emakume bat Arizona-k eraso egin zuenean.

Gertakari horiek Google-ren gutunaren premia azaltzen dute, irabaziak, lehia eta akziodunaren balioek obsesionatuta duten teknologiaren industria islatzen duena. Hona hemen gure munduak jadanik dagoen arazoaren irudi oso bat eta gaur egun aurre egiten ditugun ondorio latzak ulertu behar diren beste puntu batzuk.

Project Maven proiektu txikia da. JEDI proiektu handiagoa da.

Google-ko gutunak Project Maven-ekin arreta jarri zuen, konpainiak orain berretsiko duela berretsiko duela. Garrantzitsuena ere, gutunak AEBetako Defentsa Saileko proiektu handiagoa JEDI (Joint Enterprise Defense Infrastructure) izeneko proiektua agertu du, gai honi arreta emateko arreta nagusia izan behar lukeena. Proiektu sekretu honi buruzko informazio publikoa gutxi dago, baina bere esparrua adimen artifiziala eta hodei informatika barne hartzen ditu, informatika indar eta eskalagarritasun handia adierazten duena, baita datu pertsonal geografikoak eta banakako datu-baseak ere ez duen oinarrizko hornidura sarbidea.

Teknologia militarreko proiektu gehienek bezala, JEDI ez da ordaindu behar duten zergadunentzat ere ikusgai egoteko, baina espero dugu proiektu handi eta garbi honi buruzko informazioa jendearentzat argitaratuko dela. "Star Wars" izenekoa deitzen duen proiektuaren izenaren aukeraketa ausarta iradokitzen du Defentsa Sailak proiektu hau handitasun eta autoeragintza maila kezkagarri batekin ikusteko. Yoda ez litzateke harrituta.

Googleko langileek hitz egin zuten. Non daude Amazon eta Microsoft langileek?

3100 + Googleko langileek sinatutako gutuna beste enpresa batzuek izendatzen dute izenarekin:

"Beste enpresa batzuek, Microsoft eta Amazon bezalakoak ere, parte hartzen duten argudioak ez du Google-rako arriskutsua".

Izan ere, cloud konputazioaren arlo oso irabazian, Amazon Google baino handiagoa da. Jende gehienak Amazonek munduko denda online handiena dela pentsatzen duen arren, software garatzaileek eta teknologoek Amazon guztiz desberdina dute. Konpainiak mundu mailan lidertzen du cloud computing-en, erakunde txikiak eta handiak zerbitzari gaitasunak erraz eta azkar erosteko eta erabiltzeko. Duela hamar urte, enpresa gehienak zerbitzarietan zituzten. Gaur egun, enpresa gehienek zerbitzari espazioa alokatzen dute Amazonetik. Gobernuak eta erakunde militarrak Amazon-en hodei-zerbitzuetan oinarritzen dira. Horrez gain, adimen artifizial aurreratua eta datu-basearen gaitasunak ere sartzen dira. Amazon-eko langileek Google-ko kideek inspiratuta egongo direla espero dugu eta jendeari egindako lanaren ondorio sozialen inguruan hitz egiten hasi beharko litzateke. Amazon-eko langileek Google-ren kideek diotenaren arabera deklaratuko dute "Amazonek ez luke gerraren negozioan egon"?

Google eta Amazon bezalako enpresek iturri irekiko komunitateekiko konpromiso paregabea dute.

Korporazio guztiek ez dira berdinak, eta, hain zuzen ere, Google-ren auto-inposatutako araua "Not Be Evil"-ri serio hartu zaio iturri irekiko garatzaile ugarirekin, agian Google langile izan ez arren, baina Google-rekin laguntzen eta elkarreragiten dute iturburu irekiko liburutegietan. TensorFlow, sakon ikasteko gaitasunak eskaintzen ditu.

Horregatik, Google langileen gutunaren iturburuen garatzaileentzako mundu mailako komunitatearentzat hain olatu deigarria izan zen. Raytheon edo General Dynamics bezalako kontratista militar tradizionalak normalean TensorFlow bezalako adimen artifizialeko liburutegi pribatuetan egiten du bere lana, korporazioen eta herri publikoen arteko lankidetza bakarrak. Kode irekiko software komunitate globalak Interneten garapen eta hazkunde osasuntsuaren alde egin du, eta komunitate honek beti erantzukizun sozial zentzua izan du. Langileek diotenez, "Google-k ez luke gerraren negozioan egon", Google-ren lankideek ez ezik, kode irekiko garatzaileek beren proiektuetan laguntzen duten nazioarteko komunitatearentzat ere hitz egiten dute.

Arma IA errealitatea da orain, eta ez Estatu Batuetan bakarrik.

Ezingo genuke 3100 Google langileek eskutitz bat eskatu behar, adimen artifizial armatuaren garaia dagoeneko guretzat adina ohartarazteko, eta ez bakarrik Ameriketako Estatu Batuetan. AEBetan, ezinbestean, beste herrialde batzuek AI-ren eremuan egiten ari direnaren inguruko beldurra eta histeria publikoa sortuko da. Mundu osoko ustezko militarrak ziur asko armaz kanpoko lasterketa horri ugaritu egiten zaie. Hori da dagoeneko dagoen egoeraren errealitate izugarria.

Erantzun zintzoa da gerra ezabatzea.

Bertrand Russell, Albert Einstein-ekin eta beste batzuek 1955-en sinatutako ugaritasun nuklearraren inguruko agiriak oraindik ere irtenbidea ematen digun erantzuna adierazi zuen. Beldurraren eta lehertuko den mundu baten segurtasunerako bide bakarra gerra ezabatzea da. Hori argi zegoen 1955en, baina garai hartako buruak ez ziren itxaropen hori emateko gai.

Gaur egun, 63 urte geroago, beti bezain argi ikusten dugu gerrak gerra gehiago besterik ez duela ekartzen eta aurrerapen teknologikoek apustua areagotzen jarraituko dutela. Denbora errealeko datu base masiboetara konektatutako eta adimen artifizialeko gaitasun puntualekin gizakiak atzetik dabiltzan hiltzaileen dronen ikuspegi gaiztoa ez da etorkizuneko ikuspegia ("Metalhead" atal beldurgarrian gertatu zen moduan). "Ispilu Beltza", iaz bakarrik emititu zena). Pieza guztiak eginda daude ikuspegi gaixotasun hori errealitate bihurtzeko, eta Google-ko 3100+ langileen ekintza ausartak agerian utzi digu orain moral estandarra defendatzeko konpromisoa hartu duten korporazio batzuek abiadura bizian aurrera egiten dutela etorkizun honetara inork ez duela nahi. Apustua igo da, berriro ere. Erantzukizuna guztiok dugu - Google-ko langileek ez ezik, software garatzaileek, baina guztiok ere - munduak inoiz ezagutu duen arazorik larriena konpontzeko eta gerra erabat abolitzeko bidean.