Nga Marc Eliot Stein, 10 shkurt 2020

Më ftuan kohët e fundit për të folur në një tubim të rebelimit të shfarosjes në New York City në emër të World BEYOND War. Ngjarja ishte krijuar për të mbledhur tre grupe veprimi: aktivistë për ndryshimin e klimës, kolektivë të punëtorëve të teknologjisë dhe aktivistë kundër luftës. Ne filluam me një llogari tronditëse personale nga aktivisti për ndryshimin e klimës Ha Vu, i cili u tha turmës së New Yorkers për një përvojë alarmante që disa prej nesh kanë pasur ndonjëherë: të kthehen në shtëpinë e familjes së saj në Hanoi, Vietnam, ku nxehtësia e shtuar tashmë e ka bërë gati të pamundur shëtitjen jashtë gjatë orëve të pikut të diellit. Pak amerikanë dinë gjithashtu për këtë Katastrofë e ndotjes së ujit 2016 në Ha Tinh në Vietnamin qendror. Shpesh flasim për ndryshimin e klimës si një problem i mundshëm në SH.B.A., theksoi Ha, por në Vietnam ajo mund ta shohë atë tashmë duke prishur jetën dhe jetesën, dhe shpejt përkeqësohet.

Nick Motter i KnowDrones.org foli me urgjencë të ngjashme për investimet masive të fundit të ushtrisë amerikane në inteligjencën artificiale futuriste dhe kompjuterin në re - dhe theksoi përfundimin e vetë ushtrisë që vendosjet e sistemeve AI në menaxhimin e armëve bërthamore dhe luftën me dronë do të çojnë në mënyrë të pashmangshme në gabime të përmasave të paparashikueshme. William Beckler i Shuarjes Rebellion NYC ndoqi duke shpjeguar parimet e organizimit që kjo organizatë e rëndësishme dhe me rritje të shpejtë i vë në veprim, duke përfshirë veprime përçarëse të krijuara për të rritur ndërgjegjësimin për rëndësinë kritike të ndryshimit të klimës. Kemi dëgjuar nga një përfaqësues i New York City i Koalicioni i Punëtorëve të Teknikës, dhe unë u përpoqa të përqëndroja mbledhjen drejt një ndjenje fuqizimi praktik duke folur për një veprim rebelimi të punëtorëve të teknologjisë që ishte papritur i suksesshëm.

Kjo ishte në Prill 2018, kur e ashtuquajtura "industria e mbrojtjes" po gumëzhiste për Project Maven, një iniciativë e re shumë e reklamuar ushtarake amerikane për të zhvilluar aftësi të inteligjencës artificiale për dronët dhe sistemet e tjera të armëve. Google, Amazon dhe Microsoft ofrojnë të gjitha platformat e inteligjencës artificiale jashtë raftit për pagimin e klientëve, dhe Google u konsiderua si fituesi i mundshëm i kontratës ushtarake të Project Maven.

Në fillim të vitit 2018, punëtorët e Google filluan të flasin. Ata nuk e kuptuan pse një kompani që i kishte rekrutuar ata si punonjës me pengun "Mos u bëj keq" tani po bënte oferta për projekte ushtarake që ka të ngjarë të ngjajnë me episodin e tmerrshëm të "Mirror Black" në të cilin qentë mekanikë të mbështetur nga AI mbështesin njerëzimin qenie deri në vdekje. Ata folën në mediat sociale dhe në media tradicionale. Ata organizuan aksione dhe qarkulluan peticione dhe u bënë të dëgjuar.

Kjo rebelim i punëtorëve ishte gjenezë e lëvizjes Google Workers Rebelion dhe ndihmoi në ngritjen e kolektivëve të tjerë të punëtorëve të teknologjisë. Por gjëja më befasuese në lidhje me protestën e brendshme të Google kundër Project Maven nuk ishte se punëtorët e teknologjisë po flisnin. Gjëja më befasuese është ajo Menaxhimi i Google u dha kërkesave të punëtorëve.

Dy vjet më vonë, ky fakt akoma më trondit. Kam parë shumë probleme etike në dekadat e mia si punëtor i teknologjisë, por kam parë rrallë që një kompani e madhe pajtohet kategorikisht që të adresojë problemet etike në një mënyrë të konsiderueshme. Rezultati i rebelimit të Google kundër Project Maven ishte publikimi i një grupi parimesh të AI që ia vlen të ribotohen këtu plotësisht:

Inteligjenca artificiale në Google: Parimet tona

Google aspiron të krijojë teknologji që zgjidhin probleme të rëndësishme dhe i ndihmojnë njerëzit në jetën e tyre të përditshme. Ne jemi optimistë në lidhje me potencialin e jashtëzakonshëm për AI dhe teknologjitë e tjera të përparuara për të fuqizuar njerëzit, të përfitojnë gjerësisht brezat e tanishëm dhe të ardhshëm dhe të punojnë për të mirën e përbashkët.

Objektivat për aplikimet e AI

Ne do të vlerësojmë aplikimet e UA-së duke pasur parasysh objektivat e mëposhtëm. Ne besojmë se AI duhet:

1. Jetë i dobishëm nga shoqëria.

Arritja e zgjeruar e teknologjive të reja prek gjithnjë e më shumë shoqërinë në tërësi. Përparimet në UA do të kenë ndikime transformuese në një gamë të gjerë fushash, duke përfshirë kujdesin shëndetësor, sigurinë, energjinë, transportin, prodhimin dhe argëtimin. Ndërsa marrim në konsideratë zhvillimin e mundshëm dhe përdorimet e teknologjive të AI, ne do të marrim parasysh një gamë të gjerë të faktorëve social dhe ekonomik, dhe do të vazhdojmë atje ku besojmë se përfitimet e përgjithshme të mundshme tejkalojnë ndjeshëm rreziqet dhe rreziqet e parashikueshme.

AI gjithashtu rrit aftësinë tonë për të kuptuar kuptimin e përmbajtjes në shkallë. Ne do të përpiqemi të bëjmë informacione me cilësi të lartë dhe të sakta, të gatshme në dispozicion, duke përdorur AI, duke vazhduar të respektojmë normat kulturore, sociale dhe ligjore në vendet ku veprojmë. Dhe ne do të vazhdojmë të vlerësojmë me mendime se kur t'i bëjmë teknologjitë tona në dispozicion mbi një bazë jo-komerciale.

2. Shmangni krijimin ose forcimin e paragjykimeve të padrejta.

Algoritmet dhe të dhënat e AI mund të pasqyrojnë, përforcojnë ose zvogëlojnë paragjykimet e padrejta. Ne e pranojmë që të dallosh të drejtën nga paragjykimet e padrejta nuk është gjithmonë e thjeshtë dhe ndryshon në të gjithë kulturat dhe shoqëritë. Ne do të kërkojmë të shmangim ndikimet e padrejta te njerëzit, veçanërisht ato që lidhen me karakteristikat e ndjeshme si raca, përkatësia etnike, gjinia, kombësia, të ardhurat, orientimi seksual, aftësia dhe besimi politik ose fetar.

3. Të jetë i ndërtuar dhe testuar për siguri.

Ne do të vazhdojmë të zhvillojmë dhe të përdorim praktika të forta sigurie dhe sigurie për të shmangur rezultatet e paqëllimta që krijojnë rreziqe të dëmtimit. Ne do të hartojmë sistemet tona të AI për të qenë të kujdesshëm, dhe do të përpiqemi t'i zhvillojmë ato në përputhje me praktikat më të mira në hulumtimin e sigurisë së AI. Në raste të përshtatshme, ne do të testojmë teknologjitë e AI në mjedise të kufizuara dhe do të monitorojmë funksionimin e tyre pas vendosjes.

4. Jini përgjegjës para njerëzve.

Ne do të hartojmë sisteme AI që ofrojnë mundësi të përshtatshme për reagime, shpjegime përkatëse dhe apel. Teknologjitë tona të UA do t'i nënshtrohen drejtimit dhe kontrollit të duhur njerëzor.

5. Përfshini parimet e dizajnit të intimitetit.

Ne do të përfshijmë parimet tona të privatësisë në zhvillimin dhe përdorimin e teknologjive tona AI. Ne do të japim mundësi për njoftim dhe pëlqim, inkurajojmë arkitekturat me masa mbrojtëse për privatësinë dhe sigurojmë transparencë dhe kontroll të duhur mbi përdorimin e të dhënave.

6. Mbështet standarde të larta të përsosmërisë shkencore.

Risia teknologjike është e rrënjosur në metodën shkencore dhe një angazhim për hetim të hapur, ashpërsi intelektuale, integritet dhe bashkëpunim. Mjetet e AI kanë potencialin për të zhbllokuar fushat e reja të kërkimit shkencor dhe njohurive në fusha kritike si biologjia, kimia, mjekësia dhe shkencat mjedisore. Ne synojmë standarde të larta të përsosmërisë shkencore ndërsa punojmë për përparimin e zhvillimit të AI.

Ne do të punojmë me një gamë të palëve të interesuara për të promovuar udhëheqjen e zhytur në mendime në këtë fushë, duke u mbështetur në qasje shkencore rigoroze dhe multidisiplinare. Dhe ne do të ndajmë me përgjegjësi njohuritë e UA-së duke botuar materiale arsimore, praktikat më të mira dhe hulumtime që mundësojnë më shumë njerëz që të zhvillojnë aplikacione të dobishme për AI.

7. Të vihet në dispozicion për përdorimet që përputhen me këto parime.

Shumë teknologji kanë përdorime të shumta. Ne do të punojmë për të kufizuar aplikimet potencialisht të dëmshme ose abuzive. Ndërsa zhvillojmë dhe vendosim teknologji të AI, ne do të vlerësojmë përdorimet e mundshme në dritën e faktorëve të mëposhtëm:

• Qëllimi dhe përdorimi parësor: qëllimi parësor dhe përdorimi i mundshëm i një teknologjie dhe aplikacioni, duke përfshirë se sa e lidhur zgjidhja është e lidhur me ose të adaptueshme për një përdorim të dëmshëm
• Natyra dhe unike: qoftë ne jemi duke e vënë në dispozicion teknologjinë që është unike ose në përgjithësi në dispozicion
• Scale: nëse përdorimi i kësaj teknologjie do të ketë ndikim domethënës
• Natyra e përfshirjes së Google: nëse ne ofrojmë mjete për qëllime të përgjithshme, mjete integruese për klientët, ose zhvillojmë zgjidhje me porosi

Aplikime AI që nuk do t'i ndjekim

Përveç objektivave të mësipërm, ne nuk do të hartojmë ose vendosim UA në fushat e mëposhtme të aplikimit:

1. Teknologjitë që shkaktojnë ose ka të ngjarë të shkaktojnë dëm të përgjithshëm. Kur ekziston një rrezik material i dëmtimit, ne do të veprojmë vetëm kur besojmë se përfitimet në masë të madhe i tejkalojnë rreziqet, dhe do të përfshijnë kufizime të përshtatshme të sigurisë.
2. Armët ose teknologjitë e tjera qëllimi kryesor ose zbatimi i të cilave është të shkaktojë ose lehtësojë drejtpërdrejt dëmtimin e njerëzve.
3. Teknologjitë që mbledhin ose përdorin informacione për mbikëqyrje duke shkelur normat e pranuara ndërkombëtarisht.
4. Teknologjitë qëllimi i të cilave bie në kundërshtim me parimet e pranuara gjerësisht të së drejtës ndërkombëtare dhe të drejtat e njeriut.

Ndërsa përvoja jonë në këtë hapësirë ​​thellohet, kjo listë mund të evoluojë.

Përfundim

Ne besojmë se këto parime janë themeli i duhur për kompaninë tonë dhe zhvillimin tonë të ardhshëm të AI. Ne e pranojmë që kjo zonë është dinamike dhe po zhvillohet, dhe ne do t'i qasemi punës tonë me përulësi, një angazhim ndaj angazhimit të brendshëm dhe të jashtëm dhe një gatishmëri për të përshtatur qasjen tonë ndërsa mësojmë me kalimin e kohës.

Ky rezultat pozitiv nuk e shfajëson gjigantin e teknologjisë Google nga bashkëpunimi në fusha të tjera me shqetësim të madh, të tilla si mbështetja e ICE, policia dhe aktivitete të tjera ushtarake, grumbullimi dhe shitja e aksesit në të dhënat private për individët, fshehja e deklaratave politike të diskutueshme nga rezultatet e motorit të kërkimit dhe, më e rëndësishmja, lejimi i punonjësve të saj të vazhdojnë të flasin për këto dhe çështje të tjera pa u larguar nga puna për ta bërë këtë. Lëvizja rebeluese e punëtorëve të Google mbetet aktiv dhe shumë e angazhuar.

Në të njëjtën kohë, është e rëndësishme të pranoni se sa ndikues ka qenë lëvizja e punëtorëve të Google. Kjo u bë e qartë menjëherë pasi filluan protestat e Google: departamentet e marketingut të Pentagonit ndaluan lëshimin e deklaratave të reja për shtyp në lidhje me Projektin njëherë emocionues të Maven, përfundimisht "zhdukja" e projektit plotësisht nga shikimi publik që kishte kërkuar më parë. Në vend të kësaj, një iniciativë e re dhe shumë më e madhe e inteligjencës artificiale filloi të dalë nga tinëzari i Pentagonit Bordi i Inovacionit të Mbrojtjes.

Kjo u quajt Projekti JEDI, një emër i ri për shpenzimet e Pentagonit për armë të mprehta. Projekti JEDI do të shpenzonte shumë më tepër para sesa Project Maven, por njoftimi për reklamën për projektin e ri (po, ushtria amerikane harxhon një shumë të kohës dhe vëmendjes ndaj publicitetit dhe marketingut) ishte shumë e ndryshme nga ajo e mëparshmja. Të gjitha imazhet me shkëlqim dhe seksi "Mirror Zi" u zhdukën. Tani, në vend që të nënvizonte tmerret emocionuese dhe kinematike të stresit nga dronët që mund të ndikonin nga AI, qeniet njerëzore, Projekti JEDI e shpjegoi veten si një hap të matur përpara për efikasitetin, duke kombinuar bazat e të dhënave të ndryshme të cloud për të ndihmuar “luftëtarët” (termi i preferuar i Pentagonit për personeli i vijës së përparme) dhe ekipet mbështetëse të zyrës së prapme maksimizojnë efektivitetin e informacionit. Kur Project Maven ishte krijuar për të tingëlluar emocionuese dhe futuriste, Projekti JEDI ishte krijuar për të tingëlluar i arsyeshëm dhe praktik.

Nuk ka asgjë të arsyeshme apo praktike në lidhje me çmimin për Projektin JEDI. Contractshtë kontrata më e madhe e softuerit ushtarak në historinë botërore: 10.5 miliardë dollarë. Shumë nga sytë tanë shkëlqejnë kur dëgjojmë për peshore të shpenzimeve ushtarake, dhe ne mund të kalojmë në ndryshimin midis miliona dhe miliarda. Shtë thelbësore për të kuptuar se sa më i madh është projekti JEDI sesa çdo iniciativë e mëparshme e softuerit Pentagon. It'sshtë një ndërrues loje, një motor që gjeneron pasuri, një kontroll bosh për përfitime nga shpenzimet e tatimpaguesit.

Ndihmon për të gërvishtur nën sipërfaqen e njoftimeve për shtyp të qeverisë kur përpiqesh të kuptosh një çek të bardhë të shpenzimeve ushtarake deri në 10.5 miliardë dollarë. Disa informacione mund të merren nga botimet e ushtrisë, si një shqetësues Intervistë në gusht 2019 me Qendrën e Përbashkët të Inteligjencës Artificiale, Gjeneral Lejtënant Jack Shanahan, një figurë kryesore në të dyja Projektin e Zhdukur dhe Projektin e ri JEDI. Unë kam qenë në gjendje të marr më shumë njohuri në lidhje me mënyrën se si inteligjentët e industrisë së mbrojtjes mendojnë për Projektin JEDI duke dëgjuar një podcast të industrisë së mbrojtjes të quajtur "Projekti 38: E ardhmja e Kontraktimit të Qeverisë". Vizitorët e Podcast shpesh flasin sinqerisht dhe pa mëdyshje për çfarëdo teme që diskutojnë. "Shumë njerëz do të blejnë pishina të reja këtë vit" ishte tipike e bisedës së brendshme të këtij podcasti për Projektin JEDI. Jemi të sigurt që do të jenë.

Këtu është gjëja e jashtëzakonshme që lidhet me parimet e AI të Google. Tre paraardhësit e qartë të kontratës masive prej 10.5 miliardë dollarësh JEDI do të kishin qenë Google, Amazon dhe Microsoft - në atë mënyrë, bazuar në reputacionin e tyre si inovatorë të AI. Për shkak të protestës së punëtorëve kundër Project Maven në 2018, udhëheqësi i AI Google nuk ishte në konsideratë për projektin shumë më të madh JEDI në 2019. Në fund të vitit 2019, u njoftua se kontrata shkoi te Microsoft. Pasoi një stuhi e mbulimit të lajmeve, por kjo mbulim u përqendrua kryesisht në rivalitetin midis Amazon dhe Microsoft dhe në faktin që vendi i tretë Microsoft u lejua ndoshta të mundte vendin e 3-të Amazon për fitoren për shkak të betejave të vazhdueshme të administratës Trump me Washington Post, e cila është në pronësi të Jeff Bezos të Amazon. Amazon tani po shkon në gjyq për të luftuar dhuratën e Pentagonit prej 2 miliardë dollarësh për Microsoft dhe Oracle po padit gjithashtu. Vërejtja specifike nga podcasti i Projektit 10.5 i përmendur më sipër - "Shumë njerëz do të blejnë pishina të reja këtë vit" - i referohej jo vetëm përfitimit financiar të Microsoft por edhe të gjithë avokatëve që do të marrin pjesë në këto procese gjyqësore. Ne ndoshta mund të bëjmë një mendim të arsimuar se më shumë se 38% e Projektit JEDI prej $ 3 miliardë do të shkojë për avokatët. Sa keq që nuk mund ta përdorim për të ndihmuar mbarojë uria botërore vend.

Mosmarrëveshja nëse ky transferim i parave të taksapaguesve te kontraktorët ushtarakë duhet të përfitojë nga Microsoft, Amazon ose Oracle ka mbizotëruar mbulimin e lajmeve të Projektit JEDI. Një mesazh pozitiv që duhet të merret nga kjo marrje e pahijshme - fakti që Google ishte larguar nga kontrata më e madhe e softverit ushtarak në historinë botërore për shkak të protestës së punëtorëve - ka qenë praktikisht inekzistente në mbulimin e lajmeve të Projektit JEDI. 

Kjo është arsyeja pse ishte e rëndësishme t'i tregojmë këtë histori aktivistëve të përqendruar në teknologji, të cilët u mblodhën në një dhomë të mbushur me njerëz në Manhattan javën e kaluar për të folur se si ne mund të shpëtojmë planetin tonë, si mund të luftojmë kundër dezinformimit dhe politizimit të shkencës së klimës, si mund të qëndrojmë para fuqisë masive të profituesve të karburanteve fosile dhe fituesve të armëve. Në këtë dhomë të vogël, të gjithë ne dukej se kapnim dimensionet e problemit që ndeshëm, dhe roli kritik që ne vetë duhet të fillojmë të luajmë. Komuniteti i teknologjisë ka fuqi të konsiderueshme. Ashtu si fushatat e zhvendosjes mund të bëjnë një ndryshim të vërtetë, rebelimet e punëtorëve të teknologjisë mund të bëjnë një ndryshim të vërtetë. Ka shumë mënyra që aktivistët e ndryshimit të klimës, aktivistët e rebelimit të punëtorëve të teknologjisë dhe aktivistët e luftës mund të fillojnë të punojnë së bashku, dhe ne do ta bëjmë këtë në çdo mënyrë që mundemi.

Ne patëm një fillim shpresëdhënës me këtë mbledhje, të iniciuar me ndihmë nga Zbukurimi i rebelimit NYC Bota nuk mund të presë. Kjo lëvizje do të rritet - duhet të rritet. Abuzimi me karburantet fosile është fokusi i protestuesve të ndryshimeve klimatike. Abuzimi me karburantet fosile është gjithashtu motiv kryesor i fitimit të imperializmit amerikan dhe një rezultat kryesor i tmerrshëm i aktiviteteve të kota të ushtrisë amerikane të fryrë. Në të vërtetë, ushtria amerikane duket se është e tillë ndotësi i vetëm më i keq në botë. A mundet që punëtorët e teknologjisë të përdorin fuqinë tonë organizative për fitoret edhe më me ndikim se tërheqja e Google nga Projekti JEDI? Ne mund dhe duhet. Takimi i javës së kaluar në New York City ishte vetëm një hap i vogël përpara. Ne duhet të bëjmë më shumë, dhe ne duhet t'i japim lëvizjes sonë të kombinuar proteste gjithçka që kemi.

Marc Eliot Stein është drejtor i teknologjisë dhe mediave sociale për World BEYOND War.

Foto nga Gregory Schwedock.