Eftir Marc Eliot Stein 10. febrúar 2020

Mér var nýlega boðið að tala á útrásarvíkingum í New York borg fyrir hönd World BEYOND War. Viðburðurinn var hannaður til að koma saman þremur aðgerðahópum: aðgerðasinnar í loftslagsbreytingum, samtökum tæknimanna og tæknifræðinga gegn stríðsátökum. Við hófum með hrærandi persónulegum frásögn frá aðgerðarsinni um loftslagsbreytingar, Ha Vu, sem sagði fjöldanum í New York-þjóðinni frá skelfilegri reynslu sem fá okkar hafa upplifað: heimkomu á heimili fjölskyldu sinnar í Hanoi, Víetnam, þar sem aukinn hiti hefur þegar gert það að verkum að það er næstum ómögulegt að ganga úti á sólarlagstímum. Fáir Bandaríkjamenn vita einnig um Vatnsmengun hörmung 2016 í Ha Tinh í miðri Víetnam. Við tölum oft um loftslagsbreytingar sem hugsanlegt vandamál í Bandaríkjunum, lagði Ha áherslu á, en í Víetnam getur hún séð að það raski lífi og lífsviðurværi og versni hratt.

Nick Mottern frá KnowDrones.org talaði með svipaðri brýnu um stórfellda fjárfestingu Bandaríkjahers í framúrstefnulegri gervigreind og skýjatölvum - og lagði áherslu á þá niðurstöðu hersins sjálfs að dreifing AI-kerfa við stjórnun kjarnorkuvopna og drónahernað muni óhjákvæmilega leiða til mistaka af ófyrirsjáanlegri stærðargráðu. William Beckler frá útrýmingaruppreisninni í NYC og síðan útskýrði þau skipulagsreglur sem þessi mikilvægu og ört vaxandi stofnun setur í framkvæmd, þar á meðal truflandi aðgerðir sem ætlað er að vekja athygli á mikilvægi loftslagsbreytinga. Við heyrðum í fulltrúa New York borgar Tækniverkamenn Sambandog ég reyndi að snúa samkomunni í átt að tilfinningu um hagnýta valdeflingu með því að tala um uppreisnaraðgerðir tæknimanna sem tóku óvæntan árangur.

Þetta var í apríl 2018, þegar hinn svokallaði „varnarmálariðnaður“ var að fjúka um Project Maven, mjög kynnt nýtt bandarískt hernaðarátak til að þróa gervigreindargetu fyrir dróna og önnur vopnakerfi. Google, Amazon og Microsoft bjóða öll upp á hilluna gervigreindarkerfi fyrir greiðsluviðskiptavini og Google var litið á sem líklegan sigurvegara í hernaðarsamningi Project Maven.

Snemma árs 2018 fóru starfsmenn Google að tala saman. Þeir skildu ekki hvers vegna fyrirtæki sem hafði ráðið þá sem starfsmenn með loforðinu „Vertu ekki illt“ bauð nú í hernaðarverkefni sem líklega líkjast þeim skelfilega þætti „Black Mirror“ þar sem vélknúnir hundar með AI knúna menn verur til dauða. Þeir töluðu á samfélagsmiðlum og við hefðbundna fréttastofu. Þeir skipulögðu aðgerðir og sendu bænir og létu heyra í sér.

Þessi uppreisn launamanna var tilurð uppreisnarhreyfingarinnar frá Google Workers og það hjálpaði til við að koma á framfæri samsöfnum annarra tæknimanna. En það furðulegasta við innri mótmæli Google gegn Project Maven var ekki að tæknimenn töluðu upp. Það furðulegasta er það Stjórn Google skilaði kröfum starfsmanna.

Tveimur árum seinna er þessi staðreynd ennþá óvænt hjá mér. Ég hef séð mörg siðferðileg vandamál á áratugum mínum sem tæknifræðingur, en sjaldan hef ég séð stórt fyrirtæki vera mjög sammála um að taka á siðferðilegum vandamálum á þýðingarmikinn hátt. Niðurstaðan af uppreisn Google gegn Project Maven var birt mengi AI meginreglna sem vert er að prenta hér að fullu:

Gervigreind hjá Google: Meginreglur okkar

Google stefnir að því að skapa tækni sem leysir mikilvæg vandamál og hjálpar fólki í daglegu lífi sínu. Við erum bjartsýn á ótrúlegan möguleika AI og annarrar þróaðrar tækni til að styrkja fólk, gagnast núverandi og komandi kynslóðum víða og vinna að almannaheill.

Markmið fyrir AI forrit

Við munum meta AI umsóknir með hliðsjón af eftirfarandi markmiðum. Við teljum að AI ætti að:

1. Vertu samfélagslegur hagur.

Útvíkkun nýrrar tækni snertir sífellt samfélagið í heild sinni. Framfarir í AI munu hafa umbreytandi áhrif á fjölmörgum sviðum, þar á meðal heilsugæslu, öryggi, orku, flutningum, framleiðslu og afþreyingu. Þegar við lítum til hugsanlegrar þróunar og notkunar AI tækni munum við taka tillit til margs félagslegra og efnahagslegra þátta og höldum áfram þar sem við teljum að líklegur ávinningur sé að verulegu leyti umfram fyrirsjáanlega áhættu og hæðir.

AI eykur einnig getu okkar til að skilja merkingu innihalds í stærðargráðu. Við munum leitast við að gera vandaðar og nákvæmar upplýsingar aðgengilegar með AI en halda áfram að virða menningarlegar, félagslegar og lagalegar viðmiðanir í löndunum þar sem við störfum. Og við munum halda áfram að meta vandlega hvenær á að gera tækni okkar aðgengilega á viðskiptalegum grunni.

2. Forðist að skapa eða styrkja ósanngjarna hlutdrægni.

AlI reiknirit og gagnapakkar geta endurspeglað, styrkt eða dregið úr ósanngjörnum hlutdrægni. Við gerum okkur grein fyrir því að það að greina ekki sanngjarnt frá ósanngjörnum hlutdrægni er ekki alltaf einfalt og er mismunandi milli menningarheima og samfélaga. Við munum leitast við að koma í veg fyrir óréttmæt áhrif á fólk, sérstaklega þau sem tengjast viðkvæmum einkennum eins og kynþætti, þjóðerni, kyni, þjóðerni, tekjum, kynhneigð, getu og stjórnmálalegum eða trúarlegum trú.

3. Verið smíðaðir og prófaðir af öryggi.

Við munum halda áfram að þróa og beita sterkum öryggis- og öryggisaðferðum til að forðast óviljandi niðurstöður sem skapa hættu á skaða. Við munum hanna AI kerfin okkar til að vera viðeigandi varfærin og leitast við að þróa þau í samræmi við bestu venjur í öryggisrannsóknum AI. Í viðeigandi tilvikum munum við prófa AI tækni í þvinguðu umhverfi og fylgjast með rekstri þeirra eftir dreifingu.

4. Vertu ábyrgur gagnvart fólki.

Við munum hanna AI-kerfi sem veita viðeigandi tækifæri til endurgjafar, viðeigandi skýringar og höfða. AI tækni okkar verður háð viðeigandi mannlegri stjórnun og stjórnun.

5. Fela í sér meginreglur um persónuvernd.

Við munum fella meginreglur okkar um friðhelgi einkalífs við þróun og notkun AI tækni okkar. Við munum gefa kost á tilkynningu og samþykki, hvetjum til byggingarlistar með persónuverndarvernd og veita viðeigandi gagnsæi og eftirlit með notkun gagna.

6. Viðhalda háum kröfum um ágæti vísinda.

Tækninýjungar eiga rætur sínar að rekja til vísindalegu aðferðarinnar og skuldbindingar um opna fyrirspurn, vitsmunalegan hörku, heilindi og samvinnu. AI verkfæri geta haft möguleika á að opna nýjar vísindarannsóknir og þekkingu á mikilvægum sviðum eins og líffræði, efnafræði, læknisfræði og umhverfisvísindum. Við leggjum áherslu á miklar kröfur um ágæti vísinda þegar við vinnum að framþróun AI.

Við munum vinna með ýmsum hagsmunaaðilum til að efla hugsaða forystu á þessu sviði og byggja á vísindalega ströngum og þverfaglegum aðferðum. Og við munum á ábyrgan hátt deila þekkingu AI með því að birta fræðsluefni, bestu starfsvenjur og rannsóknir sem gera fleirum kleift að þróa gagnlegar AI forrit.

7. Verið aðgengileg til notkunar sem samræmast þessum meginreglum.

Margar tækni hafa margs konar notkun. Við munum vinna að því að takmarka mögulega skaðleg eða misnotandi forrit. Þegar við þróum og notum AI tækni munum við meta líklega notkun í ljósi eftirfarandi þátta:

• Aðal tilgangur og notkun: aðaltilgangurinn og líklega notkun tækni og notkunar, þar með talið hversu náin lausnin tengist eða aðlagast skaðlegri notkun
• Náttúra og sérstaða: hvort sem við erum að bjóða fram tækni sem er einstök eða almennari
• Mælikvarði: hvort notkun þessarar tækni muni hafa veruleg áhrif
• Eðli þátttöku Google: hvort sem við erum að bjóða upp á almenn verkfæri, samþætta verkfæri fyrir viðskiptavini eða þróa sérsniðnar lausnir

AI forrit sem við munum ekki stunda

Auk ofangreindra markmiða munum við ekki hanna eða dreifa AI á eftirfarandi forritssvæðum:

1. Tækni sem veldur eða er líklegt til að valda almennum skaða. Ef það er veruleg hætta á skaða munum við halda áfram aðeins þar sem við teljum að ávinningurinn vegi þyngra en áhættan og mun fela í sér viðeigandi öryggisþröng.
2. Vopn eða önnur tækni sem hefur megin tilgang eða framkvæmd er að valda fólki eða meiða það beint.
3. Tækni sem safnar eða notar upplýsingar til eftirlits sem brýtur í bága við alþjóðlega viðurkenndar reglur.
4. Tækni sem hefur tilgang andstætt almennt viðurkenndum meginreglum alþjóðalaga og mannréttinda.

Eftir því sem reynsla okkar í þessu rými dýpkar getur þessi listi þróast.

Niðurstaða

Við teljum að þessar meginreglur séu rétti grunnurinn fyrir fyrirtækið okkar og framtíðarþróun okkar á AI. Við viðurkennum að þetta svæði er öflugt og þróast og við munum nálgast starf okkar af auðmýkt, skuldbindingu um innri og ytri þátttöku og vilja til að laga nálgun okkar eftir því sem við lærum með tímanum.

Þessi jákvæða árangur frelsar ekki tækni risastór Google frá meðvirkni á ýmsum öðrum sviðum sem eru veruleg áhyggjuefni, svo sem að styðja ICE, lögreglu og aðra hernaðaraðgerðir, safna saman og selja aðgang að einkagögnum um einstaklinga, fela umdeildar pólitískar yfirlýsingar frá niðurstöðum leitarvéla. og síðast en ekki síst, að leyfa starfsmönnum sínum að halda áfram að tala um þessi og önnur mál án þess að vera rekinn fyrir það. Uppreisnarhreyfing verkamanna á Google er áfram virk og mikil þátttaka.

Á sama tíma er mikilvægt að viðurkenna hversu áhrifamikil verkalýðshreyfingin hjá Google var. Þetta varð strax ljóst eftir að mótmæli Google hófust: markaðsdeildir Pentagon hættu að gefa út nýjar fréttatilkynningar um hið einu sinni spennandi Project Maven og „loksins“ hvarf verkefnið að fullu úr sýnileika almennings sem það hafði áður leitað til. Í staðinn byrjaði nýtt og miklu stærra gervigreindarátak frá skaðlegum Pentagon Nýsköpunarstjórn varnarmála.

Þetta var kallað Verkefni JEDI, nýtt nafn fyrir Pentagon eyðslu í nýjustu vopn. Verkefni JEDI myndi eyða miklu meira fé en Project Maven, en kynningarblitz fyrir nýja verkefnið (já, bandaríski herinn eyðir mikið tíma og athygli á kynningu og markaðssetningu) var mjög frábrugðin þeim fyrri. Allt slétt og kynþokkafullt „Black Mirror“ myndmál var horfið. Nú, í stað þess að leggja áherslu á spennandi og kvikmyndafræðilegar hryllingi sem AI-knúnir drónar geta valdið mönnum, útskýrði Project JEDI sig sem edrú skref fram á við fyrir skilvirkni og sameina ýmsa skýjagagnasöfn til að hjálpa „stríðsaðilum“ (uppáhaldstímabil Pentagon fyrir framlínufólk) og stuðningsteymi á skrifstofum hámarka árangur upplýsinga. Þar sem Project Maven var hannað til að hljóma spennandi og framúrstefnulegt var Project JEDI hannað til að hljóma skynsamlegt og hagnýtt.

Það er ekkert skynsamlegt eða hagnýtt við verðmiðann fyrir Project JEDI. Þetta er stærsti her hugbúnaðarsamningur í heimssögunni: 10.5 milljarðar dala. Mörg augu okkar glápa þegar við heyrum um vog um hernaðarútgjöld og við getum sleppt mismuninum milli milljóna og milljarða. Það er grundvallaratriði að skilja hversu miklu stærra verkefni JEDI er en nokkurt fyrri hugbúnaðarframtak Pentagon. Þetta er leikjaskipti, auðvaldsskapandi vélin, auð tékk fyrir hagsmunagreiðslur á kostnað skattgreiðenda.

Það hjálpar til við að klóra sér undir yfirborði fréttatilkynninga ríkisstjórnarinnar þegar reynt er að skilja eyðslu auðan ávísun allt að $ 10.5 milljarða. Sumar upplýsingar er hægt að ná í eigin útgáfur hersins, eins og truflandi Ágúst 2019 viðtal við sameiginlega gervigreindarmiðstöðina, aðstoðarframkvæmdastjóra Jack Shanahan, lykill í bæði horfnu Project Maven og nýju Project JEDI. Mér tókst að fá meiri innsýn í hvernig innherjar í varnarmálum hugsa um Project JEDI með því að hlusta á podcast í varnarmálum sem kallað er „Verkefni 38: Framtíð ríkisstjórnarsamninga“. Podcast-gestir tala oft hreinskilnislega og ófeimin um hvaða efni þeir ræða. „Margir munu kaupa nýjar sundlaugar á þessu ári“ var dæmigert fyrir innherjaspjall podcastsins um Project JEDI. Við erum viss um að þeir verða það.

Hér er það merkilega sem tengist AI-meginreglum Google. Augljósir þrír forvígismenn gífurlegra JEDI samninga á $ 10.5 milljarða hefðu verið Google, Amazon og Microsoft - í þeirri röð, byggt á orðspori þeirra sem AI frumkvöðlar. Vegna þess að starfsmenn mótmæltu Project Maven árið 2018 var leiðtogi gervigreindarmanna Google af tillitssemi við mun stærra verkefni JEDI árið 2019. Seint árið 2019 var tilkynnt að samningurinn færi til Microsoft. Fylgi fréttaumfjöllunar fylgdi í kjölfarið, en þessi umfjöllun beindist aðallega að samkeppni Amazon og Microsoft og á því að 3. sætið Microsoft var líklega leyft að sigra 2. sætið Amazon fyrir sigurinn vegna yfirstandandi bardaga Trump-stjórnarinnar við Washington Post, sem er í eigu Jeff Bezos hjá Amazon. Amazon fer nú fyrir dómstóla til að berjast við 10.5 milljarða dala gjöf Pentagon til Microsoft og Oracle höfðar mál einnig. Sérstök athugasemd frá Project 38 podcastinu sem nefnd er hér að ofan - „Margir munu kaupa nýjar sundlaugar á þessu ári“ - vísaði ekki aðeins til fjárhagslegs blessunar Microsoft heldur einnig allra lögfræðinga sem munu taka þátt í þessum málaferlum. Við getum líklega gert menntaða ágiskun um að meira en 3% af 10.5 milljörðum dala verkefnis JEDI fari til lögfræðinga. Verst að við getum ekki notað það til að hjálpa enda heims hungur í staðinn.

Deilan um hvort þessi tilfærsla á peningum skattgreiðenda til herverktaka ætti að koma Microsoft, Amazon eða Oracle til góða hefur verið ráðandi í fréttaflutningi af Project JEDI. Einu jákvæðu skilaboðin sem fengin eru úr þessum ósvífna ígræðslu - sú staðreynd að Google hafði vikið frá stærsta hernaðarlega hugbúnaðarsamningi í heimssögunni vegna mótmæla verkafólks - hefur verið nánast engin í fréttaflutningi af Project JEDI. 

Þess vegna var mikilvægt að segja þessa sögu fyrir tæknifræðilega einbeittu menn sem voru saman komnir í fjölmennu herbergi í miðbæ Manhattan í síðustu viku til að ræða um hvernig við getum bjargað plánetunni okkar, hvernig við getum barist gegn óupplýsingum og stjórnmálum loftslagsvísinda, hvernig við getum staðið við gríðarlegan kraft hagnaðarmanna jarðefnaeldsneytis og vopnaframkvæmda. Í þessu litla herbergi virtumst við öll átta okkur á stærðinni á vandamálinu sem við stóð frammi fyrir og það mikilvæga hlutverk sem við sjálf verðum að byrja að gegna. Tæknisamfélagið hefur verulegan kraft. Rétt eins og afgreiðsluherferðir geta skipt verulegu máli, geta uppreisnir tæknimanna skipt máli. Það eru margar leiðir til aðgerða gegn loftslagsbreytingum, uppreisnaraðgerðir tæknimanna og baráttumenn gegn hernaði geta byrjað að vinna saman og við munum gera það á allan hátt.

Við fórum vonandi af stað með þessa samkomu, hjálpleg að frumkvæði Útrýmingaruppreisn NYC og Heimurinn getur ekki beðið eftir. Þessi hreyfing mun vaxa - hún verður að vaxa. Misnotkun jarðefnaeldsneytis er í brennidepli mótmælenda í loftslagsmálum. Misnotkun jarðefnaeldsneytis er einnig bæði helsta gróðasjónarmið heimsvaldastefnu Bandaríkjanna og aðal skelfilegur árangur af eyðslusamri starfsemi bandaríska hersins. Reyndar virðist Bandaríkjaher vera það einn versti mengandi í heimi. Geta tæknimenn nýtt skipulagsstyrk okkar til sigra enn áhrifameiri en að Google hætti við Project JEDI? Við getum og við verðum. Fundurinn í New York í síðustu viku var aðeins örlítið framfaraskref. Við verðum að gera meira og við verðum að gefa sameinuðu mótmælahreyfingu okkar allt sem við höfum.

Marc Eliot Stein er forstöðumaður tækni og samfélagsmiðla fyrir World BEYOND War.

Mynd frá Gregory Schwedock.