"Google ætti ekki að vera í viðskiptum við stríð": Skilningur á vopnabúnaði gervigreindar

Eftir Marc Eliot Stein, júní 8, 2018

Í byrjun apríl skrifuðu fleiri en 3100 starfsmenn Google undir bréf það byrjar með orðunum „Google ætti ekki að vera í viðskiptum við stríð“. Bréfið er svar við þátttöku fyrirtækisins í nýrri gervigreindaráætlun bandaríska varnarmálaráðuneytisins, kölluð Project Maven, sem hún lýsir sem „sérsniðin AI eftirlitsvél“ sem er hönnuð til að túlka sjónrænar myndir frá njósnavélumog lýkur með kröftugri beiðni frá starfsmönnum Google til stjórnenda þeirra:

„Við viðurkennum siðferðilega og siðferðilega ábyrgð Google og ógnina fyrir orðspor Google og við biðjum þig um að:

1. Hætta við þetta verkefni strax

2. Drög að, kynna og framfylgja skýrum stefnu þar sem fram kemur að hvorki Google né verktakar þess muni nokkurn tíma byggja hernaðartækni “

Þessi hugrakkur mótmæla- og samfélagsábyrgð er merkileg fyrir skýrleika hennar og á skilið að vera viðurkennd sem eitt af fáum þekktum tilvikum virkra vísindamanna eða starfsmanna sem beinlínis mótmæltu þátttöku sinni í hryllingi stríðsins ásamt Russell-Einstein manifest af 1955, sem hvatti til að afnema stríð sem eina leiðin fram í heim sem nú er vopnuð öllum hliðum með kjarnavopnum.

Þetta merkilega bréf, ásamt afsögn tugi starfsmanna Google, sannaði kraft sinn rúmum mánuði síðar þegar stjórnendur Google tilkynntu það það myndi ekki endurnýja Project Maven eftir að samningnum er lokið í mars 2019, og viðurkenndi „bakslagið“ gegn opinberu orðspori Google sem meginástæðan fyrir þessari stjórnunarákvörðun. Þó að þessi svörun fullnægi ekki kröfunum í upphaflega bréfinu, þá er það greinilega skref í rétta átt og sýnir möguleika mótmælendafyrirtækja Google sem grunn til að byggja á þegar heimurinn glímir við þá staðreynd að BNA her (og væntanlega aðrar hersveitir líka) fara hratt yfir til að vopna gervigreind.

World BEYOND War hefur sent frá sér nýja beiðni til að þakka þessum starfsmönnum Google. Við ættum ekki aðeins að þakka þeim fyrir hugrekki sitt, heldur ættum við einnig að hugsa okkur sjálf um afleiðingar þessarar nýju tækniform og um sameiginlega ábyrgð okkar á því að forðast verstu atburðarásir af áframhaldandi notkun þess.

Besta leiðin til að ímynda sér þessi verstu atburðarás er að hugsa um hernaðarvæðingu tveggja getu þar sem gervigreind snertir daglegt líf okkar: andlitsþekking og ökumannslaus ökutæki. Eins og þú veist ef þú hefur einhvern tíma merkt mynd á Facebook hefur gervigreind þegar náð þeim punkti þar sem þú getur auðveldlega og strax borið kennsl á reiknirit. „Öryggismyndavélar“ hafa einnig farið upp um allan heim og veitt óþekktum stofnunum skyndilega óskoðaða getu til að safna saman og passa andlit við „persónuskilríkis gagnagrunna“ sem innihalda upplýsingar okkar án leyfis, þekkingar eða stjórnunar.

Tækni ökumanns án ökutækja hefur einnig þróast með litlum þátttöku eða meðvitund af hálfu almennings. Fyrsta andlátið í bílalausum bíl var í 2016, þegar Tesla brotlenti í vörubíl. Fyrsta tilfelli gangandi vegfaranda sem var drepinn af ökumannslausri bifreið var aðeins fyrir þremur mánuðum, í mars 2018, þegar sjálfstjórnandi Uber laust niður konu sem fór yfir götuna í Arizona.

Þessar staðreyndir útskýra hversu brýnt er að baki Google bréfinu, sem endurspeglar tækniiðnað sem er þráhyggjufullur vegna hagnaðar, samkeppni og verðmæta hluthafa. Hér eru nokkur önnur atriði sem verður að skilja til að öðlast fulla mynd af því vandamáli sem heimur okkar er nú þegar í og ​​þær hörðu afleiðingar sem við nú stöndum frammi fyrir.

Project Maven er lítið verkefni. JEDI er stærra verkefnið.

Google bréfið vakti athygli á Maven Project sem fyrirtækið segir nú að það muni ekki endurnýja. Enn mikilvægara er að bréfið vakti athygli á tilvist stærra bandaríska varnarmálaráðuneytisins sem kallast JEDI (Joint Enterprise Defense Infrastructure), sem ætti að vera aðal áherslan í áframhaldandi athygli á þessu efni. Það eru litlar opinberar upplýsingar um þetta leyniverkefni, en umfang þess nær bæði til gervigreindar og skýjatölvunar, sem bendir til mikils tölvuorku og sveigjanleika, svo og aðgangs að botnlausu framboði gagnagrunna sem innihalda landfræðilegar og einstakar persónulegar upplýsingar.

Eins og flest hernaðartækniverkefni, er JEDI ekki ætlað að vera sýnilegt jafnvel skattgreiðendum sem greiða fyrir það, en við ættum að vona að upplýsingar um þetta stóra og dýra verkefni komi almenningi út. Þrá val á verkefnisheiti þýðir augljóslega að kalla fram „Star Wars“ bendir til þess að varnarmálaráðuneytið líti á þetta verkefni með truflandi stigi glæsileika og smjatta. Yoda yrði ekki hrifinn.

Starfsmenn Google tóku til máls. Hvar eru starfsmenn Amazon og Microsoft?

Bréfið undirritað af 3100 + starfsmönnum Google kallar önnur fyrirtæki eftir nafni:

„Rökin fyrir því að önnur fyrirtæki, eins og Microsoft og Amazon, taka einnig þátt, gera þetta ekki minna áhættusamt fyrir Google.“

Reyndar, á mjög ábatasamur sviði computing ský, Amazon er jafnvel stærri en Google. Þó að flestir hugsi um Amazon sem stærstu netverslun heims, þá vita hugbúnaðarframleiðendur og tæknifræðingar um allt aðra Amazon. Þetta fyrirtæki er leiðandi í heiminum í skýjatölvun, sem gerir bæði litlum og stórum fyrirtækjum kleift að kaupa og nota netþjóna getu fljótt og auðveldlega. Fyrir tíu árum ráku flest fyrirtæki sína eigin netþjóna. Í dag leigja flest fyrirtæki miðlararými frá Amazon. Ríkisstjórnir og hernaðarsamtök eru meðal þeirra sem reiða sig á skýjaþjónustu Amazon, sem fela einnig í sér háþróaða gervigreind og getu gagnagrunns. Við ættum að vona að starfsmenn Amazon fái innblástur frá jafnöldrum sínum á Google og fari að tala opinberlega um félagslegar afleiðingar þeirrar vinnu sem þeir vinna. Mun einhver starfsmaður Amazon lýsa því yfir eins og jafnaldrar þeirra á Google að „Amazon ætti ekki að vera í viðskiptum við stríð“?

Fyrirtæki eins og Google og Amazon hafa sérstaka skuldbindingu til samfélaga með opinn uppspretta.

Öll fyrirtæki eru ekki eins og raunar hefur hin fræga sjálfsákvörðunarregla Google um „Not Be Evil“ verið tekin alvarlega af óteljandi opnum forriturum sem eru kannski ekki starfsmenn Google en leggja sitt af mörkum og hafa samskipti við Google á opnum bókasöfnum eins og t.d. TensorFlow, sem veitir djúpa námsgetu.

Þetta er ein ástæðan fyrir því að bréf starfsmanna Google var slík áfallsbylgja fyrir alþjóðlegt samfélag opinna aðila. Þótt hefðbundinn herverktaki eins og Raytheon eða General Dynamics annast alla sína vinnu einkaaðila, eru bókasöfn gervigreindar eins og TensorFlow einstök samvinna fyrirtækja og almennings. Opna hugbúnaðarsamfélagið á heimsvísu hefur verið hluti af þróun og heilbrigðum vexti alls internetsins og þetta samfélag hefur alltaf staðið fyrir skýrri tilfinningu um samfélagslega ábyrgð. Þegar starfsmenn segja „Google ætti ekki að vera í stríðsrekstri“ tala þeir ekki aðeins fyrir aðra starfsmenn Google heldur einnig fyrir alþjóðasamfélagið af opnum hugbúnaðaraðilum sem leggja sitt af mörkum til verkefna sinna.

Vopnuð AI er nú að veruleika og ekki bara í Bandaríkjunum.

Við hefðum ekki þurft að þurfa bréf frá 3100 starfsmönnum Google til að vara okkur við því að aldur vopnaðrar gervigreindar er þegar kominn yfir okkur og ekki bara í Bandaríkjunum. Í Bandaríkjunum mun þetta óhjákvæmilega hafa í för með sér vaxandi ótta almennings og móðursýki um hvað önnur lönd eru að gera á sviði vopnaðs AI. Militærir fræðimenn um allan heim telja örugglega að þessi vopnakapphlaup muni aukast. Þetta er hræðilegur veruleiki ástandsins sem við erum nú þegar í.

Eina heilbrigða svarið er afnám stríðs.

Ritgerðin um útbreiðslu kjarnorku sem undirrituð var af Bertrand Russell, Albert Einstein og fleirum í 1955 benti á svar sem undar okkur enn. Eina leiðin til geðheilbrigðis fyrir heim sem óttast er og er sprengdur til að sprengja er afnám stríðs. Þetta var fullkomlega skýrt í 1955, en leiðtogar samtímans voru ekki færir um að skila þessari von.

Í dag, 63 árum síðar, sjáum við eins skýrt og alltaf að stríð færir aðeins meira stríð og að tækniframfarir munu halda áfram að hækka hlutinn. Sýkjandi framtíðarsýn drápdreka sem tengjast stórfelldum rauntímagagnagrunnum og búin fullkomnum gervigreindarmöguleikum sem elta menn niður er ekki lengur framtíðarsýn (eins og hún var í hinni ógnvekjandi „Metalhead“ þætti „Black Mirror“, sem fór aðeins í loftið í fyrra). Öll verkin eru til staðar til að gera þessa sjúklegu sýn á veruleika og hugrakkur verknaður 3100+ starfsmanna Google hefur nú leitt í ljós fyrir okkur að jafnvel nokkur fyrirtæki sem hafa heitið því að halda siðferðilegum viðmiðum halda áfram á fullum hraða í átt að þessari framtíð sem enginn vill. Hækkunin er hækkuð, enn og aftur. Ábyrgðin er á okkur öllum - ekki aðeins starfsmönnum Google, ekki aðeins hugbúnaðarhönnuðum, heldur okkur öllum - til að leysa versta vandamál sem heimurinn hefur kynnst og vinna að algjöru afnámi stríðs.