„Google ei tohiks olla sõja äris”: kunstliku intelligentsuse relvastatud mõistmine

Autor Marc Eliot Stein, juuni 8, 2018

Aprilli alguses allkirjastati rohkem kui 3100i Google'i töötajaid kiri see algab sõnadega „Google ei tohiks olla sõjaäris”. Kiri on vastus ettevõtte osalemisele uues USA kaitseministeeriumi tehisintellekti programmis Project Maven, mida ta kirjeldab kui „kohandatud AI seire mootorit”, mis on mõeldud visuaalsete kujutiste tõlgendamiseks dronesning lõpetab Google'i töötajate jõulise taotluse nende haldamiseks:

„Tunnistades Google'i moraalset ja eetilist vastutust ning ohtu Google'i mainele, palume teil:

1. Tühista see projekt kohe

2. Koostage, avalikustage ja rakendage selget poliitikat, milles öeldakse, et Google ega tema töövõtjad ei ehita kunagi sõjapidamise tehnoloogiat.

See julge protesti- ja sotsiaalse vastutuse tegu on selle selguse poolest tähelepanuväärne ja väärib tunnustamist kui ühte vähestest teadaolevatest juhtudest, kus aktiivsed teadlased või töötajad vaidlustavad nende osalemise sõja õudustes koos Russell-Einsteini manifest 1955, mis nõudis sõja kaotamist kui ainsat teed, mis on nüüdseks võimalik tuua relvastatud maailmale tuumarelvadega.

See tähelepanuväärne kiri koos kümnete Google'i töötajate tagasiastumisega tõestas oma jõudu üle kuu hiljem, kui Google'i juhtkond teatas, et see ei uuenda projekti Maven pärast lepingu lõppemist märtsis 2019, ja tunnistas „tagasilööki” Google'i avaliku maine vastu, kuna see on selle juhtimisotsuse peamine põhjus. Kuigi see vastus ei vasta algses kirjas esitatud nõudmistele, on see selgelt samm õiges suunas ja näitab Google'i töötajate protestiakti potentsiaali, mis on aluseks maailma haaramiseks, kui mõistetakse, et USA sõjavägi (ja arvatavasti ka teised sõjaväed) liiguvad kiiresti tehisintellekti relvastamiseks.

World BEYOND War on avaldanud uue avalduse, et tänada neid Google'i töötajaid. Me ei tohiks mitte ainult tänada neid nende julguse eest, vaid ka igaüks peaks mõtlema selle uue tehnoloogia vormi mõjudele ja meie ühisele vastutusele, et vältida selle jätkuva kasutamise halvimaid stsenaariume.

Parim viis neid halvimaid stsenaariume ette kujutada on mõelda kahe võime militariseerimisele, milles kunstlik intelligents juba puudutab meie igapäevaelu: näotuvastus ja juhita sõidukid. Nagu te teate, kui olete kunagi Facebookis fotot märkinud, on kunstlik intelligents juba jõudnud punkti, kus saab algoritmiga hõlpsasti ja kohe tuvastada. Ka turvakaamerad on kogu maailmas tõusnud, andes äkki tundmatutele organisatsioonidele kontrollimatu võime koguda ja sobitada nägusid „identiteedi andmebaasidega”, mis sisaldavad meie teavet ilma meie loata, teadmiste või kontrollita.

Juhita sõidukite tehnoloogia on edenenud ka avalikkuse vähese kaasamise või teadvustamisega. Esimene surm juhita autos oli 2016is, kui Tesla kukkus veoautosse. Esimene juhtum, kus juhtiv sõiduk tappis jalakäija oli vaid kolm kuud tagasi, märtsis 2018, kui autonoomne Uber tabas Arizona tänavat ületava naise.

Need faktid selgitavad Google'i kirja kiireloomulisust, mis peegeldab kasumit, konkurentsi ja aktsionäride väärtust pakkuvat tehnoloogiat. Siin on mõned muud punktid, mida tuleb mõista, et saada täielik ülevaade dilemmist, mida meie maailm on juba praegu, ja karmidest tagajärgedest, millega me praegu silmitsi seisame.

Projekt Maven on väike projekt. JEDI on suurem projekt.

Google'i kiri pööras tähelepanu projektile Maven, mida ettevõte nüüd ütleb, et seda ei uuendata. Veelgi olulisem on see, et kirjas pöörati tähelepanu suurema USA kaitseministeeriumi projekti nimele JEDI (ühine ettevõtluskaitse infrastruktuur), mis peaks sellele teemale jätkuvalt tähelepanu pöörama. Selle salajase projekti kohta on vähe avalikku teavet, kuid selle ulatus hõlmab nii tehisintellekti kui ka pilvandmetöötlust, mis näitab massiivset arvutusvõimsust ja mastaapsust ning juurdepääsu geograafilist ja individuaalset isiklikku teavet sisaldavatele andmebaasidele.

Nagu enamik sõjaväetehnoloogia projekte, ei ole JEDI mõeldud nähtavaks isegi selle eest maksvatele maksumaksjatele, kuid me peaksime lootma, et selle suure ja kallis projekti kohta avalikustatakse teave. Projekti nimi, mis on ilmselt mõeldud "Star Wars" toetuseks, viitab sellele, et kaitseministeerium vaatab seda projekti häirivalt suurejoonelisuse ja enesetunnetusega. Yoda ei oleks muljet avaldanud.

Google'i töötajad rääkisid. Kus on Amazon ja Microsofti töötajad?

3100 + Google'i töötajate allkirjastatud kiri nimetab teisi ettevõtteid nime järgi:

„Väide, et teised ettevõtted, nagu Microsoft ja Amazon, osalevad ka, ei tee seda Google'ile vähem riskantseks.”

Tõepoolest, pilvandmetöötluse väga tulusas valdkonnas on Amazon isegi suurem kui Google. Kuigi enamik inimesi arvab, et Amazon on maailma suurim veebipood, siis tarkvaraarendajad ja tehnoloogid teavad täiesti erinevat Amazonat. See ettevõte juhib maailma pilvandmetöötluses, mis võimaldab nii väikestel kui ka suurtel organisatsioonidel osta ja kasutada serveri võimalusi kiiresti ja lihtsalt. Kümme aastat tagasi juhtisid enamik ettevõtteid oma servereid. Täna on enamik ettevõtteid rentinud serveri ruumi Amazonalt. Valitsus- ja sõjalised organisatsioonid on nende hulgas, kes toetuvad Amazon'i pilveteenustele, mis hõlmavad ka täiustatud tehisintellekti ja andmebaasi võimalusi. Me peaksime lootma, et Amazonase töötajaid inspireerivad nende eakaaslased Google'is ja hakkavad avalikult rääkima nende töö sotsiaalsetest tagajärgedest. Kas Amazonase töötajad teatavad oma Google'i eakaaslaste sõnul, et „Amazon ei tohiks olla sõja äri”?

Ettevõtetel nagu Google ja Amazon on ainulaadne kohustus avatud lähtekoodiga kogukondadele.

Kõik ettevõtted ei ole samasugused ning Google'i kuulsat iseenesest määratud reeglit „Not Be Evil” -le on tõsiselt võtnud lugematuid avatud lähtekoodiga arendajaid, kes ei pruugi olla Google'i töötajad, kuid kes teevad Google'iga avatud lähtekoodiga raamatukogudes, näiteks TensorFlow, mis pakub sügavaid õpivõimalusi.

See on üks põhjus, miks Google'i töötajate kiri oli selline lööklaine avatud lähtekoodiga arendajate globaalsele kogukonnale. Kuigi traditsiooniline sõjaline töövõtja, nagu Raytheon või General Dynamics, teostab tavaliselt oma tööd erasektori tehisintellekti raamatukogudes, nagu TensorFlow on unikaalne koostöö ettevõtete ja avalikkuse vahel. Ülemaailmne avatud lähtekoodiga tarkvara kogukond on olnud kogu interneti arendamise ja tervisliku kasvu lahutamatu osa ning see kogukond on alati seisnud selgesõnalise sotsiaalse vastutuse tunnetuse eest. Kui töötajad ütlevad, et „Google ei tohiks olla sõja äri”, räägivad nad mitte ainult oma Google'i töötajatest, vaid ka rahvusvahelisest avatud lähtekoodiga arendajate kogukonnast, kes panustavad nende projektidesse.

Relvastatud AI on nüüd reaalsus, mitte ainult USAs.

Me ei oleks pidanud nõudma 3100i Google'i töötajatelt kirja, et hoiatada meid asjaolust, et relvastatud tehisintellekti vanus on juba meie, mitte ainult Ameerika Ühendriikides. USAs toob see paratamatult kaasa avaliku hirmu ja hüsteeria suurenemise selle kohta, mida teised riigid relvastatud AI valdkonnas teevad. Sõjalised võitjad kogu maailmas arvavad kindlasti, et see relvavõitlus laieneb. See on kohutava olukorra kohutav reaalsus.

Ainus mõistlik vastus on sõja kaotamine.

Bertrand Russelli, Albert Einsteini ja teiste 1955i poolt allkirjastatud tuumarelvade leviku manifest näitas, et meid ei räägita. Ainus tee hirmuäratavuse poole hirmust haaratud maailma ja plahvatuse alguseks on sõja kaotamine. See oli 1955is täiesti selge, kuid aja juhid ei suutnud seda lootust saavutada.

Täna, 63 aastat hiljem, näeme sama selgelt kui kunagi varem, et sõda toob ainult rohkem sõda ja tehnoloogia areng jätkab panuse tõstmist. Massiivsete reaalajas andmebaasidega ühendatud ja inimtegevust taga ajavate tipptasemel tehisintellekti võimalustega varustatud droonide haige nägemus ei ole enam tulevikunägemus (nagu see oli hirmutavas “Metalheadi” episoodis). “Must peegel”, mis oli eetris alles eelmisel aastal). Kõik tükid on paigas, et see haige nägemus reaalsuseks saaks, ja enam kui 3100 Google'i töötaja julge tegu on meile nüüdseks näidanud, et isegi mõned korporatsioonid, kes on lubanud moraalinormi järgida, liiguvad täie hooga selle tuleviku suunas mida keegi ei taha. Panused on jälle tõstetud. Meie kõigi - mitte ainult Google'i töötajate, mitte ainult tarkvaraarendajate, vaid ka kõigi - vastutus on lahendada kõige hullem probleem, mida maailm on kunagi tundnud, ja töötada sõja täieliku kaotamise nimel.