"Google moat net yn it bedriuw fan oarloch wêze": Understanding de waponisearring fan keunstmjittige yntelliginsje

Troch Marc Eliot Stein, juni 8, 2018

Begjin april, mear as 3100-Google-meiwurkers ûndertekene in brief dat begjint mei de wurden "Google moat net yn 'e saak fan oarloch wêze". De brief is in antwurd op it dielnimmen fan it bedriuw yn in nije ôfdieling fan 'e Amerikaanske Definsje fan Defensyf kultureel ûntdekkingsprogramma' Project Maven ', dy't it beskriuwt as in "oanpaste AI-tafoegingmotor" drones, en konkludearret mei in machtich fersyk fan Google-meiwurkers nei har behear:

"De moraal- en etyske ferantwurdlikheid fan Google, en de bedriging fan 'e reputaasje fan Google, freegje jo dat jo:

1. Ofbrekke dit projekt fuortdaliks

2. Draft, publisearje en befetsje in dúdlik belied, dat oantoane dat Google noch har kontraktoaren altyd ûntwikkelje de warfare technology "

Dizze willekeakste protest en sosjale ferantwurdlikens is opmerklik foar har dúdlikheid en fertsjinnet as ien fan 'e pear bekende kaarten fan aktive wittenskippers of arbeiders dy't direkte beswier tsjin har dielname oan' e horrors fan 'e oarloch, tegearre mei de Russell-Einstein-manifesto fan 1955, dy't de ôfskaffing fan 'e oar besocht as it ienige paad nei foar in wrâld dy't no alle kanten bewarmet mei kearnwapens.

Dit opmerklike brief, tegearre mei de ôfwizing fan tsientallen Google-meiwurkers, bewearde syn krêft in moanne letter doe't Google behearde dat It soe Project Maven net fernije nei't de kontrakt yn maart 2019 foltôge is, en erkend de "backlash" tsjin Google's iepenbiere reputaasje as de primêre reden foar dizze behearsking. Wylst dizze antwurden net de befinings yn 'e orizjinele brief befettet, is it dúdlik in stap yn' e rjochting, en lit de mooglikheden fan 'e Google-arbeider akte fan protest stelle as in stifting om op te bouwen as wrâldkampen mei de realisaasje dat de US Militêr (en, miskien, ek oare militêre troepen) snel ferpleatse om keunstmjittige yntelliginsje te wapen.

World BEYOND War hat in nije petysje publisearre om dizze Google-meiwurkers te tankjen. Wy moatte net allinich tanke wurde foar har moed, mar moatte allegear elk tinke foar ússels oer de ymplikaasjes fan dizze nije foarm fan technology, en oer ús mienskiplike ferantwurdlikens om de sleauwe problemen-senario's fan har fuortset gebrûk te foarkommen.

De bêste manier om dy foarbylden fan 'e minste gefallen te tinken is te tinken oer de militarisaasje fan twa kapasiteiten wêrby't keunstmjittige yntelliginsje al ús algemiene libben oanrekket: fysykenning en toanielferfier. As jo ​​witte as jo altyd in foto op Facebook markearje hawwe, hat artificial intelligence al it punt berikt dat jo maklik en daliks identifisearje kinne troch algoritme. "Feiligens-kamera's" binne ek oer de hiele wrâld opsteld, opnij ûnbekende organisaasjes opnij ûntskoattele mooglikheden om te sammeljen en oer te passen mei "identiteitsdatenbanken" dy't ús ynformaasje befetsje sûnder ús tastimming, kennis of kontrôle.

De technology fan draaidlessers hat ek begelaat mei in bytsje belutsenheid of bewustwêzen fan 'e iepenbiere kommunikaasje. De earste dea yn in auto sûnder driver wie yn 2016, doe't in Tesla yn in truck stie. It earste gefal fan in fuotgonger fermoarde troch in motorboerder wie mar trije moanne lyn, yn maart 2018, doe't in autonome Uber in frou oer de strjitte yn Arizona sleat.

Dizze feiten ferklearje de driging efter de Google letter, dy't in technologytechnology reflektearret, dy't troch profyt, konkurrinsje en oandielhâlder wearde besmettet. Hjir binne noch inkele punten dy't ferstean moatte in folslein byld fan it dilemma te krijen, ús wrâld is no al yn, en de hurde konsekwinsjes dy't wy no tinke.

Project Maven is in lyts projekt. JEDI is it grutter projekt.

It Google-brief neamt omtinken foar Project Maven, dêr't it bedriuw no seit dat it net fernije sil. Noch wichtiger is it brief omtinken te jaan oan it bestean fan in grutter projekt fan 'e ôfdieling foar definsje (JEDI), dy't de primêre fokus fan it ûnderhâld fan oandacht foar dit ûnderwerp wêze moat. Der is wat publike ynformaasje oer dit geheime projekt, mar syn omfang befettet sawol keunstmjittige yntelliginsje as wolkomputearje, wat wiidweidige rektuele krêft en skalberens oanjout, en tagong ta in bottomless oanbod fan databases mei geografyske en yndividuele persoanlike ynformaasje.

Lykas de measte militêre technologyprojekten, JEDI is net bedoeld om sels te sjen foar de belestingen dy't har betelje, mar wy moatte hoopje dat ynformaasje oer dit grut en djoer projekt frijlitten wurde nei it publyk. De craven-keuze fan in projektnamme is offisjeel bedoeld om op te roppen op "Star Wars", dat it Defnytsint Wurk beskôget dit projekt mei in dreechende nivo fan grutte en selsleazens. Yoda soe net yndrukke wurde.

Google meiwurkers sprieken op. Wêr binne Amazon en Microsoft-wurkers?

De letter ûndertekene troch 3100 + Google-meiwurkers ropt oare bedriuwen mei namme:

"It argumint dat oare firms, lykas Microsoft en Amazon, ek dielnimme, meitsje dit net minder risiko foar Google."

Ja, yn it tige lukrative fjild fan cloud computing, Amazon is noch grutter as Google. Hoewol de measte minsken tinke oan Amazon as de grutste online winkel fan 'e wrâld, saneamde softwareûntwikkelders en technologen fan in folslein oare Amazon. Dit bedriuw liedt de wrâld yn wolkomputearjen, sadat beide lytse en grutte organisaasjes koart en makliker meitsje fan serverfeardigens. Tsien jier lyn hawwe de measte bedriuwen har eigen servers rûn. Hjoeddedei fertsjinje de measte bedriuwen fan de romte fan Amazon. Regierungs- en militêre organisaasjes steane ûnder dyjingen dy't op Amazon's wolwêzen tsjinje, wêrby't ek in foarkommende artifisearre yntelliginsje en database-mooglikheden binne. Wy moatte hoopje dat Amazon-meiwurkers ynspirearre wurde troch har peers by Google en begjinne om te publisearjen yn 'e publike oer de maatskiplike konsekwinsjes fan it wurk dat se dogge. Wolle elke meiwurkers fan Amazon ferklearje, lykas harren Google-peers hawwe, dat "Amazonie net yn 'e bedriuw fan' e oarloch wêze" wêze?

Bedriuwen lykas Google en Amazon hawwe in unike ynset om boarnengemeenten te iepenjen.

Alle bedriuwen binne net allinich, en sels de ferneamde selsstannige regel fan Google foar "Not Be Evil" is serieus nommen troch ûnbidige open-source-ûntwikkelders dy't miskien gjin Google-meiwurkers wêze, mar drage en ynterakke mei Google op iepen boarne-biblioteken lykas TensorFlow, dy't djippe learende mooglikheden leveret.

Dit is ien fan 'e reden wêrom't de Google-arbeidersbrief sokke skokwelle wie foar de wrâldwide mienskip fan open source-ûntwikkelders. Wylst in tradisjoneel militêre kontraktor lykas Raytheon of General Dynamics altyd allegear útfiert yn privee, keunstmjittige biblioteek, lykas TensorFlow, binne unike kolaboraasjes tusken korporaasjes en publike kommunikaasje. De globale iepenboarne software-maatskippij is yntegraal west foar de ûntwikkeling en sûn groei fan it hiele ynternet, en dizze mienskip hat altyd stien foar in eksplisyt sin fan sosjale ferantwurdlikens. As meiwurkers sizze "Google moat net yn 'e bedriuw fan' e oarloch" sprekke se net allinich foar harren personiel Google-meiwurkers, mar ek foar de ynternasjonale mienskip fan open source-ûntwikkelers dy't bydrage oan har projekten.

Wapenisearre AI is no in realiteit, en net allinich yn 'e Feriene Steaten.

Wy moatte net letter in brief fan 3100-Google-meiwurkers nedich hawwe om ús te warskôgjen oer it feit dat de leeftiid fan wapenisearre keunstmjittige yntelliginsje al oer ús is, en net allinich yn 'e Feriene Steaten fan Amearika. Yn 'e Feriene Steaten sil dit unreklik berikke yn in groeiende iepenbier eangst en hysteria oer wat oare lannen dogge op it gebiet fan wapenisearre AI. Militêre profitoren oer de hiele wrâld sille gewoan rekkenje op dizze wapenrace om te feroverjen. Dit is de ferskriklike realiteit fan 'e situaasje dy't wy no al binne.

It iennichste antwurd is it ôfskaffen fan 'e oarloch.

It manifesto oer kearnproliferaasje ûndertekene troch Bertrand Russell, Albert Einstein en oaren yn 1955 wiist op in antwurd dat wy ús noch altyd útlitte. It iennige paad nei sanititeit foar in wrâld dy't troch eangst en grammatika fûn is, is it ôfskaffen fan 'e oarloch. Dit wie perfoarst dúdlik yn 1955, mar de lieders fan 'e tiid wiene net yn steat om dizze hope te leverjen.

Hjoed, 63 jier letter, sjogge wy sa dúdlik as ea dat oarloch allinich mear oarloch bringt, en dat technologyske foarútgong sil trochgean mei it ferheegjen fan 'e ynset. De syklike fisy fan moardnersdroanen dy't ferbûn binne mei massale realtime databases en útrist mei moderne keunstmjittige yntelliginsjemooglikheden dy't minsken deljage, is net langer in fisy op 'e takomst (sa't it wie yn' e eangstige "Metalhead" ôflevering fan "Black Mirror", dy't allinich ferline jier útstjoerd waard). Alle stikken binne te plak om dizze siikjende fisy op in werklikheid te meitsjen, en de moedige hanneling fan 3100+ meiwurkers fan Google hat ús no iepenbiere dat sels guon bedriuwen dy't tasein hawwe om in morele standert te hanthavenjen, mei folle snelheid foarút gean nei dizze takomst dat nimmen wol. De staken wurde opnij ophelle. De ferantwurdlikens leit op ús allegear - net allinich Google-meiwurkers, net allinich software-ûntwikkelders, mar allegear - om it minste probleem op te lossen dat de wrâld ea hat kend en wurkje oan 'e folsleine ôfskaffing fan' e oarloch.