Marks Eliots Šteins, 10. gada 2020. februāris

Nesen mani uzaicināja uzstāties Extinction Rebellion sanāksmē Ņujorkā vārdā World BEYOND War. Pasākums bija paredzēts, lai apvienotu trīs rīcības grupas: klimata pārmaiņu aktīvistus, tehnoloģiju darbinieku kolektīvus un pretkara aktīvistus. Mēs sākām ar saviļņojošu personisku stāstījumu no klimata pārmaiņu aktīvistes Ha Vu, kurš pastāstīja ņujorkiešu pūlim par satraucošo pieredzi, ko daži no mums jebkad ir piedzīvojuši: atgriešanos viņas ģimenes mājās Hanojā, Vjetnamā, kur paaugstināts karstums jau ir padarījis gandrīz neiespējamu staigāt ārā pīķa saules gaismas stundās. Tikai daži amerikāņi zina arī par 2016. gada ūdens piesārņojuma katastrofa Ha Tinhā Vjetnamas centrālajā daļā. Mēs bieži runājam par klimata pārmaiņām kā par potenciālu problēmu ASV, uzsvēra Ha, bet Vjetnamā viņa redz, ka tās jau grauj dzīvi un iztikas līdzekļus un strauji pasliktinās.

Niks Moterns no KnowDrones.org ar līdzīgu steidzamību runāja par ASV militārpersonu nesen veiktajām masveida investīcijām futūristiskā mākslīgā intelekta un mākoņdatošanas jomā – un uzsvēra pašu militārpersonu secinājumus, ka AI sistēmu izvietošana kodolieroču pārvaldībā un bezpilota lidaparātu karā neizbēgami novedīs pie neparedzama mēroga kļūdām. William Beckler no Extinction Rebellion NYC, pēc tam izskaidrojot organizācijas principus, ko šī svarīgā un strauji augošā organizācija īsteno, tostarp graujošas darbības, kas paredzētas, lai palielinātu izpratni par klimata pārmaiņu kritisko nozīmi. Mēs dzirdējām no Ņujorkas pārstāvja Tehnoloģiju darbinieku koalīcija, un es mēģināju pulcēšanos virzīt uz praktisku iespēju sajūtu, runājot par tehnoloģiju darbinieku sacelšanās akciju, kas bija negaidīti veiksmīga.

Tas notika 2018. gada aprīlī, kad tā sauktā “aizsardzības industrija” rosījās par projektu Maven — jaunu, plaši izplatītu ASV militāro iniciatīvu, lai attīstītu mākslīgā intelekta spējas bezpilota lidaparātiem un citām ieroču sistēmām. Google, Amazon un Microsoft piedāvā gatavās mākslīgā intelekta platformas maksājošiem klientiem, un Google tika uzskatīts par iespējamo Project Maven militārā līguma ieguvēju.

2018. gada sākumā Google darbinieki sāka runāt. Viņi nesaprata, kāpēc uzņēmums, kas viņus bija savervējis kā darbiniekus ar solījumu “Neesiet ļauns”, tagad pieteicās militāriem projektiem, kas varētu līdzināties šausminošajai filmas “Black Mirror” epizodei, kurā ar AI darbināmi mehāniskie suņi medīja cilvēkus. būtnes līdz nāvei. Viņi runāja sociālajos medijos un tradicionālajos ziņu kanālos. Viņi organizēja akcijas un izplatīja petīcijas un lika sevi sadzirdēt.

Šī strādnieku sacelšanās bija Google Workers Rebellion kustības rašanās cēlonis, un tā palīdzēja aizskart citus tehnoloģiju darbinieku kolektīvus. Bet pats pārsteidzošākais Google iekšējā protestā pret Project Maven nebija tas, ka tehnoloģiju darbinieki runāja. Pats pārsteidzošākais ir tas Google vadība pakļāvās darbinieku prasībām.

Pēc diviem gadiem šis fakts mani joprojām satriec. Esmu redzējis daudzas ētiskas problēmas savās desmitgadēs kā tehnoloģiju darbinieks, taču es reti esmu redzējis, ka liels uzņēmums kategoriski piekrīt ētiskas problēmas risināt nozīmīgā veidā. Google sacelšanās pret Project Maven rezultāts bija AI principu kopuma publicēšana, ko ir vērts pārpublicēt šeit:

Mākslīgais intelekts uzņēmumā Google: mūsu principi

Google tiecas radīt tehnoloģijas, kas atrisina svarīgas problēmas un palīdz cilvēkiem viņu ikdienas dzīvē. Mēs esam optimistiski noskaņoti par neticamo AI un citu progresīvu tehnoloģiju potenciālu, lai dotu iespēju cilvēkiem, sniegt plašu labumu pašreizējām un nākamajām paaudzēm un strādāt kopējā labuma labā.

AI lietojumprogrammu mērķi

Mēs novērtēsim AI lietojumprogrammas, ņemot vērā šādus mērķus. Mēs uzskatām, ka AI vajadzētu:

1. Esiet sociāli izdevīgi.

Jauno tehnoloģiju paplašinātā sasniedzamība arvien vairāk skar sabiedrību kopumā. AI attīstībai būs transformējoša ietekme daudzās jomās, tostarp veselības aprūpē, drošībā, enerģētikā, transportā, ražošanā un izklaidē. Apsverot AI tehnoloģiju iespējamo izstrādi un izmantošanu, mēs ņemsim vērā plašu sociālo un ekonomisko faktoru loku un turpināsim, ja uzskatām, ka kopumā iespējamie ieguvumi ievērojami pārsniedz paredzamos riskus un negatīvās puses.

AI arī uzlabo mūsu spēju izprast satura nozīmi plašā mērogā. Mēs centīsimies nodrošināt kvalitatīvu un precīzu informāciju, kas būtu viegli pieejama, izmantojot AI, vienlaikus turpinot ievērot kultūras, sociālās un juridiskās normas valstīs, kurās mēs darbojamies. Un mēs turpināsim pārdomāti izvērtēt, kad mūsu tehnoloģijas padarīt pieejamas nekomerciāli.

2. Izvairieties no negodīgas neobjektivitātes radīšanas vai nostiprināšanas.

AI algoritmi un datu kopas var atspoguļot, pastiprināt vai samazināt negodīgus aizspriedumus. Mēs apzināmies, ka godīgu aizspriedumu atšķiršana no negodīgiem ne vienmēr ir vienkārša un dažādās kultūrās un sabiedrībās atšķiras. Mēs centīsimies izvairīties no netaisnīgas ietekmes uz cilvēkiem, īpaši tādām, kas saistītas ar sensitīvām iezīmēm, piemēram, rasi, etnisko piederību, dzimumu, tautību, ienākumiem, seksuālo orientāciju, spējām un politisko vai reliģisko pārliecību.

3. Jābūt uzbūvētam un pārbaudītam drošībai.

Mēs turpināsim izstrādāt un piemērot spēcīgu drošības un drošības praksi, lai izvairītos no nevēlamiem rezultātiem, kas rada kaitējuma risku. Mēs izstrādāsim savas AI sistēmas, lai tās būtu atbilstoši piesardzīgas, un centīsimies tās izstrādāt saskaņā ar AI drošības pētījumu paraugpraksi. Attiecīgos gadījumos mēs pārbaudīsim mākslīgā intelekta tehnoloģijas ierobežotās vidēs un uzraudzīsim to darbību pēc izvietošanas.

4. Esiet atbildīgs cilvēku priekšā.

Mēs izstrādāsim AI sistēmas, kas nodrošinās atbilstošas ​​atsauksmes, atbilstošus paskaidrojumus un pārsūdzības iespējas. Mūsu AI tehnoloģijas tiks pakļautas atbilstošai cilvēku vadībai un kontrolei.

5. Iekļaujiet privātuma dizaina principus.

Mēs iekļausim savus privātuma principus mūsu AI tehnoloģiju izstrādē un izmantošanā. Mēs nodrošināsim iespēju saņemt paziņojumu un piekrišanu, veicināsim arhitektūras ar privātuma aizsardzības pasākumiem un nodrošināsim atbilstošu caurskatāmību un kontroli pār datu izmantošanu.

6. Ievērojiet augstus zinātniskās izcilības standartus.

Tehnoloģiskās inovācijas sakņojas zinātniskajā metodē un apņemšanās veikt atklātu izmeklēšanu, intelektuālu stingrību, integritāti un sadarbību. AI rīki var atvērt jaunas zinātniskās pētniecības un zināšanu jomas tādās kritiskās jomās kā bioloģija, ķīmija, medicīna un vides zinātnes. Strādājot pie AI izstrādes, mēs tiecamies pēc augstiem zinātniskās izcilības standartiem.

Mēs sadarbosimies ar dažādām ieinteresētajām personām, lai veicinātu pārdomātu vadību šajā jomā, izmantojot zinātniski stingras un daudznozaru pieejas. Un mēs atbildīgi dalīsimies ar AI zināšanām, publicējot izglītojošus materiālus, paraugpraksi un pētījumus, kas ļauj lielākam skaitam cilvēku izstrādāt noderīgas AI lietojumprogrammas.

7. Jābūt pieejamam lietojumam, kas atbilst šiem principiem.

Daudzām tehnoloģijām ir vairāki pielietojumi. Mēs strādāsim, lai ierobežotu potenciāli kaitīgas vai ļaunprātīgas lietojumprogrammas. Izstrādājot un ieviešot AI tehnoloģijas, mēs novērtēsim iespējamos lietojumus, ņemot vērā šādus faktorus.

• Galvenais mērķis un izmantošana: tehnoloģijas un lietojumprogrammas galvenais mērķis un iespējamā izmantošana, tostarp tas, cik cieši risinājums ir saistīts ar kaitīgu lietojumu vai ir pielāgojams tai
• Daba un unikalitāte: vai mēs darām pieejamu tehnoloģiju, kas ir unikāla vai plašāk pieejama
• Mērogs: vai šīs tehnoloģijas izmantošanai būs būtiska ietekme
• Google iesaistīšanās veids: neatkarīgi no tā, vai mēs nodrošinām vispārējus rīkus, integrējam rīkus klientiem vai izstrādājam pielāgotus risinājumus

AI lietojumprogrammas, kuras mēs neizmantosim

Papildus iepriekšminētajiem mērķiem mēs neveidosim un neizvietosim AI šādās lietojumu jomās:

1. Tehnoloģijas, kas rada vai var radīt vispārēju kaitējumu. Ja pastāv būtisks kaitējuma risks, mēs turpināsim tikai tad, ja uzskatām, ka ieguvumi būtiski atsver riskus, un iekļausim atbilstošus drošības ierobežojumus.
2. Ieroči vai citas tehnoloģijas, kuru galvenais mērķis vai ieviešana ir radīt vai tieši veicināt cilvēku ievainojumus.
3. Tehnoloģijas, kas apkopo vai izmanto informāciju novērošanai, pārkāpjot starptautiski pieņemtas normas.
4. Tehnoloģijas, kuru mērķis ir pretrunā plaši pieņemtajiem starptautisko tiesību un cilvēktiesību principiem.

Padziļinoties mūsu pieredzei šajā telpā, šis saraksts var attīstīties.

Secinājumi

Mēs uzskatām, ka šie principi ir pareizais pamats mūsu uzņēmumam un mūsu turpmākajai AI attīstībai. Mēs atzīstam, ka šī joma ir dinamiska un attīstās, un mēs pievēršamies savam darbam ar pazemību, apņemšanos iesaistīties iekšēji un ārzemēs un gatavību pielāgot savu pieeju, laika gaitā mācoties.

Šis pozitīvais rezultāts neatbrīvo tehnoloģiju gigantu Google no līdzdalības dažādās citās lielas bažas raisošās jomās, piemēram, ICE, policijas un citu militāru darbību atbalstīšanā, piekļuves privātu datu apkopošanā un pārdošanā par personām, strīdīgo politisko paziņojumu slēpšanā meklētājprogrammu rezultātos. un, pats galvenais, ļaut saviem darbiniekiem turpināt runāt par šiem un citiem jautājumiem, par to neatlaižot. Google darbinieku sacelšanās kustība joprojām ir aktīva un ļoti iesaistīta.

Tajā pašā laikā ir svarīgi apzināties, cik ietekmīga bija Google darbinieku kustība. Tas kļuva skaidrs uzreiz pēc Google protestu sākuma: Pentagona mārketinga nodaļas pārtrauca izdot jaunas preses relīzes par kādreiz aizraujošo Project Maven, galu galā pilnībā "pazūdot" projektam no iepriekš meklētās publiskās redzamības. Tā vietā no Pentagona viltības sāka parādīties jauna un daudz lielāka mākslīgā intelekta iniciatīva Aizsardzības inovāciju padome.

Šo sauca Projekts JEDI, jauns nosaukums Pentagona izdevumiem par vismodernākajiem ieročiem. Projekts JEDI tērētu daudz vairāk naudas nekā projekts Maven, taču jaunā projekta publicitāte (jā, ASV armija tērē daudz laiks un uzmanība publicitātei un mārketingam) ļoti atšķīrās no iepriekšējās. Visi gludie un seksīgie “Black Mirror” attēli bija pazuduši. Tā vietā, lai uzsvērtu aizraujošās un kinematogrāfiskās distopiskās šausmas, ko ar mākslīgo intelektu darbināmi droni var nodarīt cilvēkiem, projekts JEDI sevi skaidroja kā prātīgu soli uz priekšu efektivitātes uzlabošanai, apvienojot dažādas mākoņu datu bāzes, lai palīdzētu “kara cīnītājiem” (Pentagona iecienītākais termins priekšējās līnijas personāls) un back-office atbalsta komandas palielina informācijas efektivitāti. Ja Project Maven tika izstrādāts tā, lai tas izklausītos aizraujoši un futūristiski, Project JEDI tika izstrādāts tā, lai tas izklausītos saprātīgi un praktiski.

Projekta JEDI cenu zīmē nav nekā saprātīga vai praktiska. Tas ir lielākais militārās programmatūras līgums pasaules vēsturē: 10.5 miljardi USD. Daudzu mūsu acis aizmirdz, dzirdot par militāro izdevumu apmēriem, un mēs varam izlaist starpību starp miljoniem un miljardiem. Ir svarīgi saprast, cik projekts JEDI ir lielāks par jebkuru iepriekšējo Pentagona programmatūras iniciatīvu. Tas ir spēles mainītājs, bagātības ģenerēšanas dzinējs, tukšs čeks peļņas gūšanai uz nodokļu maksātāju rēķina.

Tas palīdz ieskrāpēt zem valdības preses relīžu virsmas, mēģinot izprast militāro izdevumu tukšu čeku, kura apjoms sasniedz 10.5 miljardus USD. Daļu informāciju var iegūt no paša militārpersonu publikācijām, piemēram, satraucošas 2019. gada augusta intervija ar Apvienotā mākslīgā intelekta centra ģenerālleitnantu Džeku Šanahanu, galvenā figūra gan pazudušajā projektā Maven, gan jaunajā projektā JEDI. Es varēju gūt plašāku ieskatu par to, kā aizsardzības nozares darbinieki domā par projektu JEDI, klausoties aizsardzības nozares aplādes pārraidi ar nosaukumu “38. projekts: valdības līgumu slēgšanas nākotne”. Podcast viesi bieži runā atklāti un neslēpti par jebkuru tēmu, ko viņi apspriež. “Šogad daudzi cilvēki iegādāsies jaunus peldbaseinus” bija raksturīgi šīs aplādes iekšējās informācijas tērzēšanā par projektu JEDI. Mēs esam pārliecināti, ka tie būs.

Šī ir ievērojamā lieta, kas ir saistīta ar Google AI principiem. Acīmredzamie trīs vērienīgā JEDI līguma 10.5 miljardu dolāru ieguvēji būtu Google, Amazon un Microsoft — šādā secībā, pamatojoties uz viņu kā AI novatoru reputāciju. Tā kā 2018. gadā strādnieki protestēja pret Project Maven, AI līderis Google 2019. gadā neņēma vērā daudz lielāku projektu JEDI. 2019. gada beigās tika paziņots, ka līgums tika nodots Microsoft. Pēc tam sekoja plašs ziņu klāsts, taču šis atspoguļojums galvenokārt bija vērsts uz sāncensību starp Amazon un Microsoft un faktu, ka 3. vietā esošajai Microsoft, iespējams, tika atļauts pārspēt 2. vietu Amazon par uzvaru, jo Trampa administrācija turpina cīņu ar Washington Post. kas pieder Amazon Džefam Bezosam. Amazon tagad vēršas tiesā, lai cīnītos pret Pentagona 10.5 miljardu dolāru dāvinājumu Microsoft, un Oracle arī iesūdz tiesā. Iepriekš minētā projekta 38 podkāsta īpašā piezīme – “Šogad daudz cilvēku iegādāsies jaunus peldbaseinus” – attiecās ne tikai uz Microsoft finansiālo labumu, bet arī uz visiem juristiem, kas piedalīsies šajās tiesas prāvās. Mēs droši vien varam izdarīt izglītotu minējumu, ka vairāk nekā 3% no projekta JEDI 10.5 miljardiem ASV dolāru tiks piešķirti juristiem. Žēl, ka nevaram to izmantot, lai palīdzētu pasaules bada beigas vietā.

Strīdi par to, vai šī nodokļu maksātāju naudas pārskaitīšana militārajiem darbuzņēmējiem būtu jāsniedz par labu Microsoft, Amazon vai Oracle, ir dominējis JEDI ziņu pārraidēs. Viena pozitīvā vēsts, kas smelta no šīs neķītrās idejas – fakts, ka Google ir atteicies no lielākā militārās programmatūras līguma pasaules vēsturē strādnieku protesta dēļ –, ziņu par projektu JEDI praktiski nav bijis. 

Tāpēc bija svarīgi pastāstīt šo stāstu uz tehnoloģijām orientētajiem aktīvistiem, kuri pagājušajā nedēļā bija sapulcējušies pārpildītā telpā Manhetenas centrā, lai runātu par to, kā mēs varam glābt mūsu planētu, kā mēs varam cīnīties pret dezinformāciju un klimata zinātnes politizāciju, kā mēs varam stāties pretī fosilā kurināmā un ieroču peļņas meklētāju milzīgajam spēkam. Šķita, ka šajā mazajā telpā mēs visi aptvērām problēmas dimensijas, ar kurām saskaramies, un to, ka mums pašiem ir jāsāk spēlēt kritisko lomu. Tehnoloģiju kopienai ir ievērojams spēks. Tāpat kā pārdošanas kampaņas var radīt patiesas pārmaiņas, tehnoloģiju darbinieku sacelšanās var radīt patiesas pārmaiņas. Ir daudz veidu, kā klimata pārmaiņu aktīvisti, tehnoloģiju darbinieku sacelšanās aktīvisti un pretkara aktīvisti var sākt strādāt kopā, un mēs to darīsim visos iespējamos veidos.

Mums bija cerīgs sākums ar šo pulcēšanos, ko izpalīdzīgi ierosināja Izzušanas sacelšanās Ņujorkā un Pasaule nevar gaidīt. Šī kustība augs – tai ir jāaug. Klimata pārmaiņu protestētāju uzmanības centrā ir fosilā kurināmā ļaunprātīga izmantošana. Fosilā kurināmā ļaunprātīga izmantošana ir arī ASV imperiālisma galvenais peļņas motīvs un galvenais briesmīgais ASV armijas izšķērdīgo darbību rezultāts. Patiešām, šķiet, ka tā ir ASV armija vienīgais lielākais piesārņotājs pasaulē. Vai tehnoloģiju darbinieki var izmantot mūsu organizatoriskās spējas uzvarām vēl ietekmīgāk nekā Google izstāšanās no projekta JEDI? Mēs varam un mums vajag. Pagājušās nedēļas Ņujorkas sanāksme bija tikai neliels solis uz priekšu. Mums ir jādara vairāk, un mums ir jāatdod mūsu apvienotajai protestu kustībai viss, kas mums ir.

Marks Eliots Steins ir tehnoloģiju un sociālo mediju direktors World BEYOND War.

Fotogrāfs Gregorijs Švedoks.