Аз ҷониби Марк Элиот Штайн, 10 феврали соли 2020

Ба наздикӣ маро барои иштирок дар як маҷлиси исёни нобудӣ дар Ню Йорк даъват карданд World BEYOND War. Чорабинӣ тарҳрезӣ шудааст, ки се гурӯҳи амалиётиро муттаҳид созад: фаъолони таъғирёбии иқлим, коллективҳои коргарони технологӣ ва фаъолони зиддиварзӣ. Мо аз ҳисоби шахсии фаъол аз тағйири иқлим Ҳа Ву оғоз кардем ва ӯ ба мардуми Нью-Йорк дар бораи таҷрибаи ҳушдордиҳандаи камшумори мо нақл кард: баргаштан ба хонаи оилаи ӯ дар Ханой, Ветнам, ки дар онҷо зиёд шудани гармӣ аллакай дар вақти нури офтоб берун рафтан қариб ғайриимкон буд. Шумораи ками амрикоиҳо низ дар бораи он медонанд 2016 офати ифлосшавии об дар Ха Тин дар Вьетнами марказй. Мо аксар вақт аз тағйири иқлим ҳамчун як масъалаи эҳтимолӣ дар ИМА ҳарф мезанем, таъкид кард Ҳа, аммо дар Ветнам вай метавонад аллакай мебинад, ки зиндагӣ ва маишатро халалдор мекунад ва бадтар мешавад.

Ник Моттерн аз KnowDrones.org бо шитоби шабеҳ дар бораи сармоягузориҳои азими артиши ИМА дар соҳаи иктишофи сунъии футуристӣ ва компютеризатсияи абрӣ сухан ронд ва хулосаи худи артишро таъкид кард, ки ҷойгиркунии системаҳои AI дар идоракунии силоҳи ҳастаӣ ва ҷанги бесарнишин ногузир ба хатогиҳои миқёси пешгӯинашаванда оварда мерасонад. Вилям Беклер аз исёни нобудшавӣ NYC ва дар пайи шарҳ додани принсипҳои ташкилӣ ин ташкилоти муҳим ва босуръат рушдёбанда, аз ҷумла амалҳои вайронкор, ки барои баланд бардоштани сатҳи огоҳӣ дар бораи аҳамияти муҳими тағирёбии иқлим пешбинӣ шудаанд, амалӣ карда мешавад. Мо аз як намояндаи шаҳри Ню Йорк шунидам Эътилофи коргарони техникӣ, ва ман кӯшиш мекардам, ки ин ҷамъомадро ба як ҳисси тавонмандии амалӣ тавассути суханронӣ дар бораи амалиёти исёни коргарони технология, ки ногаҳон муваффақ буданд, баён кунам.

Ин дар моҳи апрели соли 2018 буд, вақте ки "индустрияи мудофиа" дар бораи Лоиҳаи Мевен, як ташаббуси нави низомии ИМА оид ба рушди қобилияти зеҳнии сунъӣ барои дрон ва дигар системаҳои силоҳ ба хашм омада буд. Google, Amazon ва Microsoft ҳама платформаҳои сунъии зеҳнии сунъиро барои мизоҷони пардохт пешниҳод мекунанд ва Google ҳамчун ғолиби эҳтимолии қарордоди ҳарбии Project Maven ҳисобида мешавад.

Дар аввали соли 2018, кормандони Google ба сухан оғоз карданд. Онҳо намефаҳмиданд, ки чаро як ширкате, ки онҳоро ба сифати коргари худ бо гаравномаи "Бад набошед" ҷалб кард, акнун ба лоиҳаҳои низомӣ тендери даҳшатноки "Зеркалои сиёҳ" -ро таклиф мекунад, ки дар он сагҳои механикии AI одамро ғорат мекунанд. мавҷудот ба марг. Онҳо дар шабакаҳои иҷтимоӣ ва расонаҳои хабарии анъанавӣ сӯҳбат карданд. Онҳо амалиёт ташкил карданд ва муроҷиатҳои худро паҳн карданд ва худро садо доданд.

Ин шӯриши коргарон генезиси ҷунбиши исёнгарони Google Workers буд ва он ба решакан кардани дигар коллективҳои коргарони технология кӯмак кард. Аммо аз ҳама ҳайратовар дар бораи эътирози дохилии Google алайҳи Лоиҳаи Maven ин набуд, ки кормандони технологӣ сухан мегуфтанд. Аз ҳама тааҷҷубовар ин аст Идоракунии Google ба талаботи коргарон мувофиқат кард.

Ду сол пас, ин воқеа маро ба ҳайрат меорад. Ман дар тӯли даҳсолаҳои худ ҳамчун коргари технологӣ мушкилоти зиёди ахлоқиро дидаам, аммо ман кам дидам, ки як ширкати калон ба таври ҷиддӣ ба ҳалли мушкилоти ахлоқӣ ба таври қатъӣ розӣ аст. Натиҷаи исёни Google зидди Лоиҳаи Maven ин нашри як қатор принсипҳои AI буд, ки онҳо дар инҷо пурра чоп карда мешаванд:

Зеҳни сунъӣ дар Google: Принсипҳои мо

Google барои эҷод кардани технологияҳое, ки мушкилоти муҳимро ҳал мекунанд ва ба одамон дар ҳаёти ҳамарӯзаи онҳо кӯмак мерасонанд, саъй мекунад. Мо дар бораи потенсиали бебаҳо барои АИ ва дигар технологияҳои пешрафта ба қудрат бахшидани одамон, наслҳои ҳозира ва оянда манфиати васеъ дорем ва ба манфиати умум кор мекунем.

Ҳадафҳо барои барномаҳои AI

Мо аризаҳои AI-ро бо назардошти ҳадафҳои зерин арзёбӣ мекунем. Мо боварӣ дорем, ки Айнӣ бояд:

1. Аз ҷиҳати иҷтимоӣ муфид бошед.

Дастрасии васеи технологияҳои нав ба тамоми ҷомеа бештар таъсир мерасонад. Пешрафтҳо дар соҳаи Айнӣ дар тамоми соҳаҳо, аз ҷумла тандурустӣ, амният, энергетика, нақлиёт, истеҳсолот ва вақтхушӣ, бояд тағироти ҷиддӣ дошта бошанд. Ҳангоми баррасии рушди потенсиалӣ ва истифодаи технологияҳои AI, мо як қатор омилҳои иҷтимоию иқтисодиро ба назар мегирем ва дар он ҳолате амал хоҳем кард, ки боварӣ ҳосил хоҳад кард, ки фоидаҳои эҳтимолии эҳтимолӣ аз хатарҳои пешгӯишуда хеле зиёданд.

Айнӣ инчунин қобилияти моро дарк кардани маънои мундариҷа дар миқёси васеътар мекунад. Мо саъй хоҳем кард, ки маълумоти босифат ва дақиқро бо истифода аз AI дастрас кунем ва ҳамзамон эҳтиром ба меъёрҳои фарҳангӣ, иҷтимоӣ ва ҳуқуқиро дар кишварҳое, ки мо фаъолият дорем, риоя кунем. Ва мо минбаъд низ ба таври возеҳ арзёбӣ кардани технологияҳои худро дар асоси ғайритиҷоратӣ идома хоҳем дод.

2. Аз эҷод ва тақвияти ғаразҳои беадолат худдорӣ намоед.

Алгоритмҳо ва маҷмӯаҳои AI метавонанд ғаразҳои беадолатро инъикос, тақвият ё коҳиш диҳанд. Мо эътироф мекунем, ки фарқ кардани одилона аз ғаразҳои ноодилона на ҳамеша оддӣ аст ва дар фарҳангҳо ва ҷомеаҳо фарқ мекунад. Мо мекӯшем, ки аз таъсироти беасос ба одамон, алахусус ба хусусиятҳои ҳассос, ба монанди нажод, қавм, ҷинс, миллат, даромад, тамоюли ҷинсӣ, қобилият ва эътиқоди сиёсиву мазҳабӣ, роҳ надиҳем.

3. Барои бехатарӣ сохта ва озмоиш карда шавад.

Мо минбаъд низ таҳия ва татбиқи амалияҳои қавии амният ва амниятро пешгирӣ хоҳем кард, то натиҷаҳои ғайричашмдошт, ки хавфи зарарро ба вуҷуд меоранд. Мо системаҳои AI-и худро тарҳрезӣ мекунем, ки онҳо ба таври лозима боэҳтиёт бошанд ва талош варзем, ки онҳоро мувофиқи таҷрибаи пешқадам дар таҳқиқоти бехатарии AI таҳия намоем. Дар ҳолатҳои мувофиқ, мо технологияҳои AI-ро дар муҳити маҳдуд озмоиш мекунем ва кори онҳоро пас аз густариш назорат мекунем.

4. Дар назди мардум ҳисобот додан.

Мо системаҳои AI-ро тарроҳӣ хоҳем кард, ки барои посух додан, тавзеҳот ва шикояти мувофиқ имкониятҳои мувофиқ фароҳам меоранд. Технологияҳои AI-и мо таҳти роҳнамоӣ ва назорати мувофиқи инсон қарор мегиранд.

5. Принсипҳои тарроҳии махфиятро дарбар гиред.

Мо принсипҳои махфияти худро дар таҳия ва истифодаи технологияҳои AI-и худ дохил хоҳем кард. Мо барои огоҳӣ ва розӣ шудан, меъмориро бо ҳифзи махфият ҳавасманд хоҳем кард ва шаффофияти мувофиқ ва назорати истифодаи додаҳоро таъмин хоҳем кард.

6. Ба меъёрҳои баланди аъло такя кардан.

Навовариҳои технологӣ аз усули илмӣ ва ӯҳдадорӣ барои кушодани таҳқиқот, ҷиддияти зеҳнӣ, якпорчагӣ ва ҳамкорӣ асос ёфтаанд. Абзорҳои AI дорои қобилияти кушодани самтҳои нави таҳқиқоти илмӣ дар соҳаҳои муҳим ба мисли биология, химия, тиб ва илмҳои экологӣ мебошанд. Мо саъй мекунем ба стандартҳои олии аълои илмӣ ҳангоми кор дар пешрафти А.И.

Мо бо як қатор ҷонибҳои манфиатдор барои пешбурди роҳбарии оқилона дар ин самт кор карда, равишҳои илмии дақиқ ва бисёрҷабҳаро татбиқ хоҳем кард. Ва мо бо масъулияти мубодилаи донишҳои AI тавассути интишори маводҳои таълимӣ, таҷрибаҳои беҳтарин ва таҳқиқот, ки ба шумораи бештари одамон барои таҳия кардани барномаҳои муфид дар бораи AI мусоидат мекунанд.

7. Барои истифодаи ин принсипҳо мутобиқ бошанд.

Бисёр технологияҳо истифодаи сершумор доранд. Мо барои маҳдуд кардани барномаҳои эҳтимолан зараровар ё таҳқиромез кор хоҳем кард. Ҳангоми таҳия ва татбиқ кардани технологияҳои AI, мо бо назардошти омилҳои зерин истифодаи эҳтимолиро арзёбӣ мекунем:

• Мақсади асосӣ ва истифода: ҳадафи асосӣ ва эҳтимолан истифодаи технология ва барнома, аз он ҷумла, ки ин масъала ба истифодаи зараровар алоқаманд ё мутобиқ карда мешавад
• Табиат ва беҳамтоӣ: оё мо технологияи беназир ё умуман дастрасро дастрас карда истодаем
• Сатьи: оё истифодаи ин технология таъсири назаррас хоҳад дошт
• Хусусияти иштироки Google: оё мо воситаҳои таъиноти умумӣ дорем, воситаҳои ҳамгироии муштариён ё таҳияи қарорҳои фармоишӣ

Барномаҳои AI, ки мо пайгирӣ намекунем

Илова ба ҳадафҳои дар боло зикршуда, мо AI-ро дар соҳаҳои зерин татбиқ намекунем:

1. Технологияҳое, ки зарари умумӣ мерасонанд ё эҳтимол доранд. Дар он ҷое, ки хатари ҷиддии зарар мавҷуд аст, мо танҳо ҳамон вақт амал хоҳем кард, ки боварӣ ба он, ки фоидаҳо аз хатарҳо баландтар аст ва маҳдудиятҳои дахлдори амниятро дарбар мегирад.
2. Силоҳ ва дигар технологияҳо, ки мақсади асосии онҳо ин расонидани зарар ё бевосита сабук кардани одамон мебошад.
3. Технологияҳое, ки вайрон кардани меъёрҳои эътирофшудаи байналмилалиро барои назорат ҷамъоварӣ ва истифода мебаранд.
4. Технологияҳое, ки ҳадафи онҳо ба принсипҳои эътирофшудаи ҳуқуқи байналмилалӣ ва ҳуқуқи инсон мухолиф аст.

Бо зиёд шудани таҷрибаи мо дар ин фазо, ин рӯйхат метавонад такмил ёбад.

хулоса

Мо боварӣ дорем, ки ин принсипҳо асоси дуруст барои ширкати мо ва рушди ояндаи АИ мебошанд. Мо эътироф менамоем, ки ин соҳа динамикӣ ва рушдкунанда аст ва мо ба кори худ бо фурӯтанӣ, ӯҳдадорӣ ба ҷалби дохилӣ ва беруна ва омодагӣ ба мутобиқ кардани равиши худ бо мурури замон меоем.

Ин натиҷаи мусбат Google-и технологиро аз мушкилот дар дигар соҳаҳои муҳимми муҳим, аз қабили дастгирии ICE, полис ва дигар амалиётҳои ҳарбӣ, ҷамъоварӣ ва фурӯши дастрасӣ ба маълумоти хусусӣ дар бораи ашхос, пинҳон кардани изҳороти баҳсноки сиёсӣ аз натиҷаҳои ҷустуҷӯ озод намекунад. ва, муҳимтар аз ҳама, ба кормандони худ имкон медиҳад, ки дар бораи ин ва дигар масъалаҳо бидуни аз кор озод кардани худ идома диҳанд. Ҳаракати исёни коргарони Google фаъол боқӣ мондааст.

Ҳамзамон, бояд эътироф кард, ки то чӣ андоза таъсирбахш будани ҳаракати коргарони Гугл буд. Ин пас аз оғози эътирозҳои Google фавран маълум шуд: шӯъбаҳои маркетинги Пентагон интишори прессҳои навро дар бораи лоиҳаи шавқовари Project Maven қатъ карданд ва дар ниҳоят лоиҳа комилан аз назари намоёни ҷамъиятӣ «нопадид» шуд. Ба ҷои ин, аз маккоронаи Пентагон як ташаббуси нав ва хеле васеътари зеҳни сунъӣ оғоз ёфт Шӯрои инноватсионии дифоъ.

Ин даъват карда шуд Лоиҳаи JEDI, номи нав барои харҷҳои Пентагон барои силоҳи муосир сарф мекунад. Лоиҳаи JEDI назар ба Лоиҳаи Maven маблағи зиёдтар харҷ мекунад, аммо маъруфият ба лоиҳаи нав бисёр вақт ва диққат ба таблиғ ва маркетинг) аз қаблӣ хеле фарқ мекард. Ҳама тасаввуроти зебои ҳамешагии “Зеркалои сиёҳ” нест шуданд. Ҳоло, ба ҷои таъкид кардани даҳшати аҷиб ва кинематографии дистопияи дронҳои AI метавонад ба инсонҳо, Лоиҳаи JEDI худро ҳамчун қадами оқилона ба сӯи самаранок шарҳ дода, базаи абрҳои гуногунро барои кӯмак ба "ҷанговарон" (истилоҳи дӯстдоштаи Пентагон барои кормандони фронт) ва гурӯҳҳои пуштибонии офис самаранокии иттилоотро ба ҳадди аксар мерасонанд. Дар куҷо Project Maven барои садо додани шавқовар ва футуристӣ тарҳрезӣ шуда бошад, Лоиҳаи JEDI барои садо додани амалӣ ва амалӣ тарҳрезӣ шудааст.

Дар бораи нишони нарх барои Лоиҳаи JEDI ҳеҷ чизи оқилона ва амалӣ вуҷуд надорад. Ин бузургтарин қарордоди ҳарбӣ дар таърихи ҷаҳон аст: 10.5 миллиард доллар. Вақте ки мо дар бораи миқёси хароҷотҳои ҳарбӣ мешунавем, бисёр чашмони мо медурахшанд ва мо метавонем фарқи байни миллионҳо ва миллиардҳоро партоем. Фаҳмидани он, ки то чӣ андоза ташаббуси нармафзори қаблии Пентагон аз он бузургтар аст Лоиҳаи JEDI. Ин ивазкунандаи бозӣ, муҳаррики боигарӣ, чеки холӣ барои фоида аз ҳисоби андозсупоранда мебошад.

Он барои харошидан дар зери варақаҳои матбуотии ҳукумат ҳангоми кӯшиши дарки чеки хароҷоти низомӣ ба андозаи 10.5 миллиард доллар кӯмак мекунад. Баъзе маълумотро аз нашрияҳои худи низомӣ гирифтан мумкин аст, ба монанди ташвишовар Моҳи августи соли 2019 мусоҳиба бо Маркази муштараки зеҳни сунъӣ генерал-лейтенант Ҷек Шанахан, нишондиҳандаи калидӣ дар Лоиҳаи Maven-и нопадидшуда ва лоиҳаи нави JEDI мебошад. Ман тавонистам фаҳмиши бештаре дар бораи он ки инсайдерон дар соҳаи мудофиа дар бораи лоиҳаи JEDI мешунаванд, бо шунидани подкастингҳо дар соҳаи мудофиа, "Лоиҳаи 38: Ояндаи аҳдномаи ҳукумат". Меҳмонони подкаст аксар вақт дар бораи ҳар як мавзӯъе, ки онҳо муҳокима мекунанд, самимона ва бегуфтугӯ ҳарф мезананд. "Бисёр одамон имсол ҳавзҳои нави шиноварӣ мехаранд" ба хоси инсайдерии ин подкаст дар бораи Project JEDI хос буд. Мо боварӣ дорем, ки онҳо хоҳанд буд.

Ин чизи ҷолибест, ки ба принсипҳои AI-и Google иртибот дорад. Се пешрави аён барои шартномаи азими JEDI $ 10.5 миллиардҳо Google, Amazon ва Microsoft мебуданд - бо ин тартиб, дар асоси эътибори онҳо ҳамчун навоварони AI. Азбаски коргарон алайҳи Project Maven дар соли 2018 эътироз карданд, раҳбари AI Google лоиҳаи JEDI-ро дар соли 2019 аз назар дур гузошт. Дер соли 2019 эълом шуд, ки шартнома ба Microsoft бастааст. Пас аз он як фарогирии фарогирии хабарҳо ба вуқӯъ пайваст, аммо ин фарогирӣ асосан ба рақобати Амазонка ва Майкрософт ва ба он равона карда шуд, ки ба ҷои 3-юми Майкрософт эҳтимолан иҷозат дода шуд, ки Амазонкаро барои пирӯзӣ аз ҳисоби ҷангҳои давомдори маъмурияти Трамп бо Washington Post, ки ба Амазонки Ҷефф Безос тааллуқ дорад. Ҳоло Амазонка барои мубориза бо тӯҳфаи Пентагон ба $ 2 миллиард ба Майкрософт ба суд муроҷиат мекунад ва Oracle низ ба додгоҳ кашида мешавад. Суханронии мушаххаси подкаст аз Лоиҳаи 10.5, ки дар боло зикр гардид - «Бисёр одамон имсол ҳавзҳои нави шиноварӣ мехаранд» - на танҳо ба манфиати молиявии Microsoft, балки ба ҳамаи ҳуқуқшиносоне, ки дар ин мурофиаҳо ширкат хоҳанд кард, ишора карданд. Мо эҳтимолан тахмин зада метавонем, ки беш аз 38% аз 3 миллиард доллари лоиҳаи JEDI ба адвокатҳо хоҳад рафт. Хеле бад аст, ки мо онро барои кӯмак истифода бурда наметавонем хотимаи гуруснагӣ дар ҷаҳон ба ҷои.

Баҳс дар бораи он, ки оё интиқоли маблағҳои андозсупоранда ба пудратчиёни ҳарбӣ бояд ба манфиати Microsoft, Amazon ё Oracle фоида бахшад, дар фарогирии ахбори лоиҳаи JEDI бартарӣ дорад. Як паёми мусбате, ки бояд аз ин пайванди қабеҳ гирифта шавад - далели он, ки Google аз бузургтарин шартномаи нармафзори ҳарбӣ дар таърихи ҷаҳонӣ ба сабаби эътирози коргарон даст кашид - дар хабари Лоиҳаи JEDI амалан номувофиқ буд. 

Бинобар ин муҳим буд, ки ин ҳикояро ба фаъолони ба технология нигаронидашуда, ки ҳафтаи гузашта дар як ҳуҷраи серодам дар маркази Манҳеттан ҷамъ омада буданд, гуфтугӯ кунем, ки чӣ тавр мо сайёраи худро наҷот диҳем, чӣ гуна мо бо дезинформация ва сиёсатгузории илмҳои иқлим мубориза барем чӣ гуна мо метавонем ба қудрати бузурги шарикони сӯзишвории истихроҷшаванда ва фурӯшандагони силоҳ истодагарӣ намоем. Дар ин ҳуҷраи хурд, ҳамаи мо ба назар мерасидем, ки мушкилиамонро чӣ гуна дучор шудаем ва нақши муҳимеро, ки худи мо бояд ба нақш мебозем, бояд дарк кунем. Ҷамъияти технологӣ қудрати назаррас дорад. Чӣ тавре ки маъракаҳои барҳамхӯрӣ метавонанд фарқияти ҳақиқиро ба вуҷуд оранд, шӯришҳои коргарони технологӣ метавонанд фарқияти ҳақиқиро ба вуҷуд оранд. Роҳҳои зиёде мавҷуданд, ки фаъолони таъғирёбии иқлим, фаъолони саркашони шӯришгарони коргар ва фаъолони зидди ҳамла метавонанд якҷоя кор кунанд ва мо бо ҳар роҳе ки мекунем, чунин мекунем.

Мо бо ин ҷамъомад умедвор будем, ки бо ибтикори он ибтикор шудем Саркӯбии исён NYC ва Ҷаҳон наметавонад интизор шавад. Ин ҳаракат афзоиш хоҳад ёфт - он бояд рушд кунад. Истифодаи сӯзишвории фоиданок дар маркази таваҷҷӯҳи эътирозгарони тағирёбии иқлим қарор дорад. Сӯиистифода аз сӯзишвории фоиданок инчунин ҳам ҳадафи асосии фоидаи империализми ИМА ва ҳам натиҷаи даҳшатноки фаъолияти исрофкории низомиёни шӯршуда мебошад. Дар ҳақиқат, артиши ИМА ба назар мерасад бадтарин ифлоскунандатарин дар ҷаҳон. Оё кормандони технологӣ қудрати ташкилии моро барои ғалаба нисбат ба хуруҷи Google аз Лоиҳаи JEDI самараноктар истифода мебаранд? Мо метавонем ва бояд кунем. Мулоқоти ҳафтаи гузашта дар шаҳри Ню Йорк танҳо як қадами ночиз ба пеш буд. Мо бояд корҳои зиёдеро анҷом диҳем ва мо бояд ҳаракати дастаҷамъонаи эътирозии худро ҳар он чизе, ки дорем, ба ҷо оварем.

Марк Элиот Штайн директори технология ва ВАО иҷтимоӣ барои World BEYOND War.

Аксҳо аз Грегори Шведок.