Mark Eliot Stein tomonidan, 10 yil 2020 fevral

Yaqinda meni Nyu-York shahrida bo'lib o'tgan qirib tashlangan isyon yig'ilishida nutq so'zlashdi World BEYOND War. Ushbu tadbir uchta harakat guruhini: iqlim o'zgarishi bo'yicha faollarni, texnik xodimlar jamoalarini va urushga qarshi faollarni birlashtirish uchun ishlab chiqilgan. Biz iqlim o'zgarishi bo'yicha faol Ha Vu bilan bo'lgan shaxsiy suhbatni boshladik, u Nyu-York aholisiga bizda kam bo'lgan tashvishli voqea haqida aytib berdi: Vetnamning Xanoyidagi o'z oilasining uyiga qaytish. ortdi issiqlik quyosh nuri tushganda tashqarida yurishni deyarli imkonsiz qilib qo'ydi. Kam sonli amerikaliklar ham bu haqida bilishadi 2016 suv ifloslanishi ofati Vetnam markazidagi Ha Tinh shahrida. Ha, biz AQShda iqlim o'zgarishi haqida potentsial muammo sifatida gaplashamiz, ammo Vetnamda uning hayoti va turmush tarziga putur etkazayotgani va tez yomonlashayotganini ko'rish mumkin.

Nik mottern KnowDrones.org AQSh armiyasining yaqinda futuristik sun'iy intellekt va bulutli hisoblash ishlariga katta sarmoya kiritgani haqida shu kabi shoshilinch gapirdi va yadroviy qurollarni boshqarish va uchuvchisiz urushlarda sun'iy intellekt tizimlarini joylashtirish muqarrar ravishda kutilmagan darajada xatolarga olib keladi degan xulosani ta'kidladi. Yo'qolib ketish isyoni bo'yicha Nyu-Yorkdagi Uilyam Bekler, ushbu muhim va tez rivojlanib borayotgan tashkilotning harakat tamoyillarini, shu jumladan iqlim o'zgarishining muhimligi to'g'risida xabardorlikni oshirishga qaratilgan buzg'unchilik harakatlarini tushuntirib berdi. Biz Nyu-York shahri vakilidan eshitdik Texnik ishchilar koalitsiyasi, va men kutilmaganda muvaffaqiyatli bo'lgan texnologiya ishchilarining qo'zg'olon harakati haqida gapirib, yig'ilishni amaliy vakolat tuyg'usiga yo'naltirishga harakat qildim.

Bu 2018 yil aprel oyida, "mudofaa sanoati" deb nomlangan Project Maven, AQShning dronlar va boshqa qurol tizimlari uchun sun'iy intellekt qobiliyatini rivojlantirish bo'yicha yangi e'lon qilingan yangi harbiy tashabbusi haqida g'azabga kelgan paytda edi. Google, Amazon va Microsoft barcha mijozlarga to'lovlarni amalga oshirish uchun sun'iy intellekt platformalarini taklif qiladilar va Google Project Maven harbiy shartnomasining ehtimoliy g'olibi deb topildi.

2018 yil boshida Google ishchilari gapira boshlashdi. Ular nima uchun "Yomon bo'lmang" garovi bilan ishchilar sifatida yollangan kompaniya endi AI-ning mexanik itlari odamlarni ovlaydigan "Qora oyna" dahshatli epizodiga o'xshab qolishi mumkin bo'lgan harbiy loyihalarni taklif qilmoqda? O'limgacha. Ular ijtimoiy tarmoqlarda va an'anaviy axborot vositalarida gaplashdilar. Ular aktsiya uyushtirishdi va petitsiyalarni tarqatishdi va o'zlarini tinglashdi.

Bu ishchilar isyoni Google Workers isyon harakatining genezisi edi va bu boshqa texnologiya ishchilar jamoalarini olib tashlashga yordam berdi. Ammo Project Maven-ga qarshi Google-ning ichki noroziligidagi eng hayratlanarlisi, bu texnologiya xodimlari gapirish emas edi. Eng ajablanarli narsa shundaki Google rahbariyati ishchilar talablariga rozi bo'ldi.

Ikki yil o'tgach, bu fakt hali ham meni hayratda qoldirmoqda. Men o'nlab yillar davomida texnologik ishchi sifatida ko'p axloqiy muammolarni ko'rdim, ammo men kamdan-kam hollarda yirik kompaniyaning axloqiy muammolarni sezilarli darajada hal qilishga qat'iyan rozi bo'lganlarini ko'rganman. Project Maven-ga qarshi Google isyonining natijasi bu erda to'liq nashr etilishi kerak bo'lgan AI tamoyillarini nashr etish edi:

Google'dagi sun'iy intellekt: bizning printsiplarimiz

Google muhim muammolarni hal qiladigan va odamlarga kundalik hayotlarida yordam beradigan texnologiyalarni yaratishga intiladi. AI va boshqa ilg'or texnologiyalarning odamlarga imkoniyat berish, hozirgi va kelajak avlodlarga keng foyda olish va umumiy manfaatlar uchun ishlash uchun aql bovar qilmaydigan potentsialiga ishonamiz.

AI dasturlari uchun maqsadlar

Quyidagi maqsadlarni hisobga olgan holda biz AIga murojaat qilishni baholaymiz. Biz ishonamizki, AI:

1. Ijtimoiy foydali bo'ling.

Yangi texnologiyalarning kengayib borishi umuman jamiyatni qamrab oladi. AI sohasidagi yutuqlar sog'liqni saqlash, xavfsizlik, energiya, transport, ishlab chiqarish va ko'ngil ochishni o'z ichiga olgan keng sohalarda o'zgaruvchan ta'sir ko'rsatadi. AI texnologiyalarining potentsial rivojlanishi va ishlatilishini ko'rib chiqqanda, biz ijtimoiy va iqtisodiy omillarning keng doirasini inobatga olamiz va barcha mumkin bo'lgan foyda kutilayotgan xavf va tushishlardan sezilarli darajada oshganiga ishonamiz.

AI shuningdek, miqyosdagi tarkibning ma'nosini tushunish qobiliyatimizni yaxshilaydi. Biz faoliyat yuritayotgan mamlakatlarda madaniy, ijtimoiy va huquqiy me'yorlarni hurmat qilishni davom ettirib, biz AI yordamida yuqori sifatli va aniq ma'lumotga ega bo'lishga harakat qilamiz. Texnologiyalarimizni notijorat asosda qachon taqdim etishni o'ylab baholashni davom ettiramiz.

2. Adolatsiz xayolparastlik qilish yoki uni kuchaytirishdan saqlaning.

AI algoritmlari va ma'lumotlar to'plamlari adolatsiz xayollarni aks ettirishi, kuchaytirishi yoki kamaytirishi mumkin. Adolatni nohaq tarafdan ajratish har doim ham oddiy emasligini va madaniyatlar va jamiyatlarda turlicha bo'lishini tushunamiz. Biz odamlarga, xususan irq, etnik, jins, millat, daromad, jinsiy orientatsiya, qobiliyat va siyosiy yoki diniy e'tiqod kabi nozik xususiyatlarga bog'liq bo'lgan nohaq ta'sirlardan qochishga harakat qilamiz.

3. Qurilish va xavfsizlik uchun sinovdan o'tish.

Zarar etkazish xavfini keltirib chiqaradigan kutilmagan natijalarga yo'l qo'ymaslik uchun xavfsizlik va xavfsizlikning kuchli qoidalarini ishlab chiqishda va qo'llashda davom etamiz. Biz AI tizimlarini ehtiyotkorlik bilan ishlab chiqamiz va ularni AI xavfsizligini tadqiq qilishdagi eng yaxshi amaliyotga muvofiq rivojlantirishga intilamiz. Tegishli hollarda biz cheklangan muhitda AI texnologiyalarini sinovdan o'tkazamiz va joylashtirilganidan keyin ularning ishlashini kuzatamiz.

4. Odamlarga hisobot bering.

Biz fikr-mulohazalar, tegishli tushuntirishlar va apellyatsiya uchun tegishli imkoniyatlarni ta'minlaydigan AI tizimlarini ishlab chiqamiz. Bizning AI texnologiyalarimiz tegishli inson yo'nalishi va nazorati ostida bo'ladi.

5. Maxfiylik dizayni tamoyillarini qo'shing.

Biz shaxsiy hayotimiz tamoyillarini AI texnologiyalarimizni ishlab chiqish va foydalanishda hisobga olamiz. Biz xabardor qilish va rozilik berish imkoniyatini beramiz, arxitekturani maxfiylik kafolati bilan rag'batlantiramiz va ma'lumotlardan foydalanishda tegishli shaffoflik va nazoratni ta'minlaymiz.

6. Ilmiy mukammallikning yuqori standartlariga rioya qilish.

Texnologik yangilik ilmiy usul va ochiq izlanish, intellektual qat'iylik, yaxlitlik va hamkorlikka asoslangan. AI vositalari biologiya, kimyo, tibbiyot va atrof-muhit fanlari kabi muhim sohalarda ilmiy tadqiqotlar va bilimlarning yangi qirralarini ochish imkoniyatiga ega. AI rivojlanishiga erishish uchun biz ilmiy mukammallikning yuqori standartlariga intilamiz.

Biz ilmiy yo'naltirilgan va ko'p tarmoqli yondashuvlarga asoslanib, ushbu sohada puxta etakchilikni rivojlantirish uchun bir qator manfaatdor tomonlar bilan ishlaymiz. Va biz AI ma'lumotlarini mas'uliyatli ravishda ko'proq odamlarga foydali AI dasturlarini ishlab chiqishga imkon beradigan o'quv materiallari, eng yaxshi amaliyotlar va tadqiqotlarni nashr qilish orqali ulashamiz.

7. Ushbu printsiplarga mos ravishda foydalanish uchun taqdim eting.

Ko'pgina texnologiyalar bir necha bor foydalanadi. Biz zararli yoki haqoratomuz dasturlarni cheklash uchun harakat qilamiz. AI texnologiyalarini ishlab chiqish va joriy qilishda biz quyidagi omillarni hisobga olgan holda ehtimoliy foydalanishni baholaymiz:

• Asosiy maqsad va foydalanish: texnologiya va dasturlarning asosiy maqsadi va ehtimol foydalanish, shu jumladan echim zararli foydalanish bilan qanday bog'liq yoki moslashishi
• Tabiat va o'ziga xoslik: biz noyob yoki umuman mavjud bo'lgan mavjud texnologiyalarni ishlab chiqayapmizmi
• Skalalar: ushbu texnologiyadan foydalanish muhim ta'sir ko'rsatadimi yoki yo'qmi
• Google ishtirokining mohiyati: biz umumiy maqsadlar uchun vositalarni taqdim qilyapmizmi, mijozlar uchun vositalarni birlashtiramizmi yoki maxsus echimlarni ishlab chiqamiz

AI dasturlarini biz ta'qib qilmaymiz

Yuqoridagi maqsadlarga qo'shimcha ravishda, biz quyidagi amaliy sohalarda AIni yaratmaymiz va joylashtirmaymiz:

1. Umumiy zarar etkazadigan yoki ehtimol etkazadigan texnologiyalar. Zarar etkazishning jiddiy xavfi bo'lgan taqdirda, biz foyda imtiyozlar risklardan sezilarli darajada oshib ketishiga va tegishli xavfsizlik cheklovlarini hisobga olgan holda harakat qilamiz.
2. Asosiy maqsadi yoki amalga oshirilishi odamlarga zarar etkazish yoki bevosita yordam beradigan qurol yoki boshqa texnologiyalar.
3. Xalqaro miqyosda qabul qilingan me'yorlarni buzgan holda kuzatuv uchun ma'lumot to'playdigan yoki ishlatadigan texnologiyalar.
4. Maqsadlari xalqaro huquq va inson huquqlari keng tarqalgan tamoyillariga zid bo'lgan texnologiyalar.

Ushbu fazoda tajribamiz oshgani sayin, ushbu ro'yxat o'zgarishi mumkin.

Xulosa

Biz ushbu tamoyillar bizning kompaniyamiz uchun to'g'ri poydevor va kelajakda AI rivojlanishiga ishonamiz. Biz ushbu yo'nalish dinamik va rivojlanayotganligini tan olamiz va biz o'z ishimizga kamtarlik, ichki va tashqi majburiyatlarga sodiqlik va vaqt o'tishi bilan yondashuvimizga moslashishga tayyor bo'lamiz.

Ushbu ijobiy natija Google-ning yirik gigant texnologiyalarini ICE, politsiya va boshqa harbiy faoliyatlarni qo'llab-quvvatlash, shaxslar to'g'risidagi shaxsiy ma'lumotlarga kirishni yig'ish va sotish, qidiruv tizimi natijalaridan munozarali siyosiy bayonotlarni yashirish kabi boshqa muhim sohalardagi murakkablikdan xalos qilmaydi. va eng muhimi, o'z xodimlariga ushbu va boshqa masalalar bo'yicha gaplashishni davom ettirishga imkon berish. Google ishchilarining qo'zg'olon harakati faol va faol ishtirok etmoqda.

Shu bilan birga, Google ishchilar harakati qanchalik ta'sirli ekanligini tan olish kerak. Bu Google-ning noroziliklari boshlanganidan so'ng darhol aniq bo'ldi: Pentagonning marketing bo'limlari bir vaqtning o'zida qiziqarli Maven loyihasi haqida yangi press-relizlar berishni to'xtatdilar, natijada loyihani ilgari qidirilgan jamoatchilikka ko'rinmay «yo'qolib» ketdilar. Buning o'rniga Pentagonning hiyla-nayranglaridan yangi va ancha katta sun'iy intellekt tashabbusi paydo bo'ldi Mudofaa innovatsion kengashi.

Bu chaqirildi JEDI loyihasi, Pentagon zamonaviy qurollarni sarflashga sarflanadigan yangi nom. JEDI loyihasi Project Maven-dan ko'ra ko'proq pul sarflashi kerak edi, ammo yangi loyiha uchun oshkoralik (ha, AQSh harbiy kuchlari sarf-xarajatlar uchun ko'p vaqt va reklama va marketingga e'tibor) avvalgisidan ancha farq qilar edi. "Qora oyna" ning barcha tiniq va xayolot rasmlari g'oyib bo'ldi. Endi, hayajonli va kinematik distopiya dahshatli AI-dronlar dahshatlarini odamlarga etkazishi mumkinligini ta'kidlash o'rniga, JEDI loyihasi o'zini "jangchilar" ga yordam berish uchun turli xil bulutli ma'lumotlar bazalarini birlashtirgan holda samaradorlik uchun oldinga qadam deb tushuntirdi. front-line xodimlari) va orqa-ofis yordamchilari ma'lumotlarning samaradorligini maksimal darajada oshiradilar. Project Maven qiziqarli va futuristik ko'rinishga ega bo'lgan joyda, JEDI loyihasi aqlli va amaliy ko'rinishga ega bo'lgan.

Project JEDI uchun narx belgisi haqida hech qanday mantiqiy yoki amaliy narsa yo'q. Bu dunyo tarixidagi eng yirik harbiy dasturiy shartnoma: $ 10.5 milliard. Harbiy xarajatlarning ko'lami haqida eshitganimizda, ko'pchilik ko'zlarimizni charchatadi va millionlar va milliardlar o'rtasidagi farqni o'tkazib yuborish mumkin. Project JEDI Pentagonning oldingi dasturiy tashabbuslaridan qanchalik katta ekanligini tushunish kerak. Bu o'yinni o'zgartiruvchi vosita, boylik keltiradigan vosita, soliq to'lovchi hisobidan foyda olish uchun bo'sh chek.

Bu 10.5 milliard dollargacha bo'lgan harbiy xarajatlarni tekshirishni tushunishga urinish paytida hukumatning press-relizlari ostidan chizishga yordam beradi. Ba'zi ma'lumotlarni bezovta qiladigan narsa kabi, harbiylarning o'z nashrlaridan olish mumkin 2019 yil avgust oyida Qo'shma sun'iy intellekt markazi general-leytenanti Jek Shanaxan bilan intervyu, yo'qolgan Maven Project va yangi JEDI loyihalarida asosiy shaxs. Men mudofaa sanoatining podkastini tinglab, mudofaa sanoati insayderlari JEDI loyihasi haqida qanday fikrda ekanliklarini ko'proq bilib oldim. "38-loyiha: Hukumat shartnomasi kelajagi". Podkast mehmonlari har qanday mavzu haqida tez-tez ochiq va beg'araz gapirishadi. "Bu yil ko'p odamlar yangi suzish havzalarini sotib olishadi" - bu podkastning JEDI loyihasi haqidagi insayder suhbatiga xos bo'lgan. Biz ular bo'lishiga aminmiz.

Google-ning sun'iy intellekt tamoyillari bilan bog'liq bo'lgan ajoyib narsa. JEDI-ning 10.5 milliard dollarlik yirik shartnomasi uchun aniq uchta etakchi Google, Amazon va Microsoft bo'lar edi - bu tartibda ularning sun'iy intellekt ixtirochilarining obro'siga asoslanib. 2018 yilda ishchilar Project Maven-ga qarshi norozilik bildirishgani sababli, AI etakchisi Google 2019 yilda JEDI-ning ancha kattaroq loyihasini ko'rib chiqmadi. 2019 yil oxirida, Microsoft bilan shartnoma tuzilganligi e'lon qilindi. Ko'p sonli yangiliklar tarqaldi, ammo bu xabar asosan Amazon va Microsoft o'rtasidagi raqobatga va 3-o'rin Microsoft-ga, ehtimol Trump ma'muriyatining Washington Post bilan davom etayotgan janglari sababli g'alaba uchun Amazon-ning 2-o'rinni yutishiga ruxsat berilganligiga e'tibor qaratdi. Amazon kompaniyasi Jeff Bezosga tegishli. Amazon endi Pentagonning Microsoft-ga 10.5 milliard dollar sovg'asi bilan kurashish uchun sudga murojaat qilmoqda va Oracle ham sudga murojaat qilmoqda. Yuqorida aytib o'tilgan "Project 38" podkastining o'ziga xos fikri - "Ko'p odamlar bu yil yangi suzish havzalarini sotib olishadi" - bu nafaqat Microsoft-ning moliyaviy yordami, balki ushbu sud ishlarida qatnashadigan barcha advokatlar haqida ham. Ehtimol, JEDI loyihasining 3 milliard dollaridagi mablag'larining 10.5 foizidan ko'prog'i advokatlarga sarflanishi haqida ma'lumotli taxmin qilishimiz mumkin. Juda yomon, biz uni yordam berish uchun ishlata olmaymiz dunyo ocharligini tugatish Buning o'rniga.

Soliq to'lovchilar tomonidan ushbu pulni harbiy pudratchilarga o'tkazish Microsoft, Amazon yoki Oracle kompaniyalariga foyda keltirishi kerakligi to'g'risida tortishuvlar JEDI loyihasi yangiliklarida ustunlik qildi. Ushbu behayo payvandlashdan olinadigan bir ijobiy xabar - Google ishchilarning noroziligi tufayli dunyo tarixidagi eng yirik harbiy dasturiy ta'minot shartnomasidan voz kechgani - JEDI loyihasi yangiliklarida deyarli yo'q edi. 

Shu sababli o'tgan hafta Manhettenning markazida joylashgan gavjum xonada to'plangan texnologiyalarga yo'naltirilgan faollarga ushbu voqeani aytib berish juda muhim edi, chunki biz sayyoramizni qanday qutqarishimiz, qanday qilib dezinformatsiya va iqlim fanining siyosatiga qarshi kurashishimiz mumkinligi haqida gaplashdik. qazib olinadigan yoqilg'i sotuvchilar va qurol sotuvchilarning ulkan kuchiga qanday qarshi tura olamiz. Bu kichkina xonada hammamiz duch kelayotgan muammoning mohiyatini va biz o'ynamoqchi bo'lgan muhim rolni anglab etganday bo'ldik. Texnologik hamjamiyat sezilarli kuchga ega. Ishdan bo'shatish kampaniyalari chinakam o'zgarishi mumkin bo'lganidek, texnologiya ishchilarining isyonlari ham haqiqiy o'zgarishlarni amalga oshirishi mumkin. Iqlim o'zgarishi bo'yicha faollar, texnologiya ishchilarining qo'zg'olon faollari va urushga qarshi faollari birgalikda ishlashni boshlashlari mumkin va biz buni qo'limizdan kelganicha qilamiz.

Biz ushbu yig'ilishni katta umid bilan boshladik NYC qirg'in isyoni va Dunyo kutib turolmaydi. Bu harakat o'sadi - o'sishi kerak. Qazilma yoqilg'idan suiiste'mol qilish iqlim o'zgarishiga qarshi namoyishchilarning diqqat markazida. Qazilma yoqilg'ini suiiste'mol qilish, shuningdek, AQSh imperializmining asosiy foyda keltiruvchi maqsadi va AQSh harbiylarining behuda harakatlarining dahshatli natijasidir. Darhaqiqat, AQSh harbiylari shunday ko'rinadi dunyodagi eng yomon ifloslantiruvchi. Texnologik ishchilar bizning tashkiliy kuchimizni g'alabalar uchun Google-ning Project JEDI-dan olib qo'yilishidan ham ta'sirchanroq foydalanishlari mumkinmi? Biz qila olamiz va kerak ham. O'tgan haftada Nyu-York shahrida bo'lib o'tgan uchrashuv shunchaki kichik bir qadam edi. Biz ko'proq narsani qilishimiz kerak va biz birlashgan norozilik harakatiga bizda bor narsani berishimiz kerak.

Mark Eliot Stein - texnologiyalar va ijtimoiy media bo'yicha direktor World BEYOND War.

Gregori Shvedok surati.