Mark Eliot Stein tərəfindən, 10 Fevral 2020

Bu yaxınlarda adından Nyu Yorkdakı bir Qırğın üsyan toplanışında danışmağa dəvət etdim World BEYOND War. Tədbir üç fəaliyyət qrupunu bir araya gətirmək üçün hazırlanmışdır: iqlim dəyişikliyi fəalları, texnoloji işçilər kollektivləri və müharibə əleyhinə fəallar. Biz iqlim dəyişikliyi fəalı Ha Vu'nun həyəcan verici şəxsi hesabından başladıq, Nyu Yorkluların izdihamına heç birimizdə olmayan həyəcan verici bir təcrübə haqqında danışdıq: Hanoy, Vyetnamda ailəsinin evinə qayıtdıq. istiliyi artırdı artıq günəş işığı saatları ərzində çöldə gəzməyi demək olar ki, mümkünsüz etmişdir. Amerikalılar da azdır 2016 su çirkliliyi fəlakəti mərkəzi Vyetnamda Ha Tinh. Ha, biz ABŞ-da iqlim dəyişikliyindən potensial problem kimi danışırıq, amma Vyetnamda bunun onsuz da həyatını və dolanışığını pozduğunu və sürətlə pisləşdiyini görə bilər.

Nick Mottern KnowDrones.org ABŞ ordusunun son zamanlarda fütüristik süni zəka və bulud hesablamasına etdiyi böyük sərmayə barədə də belə bir təcili olaraq danışdı və nüvə silahı idarə etmə və pilotsuz döyüşlərdə AI sistemlərinin yerləşdirilməsinin qaçılmaz olaraq gözlənilməz böyüklükdə səhvlərə yol açacağı barədə ordunun öz qənaətini vurğuladı. Extinction Rebellion NYC-dən William Beckler, bu mühüm və sürətlə böyüyən təşkilatın fəaliyyət prinsiplərini izah edərək izlədi, iqlim dəyişikliyinin kritik əhəmiyyəti barədə məlumatlılığı artırmaq üçün hazırlanan pozucu hərəkətlər də həyata keçirir. New York City təmsilçisindən eşitdik Texnika İşçiləri Koalisiyası, və bir texnologiya işçilərinin gözlənilmədən müvəffəq olduğu bir üsyan hərəkəti haqqında danışaraq praktik bir səlahiyyət hissinə istiqamətləndirməyə çalışdım.

Bu, 2018-ci ilin aprel ayında qondarma "müdafiə sənayesi" nin ABŞ-ın drones və digər silah sistemləri üçün süni intellekt imkanlarını inkişaf etdirmək üçün yüksək səviyyədə təbliğ edilmiş yeni ABŞ hərbi təşəbbüsü olan Layihə Maven haqqında səs-küy saldığı zaman baş verdi. Google, Amazon və Microsoft hamısı müştərilərə ödəmə üçün süni intellekt platformaları təklif edir və Google Layihə Maven hərbi müqaviləsinin ehtimal olunan qalibi olaraq görülür.

2018-ci ilin əvvəlində Google işçiləri danışmağa başladılar. "Pis olmayın" girovu ilə işçi kimi işə götürən bir şirkətin indi AI-nin işlədiyi mexaniki itlərin insanı ovladığı "Qara Güzgü" dəhşətli epizoduna bənzər bir hərbi layihəyə təklif verdiyinin səbəbini başa düşmədilər. varlıqlar ölümə. Sosial mediada və ənənəvi xəbər saytlarında danışdılar. Aksiyalar təşkil etdilər və ərizələr yaydılar və özlərini dinlədilər.

Bu işçi üsyanı Google Workers üsyan hərəkatının genezisi idi və bu, digər texnoloji işçi kollektivlərin yüklənməsinə kömək etdi. Lakin Layihə Maven-ə qarşı olan Google-ın daxili etirazının ən təəccüblü tərəfi, texnoloji işçilərin danışmaları deyildi. Ən təəccüblüsü budur Google rəhbərliyi işçilərin tələblərinə cavab verdi.

İki il sonra bu fakt hələ də məni heyrətləndirir. Texnologiya işçisi olaraq on illər ərzində bir çox etik problemləri görmüşəm, amma nadir hallarda böyük bir şirkətin etik problemlərin əhəmiyyətli bir şəkildə həll edilməsinə qəti şəkildə razı olduğunu görmüşəm. Google'un Project Maven'a qarşı üsyanının nəticəsi, burada tam həcmdə yenidən yazmağa dəyər olan bir sıra AI prinsiplərinin dərc edilməsi oldu:

Google-da süni intellekt: prinsiplərimiz

Google mühüm problemləri həll edən və gündəlik həyatda insanlara kömək edən texnologiyalar yaratmağa çalışır. AI və digər inkişaf etmiş texnologiyaların insanlara güc verməsi, cari və gələcək nəsillərə geniş faydası və ümumi rifah üçün çalışması üçün inanılmaz potensiala nikbinik.

AI tətbiqləri üçün məqsədlər

AI tətbiqlərini aşağıdakı məqsədlər baxımından qiymətləndirəcəyik. İnanırıq ki, AI:

1. Sosial baxımdan faydalı olun.

Yeni texnologiyaların genişlənməsinə getdikcə bütövlükdə cəmiyyət də toxunur. AI-də əldə olunan inkişaflar səhiyyə, təhlükəsizlik, enerji, nəqliyyat, istehsal və əyləncə daxil olmaqla geniş sahələrdə transformativ təsir göstərəcəkdir. AI texnologiyalarının potensial inkişafı və istifadəsini nəzərdən keçirərkən bir çox sosial və iqtisadi amilləri nəzərə alacağıq və ehtimal olunan ümumi fayda gözlənilən risklərdən və aşağı istiqamətlərdən əhəmiyyətli dərəcədə çox olduğuna inanırıq.

AI həmçinin miqyasda məzmunun mənasını anlamaq bacarığımızı artırır. Fəaliyyət göstərdiyimiz ölkələrdə mədəni, sosial və hüquqi normalara hörmətlə davam edərkən AI istifadə edərək yüksək keyfiyyətli və dəqiq məlumatları asanlıqla əldə etməyə çalışacağıq. Texnologiyalarımızı qeyri-kommersiya əsasda nə zaman təmin edəcəyimizi düşüncəli şəkildə qiymətləndirməyə davam edəcəyik.

2. Haqsız qərəz yaratmaqdan və gücləndirməkdən çəkinin.

AI alqoritmləri və məlumat məcmuələri ədalətsiz qərəzləri əks etdirə, gücləndirə və ya azalda bilər. Ədalətli ədalətsiz qərəzlərdən fərqləndirməyin həmişə sadə olmadığını və mədəniyyətlər və cəmiyyətlər arasında fərqləndiyini qəbul edirik. İnsanlara, xüsusən irqi, etnik, cinsiyyət, milliyyət, gəlir, cinsi oriyentasiya, qabiliyyət və siyasi və ya dini etiqad kimi həssas xüsusiyyətlərlə əlaqəli olanlara qarşı haqsız təsirlərin qarşısını almağa çalışacağıq.

3. Təhlükəsizliyə görə qurulub sınaqdan keçirin.

Zərər riski yaradan gözlənilməz nəticələrin qarşısını almaq üçün güclü təhlükəsizlik və təhlükəsizlik təcrübələrini inkişaf etdirməyə və tətbiq etməyə davam edəcəyik. AI sistemlərimizi lazımi dərəcədə ehtiyatlı olmağı planlaşdırırıq və onları AI təhlükəsizliyi tədqiqatındakı ən yaxşı təcrübələrə uyğun inkişaf etdirməyə çalışacağıq. Müvafiq hallarda, AI texnologiyalarını məhdud mühitlərdə sınayacağıq və yerləşdirildikdən sonra onların işinə nəzarət edəcəyik.

4. İnsanlara cavabdeh olun.

Əlaqə, müvafiq izahatlar və müraciət üçün müvafiq imkanlar təmin edən AI sistemləri hazırlayacağıq. AI texnologiyalarımız müvafiq insan rəhbərliyi və nəzarəti altına alınacaqdır.

5. Gizlilik dizayn prinsiplərini daxil edin.

Gizlilik prinsiplərimizi AI texnologiyalarımızın inkişafı və istifadəsində birləşdirəcəyik. Biz bildiriş və razılıq üçün fürsət verəcəyik, məxfilik qorunması ilə memarları təşviq edəcəyik və məlumatların istifadəsinə müvafiq şəffaflıq və nəzarət təmin edəcəyik.

6. Elmi mükəmməlliyin yüksək standartlarını qorumaq.

Texnoloji yenilik elmi metoddan və açıq sorğu, intellektual cəsarət, bütövlük və əməkdaşlıqdan irəli gəlir. AI alətləri biologiya, kimya, tibb və ətraf mühit elmləri kimi kritik sahələrdə yeni elmi tədqiqat və bilik sahələrini açmaq potensialına malikdir. AI inkişafını inkişaf etdirmək üçün çalışdığımız zaman yüksək elmi mükəmməllik standartlarına can atırıq.

Elmi cəhətdən ciddi və çoxşaxəli yanaşmalara əsaslanaraq, bu sahədə düşünülmüş liderliyi təşviq etmək üçün bir sıra maraqlı tərəflərlə işləyəcəyik. Və daha çox insana faydalı AI tətbiqetmələrini inkişaf etdirməyə imkan verən tədris materialları, ən yaxşı təcrübələr və araşdırmalar dərc edərək AI biliklərini məsuliyyətlə bölüşəcəyik.

7. Bu prinsiplərə uyğun istifadə üçün hazır olun.

Bir çox texnologiyanın çox istifadəsi var. Potensial zərərli və ya təhqiramiz tətbiqləri məhdudlaşdırmaq üçün çalışacağıq. AI texnologiyalarını inkişaf etdirərkən və tətbiq edərkən, aşağıdakı amillər nəzərə alınmaqla ehtimal olunan istifadələri qiymətləndirəcəyik:

• Əsas məqsəd və istifadə: əsas məqsəd və bir texnologiyanın və tətbiqin ehtimal olunan istifadəsi, o cümlədən həllin zərərli istifadəyə nə dərəcədə yaxın olması və ya uyğunlaşdırılması
• Təbiət və unikallıq: bənzərsiz və ya ümumiyyətlə mövcud texnologiyanı hazırlayırıq
• Ölçək: bu texnologiyanın istifadəsinin əhəmiyyətli dərəcədə təsiri olub-olmaması
• Google-un iştirak xarakteri: ümumi təyinatlı alətlər təqdim etməyimiz, müştərilər üçün alət inteqrasiyası və ya xüsusi həllər hazırlamağımızdan asılı olmayaraq

AI tətbiqlərini təqib etməyəcəyik

Yuxarıda göstərilən məqsədlərə əlavə olaraq, AI-ni aşağıdakı tətbiq sahələrində dizayn etməyəcəyik və yerləşdirməyəcəyik:

1. Ümumi ziyana səbəb olan və ya ehtimal olunan texnologiyalar. Maddi zərər riski olduğu təqdirdə, faydaların risklərdən əhəmiyyətli dərəcədə üstün olduğuna və müvafiq təhlükəsizlik məhdudiyyətlərinin olacağına inandığımız yerə davam edəcəyik.
2. Əsas məqsədi və ya tətbiqi insanlara xəsarət yetirmək və ya birbaşa asanlaşdıran silahlar və ya digər texnologiyalar.
3. Beynəlxalq səviyyədə qəbul edilmiş normaları pozaraq nəzarət üçün məlumat toplayan və ya istifadə edən texnologiyalar.
4. Məqsədləri beynəlxalq hüququn və insan hüquqlarının geniş qəbul edilmiş prinsiplərinə zidd olan texnologiyalar.

Bu məkanda təcrübəmiz dərinləşdikcə bu siyahı inkişaf edə bilər.

Nəticə

Bu prinsiplərin şirkətimizin və Aİ-nin gələcək inkişafı üçün düzgün təməl olduğuna inanırıq. Bu sahənin dinamik və inkişaf etdiyini etiraf edirik və işimizə təvazökarlıqla, daxili və xarici nişanlara sadiqliklə və zaman keçdikcə öyrəndiyimiz kimi yanaşmamızı uyğunlaşdırmağa hazırlaşacağıq.

Bu müsbət nəticə, texnologiya nəhəngi Google-u ICE, polis və digər hərbi fəaliyyətləri dəstəkləmək, şəxslər haqqında fərdi məlumatlara toplamaq və satmaq, mübahisəli siyasi açıqlamaları axtarış motorları nəticələrindən gizlətmək kimi digər narahatlıq doğuran digər sahələrdə olan çətinliklərdən azad etmir. və ən başlıcası, işçilərinə bu və digər mövzularda bunu etmədikləri üçün işdən azad edilmədən danışmağa davam etmələrinə imkan verməkdir. Google işçilərinin üsyan hərəkatı aktiv və yüksək məşğuliyyət olaraq qalır.

Eyni zamanda, Google işçiləri hərəkatının nə qədər təsirli olduğunu başa düşmək vacibdir. Google etirazları başlayandan dərhal sonra aydın oldu: Pentaqonun marketinq şöbələri, bir dəfə-birə maraqlı Layihə Maven haqqında yeni press-relizlər verməyi dayandırdılar, nəticədə layihəni əvvəllər axtardığı ictimaiyyətdən tamamilə “itdi”. Bunun əvəzinə Pentaqonun məkrli tərəflərindən yeni və daha böyük bir süni intellekt təşəbbüsü ortaya çıxmağa başladı Müdafiə İnnovasiya Şurası.

Buna deyildi Layihə JEDI, Pentaqonun qabaqcıl silahlara xərcləməsi üçün yeni bir ad. Layihə JEDI Layihə Mavenindən daha çox pul xərcləyəcəkdi, lakin yeni layihə üçün populyarlıq (bəli, ABŞ ordusu xərcləyəcək çox vaxt və ictimaiyyətə və marketinqə diqqət) əvvəlkindən çox fərqli idi. Bütün parlaq və seksual "Qara güzgü" görüntüləri yox oldu. İndi, AI-dən idarə olunan dronların insanlara vura biləcəyi həyəcanverici və sinematik distopiya dəhşətlərini vurğulamaq əvəzinə, Layihə JEDI özünü "döyüşçülərə" (Pentaqonun ən çox sevdiyi müddət) kömək etmək üçün müxtəlif bulud məlumat bazalarını birləşdirərək, səmərəliliyə yönəlmiş addım kimi izah etdi. ön xətt personalı) və arxa ofis dəstəyi qrupları məlumatların effektivliyini artırır. Layihə Maven maraqlı və futuristik səsləndirmək üçün tərtib edildiyi, Layihə JEDI həssas və praktik görünmək üçün hazırlanmışdır.

Layihə JEDI üçün qiymət etiketi ilə əlaqədar heç bir həssas və ya praktik bir şey yoxdur. Bu, dünya tarixindəki ən böyük hərbi proqram müqaviləsidir: 10.5 milyard dollar. Hərbi xərclərin miqyası haqqında eşitdiyimiz zaman bir çox gözümüz parıldayır və milyonlarla milyardlarla fərqi atlaya bilərik. Layihə JEDI-nin əvvəlki Pentaqon proqram təşəbbüsündən nə qədər böyük olduğunu anlamaq vacibdir. Bu oyun dəyişdiricisi, var-dövlət yaradan mühərrik, vergi ödəyicisi hesabına mənfəət əldə etmək üçün boş bir çekdir.

10.5 milyard dollar qədər hərbi xərcləmə blankını anlamağa çalışarkən, hökumətin press-relizlərinin altından sıyrılmağa kömək edir. Bəzi məlumatlar, narahatlıq yaradan kimi ordunun öz nəşrlərindən əldə edilə bilər Avqust 2019 Birgə Süni Zəka Mərkəzi General-leytenant Cek Şanahanla görüş, həm yoxa çıxan Layihə Mavenində, həm də yeni Layihə JEDİ-də əsas fiqur. Müdafiə sənayesi подкасты adlı bir müdafiə sənayesi podcastını dinləyərək Müdafiə Sənayesi İnsiderlərinin Layihə JEDI haqqında necə düşündükləri haqqında daha çox məlumat əldə edə bildim. "Layihə 38: Hökümət müqaviləsinin gələcəyi". Podcast qonaqları, müzakirə etdikləri hər mövzuda tez-tez səmimi və həyasızca danışırlar. "Bu il bir çox insan yeni üzgüçülük hovuzları satın alacaq", bu JEDI Layihəsi haqqında podcastın daxili söhbəti üçün tipik idi. Əminik ki, olacaqlar.

Google'ın AI prinsipləri ilə əlaqəli diqqətəlayiq bir şey. 10.5 milyard dollarlıq böyük JEDI müqaviləsi üçün açıq üç öncü Google, Amazon və Microsoft olardı - bu sırayla, süni zəka yenilikçiləri kimi nüfuzlarına əsaslanaraq. İşçilərin 2018-ci ildə Project Maven-ə etiraz etməsi səbəbindən AI lideri Google, 2019-cu ildə daha böyük olan JEDI Layihəsi üçün diqqətdən kənarda qaldı. 2019-cu ilin sonlarında müqavilənin Microsoft-a verildiyi açıqlandı. Çoxlu xəbər yayımı izlədi, lakin bu xəbər əsasən Amazon və Microsoft arasındakı rəqabətə və 3-cü yer olan Microsoft-un, Trump administrasiyasının Washington Post ilə davam edən döyüşləri səbəbiylə qələbə üçün 2-ci yeri Amazon-u məğlub etməsinə icazə verilməsinə diqqət çəkdi. Amazon şirkətinin Jeff Bezos-a məxsusdur. Amazon indi Pentaqonun Microsoft-a 10.5 milyard dollarlıq hədiyyəsi ilə mübarizə aparmaq üçün məhkəməyə gedir və Oracle da məhkəməyə verir. Yuxarıda göstərilən Project 38 podcast-dan xüsusi bir söz - “Bu il bir çox insan yeni hovuzlar alacaq” - yalnız Microsoft-un maliyyə bəxşişindən deyil, həm də bu məhkəmələrdə iştirak edəcək bütün vəkillərdən bəhs etdi. Yəqin ki, Project JEDI-nin 3 milyard dollarlıq vəsaitinin 10.5 faizindən çoxunun vəkilə çatacağı barədə savadlı bir təxmin edə bilərik. Çox pisdir ki, kömək etmək üçün istifadə edə bilmərik dünya aclığına son qoy əvəzinə.

Bu vergi ödəyicisi pulunun hərbi podratçılara köçürülməsinin Microsoft, Amazon və ya Oracle-a fayda gətirəcəyi barədə mübahisələr Project JEDI-nin xəbər yayımında üstünlük təşkil etmişdir. Bu ədəbsiz peyvənddən əldə ediləcək bir müsbət mesaj - Google-un işçilərin etirazı üzündən dünya tarixindəki ən böyük hərbi proqram müqaviləsindən uzaqlaşması - JEDI Layihəsi ilə bağlı xəbərlərdə demək olar ki, yox idi. 

Bu hekayəni keçən həftə Manhattan şəhərinin mərkəzindəki izdihamlı bir otaqda toplanan texnologiyaya yönəlmiş aktivistlərə planetimizi necə xilas edə biləcəyimiz, iqlim elminin dezinformasiya və siyasiləşmə ilə necə mübarizə edə biləcəyimizi danışmaq üçün danışmağımız vacib idi. qalıq yanacaq ticarəti edənlərin və silah tacirlərinin kütləvi gücünə necə dözə bilərik. Bu kiçik otaqda, hamımız qarşılaşdığımız problemin ölçülərini və özümüz oynamağa başlamalı olduğumuz kritik rolu dərk etdik. Texnoloji icma əhəmiyyətli gücə malikdir. Divizion kampaniyaları gerçək bir fərq edə biləcəyi kimi, texnologiya işçilərinin üsyanları da real bir dəyişiklik edə bilər. İqlim dəyişikliyi fəallarının, texnoloji işçilərin üsyan fəalları və müharibə əleyhinə fəalların birlikdə işləməyə başlaması üçün bir çox yolu var və biz əlimizdən gələni edəcəyik.

Köməkimizlə başlanan bu toplanışla ümidli bir başlanğıc aldıq Extinction Rebellion NYC və Dünya gözləməyəcək. Bu hərəkət böyüyəcək - böyüməlidir. Fosil yanacağından sui-istifadə iqlim dəyişikliyi nümayişçilərinin diqqət mərkəzindədir. Fosil yanacağından sui-istifadə həm ABŞ imperializminin əsas mənfəət motivi, həm də şişmiş ABŞ hərbçilərinin israfçı fəaliyyətlərinin ilkin dəhşətli nəticəsidir. Həqiqətən, ABŞ ordusu görünür dünyanın ən pis çirkləndiricisidir. Texnoloji işçilər, təşkilatçılıq gücümüzü qələbələr üçün Google-un Project JEDI-dən çəkilməsindən daha təsirli istifadə edə bilərmi? Biz edə bilərik və etməliyik. Ötən həftə Nyu-Yorkdakı görüş yalnız irəliyə doğru kiçik bir addım idi. Daha çox şey etməliyik və birləşmiş etiraz hərəkatımıza sahib olduğumuz hər şeyi verməliyik.

Marc Eliot Stein, texnologiya və sosial medianın direktoru World BEYOND War.

Gregory Schwedock tərəfindən hazırlanan foto.