Марк Элиот Штайн, 10 ақпан, 2020 жыл

Мені жақында Нью-Йорктегі жойылу бүлікшілер жиналысында сөйлеуге шақырды World BEYOND War. Іс-шара үш әрекет топтарын біріктіруге арналған: климаттың өзгеруі бойынша белсенділер, техникалық қызметкерлер ұжымдары және соғысқа қарсы белсенділер. Біз климаттың өзгеруі белсендісі Ха Ву туралы жеке жазбаны бастадық, ол Нью-Йорктіктерге жиналған көпшілікке бұрын-соңды болмаған алаңдаушылықты бастан кешірді: Вьетнамдағы Ханойдағы оның отбасына оралу. жылудың жоғарылауы күн сәулесі түскен кезде сыртта серуендеу мүмкін емес. Американдықтар бұл туралы аз біледі 2016 жылғы судың ластану апаты орталық Вьетнамдағы Ха Тинх. Біз климаттың өзгеруі туралы АҚШ-тағы ықтимал проблема деп жиі айтамыз, бірақ Вьетнамда ол оның өмірі мен өмірін нашарлатып, тез нашарлай бастағанын көреді.

Ник Моттерн KnowDrones.org АҚШ армиясының футуристік жасанды интеллект пен бұлтты есептеу саласына жақында жаппай инвестиция салғаны туралы осындай өзектілікпен айтты - және армияның ядролық қаруды басқару мен ұшқышсыз басқарудағы АИ жүйелерін орналастыру күтпеген жерден үлкен қателіктерге әкеледі деген тұжырымына тоқталды. Нью-Йорктегі Уильям Беклер, бұл маңызды және тез дамып келе жатқан ұйымның ұйымдастыру принциптерін түсіндіріп, климаттың өзгеруінің маңыздылығы туралы хабардар етуге бағытталған бұзушылық әрекеттерді қосады. Біз Нью-Йорк қаласының өкілінен естідік Техникалық жұмысшылар коалициясы, және мен жиналған қауымды практикалық мүмкіндіктерге бағыттауға тырыстым, ол күтпеген сәтте сәтті болған техникалық қызметкерлердің бүлікшілік әрекеті туралы айтты.

Бұл 2018 жылғы сәуірде «қорғаныс өнеркәсібі» деп аталатын АҚШ-тың жаңа әскери қарулардың дрондар мен басқа да қару жүйелеріне арналған жасанды интеллект мүмкіндіктерін дамыту туралы жаңа жариялаған Project Maven туралы наразы болған кезде болды. Google, Amazon және Microsoft барлығы клиенттерге ақы төлеуге арналған жасанды интеллект платформаларын ұсынады және Google Project Maven әскери келісімшартының ықтимал жеңімпазы болып саналды.

2018 жылдың басында Google жұмысшылары сөйлей бастады. Олар неге «Жаман болма» кепілімен жұмысшылар ретінде жалдап алған компания енді әскери жобаларға «Қара айна» қорқынышты эпизодына ұқсайтын «Қара айна» сценарийіне ұқсас болуы мүмкін екенін түсінбеді. өлімге дейін. Олар әлеуметтік желілерде және дәстүрлі жаңалықтар басылымдарында сөйлесті. Олар акция ұйымдастырып, өтініштерін таратып, өздерін тыңдады.

Бұл жұмысшылар көтерілісі Google Workers көтеріліс қозғалысының генезисі болды және бұл басқа технологиялық жұмысшылар ұжымдарының жүктелуіне көмектесті. Project Maven-ке қарсы Google-дың ішкі наразылығы туралы ең таңқаларлық нәрсе - бұл техникалық қызметкерлер сөйлеп тұрған жоқ. Ең таңқаларлық нәрсе - бұл Google басшылығы жұмысшылардың талаптарын орындады.

Екі жылдан кейін бұл факт мені әлі күнге дейін таң қалдырады. Технологиялық қызметкер ретінде менің онжылдықтарымда көптеген этикалық мәселелерді көрдім, бірақ мен үлкен компанияның этикалық мәселелерді елеулі түрде шешуге үзілді-кесілді келісетінін сирек көрдім. Project Maven-қа қарсы Google бүліктерінің нәтижесі - бұл жерде толықтай басып шығаруға тұрарлық AI қағидаларын шығару:

Google-дегі жасанды интеллект: біздің принциптеріміз

Google маңызды мәселелерді шешетін және адамдарға күнделікті өмірінде көмектесетін технологияларды құруға ұмтылады. Біз адамдарға күш беретін, қазіргі және болашақ ұрпақтарға кең пайда әкелетін және ортақ игілік үшін жұмыс істейтін AI және басқа да озық технологиялардың керемет әлеуетіне оптимистік көзбен қараймыз.

AI қолдану мақсаттары

Төменгі мақсаттарды ескере отырып, біз АИ-ге баға беруді бағалаймыз. Біз AI:

1. Қоғамдық пайдалы болыңыз.

Жаңа технологиялардың кеңеюі бүкіл қоғамға көбірек әсер етеді. AI-дің алға басуы денсаулық сақтау, қауіпсіздік, энергетика, көлік, өндіріс және ойын-сауық салаларын қоса алғанда, көптеген салаларға өзгергіш әсер етеді. AI технологияларын әлеуетті дамыту мен қолдануды қарастыра отырып, біз әлеуметтік және экономикалық факторлардың кең спектрін назарға аламыз және барлық мүмкін болатын пайда болжанатын тәуекелдер мен құлдырау деңгейлерінен едәуір асады деп сенеміз.

AI сонымен қатар масштабтағы мазмұнның мағынасын түсіну қабілетімізді арттырады. Біз өзіміз жұмыс істейтін елдерде мәдени, әлеуметтік және құқықтық нормаларды құрметтей отырып, AI көмегімен сапалы әрі нақты ақпаратты тез қол жетімді етуге тырысамыз. Біздің технологияларымызды коммерциялық емес негізде қашан қол жетімді ету туралы ойлануды жалғастырамыз.

2. әділетсіз пікірлерді жасаудан немесе күшейтуден аулақ болыңыз.

AI алгоритмдері мен деректер жиынтығы әділетсіз пікірлерді көрсете алады, күшейтеді немесе азайта алады. Әділетті әділетсіз көзқарастардан ажырату әрдайым қарапайым бола бермейді және мәдениеттер мен қоғамдарда әр түрлі болады. Біз адамдарға, әсіресе нәсілдік, этникалық, жыныстық, ұлттық, табыс, жыныстық бағдар, қабілет, саяси немесе діни сенім сияқты сезімтал сипаттамаларға қатысты әділетсіз әсерден аулақ болуға тырысамыз.

3. Құрылып, қауіпсіздікке сынақтан өтіңіз.

Біз зиян келтіру қаупін тудыратын күтпеген нәтижелерге жол бермеу үшін қауіпсіздік пен қауіпсіздіктің күшті әдістерін әзірлеуді және қолдануды жалғастырамыз. Біз AI жүйелерімізді сақтықпен жасаймыз және оларды АИ қауіпсіздігін зерттеудегі ең жақсы тәжірибелерге сәйкес жасауға тырысамыз. Тиісті жағдайларда біз AI технологияларын шектеулі ортада сынап көреміз және оларды қолданғаннан кейін олардың жұмысын қадағалаймыз.

4. Адамдарға есеп беріңіз.

Біз кері байланыс, тиісті түсініктемелер және апелляция үшін тиісті мүмкіндіктер беретін AI жүйелерін дайындаймыз. Біздің AI технологиялары тиісті адам бағытына және бақылауына ие болады.

5. Құпиялылықты құру принциптерін енгізіңіз.

Біз құпиялылық принциптерімізді AI технологияларын әзірлеуге және қолдануға өзіміз қосамыз. Біз ескертуге және келісуге мүмкіндік береміз, құпиялылықты сақтай отырып, сәулеттерді қолдаймыз және деректердің пайдаланылуын тиісті ашықтық пен бақылауды қамтамасыз етеміз.

6. Ғылыми шеберліктің жоғары стандарттарын сақтау.

Технологиялық жаңашылдық ғылыми әдіске негізделген және ашық ізденістерге, интеллектуалды қатаңдыққа, адалдыққа және ынтымақтастыққа негізделген. AI құралдары биология, химия, медицина және экологиялық ғылымдар сияқты маңызды салалардағы ғылыми зерттеулер мен білімнің жаңа салаларын ашуға мүмкіндік алады. Біз ғылыми жетілдірудің жоғары стандарттарына ұмтыламыз, өйткені АИ дамуын ілгерілетеміз.

Біз ғылыми қатаң және көп салалы көзқарастарды қолдана отырып, осы салада ойластырылған көшбасшылықты ілгерілету үшін бірқатар мүдделі тараптармен жұмыс жасаймыз. Біз AI білімін жауапкершілікті түрде көптеген адамдарға пайдалы AI қосымшаларын жасауға мүмкіндік беретін оқу материалдарын, озық тәжірибелер мен зерттеулерді жариялаймыз.

7. Осы қағидаларға сәйкес пайдалану үшін қол жетімді болыңыз.

Көптеген технологиялардың бірнеше қолданылуы бар. Біз ықтимал зиянды немесе теріс қолданбаларды шектеу үшін жұмыс істейміз. AI технологиясын әзірлеу және қолдану кезінде біз келесі факторларды ескере отырып мүмкін болатын пайдалануды бағалаймыз:

• Негізгі мақсаты мен қолданылуы: негізгі мақсат және технология мен қосымшаның ықтимал қолданылуы, оның ішінде шешімнің зиянды пайдалануға қаншалықты байланысты немесе бейімделуі
• Табиғат және бірегейлік: біз бірегей немесе жалпыға бірдей қол жетімді технологияны жасаймыз ба
• Масштаб: осы технологияны қолдану айтарлықтай әсер ете ме, жоқ па
• Google-дің қатысу сипаты: біз жалпы мақсаттағы құралдармен қамтамасыз етеміз бе, тұтынушыларға арналған құралдарды біріктіреміз бе, әлде жеке шешімдерді әзірлейміз бе

AI қосымшаларын біз іздемейміз

Жоғарыда келтірілген мақсаттардан басқа, біз AI-ді келесі қолданбаларда қолданбаймыз немесе орналастырмаймыз:

1. Жалпы зиян келтіретін немесе әкелуі мүмкін технологиялар. Зиян келтірудің елеулі қаупі бар жерде біз артықшылықтар қауіп-қатерден едәуір жоғары болатынына және тиісті қауіпсіздік шектеулерін ескерген жағдайда ғана әрекет етеміз.
2. Негізгі мақсаты немесе іске асырылуы адамдардың жарақат алуына немесе тікелей жеңілдетуге бағытталған қару немесе басқа технологиялар.
3. Халықаралық деңгейде қабылданған нормаларды бұза отырып, бақылау үшін ақпарат жинайтын немесе пайдаланатын технологиялар.
4. Мақсаты халықаралық құқық пен адам құқықтарының кеңінен қабылданған қағидаларына қайшы келетін технологиялар.

Бұл кеңістіктегі тәжірибеміз тереңдеген сайын бұл тізім өзгеруі мүмкін.

қорытынды

Біз бұл қағидаттар біздің компаниямыздың және болашақта АИ дамуының дұрыс негізі деп санаймыз. Біз бұл саланың серпінді және дамып келе жатқанын мойындаймыз және біз өз жұмысымызға кішіпейілділікпен, ішкі және сыртқы қатынастарға деген адалдығымызбен және уақыт өткен сайын үйренуге байланысты көзқарасымызды бейімдеуге дайын боламыз.

Бұл оң нәтиже Google-дің гиганттық технологиясын ICE, полиция және басқа әскери іс-әрекеттерді қолдау, жеке адамдар туралы жеке мәліметтерге қол жетімділікті жинақтау және сату, іздестіру жүйесінің нәтижелерінен қарама-қайшы саяси мәлімдемелерді жасыру сияқты басқа да маңызды салалардағы күрделіліктен босатпайды. және ең бастысы, өз қызметкерлеріне осы және басқа мәселелер бойынша жұмысты тоқтатпастан сөйлеуге мүмкіндік беру. Google жұмысшыларының бүлікшілер қозғалысы белсенді және белсенді жұмыс істейді.

Сонымен бірге, Google жұмысшыларының қозғалысының қаншалықты әсерлі болғанын мойындау керек. Бұл Google-дің наразылықтары басталғаннан кейін бірден белгілі болды: Пентагонның маркетингтік бөлімдері бір кездері қызықтыратын Project Maven туралы жаңа пресс-релиздер беруді тоқтатты, нәтижесінде жоба бұрыннан барлығынан көрініп, жоғалып кетті. Оның орнына Пентагонның айла-амалынан жаңа және әлдеқайда үлкен жасанды интеллект бастамасы пайда бола бастады Қорғаныс Инновациялық Кеңесі.

Бұл шақырылды JEDI жобасы, Пентагон қазіргі заманғы қару-жарақтарға жұмсайтын жаңа атау. JEDI жобасы Project Maven-тен гөрі көп ақша жұмсамақ еді, бірақ жаңа жоба үшін жариялылық (иә, АҚШ әскері көп уақыт пен жариялылық пен маркетингке назар аудару) бұрынғыдан өзгеше болды. Барлық қара және қара бейнелер жоғалып кетті. Енді, AI басқаратын дрондардың адамға әсер ететін және кинематографиялық дистопиялық сұмдықтарды баса көрсетудің орнына, JEDI жобасы өзін «соғысушыларға» көмектесу үшін түрлі бұлт базаларын біріктіре отырып, тиімділік үшін алға басқан қадам деп түсіндірді (Пентагонның сүйікті термині) алдыңғы қатардағы қызметкерлер) және бэк-офистердің қолдау топтары ақпараттың тиімділігін арттырады. Project Maven қызықты және футуристік тұрғыда ойластырылған болса, JEDI жобасы ақылға қонымды және практикалық көрінуге арналған.

Project JEDI үшін баға белгілері туралы ақылға қонымды немесе практикалық ештеңе жоқ. Бұл әлемдегі ең ірі әскери келісім-шарт: $ 10.5 млрд. Әскери шығыстардың ауқымы туралы естігенде, көптеген көздеріміз жанып кетеді және біз миллиондар мен миллиардтардың арасындағы айырмашылықты өткізіп жібере аламыз. Бұл Педагонның кез-келген бағдарламалық бастамасынан JEDI жобасының қаншалықты үлкен екенін түсіну қажет. Бұл ойын ауыстырғыш, байлық әкелетін қозғалтқыш, салық төлеуші ​​есебінен пайда табуға арналған бос чек.

Бұл үкіметтік баспасөз релиздерінің астына сызба түсіруге көмектеседі, әскери шығындар туралы 10.5 миллиард долларға жуық чекті түсінуге тырысқанда. Кейбір ақпараттарды әскердің жеке басылымдарынан алуға болады 2019 жылдың тамызында Біріккен жасанды интеллект орталығы генерал-лейтенант Джек Шанаханмен сұхбат, жоғалған Project Maven және жаңа JEDI жобаларындағы басты тұлға. Мен қорғаныс саласының подкасттарын тыңдап, қорғаныс саласының инсайдерлері JEDI жобасы туралы қалай ойлайтыны туралы көбірек білдім. «38-жоба: Үкіметпен келісімшарт жасаудың болашағы». Подкаст қонақтары кез-келген тақырыпты жиі ашық және ұялмай сөйлейді. «Биылғы жылы көптеген адамдар бассейндер сатып алады» - бұл подкасттың JEDI жобасы туралы инсайдерлік чатына тән болды. Біз олардың болатынына сенімдіміз.

Мұнда Google-дің жасанды интеллект қағидаларымен байланыстыратын керемет нәрсе бар. 10.5 миллиард долларлық JEDI келісімшартының айқын үшеуі Google, Amazon және Microsoft болар еді - бұл олардың интеллектуалды жаңашылдар ретіндегі беделіне негізделген. 2018 жылы жұмысшылар Maven Project жобасына наразылық білдіргендіктен, AI жетекшісі Google 2019 жылы әлдеқайда ауқымды JEDI жобасы үшін назардан тыс қалды. 2019 жылдың аяғында келісімшарт Microsoft корпорациясына берілді деп жарияланды. Жаңалықтар көп болды, бірақ бұл хабар негізінен Amazon мен Microsoft арасындағы бәсекелестікке және 3-орынға ие болған Майкрософттың жеңіске жетуі үшін 2-ші орынды Amazon-ны жеңуге рұқсат етілгендігіне байланысты болды, өйткені Трамп әкімшілігінің Washington Post-пен шайқастары жалғасуда, ол Amazon компаниясының Джефф Безосына тиесілі. Енді Амазонка Пентагонның Майкрософтқа 10.5 миллиард доллар сыйымен күресу үшін сотқа жүгінеді және Oracle да сотқа жүгінеді. Жоғарыда аталған Project 38 подкастындағы ерекше ескерту - «Көптеген адамдар осы жылы жаңа бассейндер сатып алады» - бұл Microsoft корпорациясының қаржылық жағдайы туралы ғана емес, сонымен қатар осы сот процестеріне қатысатын барлық адвокаттар туралы. Біз JEDI жобасының 3 миллиард долларының 10.5% -дан астамы адвокаттарға түседі деп білімді болжам жасай аламыз. Өте жаман, біз оны көмекке пайдалана алмаймыз дүниежүзілік аштық Орнына.

Салық төлеушілердің ақшасын әскери мердігерлерге аудару Microsoft, Amazon немесе Oracle-ға пайдалы болуы керек пе деген даудың пайда болуы JEDI жобасының жаңалықтарында басым болды. Осы ұятсыз трансплантациядан алынатын бір жағымды хабарлама - Google компаниясының әлемдік тарихтағы ең ірі әскери бағдарламалық жасақтама келісімшартынан жұмысшылардың наразылығы салдарынан кетуі фактісі - JEDI жобасы туралы жаңалықтарда іс жүзінде жоқ болып шықты. 

Осы оқиғаны өткен аптада Манхэттеннің орталығындағы көп адам жиналған бөлмеге жиналған технологияға бағытталған белсенділерге айтып, планетамызды қалай сақтай алатынымыз, климаттың дезинформацияға және саясаттандыруға қарсы қалай күресуге болатындығы туралы айту маңызды болды, қазба отынын сатушылар мен қару сатушылардың көп күшіне қалай қарсы тұра аламыз. Бұл кішкентай бөлмеде біз бәрімізге кездесетін проблеманың өлшемдерін түсінетін сияқты едік, және біз шешуге болатын рөлді өзіміз ойнауға кірісуіміз керек. Технологиялық қауымдастық айтарлықтай күшке ие. Ажырату науқандары нақты өзгеріс әкелетіні сияқты, техникалық қызметкерлердің бүліктері де шынайы өзгеріс әкелуі мүмкін. Климаттың өзгеруі бойынша белсенділердің, техникалық жұмысшылардың бүлікшілердің белсенділері мен соғысқа қарсы белсенділердің бірлесіп жұмыс істеудің көптеген жолдары бар және біз мұны қолымыздан келгеннің бәрін жасаймыз.

Біз осы жиналыстан бастаймыз деп үміттендік NYC жойылу бүлігі және Әлем күте алмайды. Бұл қозғалыс өседі - ол өсуі керек. Қазба отынын теріс пайдалану климаттың өзгеруіне наразылық білдірушілердің басты назарында. Қазба отынын теріс пайдалану - бұл АҚШ империализмінің негізгі пайда табу мотиві де, американдық әскерилердің ысырапшылдық әрекеттерінің алғашқы қорқынышты нәтижесі. Шынында да, АҚШ әскері сол сияқты әлемдегі ең жаман ластаушы. Технологиялық қызметкерлер біздің ұйымдастырушылық күшімізді жеңістер үшін қолдана алады, бұл Google-дің JEDI жобасынан шыққанынан гөрі тиімді бола ала ма? Біз істей аламыз және жасаймыз. Өткен аптадағы Нью-Йорктегі жиналыс алға қарай кішкентай ғана қадам болды. Біз көп нәрсені жасауымыз керек, ал бізде барлығын біріккен наразылық қозғалысына беру керек.

Марк Элиот Штайн - технологиялар және әлеуметтік медиа жөніндегі директор World BEYOND War.

Сурет Грегори Шведок.