От Марк Елиът Щайн, 10 февруари 2020 г.

Наскоро бях поканен да говоря на среща за изчезване на бунт в Ню Йорк от името на World BEYOND War, Събитието беше предназначено да обедини три групи за действие: активисти за промяна на климата, колективи на техническите работници и антивоенни активисти. Започнахме с разбъркващ личен разказ на активиста за изменение на климата Ха Ву, който разказа на тълпата от нюйоркчани за тревожно преживяване, което малцина някога сме имали: връщане в дома на семейството й в Ханой, Виетнам, където повишена топлина вече направи почти невъзможно да се ходи навън по време на часовете на върха на слънчевата светлина. Малко американци също знаят за 2016 г. бедствие от замърсяване на водата в Ха Тин в централен Виетнам. Често говорим за изменението на климата като потенциален проблем в САЩ, подчерта Ха, но във Виетнам тя вижда, че вече нарушава живота и поминъка и бързо се влошава.

Ник Мотърн от KnowDrones.org говори с подобна спешност за скорошната огромна инвестиция на американската армия във футуристичен изкуствен интелект и изчисления в облак - и подчерта собственото заключение на военните, че внедряването на системи за изкуствен интелект в управлението на ядрено оръжие и борбата с безпилотни летателни апарати неизбежно ще доведе до грешки с непредсказуем мащаб. Уилям Беклер от Extinction Rebellion NYC, последван от обяснение на принципите на организиране, които тази важна и бързо развиваща се организация прилага, включително разрушителни действия, предназначени да повишат осведомеността за критичното значение на изменението на климата. Чухме се с представител на Ню Йорк на Коалиция технически работниции се опитах да насоча събранието към усещането за практическо овластяване, като говорих за въстанически действия на технически работници, които бяха неочаквано успешни.

Това беше през април 2018 г., когато т. Нар. „Отбранителна индустрия“ бръмчи около Project Maven, широко рекламирана нова военна инициатива на САЩ за разработване на възможности за изкуствен интелект за дронове и други оръжейни системи. Google, Amazon и Microsoft предлагат безплатни платформи за изкуствен интелект за разплащателни клиенти, а Google се разглежда като вероятния победител във военния договор Project Maven.

В началото на 2018 г. служителите на Google започнаха да говорят. Те не разбраха защо компания, която ги е назначила като служители с обещанието „Не бъди зъл“, сега наддава на военни проекти, които вероятно приличат на ужасяващия епизод на „Черно огледало“, в който механични кучета, захранвани от AI, преследват хора същества до смърт. Те разговаряха в социалните медии и традиционните информационни бюлетини. Те организираха акции и разпространиха петиции и се изслушаха.

Това въстание на работниците беше генезисът на движението на Google Workers Rebellion и спомогна за стартиране на други технически работни колективи. Но най-удивителното за вътрешния протест на Google срещу Project Maven не беше, че техническите работници говорят. Най-удивителното е това Управлението на Google се поддаде на исканията на работниците.

Две години по-късно този факт все още ме смайва. Виждал съм много етични проблеми през десетилетия си като технически работник, но рядко съм виждал голяма компания категорично да се съгласява да адресира етичните проблеми по значим начин. Резултатът от бунта на Google срещу Project Maven беше публикуването на набор от AI принципи, които си струва да се преиздават тук изцяло:

Изкуствен интелект в Google: Нашите принципи

Google се стреми да създаде технологии, които решават важни проблеми и помагат на хората в ежедневието им. Оптимисти сме по отношение на невероятния потенциал на AI и други модерни технологии, за да се даде възможност на хората, да се възползват широко от настоящите и бъдещите поколения и да работим за общото благо.

Цели за AI приложения

Ние ще оценяваме приложенията за ИИ с оглед на следните цели. Ние вярваме, че AI трябва:

1. Бъдете социално изгодни.

Разширеният обхват на новите технологии все повече докосва обществото като цяло. Напредъкът в ИИ ще има трансформативни въздействия в широк спектър от области, включително здравеопазване, сигурност, енергетика, транспорт, производство и развлечения. Тъй като обмисляме потенциалното развитие и използването на AI технологиите, ще вземем предвид широк спектър от социални и икономически фактори и ще продължим там, където смятаме, че общите вероятни ползи значително надвишават предвидимите рискове и недостатъци.

AI също така повишава способността ни да разбираме значението на съдържанието в мащаб. Ще се стремим да предоставяме висококачествена и точна информация, лесно достъпна чрез AI, като същевременно продължаваме да спазваме културни, социални и правни норми в страните, в които оперираме. И ние ще продължим да обмисляме замислено кога да направим нашите технологии достъпни на нетърговска основа.

2. Избягвайте създаването или засилването на несправедливи пристрастия.

AI алгоритмите и наборите от данни могат да отразяват, подсилват или намаляват несправедливи пристрастия. Ние признаваме, че разграничаването на справедливо от несправедливи пристрастия не винаги е просто и се различава в различните култури и общества. Ще се стремим да избегнем несправедливо въздействие върху хората, особено тези, свързани с чувствителни характеристики като раса, етническа принадлежност, пол, националност, доходи, сексуална ориентация, способност и политическа или религиозна вяра.

3. Бъдете изградени и тествани за безопасност.

Ще продължим да разработваме и прилагаме силни практики за безопасност и сигурност, за да избегнем нежелани резултати, които създават рискове от вреди. Ние ще проектираме нашите ИИ системи като подходящо предпазливи и ще се стремим да ги разработим в съответствие с най-добрите практики в изследванията за безопасност на ИИ. В подходящи случаи ще тестваме AI технологиите в ограничени среди и ще следим тяхната работа след внедряване.

4. Бъдете отговорни към хората.

Ще проектираме AI системи, които предоставят подходящи възможности за обратна връзка, подходящи обяснения и обжалване. Нашите ИИ технологии ще бъдат обект на подходящо ръководство и контрол на човека.

5. Включете принципите за дизайн на поверителността.

Ще включим принципите си за поверителност при разработването и използването на нашите AI технологии. Ще дадем възможност за предизвестие и съгласие, ще насърчим архитектурата с предпазни мерки за поверителност и ще осигурим подходяща прозрачност и контрол върху използването на данни.

6. Поддържайте високи стандарти за научни постижения.

Технологичните иновации се коренят в научния метод и ангажимент за открито проучване, интелектуална строгост, почтеност и сътрудничество. Инструментите на ИИ имат потенциал да отключат нови области на научните изследвания и знания в критични области като биология, химия, медицина и науки за околната среда. Ние се стремим към високи стандарти на научни постижения, докато работим за развитие на ИИ.

Ще работим с редица заинтересовани страни, за да насърчаваме внимателно лидерство в тази област, въз основа на научно строги и мултидисциплинарни подходи. И ние отговорно ще споделяме знанията за ИИ, като публикуваме образователни материали, най-добри практики и изследвания, които дават възможност на повече хора да разработят полезни приложения за ИИ.

7. Да се ​​предоставя на разположение за употреби, които съответстват на тези принципи.

Много технологии имат множество приложения. Ще работим за ограничаване на потенциално вредни или злоупотребяващи приложения. Докато разработваме и внедряваме AI технологии, ние ще оценяваме вероятните употреби в светлината на следните фактори:

• Основна цел и употреба: основната цел и вероятното използване на технология и приложение, включително доколко тясно е решението свързано с или да се адаптира към вредна употреба
• Същност и уникалност: дали предлагаме достъпна технология, която е уникална или по-общо достъпна
• Scale: дали използването на тази технология ще има значително влияние
• Естество на участието на Google: дали предлагаме инструменти за общо предназначение, интегрираме инструменти за клиенти или разработваме персонализирани решения

AI приложения, които няма да преследваме

В допълнение към горните цели, ние няма да проектираме или внедряваме AI в следните области на приложение:

1. Технологии, които причиняват или могат да причинят обща вреда. Когато има съществен риск от вреда, ние ще продължим само там, където вярваме, че ползите значително надвишават рисковете и ще включват подходящи ограничения за безопасност.
2. Оръжия или други технологии, чиято основна цел или изпълнение е да причинят или пряко улеснят нараняването на хората.
3. Технологии, които събират или използват информация за наблюдение, нарушаващи международно приетите норми.
4. Технологии, чиято цел противоречи на широко приетите принципи на международното право и правата на човека.

Докато опитът ни в това пространство се задълбочава, този списък може да се развие.

Заключение

Вярваме, че тези принципи са правилната основа за нашата компания и бъдещото ни развитие на AI. Ние признаваме, че тази област е динамична и развиваща се и ще подходим към работата си със смирение, ангажираност към вътрешна и външна ангажираност и готовност да адаптираме нашия подход, докато се учим с времето.

Този положителен резултат не освобождава технологичния гигант Google от съучастие в различни други области от най-голямо притеснение, като подкрепа за ДВГ, полиция и други военни дейности, обобщаване и продажба на достъп до лични данни за хора, скриване на противоречиви политически изявления от резултатите от търсачките и най-важното - да позволи на служителите си да продължат да говорят по тези и други въпроси, без да бъдат уволнени за това. Движението за бунт на работниците от Google остава активно и силно ангажирано.

В същото време е важно да се признае колко впечатляващо беше движението на работниците от Google. Това стана ясно веднага след започването на протестите на Google: маркетинговите отдели на Пентагона спряха да издават нови прессъобщения за някога вълнуващия Project Maven, в крайна сметка „изчезвайки“ проекта изцяло от публичната видимост, която по-рано търсеше. Вместо това от коварната Пентагона започна да се появява нова и много по-голяма инициатива за изкуствен интелект Съвет за иновационни иновации.

Това беше наречено Проект JEDI, ново име за разходите на Пентагона за авангардни оръжия. Проект JEDI биха похарчили много повече пари от Project Maven, но публичността проблясва за новия проект (да, американските военни харчат много на времето и вниманието върху публичността и маркетинга) много се различаваше от по-ранното. Всички елегантни и секси изображения „Черно огледало“ нямаше. Сега, вместо да набляга на вълнуващите и кинематографични дистопични ужаси, дроновете, захранвани от AI, могат да нанесат на човешките същества, Project JEDI обясни себе си като трезва стъпка напред за ефективност, комбинирайки различни бази данни в облака, за да помогне на „бойците“ (любимият термин на Пентагона за персонал на първа линия) и екипи за поддръжка на бек офиса увеличават максимално информационната ефективност. Там, където Project Maven е проектиран да звучи вълнуващо и футуристично, Project JEDI е проектиран да звучи разумно и практично.

Няма нищо разумно или практично в ценовата марка за Project JEDI. Това е най-големият договор за военен софтуер в световната история: 10.5 милиарда долара. Много от очите ни замъгляват, когато чуем за мащаби на военните разходи и можем да прескочим разликата между милиони и милиарди. Важно е да се разбере колко по-голям е проектът JEDI от която и да е предишна софтуерна инициатива на Pentagon. Това е смяна на игри, двигател, генериращ богатство, празен чек за печалба за сметка на данъкоплатците.

Помага да се надраска повърхността на правителствените прессъобщения, когато се опитвате да разберете бланков чек за военни разходи до 10.5 милиарда долара. Част от информацията може да бъде извлечена от собствените публикации на военните, като обезпокоителна Интервю на август 2019 г. със Съвместния център за изкуствен интелект генерал-лейтенант Джак Шанахан, ключова фигура както в изчезналия Project Maven, така и в новия проект JEDI. Успях да придобия по-голяма представа как вътрешните лица на отбранителната индустрия мислят за Project JEDI, като слушам подкаст на отбранителната индустрия, наречен „Проект 38: Бъдещето на договарянето на правителството“. Гостите на подкастите често говорят откровено и безсрамно по каквато и тема да обсъждат. „Много хора ще купуват нови басейни тази година“ беше типично за вътрешния чат на този подкаст за проект JEDI. Сигурни сме, че ще бъдат.

Ето забележителното нещо, което се връзва на принципите на ИИ на Google. Очевидните три водещи позиции за огромния договор за JEDI на стойност 10.5 милиарда долара щяха да бъдат Google, Amazon и Microsoft - в този ред, въз основа на тяхната репутация като AI иноватори. Поради протеста на работниците срещу Project Maven през 2018 г., лидерът на AI Google не се съобразяваше с много по-големия проект JEDI през 2019 г. В края на 2019 г. беше обявено, че договорът е отишъл за Microsoft. Последва вълна от отразяване на новини, но това отразяване се съсредоточи главно върху съперничеството между Amazon и Microsoft и върху факта, че на 3-то място Microsoft вероятно е било позволено да победи 2-ро място Amazon за победата поради продължаващите битки на администрацията на Тръмп с Washington Post, която е собственост на Джеф Безос от Amazon. Сега Amazon ще сезира съда, за да се бори с подаръка на Пентагона за Microsoft на стойност 10.5 милиарда долара, а Oracle също съди. Конкретната забележка от споменатия по-горе подкаст на Project 38 - „Много хора ще купуват нови басейни тази година“ - се отнася не само до финансовото благосъстояние на Microsoft, но и до всички адвокати, които ще участват в тези дела. Вероятно можем да предположим, че повече от 3% от 10.5 милиарда долара от проекта JEDI ще отидат за адвокати. Жалко, че не можем да го използваме, за да помогнем край на глада в света вместо.

Спорът за това дали този трансфер на пари на данъкоплатците към военни изпълнители би трябвало да е от полза за Microsoft, Amazon или Oracle, доминираше в отразяването на новини за проект JEDI. Единственото положително послание, което трябва да бъде извлечено от тази неприлична присадка - фактът, че Google се оттегли от най-големия договор за военен софтуер в световната история заради протеста на работниците - на практика не съществуваше в отразяването на новини за проект JEDI. 

Ето защо беше важно да разкажем тази история на технически фокусираните активисти, събрани в претъпкана стая в центъра на Манхатън миналата седмица, за да поговорим за това как можем да спасим нашата планета, как можем да се борим срещу дезинформацията и политизирането на климатичните науки, как можем да издържаме на огромната сила на печалбите от изкопаеми горива и печалбите от оръжия. В тази малка стая всички като че ли схващаме измеренията на проблема, пред който сме изправени, и критичната роля, която самите ние трябва да започнем да играем. Технологичната общност има значителна сила. Точно както рекламните кампании могат да направят реална промяна, така и бунтовете на технологичните работници могат да направят реална промяна. Има много начини активистите за борба с изменението на климата, активистите на бунтовете на технологичните работници и антивоенните активисти да започнат да работят заедно и ние ще го правим по всякакъв начин, по който можем.

Имахме надежда да започнем с това събиране, полезно инициирано от Изчезване Бунт NYC намлява Светът не може да чака. Това движение ще расте - трябва да расте. Злоупотребата с изкопаеми горива е в центъра на протестиращите срещу изменението на климата. Злоупотребата с изкопаеми горива също е както основният мотив за печалба на американския империализъм, така и основният ужасен резултат от разточителните дейности на раздутата американска армия. Всъщност американската армия изглежда единственият най-лош замърсител в света, Могат ли техническите работници да използват нашата организираща сила за победи дори по-ефектно от оттеглянето на Google от Project JEDI? Можем и трябва. Миналата седмица срещата в Ню Йорк беше само една малка крачка напред. Трябва да правим повече и трябва да дадем на нашето комбинирано протестно движение всичко, което имаме.

Марк Елиът Щайн е директор на технологиите и социалните медии World BEYOND War.

Снимка от Грегъри Шведък.