Автор: Марк Еліот Стайн, 10 лютого 2020 р

Нещодавно мене запросили виступити на зібранні Extinction Rebellion у Нью-Йорку від імені World BEYOND War. Захід був розроблений для того, щоб об’єднати три групи дій: активістів щодо зміни клімату, колективів технічних працівників та антивоєнних активістів. Ми почали з хвилюючої особистої розповіді від активістки зі зміни клімату Ха Ву, яка розповіла натовпу жителів Нью-Йорка про тривожний досвід, який мало хто з нас коли-небудь стикався: повернення до дому її сім’ї в Ханої, В’єтнам, де підвищена температура вже зробив майже неможливим гуляти на вулиці в години пік сонячного світла. Мало хто з американців також знає про Катастрофа забруднення води 2016 року в Ха-Тінь ​​в центральному В'єтнамі. Ми часто говоримо про зміну клімату як про потенційну проблему в США, підкреслила Ха, але у В’єтнамі вона бачить, що це вже порушує життя і засоби до існування, і швидко погіршується.

Нік Моттерн з KnowDrones.org з такою ж гостротою говорив про недавні масові інвестиції американських військових у футуристичний штучний інтелект і хмарні обчислення – і підкреслив власний висновок військових, що розгортання систем ШІ в управлінні ядерною зброєю та війні безпілотників неминуче призведе до помилок непередбачуваного масштабу. Вільям Беклер з Extinction Rebellion NYC, а потім пояснив принципи організації, які ця важлива і швидко зростаюча організація впроваджує в дію, включаючи руйнівні дії, спрямовані на підвищення обізнаності про критичну важливість зміни клімату. Ми почули від представника Нью-Йорка Коаліція технічних працівників, і я намагався спрямувати зібрання до відчуття практичного розширення можливостей, розповідаючи про акцію повстання технічних працівників, яка була несподівано успішною.

Це було в квітні 2018 року, коли так звана «оборонна промисловість» галасувала про Project Maven, широко розрекламовану нову військову ініціативу США щодо розвитку можливостей штучного інтелекту для дронів та інших систем зброї. Google, Amazon і Microsoft пропонують готові платформи штучного інтелекту для клієнтів-платників, і Google розглядався як ймовірний переможець військового контракту Project Maven.

На початку 2018 року працівники Google почали говорити. Вони не розуміли, чому компанія, яка найняла їх як співробітників із зобов’язанням «Не будь злим», тепер бере участь у торгах на військові проекти, які, ймовірно, нагадують жахливий епізод «Чорного дзеркала», в якому механічні собаки з штучним інтелектом переслідують людей. істот до смерті. Вони говорили в соцмережах і традиційних новинах. Вони організовували акції, поширювали петиції і були почуті.

Це повстання робітників стало джерелом руху Google Workers Rebellion, і воно допомогло запустити інші колективи технічних працівників. Але найбільш дивним у внутрішньому протесті Google проти Project Maven було не те, що технічні працівники говорили про це. Найдивніше те, що Керівництво Google поступилося вимогам працівників.

Через два роки цей факт досі мене вражає. За свої десятиліття роботи технічним працівником я бачив багато етичних проблем, але рідко бачив велику компанію, яка категорично погодилася б серйозно вирішити етичні проблеми. Результатом повстання Google проти Project Maven стала публікація набору принципів штучного інтелекту, які варто передрукувати тут повністю:

Штучний інтелект у Google: наші принципи

Google прагне створити технології, які вирішують важливі проблеми та допомагають людям у повсякденному житті. Ми з оптимізмом дивимося на неймовірний потенціал штучного інтелекту та інших передових технологій, щоб розширювати можливості людей, приносити широку користь нинішнім і майбутнім поколінням і працювати на загальне благо.

Цілі для додатків AI

Ми будемо оцінювати програми ШІ з огляду на наступні цілі. Ми вважаємо, що ШІ повинен:

1. Бути суспільно корисним.

Розширений охоплення нових технологій все більше торкається суспільства в цілому. Досягнення в галузі штучного інтелекту будуть мати трансформаційний вплив у широкому діапазоні областей, включаючи охорону здоров’я, безпеку, енергетику, транспорт, виробництво та розваги. Розглядаючи потенційний розвиток та використання технологій штучного інтелекту, ми візьмемо до уваги широкий спектр соціальних та економічних факторів, і будемо продовжувати роботу там, де ми вважаємо, що загальні ймовірні вигоди значно перевищують передбачувані ризики та негативні сторони.

ШІ також покращує нашу здатність розуміти значення контенту в масштабі. Ми будемо прагнути зробити високоякісну та точну інформацію легкодоступною за допомогою ШІ, продовжуючи поважати культурні, соціальні та правові норми в країнах, де ми працюємо. І ми продовжимо вдумливо оцінювати, коли зробити наші технології доступними на некомерційній основі.

2. Уникайте створення або посилення несправедливої ​​упередженості.

Алгоритми та набори даних ШІ можуть відображати, посилювати або зменшувати несправедливі упередження. Ми визнаємо, що відрізнити справедливі упередження від несправедливих не завжди просто, і вони відрізняються в різних культурах і суспільствах. Ми намагатимемося уникати несправедливого впливу на людей, особливо пов’язаних із такими чутливими характеристиками, як раса, етнічна приналежність, стать, національність, дохід, сексуальна орієнтація, здібності, політичні чи релігійні переконання.

3. Будьте виготовлені та перевірені на безпеку.

Ми продовжуватимемо розвивати та застосовувати надійні методи безпеки, щоб уникнути небажаних результатів, які створюють ризики шкоди. Ми розробимо наші системи штучного інтелекту так, щоб вони були належним чином обережними, і намагатимемося розвивати їх відповідно до найкращих методів дослідження безпеки AI. У відповідних випадках ми будемо тестувати технології штучного інтелекту в обмежених середовищах і відстежувати їх роботу після розгортання.

4. Будьте відповідальні перед людьми.

Ми розробимо системи штучного інтелекту, які нададуть відповідні можливості для зворотного зв’язку, відповідних пояснень та звернення. Наші технології штучного інтелекту будуть підпорядковуватися належному керівництву та контролю з боку людини.

5. Включіть принципи конфіденційності дизайну.

Ми будемо включати наші принципи конфіденційності при розробці та використанні наших технологій штучного інтелекту. Ми надаємо можливість для повідомлення та згоди, заохочуватимемо архітектури з гарантіями конфіденційності та забезпечимо відповідну прозорість та контроль над використанням даних.

6. Підтримуйте високі стандарти наукової досконалості.

Технологічні інновації ґрунтуються на науковому методі та прихильності до відкритого дослідження, інтелектуальної суворості, чесності та співпраці. Інструменти штучного інтелекту мають потенціал, щоб відкрити нові сфери наукових досліджень і знань у важливих галузях, таких як біологія, хімія, медицина та науки про навколишнє середовище. Ми прагнемо до високих стандартів наукової досконалості, працюючи над розвитком ШІ.

Ми працюватимемо з низкою зацікавлених сторін, щоб заохочувати вдумливе лідерство в цій сфері, спираючись на суворі наукової та багатодисциплінарні підходи. І ми будемо відповідально ділитися знаннями з ШІ, публікуючи навчальні матеріали, передові методи та дослідження, які дають змогу більшій кількості людей розробляти корисні додатки AI.

7. Бути доступним для використання, яке відповідає цим принципам.

Багато технологій мають різноманітне застосування. Ми будемо працювати, щоб обмежити потенційно шкідливі або зловмисні програми. Розробляючи та впроваджуючи технології штучного інтелекту, ми будемо оцінювати ймовірне використання у світлі наступних факторів:

• Основне призначення та використання: основна мета та ймовірне використання технології та програми, включаючи те, наскільки тісно рішення пов’язане зі шкідливим використанням або пристосоване до нього
• Природа та унікальність: чи ми робимо доступною технологію, яка є унікальною чи більш загальнодоступною
• Масштаб: чи матиме значний вплив використання цієї технології
• Характер участі Google: чи надаємо ми інструменти загального призначення, інтегруємо інструменти для клієнтів чи розробляємо індивідуальні рішення

Додатки AI ми не будемо займатися

На додаток до вищезазначених цілей, ми не будемо розробляти або розгортати ШІ в таких областях застосування:

1. Технології, які завдають або можуть завдати загальної шкоди. Якщо існує суттєвий ризик заподіяння шкоди, ми діятимемо лише в тих випадках, коли ми вважаємо, що вигода значно переважає ризики, і буде включати відповідні обмеження безпеки.
2. Зброя або інші технології, головна мета або застосування яких полягає в тому, щоб заподіяти або безпосередньо полегшити поранення людей.
3. Технології, які збирають або використовують інформацію для спостереження, що порушує міжнародно прийняті норми.
4. Технології, призначення яких суперечить загальновизнаним принципам міжнародного права та прав людини.

Оскільки наш досвід у цій сфері поглиблюватиметься, цей список може розвиватися.

Висновок

Ми віримо, що ці принципи є правильною основою для нашої компанії та нашого майбутнього розвитку ШІ. Ми визнаємо, що ця сфера є динамічною та розвивається, і ми будемо підходити до нашої роботи зі смиренням, відданістю внутрішнім і зовнішнім залученням та готовністю адаптувати наш підхід у міру того, як ми вчимося з часом.

Цей позитивний результат не звільняє технологічного гіганта Google від співучасті в інших сферах, які викликають серйозне занепокоєння, як-от підтримка ICE, поліції та інших військових дій, агрегація та продаж доступу до приватних даних про окремих осіб, приховування суперечливих політичних заяв із результатів пошукових систем. і, найголовніше, дозволити своїм співробітникам продовжувати висловлюватися з цих та інших питань без звільнення за це. Рух повстання робітників Google залишається активним і дуже активним.

У той же час важливо визнати, наскільки впливовим був рух працівників Google. Це стало зрозумілим відразу після початку протестів Google: маркетингові відділи Пентагону припинили випуск нових прес-релізів про колись захоплюючий Project Maven, врешті-решт «зниквши» проект повністю з публічної видимості, до якої він прагнув раніше. Натомість нова і набагато більша ініціатива зі штучного інтелекту почала виникати з підступного Пентагону Рада з оборонних інновацій.

Це було названо Проект JEDI, нова назва витрат Пентагону на передову зброю. Проект JEDI витратив би набагато більше грошей, ніж Project Maven, але реклама нового проекту (так, американські військові витрачають багато часу та уваги до реклами та маркетингу) сильно відрізнявся від попереднього. Усі гладкі та сексуальні образи «Чорного дзеркала» зникли. Тепер, замість того, щоб підкреслювати захоплюючі та кінематографічні антиутопічні жахи, які дрони з штучним інтелектом можуть завдати людям, Project JEDI пояснив себе як тверезий крок вперед до підвищення ефективності, об’єднавши різні хмарні бази даних, щоб допомогти «бійцям» (улюблений термін Пентагону для передового персоналу) та бек-офісних команд підтримки максимізують ефективність інформації. Якщо Project Maven звучав захоплююче й футуристично, Project JEDI створювався так, щоб звучати розумно й практично.

Немає нічого розумного чи практичного в ціннику проекту JEDI. Це найбільший контракт на військове програмне забезпечення у світовій історії: 10.5 мільярдів доларів. У багатьох наші очі склеюються, коли ми чуємо про масштаби військових витрат, і ми можемо пропустити різницю між мільйонами і мільярдами. Важливо зрозуміти, наскільки проект JEDI більший за будь-яку попередню програмну ініціативу Пентагону. Це змінює гру, двигун, що створює багатство, чистий чек на отримання прибутку за рахунок платників податків.

Це допомагає знайти під поверхнею урядових прес-релізів, намагаючись зрозуміти бланк чек на військові витрати в розмірі 10.5 мільярдів доларів. Деяку інформацію можна почерпнути з власних публікацій військових, наприклад, тривожну Інтерв’ю з генерал-лейтенантом Об’єднаного центру штучного інтелекту Джеком Шанаханом у серпні 2019 року, ключова фігура як зниклого проекту Maven, так і нового проекту JEDI. Я зміг отримати більше уявлення про те, як інсайдери оборонної промисловості думають про Project JEDI, прослухавши подкаст оборонної промисловості під назвою «Проект 38: Майбутнє державних контрактів». Гості подкастів часто відверто й безсоромно говорять на будь-яку тему, яку вони обговорюють. «Цього року багато людей куплять нові басейни», — було типовим для інсайдерського чату цього подкасту про проект JEDI. Ми впевнені, що вони будуть.

Ось чудова річ, яка пов’язана з принципами AI від Google. Очевидними трьома лідерами за контрактом JEDI на суму 10.5 мільярдів доларів були Google, Amazon і Microsoft – у такому порядку, виходячи з їхньої репутації інноваторів AI. Через протест робітників проти Project Maven у 2018 році лідер AI Google був поза увагою до значно більшого проекту JEDI у 2019 році. Наприкінці 2019 року було оголошено, що контракт перейшов до Microsoft. Послідував шквал новин, але це висвітлення було зосереджено в основному на суперництві між Amazon і Microsoft, а також на тому факті, що Microsoft, що займає 3-е місце, ймовірно, було дозволено перемогти Amazon з 2-го місця за перемогу через триваючу боротьбу адміністрації Трампа з Washington Post, який належить Джеффу Безосу з Amazon. Зараз Amazon звертається до суду, щоб позбутися від Пентагону $10.5 мільярда, подарованого Microsoft, і Oracle також подає до суду. Конкретне зауваження з подкасту Project 38, згадане вище — «Цього року багато людей куплять нові басейни» — стосувалося не лише фінансових прибутків Microsoft, а й усіх юристів, які братимуть участь у цих судових процесах. Ми, ймовірно, можемо зробити обґрунтовані припущення, що понад 3% від 10.5 мільярдів доларів проекту JEDI підуть на юристів. Шкода, що ми не можемо використати це, щоб допомогти покінчити з голодом у світі замість цього.

Суперечка про те, чи має ця передача грошей платників податків військовим підрядникам принести користь Microsoft, Amazon чи Oracle, домінувала у висвітленні новин проекту JEDI. Єдине позитивне повідомлення, яке можна почерпнути з цього непристойного підкупу – той факт, що Google відмовився від найбільшого контракту на військове програмне забезпечення у світовій історії через протест робітників – практично не існувало в новинах проекту JEDI. 

Ось чому було важливо розповісти цю історію активістам, зосередженим на техніці, які минулого тижня зібралися в переповненій кімнаті в центрі Манхеттена, щоб поговорити про те, як ми можемо врятувати нашу планету, як ми можемо боротися з дезінформацією та політизацією кліматичних наук, як ми можемо протистояти величезній силі спекулянтів на викопному паливі та зброї. У цій маленькій кімнаті ми всі, здавалося, усвідомлювали масштаби проблеми, з якою зіткнулися, і важливу роль, яку ми самі повинні почати відігравати. Технологічна спільнота має значну владу. Подібно до того, як кампанії з ліквідації інвестицій можуть змінити ситуацію, повстання технічних працівників можуть зробити справжню зміну. Є багато способів, як активісти зі зміни клімату, технічні працівники, активісти повстання та антивоєнні активісти можуть почати працювати разом, і ми будемо робити це всіма можливими способами.

Ми з надією розпочали це зібрання, ініційоване ним Повстання вимирання в Нью-Йорку та Світ не може чекати. Цей рух буде рости – він повинен рости. Зловживання викопним паливом є в центрі уваги протестуючих проти зміни клімату. Зловживання викопним паливом також є як основним мотивом отримання прибутку американського імперіалізму, так і головним жахливим результатом марнотратної діяльності роздутої армії США. Справді, американські військові, схоже, є єдиний найбільший забруднювач у світі. Чи можуть технічні працівники використовувати нашу організуючу силу для перемог, навіть більш ефективних, ніж вихід Google із проекту JEDI? Ми можемо і повинні. Минулого тижня зустріч у Нью-Йорку була лише крихітним кроком вперед. Ми повинні зробити більше, і ми повинні дати нашому об’єднаному протестному руху все, що у нас є.

Марк Еліот Стайн — директор із технологій та соціальних мереж World BEYOND War.

Фото Грегорі Шведок.