Паводле Марка Эліёта Штэйна, 10 лютага 2020 года

Нядаўна мяне запрасілі выступіць на сходзе Extinction Rebellion у Нью-Ёрку ад імя World BEYOND War. Мерапрыемства было распрацавана, каб аб'яднаць тры групы дзеянняў: актывістаў па змене клімату, калектываў тэхнічных работнікаў і антываенных актывістаў. Мы пачалі з хвалюючага асабістага расповеду актывісткі па змене клімату Ха Ву, якая распавяла натоўпу жыхароў Нью-Ёрка пра трывожны вопыт, які мала хто з нас меў: вяртанне ў дом сваёй сям'і ў Ханой, В'етнам, дзе падвышаная спякота ужо зрабіў амаль немагчымым прагулкі на вуліцы ў гадзіны пік сонечнага святла. Нешматлікія амерыканцы таксама ведаюць пра Катастрофа забруджвання вады 2016 года у Ха Тинь ў цэнтральным В'етнаме. Мы часта гаворым пра змяненне клімату як пра патэнцыйную праблему ў ЗША, падкрэсліла Ха, але ў В'етнаме яна можа бачыць, што гэта ўжо парушае жыццё і сродкі да існавання і хутка пагаршаецца.

Нік Мотэрн з KnowDrones.org з такой жа настойлівасцю гаварыў аб нядаўніх масавых інвестыцыях амерыканскіх вайскоўцаў у футурыстычны штучны інтэлект і воблачныя вылічэнні – і падкрэсліў уласную выснову вайскоўцаў аб тым, што разгортванне сістэм штучнага інтэлекту ў кіраванні ядзернай зброяй і беспілотнай вайне непазбежна прывядзе да памылак непрадказальнай велічыні. Уільям Беклер з Extinction Rebellion NYC, а затым растлумачыў арганізацыйныя прынцыпы, якія ўводзіць у дзеянне гэтая важная і хутка расце арганізацыя, у тым ліку падрыўныя дзеянні, накіраваныя на павышэнне дасведчанасці аб надзвычайнай важнасці змены клімату. Мы пачулі ад прадстаўніка Нью-Ёрка Кааліцыя тэхнічных работнікаў, і я паспрабаваў накіраваць сход да пачуцця практычнага пашырэння магчымасцей, кажучы пра акцыю паўстання тэхнічных работнікаў, якая была нечакана паспяховай.

Гэта было ў красавіку 2018 года, калі так званая «абаронная прамысловасць» шумела аб праекце Maven, шырока разрэкламаванай новай ваеннай ініцыятыве ЗША па развіцці магчымасцей штучнага інтэлекту для беспілотнікаў і іншых сістэм узбраення. Google, Amazon і Microsoft прапануюць гатовыя платформы штучнага інтэлекту для платных кліентаў, і Google разглядаўся як верагодны пераможца ваеннага кантракту Project Maven.

У пачатку 2018 года супрацоўнікі Google пачалі гаварыць. Яны не разумелі, чаму кампанія, якая наняла іх у якасці супрацоўнікаў з абяцаннем «Не будзь злым», цяпер прымае ўдзел у таргах на ваенныя праекты, якія могуць нагадваць жахлівы эпізод «Чорнага люстэрка», у якім механічныя сабакі са штучным інтэлектам пераследуюць людзей да смерці. Яны выступілі ў сацыяльных сетках і традыцыйных інфармацыйных агенцтвах. Яны арганізоўвалі акцыі і распаўсюджвалі петыцыі і давалі сябе пачуць.

Гэтае паўстанне рабочых было пачатак руху Google Workers Rebellion, і яно дапамагло запусціць іншыя калектывы тэхнічных работнікаў. Але самае дзіўнае ва ўнутраным пратэсте Google супраць Project Maven было не тое, што тэхнічныя работнікі выказваліся. Самае дзіўнае, што Кіраўніцтва Google саступіла патрабаванням працоўных.

Праз два гады гэты факт мяне ўсё яшчэ агаломшвае. Я бачыў шмат этычных праблем за свае дзесяцігоддзі ў якасці тэхнічнага работніка, але я рэдка бачыў буйную кампанію, якая катэгарычна згаджалася сур'ёзна вырашаць этычныя праблемы. Вынікам паўстання Google супраць праекта Maven стала публікацыя набору прынцыпаў штучнага інтэлекту, якія варта перадрукаваць тут цалкам:

Штучны інтэлект у Google: нашы прынцыпы

Google імкнецца ствараць тэхналогіі, якія вырашаюць важныя праблемы і дапамагаюць людзям у паўсядзённым жыцці. Мы з аптымізмам глядзім на неверагодны патэнцыял штучнага інтэлекту і іншых перадавых тэхналогій для пашырэння магчымасцей людзей, прынясення шырокай карысці цяперашнім і будучым пакаленням і працы для агульнага дабра.

Мэты для прыкладанняў штучнага інтэлекту

Мы будзем ацэньваць прыкладанні штучнага інтэлекту з улікам наступных задач. Мы лічым, што ІІ павінен:

1. Быць сацыяльна карысным.

Пашырэнне дасяжнасці новых тэхналогій усё больш закранае грамадства ў цэлым. Дасягненні ў галіне штучнага інтэлекту акажуць трансфармацыйны ўплыў у розных сферах, уключаючы ахову здароўя, бяспеку, энергетыку, транспарт, вытворчасць і забавы. Калі мы разглядаем патэнцыйнае развіццё і выкарыстанне тэхналогій штучнага інтэлекту, мы будзем прымаць да ўвагі шырокі спектр сацыяльных і эканамічных фактараў і будзем дзейнічаць там, дзе лічым, што агульныя магчымыя выгады значна перавышаюць прадказальныя рызыкі і недахопы.

AI таксама паляпшае нашу здольнасць разумець сэнс кантэнту ў маштабе. Мы будзем імкнуцца зрабіць высакаякасную і дакладную інфармацыю лёгкадаступнай з дапамогай штучнага інтэлекту, працягваючы паважаць культурныя, сацыяльныя і прававыя нормы ў краінах, дзе мы працуем. І мы працягнем удумліва ацэньваць, калі зрабіць нашы тэхналогіі даступнымі на некамерцыйнай аснове.

2. Пазбягайце стварэння або ўзмацнення несправядлівай прадузятасці.

Алгарытмы штучнага інтэлекту і наборы даных могуць адлюстроўваць, узмацняць або памяншаць несправядлівыя прадузятасці. Мы разумеем, што адрозніць справядлівыя ад несправядлівых прадузятасцяў не заўсёды проста, і гэта адрозніваецца ў розных культурах і грамадствах. Мы будзем імкнуцца пазбягаць несправядлівага ўздзеяння на людзей, асабліва таго, што звязана з адчувальнымі характарыстыкамі, такімі як раса, этнічная прыналежнасць, пол, нацыянальнасць, даход, сексуальная арыентацыя, здольнасці і палітычныя або рэлігійныя перакананні.

3. Быць створаным і правераным на бяспеку.

Мы будзем працягваць распрацоўваць і прымяняць жорсткія метады бяспекі і бяспекі, каб пазбегнуць непрадбачаных вынікаў, якія ствараюць рызыку прычынення шкоды. Мы будзем распрацоўваць нашы сістэмы штучнага інтэлекту такім чынам, каб быць адпаведным чынам асцярожнымі, і будзем імкнуцца развіваць іх у адпаведнасці з перадавым вопытам даследаванняў бяспекі штучнага інтэлекту. У адпаведных выпадках мы будзем тэставаць тэхналогіі штучнага інтэлекту ў абмежаваных умовах і кантраляваць іх працу пасля разгортвання.

4. Быць адказным перад людзьмі.

Мы распрацуем сістэмы штучнага інтэлекту, якія забяспечваюць адпаведныя магчымасці для зваротнай сувязі, адпаведных тлумачэнняў і апеляцыі. Нашы тэхналогіі штучнага інтэлекту будуць знаходзіцца пад адпаведным кіраўніцтвам і кантролем чалавека.

5. Уключыце прынцыпы распрацоўкі прыватнасці.

Мы будзем уключаць нашы прынцыпы прыватнасці пры распрацоўцы і выкарыстанні нашых тэхналогій штучнага інтэлекту. Мы дадзім магчымасць апавяшчэння і згоды, заахвочваем архітэктуры з гарантыямі канфідэнцыяльнасці і забяспечваем належную празрыстасць і кантроль за выкарыстаннем даных.

6. Падтрымліваць высокія стандарты навуковага дасканаласці.

Тэхналагічныя інавацыі грунтуюцца на навуковым метадзе і прыхільнасці адкрытаму расследаванню, інтэлектуальнай строгасці, сумленнасці і супрацоўніцтве. Інструменты штучнага інтэлекту могуць раскрыць новыя сферы навуковых даследаванняў і ведаў у важных галінах, такіх як біялогія, хімія, медыцына і навукі аб навакольным асяроддзі. Мы імкнемся да высокіх стандартаў навуковага дасканаласці, працуючы над развіццём штучнага інтэлекту.

Мы будзем працаваць з шэрагам зацікаўленых бакоў, каб прасоўваць удумлівае лідэрства ў гэтай галіне, абапіраючыся на навукова строгія і міждысцыплінарныя падыходы. І мы будзем адказна дзяліцца ведамі аб штучным інтэлекте, публікуючы навучальныя матэрыялы, лепшыя практыкі і даследаванні, якія дазваляюць большай колькасці людзей распрацоўваць карысныя прыкладанні штучнага інтэлекту.

7. Быць даступным для выкарыстання ў адпаведнасці з гэтымі прынцыпамі.

Многія тэхналогіі маюць шматразовае выкарыстанне. Мы будзем працаваць над абмежаваннем патэнцыйна шкодных або абразлівых прыкладанняў. Калі мы распрацоўваем і разгортваем тэхналогіі штучнага інтэлекту, мы будзем ацэньваць верагоднае выкарыстанне ў святле наступных фактараў:

• Асноўнае прызначэнне і выкарыстанне: асноўная мэта і верагоднае выкарыстанне тэхналогіі і прыкладання, у тым ліку наколькі цесна рашэнне звязана са шкодным выкарыстаннем або адаптавана да яго
• Прырода і ўнікальнасць: незалежна ад таго, ці прапануем мы тэхналогію, якая з'яўляецца унікальнай або больш агульнадаступнай
• маштаб: ці будзе выкарыстанне гэтай тэхналогіі мець істотны ўплыў
• Характар ​​удзелу Google: ці прапануем мы інструменты агульнага прызначэння, інтэгруем інструменты для кліентаў або распрацоўваем індывідуальныя рашэнні

Прыкладанні штучнага інтэлекту мы не будзем шукаць

У дадатак да вышэйпералічаных мэтаў мы не будзем распрацоўваць або разгортваць штучны інтэлект у наступных сферах прымянення:

1. Тэхналогіі, якія наносяць або могуць нанесці агульную шкоду. Там, дзе існуе істотная рызыка нанясення шкоды, мы будзем дзейнічаць толькі тады, калі лічым, што выгады значна перавышаюць рызыкі, і будзем уключаць адпаведныя абмежаванні бяспекі.
2. Зброя або іншыя тэхналогіі, асноўнай мэтай або прымяненнем якіх з'яўляецца прычыненне або непасрэднае садзейнічанне прычыненню траўмаў людзям.
3. Тэхналогіі, якія збіраюць або выкарыстоўваюць інфармацыю для сачэння, парушаючы міжнародна прынятыя нормы.
4. Тэхналогіі, мэта якіх супярэчыць агульнапрынятым прынцыпам міжнароднага права і правоў чалавека.

Па меры паглыблення нашага вопыту ў гэтай прасторы гэты спіс можа развівацца.

заключэнне

Мы лічым, што гэтыя прынцыпы з'яўляюцца правільнай асновай для нашай кампаніі і нашага будучага развіцця ІІ. Мы прызнаем, што гэтая вобласць дынамічная і развіваецца, і мы будзем падыходзіць да нашай працы з пакорай, прыхільнасцю да ўнутранага і знешняга ўзаемадзеяння і гатоўнасцю адаптаваць наш падыход па меры таго, як мы навучымся з часам.

Гэты станоўчы вынік не вызваляе тэхналагічнага гіганта Google ад саўдзелу ў розных іншых сферах, якія выклікаюць вялікую заклапочанасць, такіх як падтрымка ICE, паліцыі і іншых ваенных дзеянняў, агрэгаванне і продаж доступу да прыватных даных аб асобах, утойванне супярэчлівых палітычных заяваў у выніках пошукавай сістэмы і, самае галоўнае, дазвол яго супрацоўнікам працягваць выказвацца па гэтых і іншых пытаннях без звальнення за гэта. Паўстанчы рух працоўных Google застаецца актыўным і вельмі актыўным.

У той жа час важна прызнаць, наколькі ўплывовым быў рух работнікаў Google. Гэта стала ясна адразу пасля таго, як пачаліся пратэсты Google: аддзелы маркетынгу Пентагона спынілі выпуск новых прэс-рэлізаў аб некалі захапляльным праекце Maven, у рэшце рэшт «знікаючы» з-пад грамадскай бачнасці праекта, якой ён раней імкнуўся. Замест гэтага новая і значна больш маштабная ініцыятыва штучнага інтэлекту пачала з'яўляцца з падступнага Пентагона Савет абаронных інавацый.

Гэта называлася Праект джэдаі, новая назва выдаткаў Пентагона на перадавую зброю. Праект JEDI выдаткаваў бы значна больш грошай, чым праект Maven, але рэкламны бліц для новага праекта (так, амерыканскія ваенныя трацяць серыя часу і ўвагі на рэкламу і маркетынг) моцна адрозніваўся ад папярэдняга. Усе гладкія і сэксуальныя вобразы «Чорнага люстэрка» зніклі. Цяпер, замест таго, каб падкрэсліваць захапляльныя і кінематаграфічныя антыўтапічныя жахі, якія беспілотныя лятальныя апараты на базе штучнага інтэлекту могуць нанесці на людзей, праект JEDI растлумачыў сябе як цвярозы крок наперад у павышэнні эфектыўнасці, аб'яднаўшы розныя воблачныя базы даных, каб дапамагчы «вайскоўцам» (любімы тэрмін Пентагона для персаналу на перадавой лініі) і камандам падтрымкі бэк-офіса максымізаваць інфармацыйную эфектыўнасць. Там, дзе Project Maven быў распрацаваны, каб гучаць захапляльна і футурыстычна, Project JEDI быў распрацаваны, каб гучаць разумна і практычна.

У цэнніку на Project JEDI няма нічога разумнага і практычнага. Гэта найбуйнейшы кантракт на ваеннае праграмнае забеспячэнне ў сусветнай гісторыі: 10.5 мільярда долараў. Шмат хто з нашых вачэй блісне, калі мы чуем пра маштабы ваенных выдаткаў, і мы можам прапусціць розніцу паміж мільёнамі і мільярдамі. Вельмі важна разумець, наколькі большы праект JEDI, чым любая папярэдняя праграмная ініцыятыва Пентагона. Гэта змена гульні, механізм стварэння багаццяў, пусты чэк для атрымання прыбытку за кошт падаткаплацельшчыкаў.

Гэта дапамагае падрапаць пад паверхню ўрадавых прэс-рэлізаў, спрабуючы зразумець ваенныя выдаткі пусты чэк памерам да 10.5 мільярдаў даляраў. Некаторыя звесткі можна пачэрпнуць з уласных публікацый вайскоўцаў, накшталт трывожных Інтэрв'ю з генерал-лейтэнантам Аб'яднанага цэнтра штучнага інтэлекту Джэкам Шанаханам у жніўні 2019 г., ключавая фігура як у зніклым праекце Maven, так і ў новым праекце JEDI. Мне ўдалося атрымаць большае ўяўленне пра тое, як інсайдэры абароннай прамысловасці думаюць пра праект JEDI, праслухаўшы падкаст абароннай прамысловасці пад назвай «Праект 38: Будучыня дзяржаўнага кантракту». Госці падкаста часта адкрыта і бессаромна гавораць аб любой тэме, якую яны абмяркоўваюць. «Многія людзі будуць купляць новыя басейны ў гэтым годзе» было тыповым для інсайдэрскай размовы пра праект JEDI у гэтым падкасце. Мы ўпэўненыя, што яны будуць.

Вось выдатная рэч, якая звязана з прынцыпамі AI Google. Відавочнымі трыма фаварытамі велізарнага кантракту JEDI на 10.5 мільярдаў долараў былі б Google, Amazon і Microsoft - у такім парадку, зыходзячы з іх рэпутацый наватараў штучнага інтэлекту. З-за пратэстаў рабочых супраць праекта Maven у 2018 годзе лідар AI Google быў па-за ўвагай для значна большага праекта JEDI у 2019 годзе. У канцы 2019 года было абвешчана, што кантракт перайшоў да Microsoft. Пасля гэтага рушыў услед шквал навін, але гэта асвятленне было засяроджана ў асноўным на суперніцтве паміж Amazon і Microsoft, а таксама на тым факце, што Microsoft, якая заняла 3-е месца, верагодна, дазволіла абыграць Amazon, які заняў 2-е месца, каб выйграць з-за працяглых бітваў адміністрацыі Трампа з Washington Post, якая належыць Джэфу Безасу з Amazon. Цяпер Amazon звяртаецца ў суд, каб змагацца з падарункам Пентагона Microsoft на 10.5 мільярда долараў, і Oracle таксама падае ў суд. Канкрэтная заўвага з падкаста Project 38, згаданая вышэй - "Шмат людзей будуць купляць новыя басейны ў гэтым годзе" - адносілася не толькі да фінансавай выгады Microsoft, але і да ўсіх юрыстаў, якія будуць удзельнічаць у гэтых судовых працэсах. Верагодна, мы можам зрабіць абгрунтаваную здагадку, што больш за 3% ад 10.5 мільярда долараў праекта JEDI пойдуць на юрыстаў. Шкада, што мы не можам выкарыстоўваць яго, каб дапамагчы канец голаду ў свеце замест гэтага.

Спрэчка аб тым, ці павінен гэты перавод грошай падаткаплацельшчыкаў ваенным падрадчыкам прынесці карысць Microsoft, Amazon або Oracle, дамінавала ў навінах аб праекце JEDI. Адно пазітыўнае паведамленне, якое можна атрымаць з гэтага непрыстойнага хабарніцтва - той факт, што Google адмовіўся ад найбуйнейшага ваеннага кантракту на праграмнае забеспячэнне ў сусветнай гісторыі з-за пратэсту рабочых - практычна не існавала ў навінах аб праекце JEDI. 

Вось чаму было важна расказаць гэтую гісторыю тэхналагічным актывістам, якія сабраліся ў перапоўненай зале ў цэнтры Манхэтэна на мінулым тыдні, каб пагаварыць пра тое, як мы можам выратаваць нашу планету, як мы можам змагацца з дэзінфармацыяй і палітызацыяй навукі аб клімаце, як мы можам супрацьстаяць велізарнай сіле спекулянтаў, якія займаюцца выкапнёвым палівам і спекулятарамі зброі. У гэтым невялікім пакоі мы ўсе, здавалася, зразумелі маштабы праблемы, з якой мы сутыкнуліся, і важную ролю, якую мы павінны пачаць адыгрываць. Тэхнічная супольнасць валодае значнай уладай. Падобна таму, як кампаніі па пазбаўленні інвестыцый могуць мець сапраўднае значэнне, паўстанні тэхнічных работнікаў могуць мець сапраўднае значэнне. Ёсць шмат спосабаў, як актывісты па змене клімату, актывісты паўстання тэхнічных работнікаў і антываенныя актывісты могуць пачаць працаваць разам, і мы будзем рабіць гэта ўсімі магчымымі спосабамі.

У нас быў абнадзейлівы пачатак гэтай сустрэчы, карысна ініцыяванай Паўстанне вымірання ў Нью-Ёрку і Свет не можа чакаць. Гэты рух будзе расці – ён павінен расці. Злоўжыванне выкапнёвым палівам - у цэнтры ўвагі пратэстоўцаў супраць змены клімату. Злоўжыванне выкапнёвым палівам таксама з'яўляецца галоўным матывам прыбытку амерыканскага імперыялізму і галоўным жудасным вынікам марнатраўнай дзейнасці раздутай арміі ЗША. Сапраўды, здаецца, што амерыканскія вайскоўцы адзіны найгоршы забруджвальнік у свеце. Ці могуць тэхнічныя работнікі выкарыстаць нашу арганізатарскую сілу для перамог, нават больш уплывовых, чым выхад Google з праекта JEDI? Мы можам і павінны. Сустрэча ў Нью-Ёрку на мінулым тыдні была толькі маленькім крокам наперад. Мы павінны зрабіць больш, і мы павінны даць нашаму аб'яднанаму руху пратэсту ўсё, што мы маем.

Марк Эліёт Стайн - дырэктар па тэхналогіях і сацыяльных сетках World BEYOND War.

Фота Рыгора Шведака.