Од Марк Елиот Штајн, 10 февруари 2020 година

Неодамна бев поканет да зборувам на собирот на Extinction Rebellion во Њујорк Сити во име на World BEYOND War. Настанот беше дизајниран да собере три акциони групи: активисти за климатски промени, колективи на технолошки работници и антивоени активисти. Започнавме со возбудлива лична сметка од активистката за климатски промени Ха Ву, која на толпата њујорчани им кажа за алармантно искуство што малкумина од нас го имаат: враќањето во домот на нејзиното семејство во Ханој, Виетнам, каде зголемена топлина веќе го оневозможи пешачењето надвор за време на врвните сончеви часови. Малку Американци исто така знаат за Катастрофа со загадување на водата во 2016 година во Ха Тин во централен Виетнам. Често зборуваме за климатските промени како потенцијален проблем во САД, нагласи Ха, но во Виетнам таа може да види дека веќе ги нарушува животите и егзистенцијата и брзо се влошува.

Ник Мотерн од KnowDrones.org со слична итност зборуваше за неодамнешната огромна инвестиција на американската војска во футуристичка вештачка интелигенција и пресметување во облак - и го истакна заклучокот на самата војска дека распоредувањето на системи со вештачка интелигенција во управувањето со нуклеарно оружје и војувањето со беспилотни летала неизбежно ќе доведе до грешки од непредвидлива големина. Вилијам Беклер од Extinction Rebellion NYC проследено со објаснување на принципите на организација кои оваа важна и брзорастечка организација ги става во акција, вклучително и нарушувачки дејства дизајнирани да ја подигнат свеста за критичната важност на климатските промени. Се слушнавме со претставник на Њујорк Сити на Коалиција на технолошки работници, и се обидов да го насочам собирот кон чувството на практично зајакнување зборувајќи за акцијата за бунт на технолошките работници што беше неочекувано успешна.

Ова беше во април 2018 година, кога таканаречената „одбранбена индустрија“ зуеше за Project Maven, високо публикувана нова американска воена иницијатива за развој на способности за вештачка интелигенција за беспилотни летала и други системи за оружје. „Гугл“, „Амазон“ и „Мајкрософт“ нудат бесплатни платформи за вештачка интелигенција за клиенти кои плаќаат, а Гугл се сметаше за веројатен добитник на воениот договор „Проект Мавен“.

На почетокот на 2018 година, работниците на Google почнаа да зборуваат. Тие не разбираа зошто една компанија која ги регрутирала како вработени со ветувањето „Не биди зли“ сега лицитирала за воени проекти кои најверојатно ќе личат на ужасната епизода од „Црното огледало“ во која механички кучиња со вештачка интелигенција ловат луѓе. суштества до смрт. Тие зборуваа на социјалните мрежи и на традиционалните вести. Организираа акции и циркулираа петиции и се огласија.

Овој работнички бунт беше генеза на движењето „Бунт на работниците на Google“ и помогна да се подигнат другите колективи на технолошки работници. Но, најневеројатното нешто во врска со внатрешниот протест на Google против Project Maven не беше тоа што технолошките работници зборуваа. Најзачудувачки е тоа Раководството на Google попушти на барањата на работниците.

Две години подоцна, овој факт сè уште ме запрепастува. Сум видел многу етички проблеми во моите децении како технолошки работник, но ретко сум видел голема компанија категорично да се согласи да ги реши етичките проблеми на значаен начин. Резултатот од бунтот на Google против Project Maven беше објавувањето на збир на принципи за вештачка интелигенција кои вреди да се препечатат овде во целост:

Вештачка интелигенција во Google: Нашите принципи

Google се стреми да создаде технологии кои решаваат важни проблеми и им помагаат на луѓето во секојдневниот живот. Ние сме оптимисти за неверојатниот потенцијал за вештачката интелигенција и другите напредни технологии за зајакнување на луѓето, широка корист за сегашните и идните генерации и работа за општо добро.

Цели за апликации за вештачка интелигенција

Ќе ги процениме апликациите за вештачка интелигенција во поглед на следните цели. Ние веруваме дека вештачката интелигенција треба:

1. Бидете социјално корисни.

Проширениот дофат на новите технологии сè повеќе го допира општеството како целина. Напредокот во вештачката интелигенција ќе има трансформативни влијанија во широк опсег на полиња, вклучувајќи здравствена заштита, безбедност, енергија, транспорт, производство и забава. Додека го разгледуваме потенцијалниот развој и употребата на технологиите за вештачка интелигенција, ќе земеме предвид широк опсег на социјални и економски фактори и ќе продолжиме таму каде што веруваме дека вкупните веројатни придобивки значително ги надминуваат предвидливите ризици и негативни страни.

Вештачката интелигенција, исто така, ја подобрува нашата способност да го разбереме значењето на содржината во обем. Ќе се стремиме да направиме висококвалитетни и точни информации лесно достапни со користење на вештачка интелигенција, а истовремено да продолжиме да ги почитуваме културните, социјалните и правните норми во земјите каде што работиме. И ние ќе продолжиме внимателно да оценуваме кога да ги направиме нашите технологии достапни на некомерцијална основа.

2. Избегнувајте создавање или зајакнување на нефер пристрасност.

Алгоритмите и збирките на податоци за вештачка интелигенција може да рефлектираат, зајакнат или намалат неправедни предрасуди. Ние признаваме дека разликувањето на правичните од неправедните предрасуди не е секогаш едноставно и се разликува во различни култури и општества. Ќе се обидеме да избегнеме неправедни влијанија врз луѓето, особено оние поврзани со чувствителни карактеристики како што се раса, етничка припадност, пол, националност, приход, сексуална ориентација, способност и политичко или религиозно убедување.

3. Бидете изградени и тестирани за безбедност.

Ќе продолжиме да развиваме и применуваме силни безбедносни и безбедносни практики за да избегнеме несакани резултати што создаваат ризици од штета. Ќе ги дизајнираме нашите системи за вештачка интелигенција да бидат соодветно внимателни и ќе се обидеме да ги развиеме во согласност со најдобрите практики во истражувањето за безбедноста на вештачката интелигенција. Во соодветни случаи, ќе ги тестираме технологиите за вештачка интелигенција во ограничени средини и ќе ја следиме нивната работа по распоредувањето.

4. Бидете одговорни пред луѓето.

Ќе дизајнираме системи за вештачка интелигенција кои обезбедуваат соодветни можности за повратни информации, релевантни објаснувања и привлечност. Нашите технологии за вештачка интелигенција ќе бидат предмет на соодветна човечка насока и контрола.

5. Вклучете ги принципите за дизајнирање на приватноста.

Ќе ги вклучиме нашите принципи за приватност во развојот и употребата на нашите технологии за вештачка интелигенција. Ќе дадеме можност за известување и согласност, ќе ги охрабриме архитектурите со заштита на приватноста и ќе обезбедиме соодветна транспарентност и контрола врз употребата на податоците.

6. Почитувајте ги високите стандарди на научна извонредност.

Технолошките иновации се вкоренети во научниот метод и посветеноста на отвореното истражување, интелектуалната строгост, интегритетот и соработката. Алатките за вештачка интелигенција имаат потенцијал да отклучат нови области на научно истражување и знаење во критичните домени како биологијата, хемијата, медицината и науките за животната средина. Ние се стремиме кон високи стандарди на научна извонредност додека работиме на напредок во развојот на вештачката интелигенција.

Ќе работиме со голем број засегнати страни за да промовираме промислено лидерство во оваа област, потпирајќи се на научно ригорозни и мултидисциплинарни пристапи. И одговорно ќе споделуваме знаење за вештачка интелигенција со објавување на едукативни материјали, најдобри практики и истражувања кои им овозможуваат на повеќе луѓе да развијат корисни апликации за вештачка интелигенција.

7. Бидете достапни за употреба што е во согласност со овие принципи.

Многу технологии имаат повеќекратна употреба. Ќе работиме на ограничување на потенцијално штетните или навредливите апликации. Како што развиваме и распоредуваме технологии за вештачка интелигенција, ќе ги процениме веројатните употреби во светлината на следните фактори:

• Примарна цел и употреба: примарна цел и веројатна употреба на технологија и апликација, вклучително и колку решението е поврзано или приспособливо на штетна употреба
• Природа и уникатност: дали правиме достапна технологија која е единствена или поопшто достапна
• Скала: дали употребата на оваа технологија ќе има значително влијание
• Природата на вклученоста на Google: дали обезбедуваме алатки за општа намена, интегрираме алатки за клиентите или развиваме сопствени решенија

Апликации за вештачка интелигенција нема да ги следиме

Покрај горенаведените цели, нема да дизајнираме или распоредуваме вештачка интелигенција во следните области на апликација:

1. Технологии кои предизвикуваат или најверојатно ќе предизвикаат севкупна штета. Онаму каде што постои материјален ризик од штета, ќе продолжиме само таму каде што веруваме дека придобивките значително ги надминуваат ризиците и ќе вградат соодветни безбедносни ограничувања.
2. Оружје или други технологии чија главна цел или имплементација е да предизвикаат или директно да ги олеснат повредите на луѓето.
3. Технологии кои собираат или користат информации за надзор што ги прекршуваат меѓународно прифатените норми.
4. Технологии чија цел е во спротивност со широко прифатените принципи на меѓународното право и човековите права.

Како што се продлабочува нашето искуство во овој простор, оваа листа може да се развива.

Заклучок

Ние веруваме дека овие принципи се вистинската основа за нашата компанија и нашиот иден развој на вештачката интелигенција. Ние признаваме дека оваа област е динамична и се развива, и на нашата работа ќе пристапиме со понизност, посветеност на внатрешен и надворешен ангажман и подготвеност да го прилагодиме нашиот пристап како што учиме со текот на времето.

Овој позитивен резултат не го ослободува технолошкиот гигант Google од соучесништво во разни други области од голема загриженост, како што се поддршката на ICE, полицијата и други воени активности, собирање и продавање пристап до приватни податоци за поединци, криење контроверзни политички изјави од резултатите од пребарувачот и што е најважно, дозволувајќи им на своите вработени да продолжат да зборуваат за овие и други прашања без да бидат отпуштени поради тоа. Бунтовничкото движење на работниците на Google останува активно и високо ангажирано.

Во исто време, важно е да се препознае колку влијание имаше движењето на работниците на Google. Ова стана јасно веднаш по почетокот на протестите на Google: одделенијата за маркетинг на Пентагон престанаа да издаваат нови соопштенија за печатот за некогаш возбудливиот Project Maven, на крајот „исчезнувајќи“ го проектот целосно од јавната видливост што претходно го бараше. Наместо тоа, нова и многу поголема иницијатива за вештачка интелигенција почна да се појавува од подмолното на Пентагон Одбор за иновации во одбраната.

Ова се викаше Проект JEDI, ново име за трошоците на Пентагон за најсовремени оружја. Проектот JEDI би потрошил многу повеќе пари од Project Maven, но публицитетот за новиот проект (да, американската војска троши многу на време и внимание на публицитетот и маркетингот) беше многу различен од претходниот. Сите елегантни и секси слики од „Black Mirror“ исчезнаа. Сега, наместо да ги нагласи возбудливите и кинематографски дистописки ужаси кои можат да им ги нанесат беспилотните летала со вештачка интелигенција на човечките суштества, проектот JEDI се објасни како трезен чекор напред за ефикасност, комбинирајќи различни облак бази на податоци со цел да им помогне на „воените борци“ (омилен термин на Пентагон за персонал од предната линија) и тимовите за поддршка на задната канцеларија ја максимизираат ефикасноста на информациите. Онаму каде што Project Maven беше дизајниран да звучи возбудливо и футуристички, Project JEDI беше дизајниран да звучи разумно и практично.

Нема ништо разумно или практично во врска со цената за Project JEDI. Тоа е најголемиот договор за воен софтвер во светската историја: 10.5 милијарди долари. Многу од нашите очи заслепуваат кога слушаме за размери на воени трошоци и можеме да ја прескокнеме разликата помеѓу милиони и милијарди. Неопходно е да се разбере колку е поголем Project JEDI од која било претходна софтверска иницијатива на Пентагон. Тоа е менувач на играта, мотор за генерирање богатство, празен чек за профитерство на сметка на даночните обврзници.

Помага да се гребе под површината на владините соопштенија за печат кога се обидуваме да разбереме бланко чек за воени трошоци од 10.5 милијарди долари. Некои информации може да се соберат од сопствените публикации на војската, како вознемирувачки Интервју од август 2019 година со генерал-полковник Џек Шанахан во Центарот за здружена вештачка интелигенција, клучна фигура и во исчезнатиот Project Maven и во новиот Project JEDI. Можев да добијам повеќе увид во тоа како инсајдерите во одбранбената индустрија размислуваат за проектот JEDI слушајќи го подкастот од одбранбената индустрија наречена „Проект 38: Иднината на владините договори“. Гостите на подкаст често зборуваат искрено и нескромно за која било тема за која разговараат. „Многу луѓе ќе купуваат нови базени оваа година“ беше типично за инсајдерски разговор на овој подкаст за проектот JEDI. Сигурни сме дека ќе бидат.

Еве ја извонредната работа што се поврзува со принципите на ВИ на Google. Очигледните три фаворити за огромниот договор за JEDI од 10.5 милијарди долари би биле Google, Amazon и Microsoft - по тој редослед, врз основа на нивната репутација како иноватори на вештачка интелигенција. Поради протестите на работниците против Project Maven во 2018 година, лидерот на вештачката интелигенција Google не размислуваше за многу поголемиот проект JEDI во 2019 година. Кон крајот на 2019 година, беше објавено дека договорот отишол на Microsoft. Следуваше налет на покривање вести, но ова покривање главно се фокусираше на ривалството помеѓу Амазон и Мајкрософт и на фактот дека на третото место на Мајкрософт веројатно му беше дозволено да го победи второто место Амазон за победа поради тековните битки на администрацијата на Трамп со Вашингтон пост. која е во сопственост на Џеф Безос од Amazon. Амазон сега оди на суд за да се бори против подарокот на Пентагон за Мајкрософт од 3 милијарди долари, а Oracle исто така тужи. Конкретната забелешка од подкастот на Project 2 спомената погоре – „Многу луѓе ќе купуваат нови базени оваа година“ – се однесуваше не само на финансискиот благодет на Microsoft, туку и на сите адвокати кои ќе учествуваат во овие тужби. Веројатно можеме образовано да претпоставиме дека повеќе од 10.5% од 38 милијарди долари на Проектот JEDI ќе одат за адвокати. Штета што не можеме да ја искористиме за да помогнеме стави крај на светската глад наместо тоа.

Спорот околу тоа дали овој трансфер на пари од даночните обврзници на воени изведувачи треба да биде од корист на Мајкрософт, Амазон или Оракл доминира во покривањето на вестите на Проектот ЈЕДИ. Едната позитивна порака што може да се извлече од оваа непристојна миграција - фактот дека Google се повлече од најголемиот договор за воен софтвер во светската историја поради протестите на работниците - практично не постоеше во известувањето за проектот JEDI. 

Затоа беше важно да им се раскаже оваа приказна на активистите фокусирани на технологијата кои беа собрани во преполна просторија во центарот на Менхетен минатата недела за да разговараат за тоа како можеме да ја спасиме нашата планета, како можеме да се бориме против дезинформациите и политизацијата на науката за климата. како можеме да се спротивставиме на огромната моќ на профитерите од фосилни горива и профитерите со оружје. Во оваа мала соба, се чинеше дека сите ги сфативме димензиите на проблемот со кој се соочуваме и критичната улога што ние самите мора да почнеме да ја играме. Технолошката заедница има значителна моќ. Како што кампањите за распуштање можат да направат вистинска разлика, така и бунтовите на технолошките работници можат да направат вистинска разлика. Постојат многу начини на кои активистите за климатски промени, активистите за бунтовници од технолошки работници и антивоените активисти можат да почнат да работат заедно, а ние ќе го правиме тоа на секој начин.

Имавме надежен почеток со овој собир, кој беше од помош инициран од Изумирање бунт NYC Светот не може да почека. Ова движење ќе расте - мора да расте. Злоупотребата на фосилните горива е во фокусот на демонстрантите за климатските промени. Злоупотребата на фосилните горива е исто така примарен профитен мотив на американскиот империјализам и примарен ужасен резултат на расипничките активности на надуената американска војска. Навистина, се чини дека американската војска е така единствениот најголем загадувач во светот. Дали технолошките работници можат да ја искористат нашата организациска моќ за победи уште повлијателни од повлекувањето на Google од проектот JEDI? Можеме и мораме. Минатонеделниот состанок во Њујорк беше само мал чекор напред. Мораме да направиме повеќе и мораме да му дадеме на нашето комбинирано протестно движење се што имаме.

Марк Елиот Стајн е директор за технологија и социјални медиуми за World BEYOND War.

Фотографија од Григориј Шведок.