Марк Элиот Стейн, 10-март менен 2020-

Мен жакында Нью-Йорктогу Өчүү козголоңунун чогулушуна катышууга чакырышты. World BEYOND War. Иш-чара үч иш-аракет тобун бириктирүү үчүн иштелип чыккан: климаттын өзгөрүшүнө каршы активисттер, технологиялык кызматкерлер жамааттары жана согушка каршы активисттер. Биз климаттын өзгөрүшү боюнча активист Ха Вунун кызыктуу жеке эсеби менен баштадык, ал Нью-Йорктуктардын калың катмарына бизде болгон коркунучтуу окуя жөнүндө айтып берди: Ханойдогу (Вьетнам) үй-бүлөсүнүн үйүнө кайтып келүү. жылуулук көбөйдү буга чейин күндүн жарыгы эң жогорку сааттарда сыртта жүрүүнү дээрлик мүмкүн эмес кылып койгон. Бул тууралуу аз америкалыктар да билишет 2016-жылдагы суунун булганышы Борбордук Вьетнамдагы Ха-Тинь шаарында. Биз көбүнчө климаттын өзгөрүшүн АКШдагы потенциалдуу көйгөй катары айтабыз, деп баса белгиледи Ха, бирок Вьетнамда ал ансыз да жашоону жана тиричиликти үзгүлтүккө учуратып, тездик менен начарлап баратканын көрө алат.

Ник Моттерн KnowDrones.org АКШ армиясынын футуристтик жасалма интеллектке жана булуттагы эсептөөлөргө акыркы ири инвестициясы жөнүндө ушундай шашылыш сүйлөп, армиянын өзөктүк куралды башкарууда жана учкучсуз учактар ​​менен согушууда AI системаларын жайгаштыруу сөзсүз түрдө күтүүсүз чоңдуктагы каталарга алып келет деген тыянагын баса белгиледи. NYC Extinction Rebellion уюмунун өкүлү Уильям Беклер, андан кийин бул маанилүү жана тез өнүгүп келе жаткан уюм ишке ашырган уюштуруу принциптерин, анын ичинде климаттын өзгөрүшүнүн маанилүүлүгү жөнүндө маалымдуулукту жогорулатууга багытталган кыйратуучу аракеттерди түшүндүрдү. Биз Нью-Йорктун өкүлүнөн уктук Техникалык жумушчулардын коалициясы, жана мен күтүлбөгөн жерден ийгиликтүү болгон техникалык жумушчулардын козголоң акциясы жөнүндө айтып, чогулушту практикалык күчтөндүрүү сезимине бурууга аракет кылдым.

Бул 2018-жылдын апрель айында, "коргонуу өнөр жайы" деп аталган долбоор Мавен долбоору жөнүндө ызы-чуу болуп турганда, учкучсуз учактар ​​жана башка курал системалары үчүн жасалма интеллект мүмкүнчүлүктөрүн өнүктүрүү боюнча АКШнын жаңы аскердик демилгеси. Google, Amazon жана Microsoft бардык кардарларга акы төлөө үчүн жасалма интеллект платформаларын сунушташат жана Google Project Maven аскердик келишиминин жеңүүчүсү катары көрүнгөн.

2018-жылдын башында Google компаниясынын кызматкерлери ачык айта башташты. "Жаман болбо" деген убадасы менен аларды кызматкер катары жалдаган компания эмне үчүн AI менен иштеген механикалык иттер адамдарды аңдыган "Кара күзгү" тасмасынын үрөй учурган эпизодуна окшош болушу мүмкүн болгон аскердик долбоорлорго тендерге катышып жатканын түшүнүшкөн жок. жандыктар өлүмгө. Алар социалдык тармактарда жана салттуу маалымат агенттиктерине сүйлөп жатышты. Акцияларды уюштуруп, петицияларды таратып, өздөрүн укту.

Бул жумушчулардын козголоңу Google Workers Rebellion кыймылынын генезиси болгон жана ал башка технологиялык кызматкерлердин коллективдерин жүктөөгө жардам берген. Бирок Maven долбооруна каршы Google компаниясынын ички нааразылыгынын эң таң калыштуусу технологиялык кызматкерлердин сүйлөп жатканы эмес. Эң таң калычтуусу ошол Google жетекчилиги жумушчулардын талаптарына баш ийди.

Эки жыл өтсө да, бул факт мени таң калтырат. Мен ондогон жылдар бою технологиялык кызматкер катары көптөгөн этикалык көйгөйлөрдү көрдүм, бирок чоң компаниянын этикалык көйгөйлөрдү олуттуу түрдө чечүүгө макул экенин сейрек көрдүм. Google'дун Maven долбооруна каршы көтөрүлүшүнүн натыйжасы AI принциптеринин топтомун жарыялоо болду, аларды толугу менен бул жерде кайра басып чыгаруу керек:

Googleдеги жасалма интеллект: Биздин принциптер

Google маанилүү көйгөйлөрдү чечүүчү жана адамдардын күнүмдүк жашоосунда жардам бере турган технологияларды түзүүгө умтулат. Биз адамдарды күчтөндүрүү, азыркы жана келечектеги муундарга кеңири пайда алып келүү жана жалпы жыргалчылык үчүн иштөө үчүн AI жана башка алдыңкы технологиялардын укмуштуудай потенциалына оптимисттик көз караштабыз.

AI колдонмолорунун максаттары

Биз төмөнкү максаттарды эске алуу менен AI колдонмолоруна баа беребиз. Биз AI керек деп эсептейбиз:

1. Коомдук пайдалуу бол.

Жаңы технологиялардын кеңири жайылуусу бүтүндөй коомго көбүрөөк таасир этүүдө. AIдагы жетишкендиктер саламаттыкты сактоо, коопсуздук, энергетика, транспорт, өндүрүш жана көңүл ачууну камтыган кеңири чөйрөлөрдө өзгөрүүчү таасирин тийгизет. Биз AI технологияларын потенциалдуу өнүктүрүүнү жана колдонууну карап чыгууда, биз социалдык жана экономикалык факторлордун кеңири спектрин эске алабыз жана жалпы мүмкүн болуучу пайдалар болжолдонгон тобокелдиктерден жана терс жактардан кыйла жогору деп ишенебиз.

AI ошондой эле масштабдагы мазмундун маанисин түшүнүү жөндөмүбүздү жакшыртат. Биз иштеп жаткан өлкөлөрдө маданий, социалдык жана укуктук нормаларды сыйлоону улантуу менен, AI аркылуу сапаттуу жана так маалыматты оңой жеткиликтүү кылууга аракет кылабыз. Жана биз технологияларыбызды коммерциялык эмес негизде качан жеткиликтүү кылууну ойлонуштурууну улантабыз.

2. Адилетсиз бир жактуулукту жаратуудан же күчөтүүдөн качыңыз.

AI алгоритмдери жана берилиштер топтомдору адилетсиз көз караштарды чагылдырып, бекемдейт же азайтышы мүмкүн. Биз адилеттүүлүк менен адилетсиздикти айырмалоо дайыма эле оңой боло бербестигин жана маданияттар менен коомдордо айырмаланарын түшүнөбүз. Биз адамдарга, айрыкча расса, этникалык таан, гендер, улут, киреше, сексуалдык ориентация, жөндөмдүүлүк, саясий же диний ишеним сыяктуу сезимтал мүнөздөмөлөргө байланыштуу адилетсиз таасирлерден качууга аракет кылабыз.

3. Курулуп жана коопсуздук үчүн сыналган.

Биз зыян келтирүү коркунучун жараткан күтүлбөгөн натыйжаларды болтурбоо үчүн күчтүү коопсуздук жана коопсуздук практикасын иштеп чыгууну жана колдонууну улантабыз. Биз AI системаларыбызды этияттык менен иштеп чыгабыз жана аларды AI коопсуздугун изилдөөдөгү мыкты тажрыйбага ылайык өнүктүрүүгө умтулабыз. Тиешелүү учурларда, биз AI технологияларын чектелген чөйрөдө сынап көрөбүз жана орнотулгандан кийин алардын иштешин көзөмөлдөйбүз.

4. Эл алдында жооп бер.

Биз пикирлерди, тиешелүү түшүндүрмөлөрдү жана кайрылуу үчүн тиешелүү мүмкүнчүлүктөрдү камсыз кылган AI системаларын иштеп чыгабыз. Биздин AI технологияларыбыз адамдын тиешелүү жетекчилигине жана көзөмөлүнө дуушар болот.

5. Купуялык дизайн принциптерин киргизүү.

Биз AI технологияларыбызды иштеп чыгууда жана колдонууда купуялык принциптерибизди киргизебиз. Биз кабарлоо жана макулдук берүү мүмкүнчүлүгүн беребиз, купуялыктын кепилдиктери менен архитектураларды кубаттайбыз жана маалыматтардын колдонулушуна тиешелүү ачык-айкындуулукту жана көзөмөлдү камсыз кылабыз.

6. Илимий жетишкендиктин жогорку стандарттарын колдоо.

Технологиялык инновациялардын тамыры илимий методго жана ачык суроого, интеллектуалдык катаалдуулукка, бүтүндүккө жана кызматташууга берилген. AI куралдары биология, химия, медицина жана айлана-чөйрөнү коргоо илимдери сыяктуу маанилүү чөйрөлөрдө илимий изилдөөлөрдүн жана билимдердин жаңы чөйрөлөрүн ачуу мүмкүнчүлүгүнө ээ. Биз AI өнүктүрүүнү алга жылдыруу үчүн иштеп жаткандыктан, биз илимий жетишкендиктин жогорку стандарттарына умтулабыз.

Биз бир катар кызыкдар тараптар менен илимий жактан катуу жана көп дисциплинардык ыкмаларга таянып, бул чөйрөдө ойлонулган лидерликти илгерилетүү үчүн иштейбиз. Жана биз көбүрөөк адамдарга пайдалуу AI тиркемелерин иштеп чыгууга мүмкүнчүлүк берген окуу материалдарын, мыкты тажрыйбаларды жана изилдөөлөрдү жарыялоо менен AI билимин жоопкерчилик менен бөлүшөбүз.

7. Бул принциптерге ылайык келген колдонуу үчүн жеткиликтүү болушу керек.

Көптөгөн технологиялар бир нече колдонууга ээ. Мүмкүн болгон зыяндуу же кыянаттык колдонмолорду чектөө үчүн иштейбиз. AI технологияларын иштеп чыгуу жана жайылтууда биз төмөнкү факторлордун негизинде болжолдуу пайдаланууну баалайбыз:

• Негизги максаты жана колдонулушу: технологиянын жана тиркеменин негизги максаты жана мүмкүн болгон колдонулушу, анын ичинде чечим зыяндуу колдонуу менен канчалык тыгыз байланышта же ыңгайлаша алат
• Жаратылыш жана өзгөчөлүк: биз уникалдуу же жалпыга жеткиликтүү технологияны жасап жатабызбы
• Масштаб: бул технологияны колдонуу олуттуу таасирин тийгизеби
• Google'дун катышуусунун мүнөзү: биз жалпы максаттагы куралдарды берип жатабызбы, кардарлар үчүн инструменттерди бириктирип жатабызбы же жекече чечимдерди иштеп жатабызбы

AI колдонмолорун биз издебейбиз

Жогорудагы максаттарга кошумча катары, биз AIды төмөнкү колдонуу аймактарында долбоорлобойбуз же жайылтпайбыз:

1. Жалпы зыян келтирүүчү же алып келиши мүмкүн болгон технологиялар. Зыяндын олуттуу коркунучу бар жерде, биз пайда тобокелдиктерден кыйла жогору деп ишенген жерде гана иштейбиз жана тийиштүү коопсуздук чектөөлөрүн киргизебиз.
2. Негизги максаты же ишке ашыруусу адамдарга зыян келтирүү же түздөн-түз жардам берүү болгон курал же башка технологиялар.
3. Эл аралык кабыл алынган нормаларды бузган байкоо жүргүзүү үчүн маалыматты чогултуучу же колдонгон технологиялар.
4. Максаты эл аралык укуктун жана адам укуктарынын жалпы кабыл алынган принциптерине карама-каршы келген технологиялар.

Бул мейкиндиктеги тажрыйбабыз тереңдеген сайын бул тизме өзгөрүшү мүмкүн.

жыйынтыктоо

Биз бул принциптер биздин компания жана AIны келечекте өнүктүрүү үчүн туура негиз деп эсептейбиз. Биз бул чөйрө динамикалуу жана өнүгүп жатканын моюнга алабыз жана биз ишибизге кичи пейилдик, ички жана тышкы катышууга берилгендик жана убакыттын өтүшү менен үйрөнүү менен мамилебизди ыңгайлаштырууга даярбыз.

Бул оң натыйжа технологиялык гигант Google компаниясын ICE, полиция жана башка аскердик иш-аракеттерди колдоо, жеке адамдар тууралуу жеке маалыматтарга жетүү мүмкүнчүлүгүн топтоо жана сатуу, издөө системасынын натыйжаларынан талаштуу саясий билдирүүлөрдү жашыруу сыяктуу негизги тынчсыздандырган ар кандай башка тармактарда шериктештиктен бошотпойт. жана эц башкысы — бул жана башка маселелер боюнча езунун кыз-маткерлери учун иштен четтетилбестен ачык айтууга мумкундук беруу. Google жумушчуларынын козголоң кыймылы активдүү жана активдүү бойдон калууда.

Ошол эле учурда, Google жумушчулар кыймылы канчалык таасирдүү болгонун түшүнүү маанилүү. Бул Google нааразылык акциялары башталгандан кийин дароо айкын болду: Пентагондун маркетинг бөлүмдөрү бир кездеги кызыктуу Долбоор Мавен жөнүндө жаңы пресс-релиздерди чыгарууну токтотуп, акыры долбоор мурда талап кылынган коомдук көрүнүштөн толугу менен "жок болду". Анын ордуна, Пентагондун тымызын аракетинен жаңы жана алда канча чоңураак жасалма интеллект демилгеси чыга баштады. Коргоо инновациялар кеңеши.

Бул деп аталды JEDI долбоору, Пентагондун эң алдыңкы куралдарга жумшаган жаңы аталышы. JEDI долбоору Проект Мавенге караганда алда канча көп акча коротмок, бирок жаңы долбоор үчүн жарнамалык блиц (ооба, АКШнын армиясы көп публикацияга жана маркетингге убакыт жана көңүл буруу) мурункусунан абдан айырмаланган. Бардык саркеч жана сексуалдуу "Black Mirror" сүрөттөрү жок болду. Эми, AI менен иштеген дрондор адамдарга тийгизе турган кызыктуу жана кинематографиялык дистопиялык үрөй учурарлык көрүнүштөрдү баса белгилөөнүн ордуна, JEDI долбоору өзүн "согушчуларга" жардам берүү үчүн ар кандай булут базаларын бириктирип, натыйжалуулук үчүн алдыга жасалган сергек кадам катары түшүндүрдү (Пентагондун сүйүктүү термини). алдыңкы линиядагы персонал) жана бэк-офистин колдоо топтору маалыматтын эффективдүүлүгүн жогорулатат. Maven долбоору кызыктуу жана футуристтик угулушу үчүн иштелип чыккан жерде, JEDI долбоору акылга сыярлык жана практикалык угулушу үчүн иштелип чыккан.

Долбоор JEDI үчүн баа теги жөнүндө акылга сыярлык же практикалык эч нерсе жок. Бул дүйнөлүк тарыхтагы эң чоң аскердик программалык келишим: 10.5 миллиард доллар. Аскердик чыгымдардын масштабы жөнүндө укканда биздин көбүбүздүн көзүбүз жалтылдап, миллиондогон жана миллиарддардын ортосундагы айырманы аттап кете алабыз. JEDI долбоору Пентагондун мурунку программалык камсыздоо демилгесине караганда канчалык чоң экенин түшүнүү керек. Бул оюнду алмаштыргыч, байлык жаратуучу кыймылдаткыч, салык төлөөчүнүн эсебинен пайда табуу үчүн бош чек.

Бул 10.5 миллиард долларга барабар аскердик чыгымдардын бош чектерин түшүнүүгө аракет кылып жатканда, өкмөттүн пресс-релиздеринин астын сызып алууга жардам берет. Кээ бир маалыматты аскерлердин өз басылмаларынан алса болот, мисалы, тынчсыздандырат 2019-жылдын августунда биргелешкен жасалма интеллект борборунун генерал-лейтенанты Джек Шанахан менен болгон маеги, жоголуп кеткен Мавен Долбоорунун жана жаңы JEDI Долбоорунун негизги фигурасы. деп аталган коргонуу өнөр жайынын подкастын угуу аркылуу мен коргонуу өнөр жайынын инсайдерлери JEDI долбоору жөнүндө кандай ойдо экенин көбүрөөк биле алдым. “38-долбоор: Өкмөттүк келишимдердин келечеги”. Подкасттын коноктору көбүнчө алар талкуулап жаткан тема боюнча ачык жана тартынбастан сүйлөшөт. "Быйыл көптөгөн адамдар жаңы бассейндерди сатып алышат" бул подкасттын JEDI долбоору тууралуу инсайдердик чатына мүнөздүү болгон. Алар болоруна биз ишенебиз.

Бул жерде Google'дун AI принциптери менен байланышкан эң сонун нерсе. 10.5 миллиард долларлык ири JEDI келишиминин үч алдыңкы талапкери Google, Amazon жана Microsoft болмок - AI инноваторлору катары алардын репутациясынын негизинде. Жумушчулар 2018-жылы Maven долбооруна каршы нааразычылык билдиришкендиктен, AI лидери Google 2019-жылы алда канча чоңураак JEDI долбоору каралбай калган. 2019-жылдын аягында келишим Microsoft компаниясына өткөнү жарыяланган. Андан кийин бир топ жаңылыктар жарыяланды, бирок бул чагылдыруу негизинен Amazon менен Microsoftтун атаандаштыгына жана 3-орунга ээ болгон Microsoftко Трамп администрациясынын Вашингтон Пост менен уланып жаткан салгылашууларынан улам 2-орунга Amazonду жеңип чыгууга уруксат берилгендигине багытталган. Амазонка Джефф Безос таандык. Эми Amazon Пентагондун Майкрософтко берген 10.5 миллиард долларлык белеги менен күрөшүү үчүн сотко кайрылат жана Oracle да сотко берет. Жогоруда айтылган Project 38 подкастындагы өзгөчө эскертүү - "Быйыл көптөгөн адамдар жаңы бассейндерди сатып алышат" - Microsoftтун каржылык пайдасын гана эмес, ошондой эле бул сот процесстерине катыша турган бардык юристтерди да билдирет. JEDI Долбоорунун 3 миллиард долларынын 10.5% дан ашыгы юристтерге кетет деп, балким, билимдүү божомолдосок болот. Өкүнүчтүүсү, биз аны жардам берүү үчүн колдоно албайбыз дүйнө ачарчылыкты токтотуу Анын ордуна.

Салык төлөөчүнүн акчасын аскердик подрядчыларга которуу Microsoft, Amazon же Oracle'га пайда алып келеби же жокпу деген талаш JEDI долбоорунун жаңылыктарында басымдуу болду. Бул адепсиз паракорчулуктан алынган бир оң кабар – жумушчулардын нааразычылыгынан улам Google дүйнөлүк тарыхтагы эң ири аскердик программалык камсыздоо келишиминен чыгып кеткени – JEDI долбоорунун жаңылыктарында дээрлик болгон эмес. 

Ушул себептен улам, бул окуяны өткөн аптада Манхэттендин борборундагы эл жык толгон бөлмөгө чогулган активисттерге айтып берүү маанилүү болгон, алар биздин планетаны кантип сактап кала аларыбыз, жалган маалыматка жана климаттык илимди саясатташтырууга каршы кантип күрөшө алабыз? казылып алынуучу отундун жана курал-жарактын кызыкчылыгын көздөгөндөрдүн массалык бийлигине кантип туруштук бере алабыз. Бул кичинекей бөлмөдө биз баарыбыз туш болгон көйгөйдүн өлчөмдөрүн жана биз өзүбүз ойной башташыбыз керек болгон маанилүү ролду түшүнгөндөй болдук. Техникалык коомчулук олуттуу күчкө ээ. Бөлүп алуу кампаниялары чыныгы өзгөрүүнү жасай алгандай эле, технологиялык жумушчулардын козголоңдору да чыныгы өзгөрүүнү жаратышы мүмкүн. Климаттын өзгөрүшүнө каршы активисттер, технологиялык жумушчулардын көтөрүлүш активисттери жана согушка каршы активисттер биргелешип иштей башташынын көптөгөн жолдору бар жана биз муну колдон келген бардык жолдор менен жасайбыз.

тарабынан демилгеленген бул жыйынды биз үмүттүү баштадык Extinction Rebellion NYC жана Дүйнөлүк күтө албайм. Бул кыймыл өсөт - ал өсүш керек. Фоссилдик отундарды кыянаттык менен пайдалануу климаттын өзгөрүшүнө каршы нааразылык акциясынын катышуучуларынын көңүл чордонунда. Фоссилдик отундарды кыянаттык менен пайдалануу да АКШ империализминин негизги пайда көрүү максаты жана америкалык аскерлердин ысырапкорчулук иштеринин негизги коркунучтуу натыйжасы болуп саналат. Чынында эле, Американын аскерлери көрүнөт дүйнөдөгү жалгыз эң жаман булгоочу. Технологиялык кызматкерлер биздин уюштуруучулук күчүбүздү жеңишке жетүү үчүн Google'дун JEDI долбоорунан баш тартуусунан да таасирдүүрөөк колдоно алабы? Биз кыла алабыз жана керек. Өткөн аптада Нью-Йорктогу жолугушуу алдыга бир аз гана кадам болду. Биз көбүрөөк иш кылышыбыз керек жана биз биргелешкен нааразылык кыймылыбызга колубузда болгондун баарын беришибиз керек.

Марк Элиот Стейн технология жана социалдык медианын директору World BEYOND War.

Григорий Шведоктун сүрөтү.