Од Бен Тарноф, 11 октомври 2018 година, Гардијан.
Американската војска создава поавтоматизирана форма на војување - оној што значително ќе го зголеми нејзиниот капацитет за војна да води секаде засекогаш.
Lво месецот на одбележувањето на 17-годишнината од 9. Со тоа дојде нова пресвртница: ние сме во Авганистан толку долго што некој роден по нападите сега е доволно стар да се бори таму. Тие исто така можат да служат во шест други места каде што официјално војуваме, да не ги спомнувам 133-те земји каде што спроведоа силите за специјални операции мисии само во првата половина на 2018 година.
Војните од 9. Продолжуваат, а на крајот не се гледа. Сега, Пентагон инвестира многу во технологии што ќе ги интензивираат. Прегрнувајќи ги најновите алатки што ги нуди технолошката индустрија, Американска војска создава поавтоматизирана форма на војување - оној што значително ќе го зголеми нејзиниот капацитет да води војна насекаде засекогаш.
Во петокот, одделот за одбрана го затвора периодот на наддавање за еден од најголемите договори за технологија во својата историја: Заедничката претпријатие одбранбена инфраструктура (edедај). Edедаи е амбициозен проект за изградба на систем за облак-компјутер кој им служи на американските сили низ целиот свет, од аналитичари зад биро во Вирџинија до војници кои патролираат во Нигер. Договорот е вреден 10 милијарди долари за 10 години, поради што се борат големите технолошки компании тешко да го освои. (Сепак, не Google, каде што се спроведува кампања за притисок од страна на работниците принудени управување да испадне од работа.)
На прв поглед, edедаи може да изгледа како само уште еден проект за модернизација на ИТ. Владиниот ИТ има тенденција да трча на прилично растојание зад себе Силиконската долина, дури и на место раскошно финансирано како Пентагон. Со околу 3.4 милиони корисници и 4 милиони уреди, дигиталниот отпечаток на одделот за одбрана е огромен. Преместувањето дури и на дел од обемот на работа во провајдер на облак како што е Амазон, без сомнение ќе ја подобри ефикасноста.
Но, вистинската сила што го придвижува edедаи е желбата за вооружување на АИ - она што Министерството за одбрана започна да го нарекува „алгоритамско војување“. Со здружување на податоците на војската во модерна платформа за облак и користење услуги за машинско учење што ги даваат ваквите платформи за да ги анализираат тие податоци, edедај ќе му помогне на Пентагон да ги реализира своите амбиции за ВИ.
Скалата на тие амбиции станува сè појасна во последните месеци. Во јуни, Пентагон основана Заедничкиот центар за вештачко разузнавање (JAIC), кој ќе ги надгледува околу 600-те проекти за вештачка интелигенција кои во моментов се одвиваат низ одделот на чини од 1.7 милијарди долари. И во септември, Агенцијата за напредни истражувачки проекти за одбрана (Дарпа), раскажаното крило за истражување и развој на Пентагон, објави тоа би инвестирало до 2 милијарди американски долари во следните пет години во истражување на оружје за АИ.
Досега, известувањето за трошење на ВИ во Пентагон главно се фокусираше на можноста за автономно оружје - роботи убијци во стилот Терминатор кои ги косат луѓето без никаков внес од човечки оператор. Ова е навистина застрашувачко скоро идно сценарио и глобална забрана за автономно вооружување од типот што го бара Кампања за запирање на роботите убијци е апсолутно суштинско значење.
Но, АИ веќе започна со обновување на војната, дури и ако не (сеуште) ја презеде формата на буквални Терминатори. Постојат помалку филмски, но подеднакво застрашувачки начини за вооружување на АИ. Не ви требаат алгоритми што влечат активирање за алгоритмите да играат крајно опасна улога.
За да се разбере таа улога, помага да се разберат посебните тешкотии што ги носи вечната војна. Самото убиство не е особено тешко. Со воен буџет поголем од оној на Кина, Русија, Саудиска Арабија, Индија, Франција, Велика Британија и Јапонија комбинација, и околу 800 бази низ целиот свет, САД имаат изобилство на огнена моќ и неспоредлива можност да ја распоредат таа огнена моќ насекаде на планетата.
Американската војска знае како да убие. Потешко е да откриеш кого да убиеш. Во потрадиционална војна, едноставно го убивате непријателот. Но, кој е непријател во конфликт без национални граници, без фиксни боишта и без конвенционални противници?
Ова е трајното прашање за вечна војна. Тоа е исто така клучна карактеристика на неговиот дизајн. Нејаснотијата на непријателот е она што му овозможи на конфликтот да продолжи скоро две децении и понатаму проширување до повеќе од 70 земји - благодет за изведувачите, бирократите и политичарите кои живеат од американскиот милитаризам. Ако војната е рекет, во зборови на морската легенда Смедли Батлер, војната засекогаш е една од најдолгите лоши страни досега.
Но, нејасноста на непријателот создава и одредени предизвици. Едно е да погледнете карта на Северен Виетнам и да одберете места за бомбардирање. Сосема друго е да се пребаруваат огромни количини на информации од целиот свет за да се идентификува добар кандидат за напад со беспилотно летало. Кога непријателот е насекаде, идентификацијата на целта станува многу поинтензивна за трудот. Тука влегува ВИ - или, поточно, машинско учење. Машинското учење може да помогне во автоматизирање на еден од позаморни и одземаат многу аспекти на вечната војна: наоѓање луѓе за убиство.
Проектот Мавен на Пентагон веќе ја спроведува оваа идеја во пракса. Мевен, исто така познат како Алгоритамски воен крсто-функционален тим, се најде во насловните страници неодамна за искри револт на вработен кон Гугл поради вклученоста на компанијата. Мевен е армиски проект „патоказ“ за АИ. Неговата почетна фаза вклучува употреба на машинско учење за скенирање на снимки од беспилотни летала, за да се помогне во идентификување на поединци, возила и згради што можеби вреди да се бомбардираат.
„Имаме аналитичари кои гледаат видео со цело движење, гледајќи во екраните 6, 7, 8, 9, 10, 11 часа истовремено“, вели директорот на проектот, генерал-потполковник Jackек Шанахан. Софтверот на Мевен го автоматизира тоа работење, а потоа ги пренесува своите откритија на човек. Досега, тоа беше голем успех: софтверот беше распоредени на дури шест борбени локации на Блискиот исток и Африка. Целта е на крајот оптоварување софтверот вклучен на самите беспилотни летала, за да можат да лоцираат цели во реално време.
Дали оваа технологија нема да ја подобри прецизноста, со што ќе се намалат цивилните жртви? Ова е заеднички аргумент изнесен од повисоките лица и во Пентагон и во Силиконската долина за да ја одбранат нивната соработка на проекти како Мевен. Код за Американката enен Пахлка става тоа во смисла на „остри ножеви“ наспроти „тапи ножеви“: поостри ножеви можат да и помогнат на војската да спаси животи.
Во случај на вооружена ВИ, ножевите за кои станува збор не се особено остри. Не недостасуваат хорор приказни за тоа што се случува кога човечкиот надзор е изнесен на неисправни или предрасудени алгоритми - алгоритми што не можат признае црни лица или што ја зајакнуваат расната пристрасност во полициското работење и кривичните казни. Дали навистина сакаме Пентагон да ја користи истата технологија за да помогне да се утврди кој добива бомба врз главата?
Но, подлабокиот проблем со хуманитарниот аргумент за алгоритамска војна е претпоставката дека американската војска е суштински добронамерна сила. Многу милиони луѓе ширум светот не би се согласиле. Само во 2017 година, САД и сојузничките напади во Ирак и Сирија убиени дури 6,000 цивили. Бројките како овие не сугерираат неколку искрени грешки тука и таму, туку системска рамнодушност кон „колатерална штета“. Навистина, американската влада постојано бомбардираа цивилни собири како свадби со надеж дека ќе убијат цел од висока вредност.
Понатаму, границата меѓу цивилите и борците е многу порозна во ерата на вечната војна. Извештајот од „Интерсепт“ сугерира дека американската војска етикети секој што ќе го убие во „насочените“ удари како „непријател убиен во акција“, дури и ако тие не биле една од целите. Таканаречените „удари со потпис“ спроведени од американската војска и ЦИА играат слични трикови со концептот на борбениот. Ова се напади со беспилотни летала врз лица чиј идентитет е непознат, но за кои постои сомневање дека се милитанти врз основа на прикажување одредени „потписи“ - што може да биде нејасно како да е маж на возраст од војска во одредена област.
Проблемот не е квалитетот на алатките, со други зборови, туку институцијата која ги поседува. А, АИ само ќе ја направи таа институција побрутална. Вечната војна бара САД да гледаат непријатели насекаде. АИ ветува дека ќе ги пронајде тие непријатели побрзо - дури и ако сè што е потребно за да се смета за непријател е да се прикаже образец на однесување што (класифициран) модел за машинско учење го поврзува со непријателска активност. Наречете го смрт со големи податоци.
АИ, исто така, има потенцијал да ја направи вечната војна потрајна, давајќи им удел на некои од најголемите компании во земјата во нејзиното продолжување. Силиконската долина отсекогаш имала блиски врски со американската војска. Но, алгоритамската војна ќе ја внесе длабоката технологија подлабоко во воено-индустрискиот комплекс и ќе им даде на милијардерите како ffеф Безос силен поттик да се осигура дека вечната војна ќе трае вечно. Enе се најдат непријатели. Moneyе се заработат пари.
