Бен Тарнофф, жовтень 11. 2018, The Guardian.
Американські військові створюють більш автоматизовану форму ведення війни, яка значно збільшить її здатність вести війну всюди.
Last місяць відзначив 17 річницю 9 / 11. З цим прийшла нова віха: ми були в Афганістані настільки довго, що хтось, народжений після нападів, тепер вже достатньо старий, щоб йти там. Вони також можуть служити в Росії шість інших місць де ми офіційно воюємо, не кажучи вже про країни 133, де проводилися сили спеціальних операцій місіях всього за першу половину 2018.
Війни 9 / 11 продовжуються, не видно кінця. Тепер Пентагон інвестує значні кошти в технології, які активізують їх. Охоплюючи останні інструменти, які може запропонувати індустрія технологій, Американські військові створює більш автоматизовану форму ведення війни, яка значно збільшить її здатність вести війну всюди.
У п'ятницю міністерство оборони закриває термін подачі заявок на одну з найбільших технологічних контрактів у своїй історії: Об'єднану оборонну інфраструктуру підприємства (джедаї). Джедаї - амбітний проект побудови системи хмарних обчислень, що обслуговує американські війська у всьому світі, від аналітиків за робочим столом у Вірджинії до солдатів, які патрулюють у Нігері. Договір вартістю до $ 10bn протягом 10 років, тому великі технологічні компанії ведуть боротьбу жорсткий щоб виграти. (Не Google, однак, де тиск кампанії з боку працівників примусовий управління випаде з запуску.)
На перший погляд, джедаї можуть виглядати як ще один проект модернізації ІТ. Уряд ІТ має тенденцію відставати Силіконова долинанавіть у такому місці, як щедро фінансується як Пентагон. З кількома мільйонами користувачів 3.4 та пристроями 4 million, цифровий слід відділу захисту є величезним. Перенесення навіть частини його робочих навантажень до постачальника в хмарі, такого як Amazon, безсумнівно, підвищить ефективність.
Але справжньою силою, що керує джедаєм, є прагнення озброїти ІІ - те, що почалося з оборонного відомства «алгоритмічна війна». Об'єднуючи дані військової служби в сучасну хмарну платформу, і використовуючи послуги машинного навчання, які такі платформи надають для аналізу цих даних, джедаї допоможуть Пентагону реалізувати свої амбіції ІІ.
Масштаб цих амбіцій стає все більш ясним в останні місяці. У червні Пентагон встановлений Об'єднаний центр штучного інтелекту (JAIC), який здійснюватиме нагляд за проектами, що проводяться в рамках департаменту 600 AI коштувати 1.7 млрд. дол. А у вересні Агентство оборонних дослідницьких проектів (Дарпа), поверхневе науково-дослідне крило Пентагону, оголошений протягом наступних п'яти років він міг би інвестувати до $ 2bn в дослідження зброї штучного інтелекту.
До теперішнього часу звітність щодо інтелектуальних витрат Пентагону значною мірою зосереджувалася на перспективі автономного озброєння - роботів-вбивць у стилі Terminator, які косять людей без втручання людини. Це дійсно страшний найближчий майбутній сценарій і глобальна заборона на автономне озброєння такого роду, якого шукають Кампанія для зупинки роботів-вбивць є абсолютно необхідним.
Але AI вже почав переобладнання війни, навіть якщо він ще (ще) не прийняв форму буквальних термінаторів. Є менш кінематографічні, але однаково страшні способи озброєння AI. Вам не потрібні алгоритми, які тягнуть тригер для алгоритмів для відтворення надзвичайно небезпечної ролі.
Щоб зрозуміти цю роль, вона допомагає зрозуміти особливі труднощі, які викликає вічна війна. Саме вбивство не є особливо складним. З військовим бюджетом більше, ніж у Китаю, Росії, Саудівської Аравії, Індії, Франції, Великобританії та Японії комбінованийі деякі 800 бази в усьому світі США мають велику кількість вогневої потужності і неперевершена здатність розгортати цю вогневу міць де завгодно на планеті.
Американські військові вміють вбивати. Чим важче вияснити, кого вбити. У більш традиційній війні ви просто вбиваєте ворога. Але хто ж є ворогом у конфлікті без національних кордонів, без фіксованих полів битв і без звичайних противників?
Це багаторічне питання вічної війни. Це також є ключовою особливістю його дизайну. Невизначеність ворога дозволила конфлікту тривати майже два десятиліття Розширювати для більш ніж 70 країн - благо для підрядників, бюрократів і політиків, які живуть від мілітаризму в США. Якщо війна є ракеткою, то в Росії слова морської легенди Смедлі Батлер, вічна війна - це один з найдовших мінусів.
Але невизначеність ворога також створює певні труднощі. Одна справа дивитися на карту Північного В'єтнаму і вибирати місця для бомби. Це зовсім інше, щоб просіяти величезну кількість інформації з усього світу, щоб визначити хорошого кандидата на страйк безпілотного літака. Коли ворог всюди, ідентифікація цілі стає набагато більш трудомісткою. Саме тут з'являється AI - або, точніше, машинне навчання. Машинне навчання може допомогти автоматизувати один з більш трудомістких і трудомістких аспектів вічної війни: знайти людей, щоб вбити.
Проект Pentagon Maven вже реалізує цю ідею. Maven, також відомий як Алгоритмічна війна міжфункціональної команди, нещодавно зробила заголовки новин іскріння бунт працівників у Google за участю компанії. Maven - це проект «штучного шляху» військових. Її початкова фаза передбачає використання машинного навчання для сканування відеоматеріалів безпілотного відео, щоб допомогти визначити людей, транспортні засоби та будівлі, які можуть коштувати.
"У нас є аналітики, які переглядають повномасштабне відео, дивлячись на екрани 6, 7, 8, 9, 10, 11 годин за раз" говорить директор проекту, генерал-лейтенант Джек Шанахан. Програмне забезпечення Maven автоматизує цю роботу, потім передає свої відкриття людині. Поки що це було великим успіхом: програмне забезпечення було розгорнути до шести бойових місць на Близькому Сході та в Африці. Мета полягає в тому, щоб врешті-решт загрузка програмне забезпечення для самих дронів, щоб вони могли знаходити цілі в реальному часі.
Чи не підвищить точність цієї технології, зменшивши тим самим жертви серед цивільних? Це загальний аргумент, який висловлюють вищі посадовці як в Пентагоні, так і в Силіконовій долині, щоб захистити свою співпрацю на таких проектах, як Maven. Код для Америки Джен Палька ставить це стосується "гострих ножів" проти "нудних ножів": більш гострі ножі можуть допомогти військовим врятувати життя.
Однак у випадку збройного штучного інтелекту ножі, про які йдеться, не особливо гострі. Нема нестачі страшних історій про те, що відбувається, коли людський нагляд передається на аутсорсинг недосконалим або упередженим алгоритмам - алгоритмам, які не можуть визнавати чорні особи, або які підсилюють расову упередженість у поліцейській діяльності та кримінальному покаранні. Ми дійсно хочемо, щоб Пентагон використовував ту ж технологію, щоб допомогти визначити, хто отримує бомбу, що впала на голову?
Але глибшою проблемою з гуманітарним аргументом для алгоритмічної війни є припущення, що американські військові є, по суті, доброзичливою силою. Багато мільйонів людей у всьому світі не погодилися б. У 2017 поодинці, США і союзні страйки в Іраку і Сирії вбитий цілих цивільних осіб 6,000. Такі цифри не припускають, що тут і там є кілька чесних помилок, але системне байдужість до «побічної шкоди». Дійсно, уряд США неодноразово бомбили цивільних зборів, таких як весілля в надії убити високу цільову мету.
Далі, лінія між цивільною особою і учасником бойових дій є дуже пористим в епоху вічної війни. Доповідь від перехоплення свідчить про те, що американські військові етикетки кожен, хто вбиває в «цілеспрямованих» ударах, як «ворог, убитий в дії», навіть якщо вони не були однією з цілей. Так звані «страйки підпису», проведені американськими військовими і ЦРУ, відіграють подібні трюки з концепцією комбатанта. Це напади безпілотних літаків на осіб, чия ідентичність невідома, але які підозрюються в тому, що вони є бойовиками, заснованими на показі певних «підписів» - які можуть бути нечіткими, як чоловіки військового віку в певній області.
Проблема полягає не в якості інструментів, іншими словами, а в інституції, що їх використовує. І AI лише зробить цю інституцію більш жорстокою. Вічна війна вимагає, щоб США бачили ворогів всюди. А. І. обіцяє швидше знайти цих ворогів - навіть якщо все, що потрібно для врахування ворога, демонструє модель поведінки, яку модель (класифікованого) машинного навчання асоціює з ворожою діяльністю. Назвемо це смертю великими даними.
AI також має потенціал, щоб зробити вічну війну більш постійною, надавши частину найбільших компаній країни, щоб утримати її. Силіконова долина завжди мала тісні зв'язки з американськими військовими. Але алгоритмічна війна принесе великі технології глибше у військово-промисловий комплекс, і дасть мільярдерам, як Джефф Безос, потужний стимул забезпечити вічну війну назавжди. Вороги знайдуться. Гроші будуть зроблені.
