Ben Tarnoff, říjen 11. 2018, Guardian.
Americká armáda vytváří automatizovanější formu válčení - ta, která výrazně zvýší její schopnost vést válku všude navždy.
Lastronomický měsíc označil 17th výročí 9 / 11. S tím přišel nový milník: jsme v Afghánistánu tak dlouho, že někdo, kdo se narodil po útocích, je teď dost starý na to, aby tam bojoval. Mohou také sloužit v dalších šest míst kde jsme oficiálně ve válce, nemluvě o zemích 133, kde prováděly speciální operace mise v první polovině 2018u.
Války 9 / 11 pokračují, bez dohledu. Pentagon nyní hodně investuje do technologií, které je zintenzívní. Tím, že zahrnuje nejnovější nástroje, které technologický průmysl nabízí, Americká armáda Vytváří automatizovanější formu válčení, která výrazně zvýší její schopnost navždy vést válku.
V pátek oddělení obrany uzavře nabídkové období pro jednu z největších technologických zakázek ve své historii: Společnou infrastrukturu pro obranu podniků (Jedi). Jedi je ambiciózní projekt na vybudování cloud computing systému, který slouží americkým silám po celém světě, od analytiků za stolem ve Virginii po vojáky na hlídce v Nigeri. Smlouva má hodnotu 10bn za 10 let, což je důvod, proč velké firmy bojují usilovně vyhrát. (Ne Google, nicméně, tam, kde tlaková kampaň pracovníků vynucený managementu, aby vypadl z provozu.)
Jedi by na první pohled mohl vypadat jako další projekt modernizace IT. Vláda IT má tendenci běžet za spravedlivou vzdáleností Silicon Valley, dokonce i na místě tak bohatě financovaném jako Pentagon. S několika miliony uživatelů 3.4 a 4 miliony zařízení je digitální obranné oddělení obrovské. Přesun i části jeho pracovní zátěže na poskytovatele cloudu, jako je Amazon, nepochybně zlepší efektivitu.
Skutečná síla, která pohání Jediho, je touha vyzbrojit AI - to, co ministerstvo obrany začalo nazývat „algoritmickou válkou“. Spojením vojenských dat do moderní cloudové platformy a využitím služeb strojového učení, které tyto platformy poskytují k analýze těchto dat, Jedi pomůže Pentagonu realizovat své ambice AI.
Rozsah těchto ambicí se v posledních měsících zvýšil. V červnu Pentagon stanovený Společné centrum umělé inteligence (JAIC), které bude dohlížet na zhruba probíhající projekty 600 AI, které probíhají napříč oddělením na plánovaném místě. stát 1.7 miliardy $. A v září Agentura obranných pokročilých výzkumných projektů (Darpa), legendární křídlo výzkumu a vývoje Pentagonu, oznámila, během příštích pěti let by investovalo do výzkumu zbraní AI až $ 2bn.
Dosavadní zprávy o výdajích na výdaje AI Pentagonu se do značné míry zaměřily na vyhlídky autonomních zbraní - robotů zabijáků ve stylu Terminator, kteří sekájí lidi bez jakéhokoli vstupu lidského operátora. To je skutečně děsivý scénář blízké budoucnosti a celosvětový zákaz autonomních zbraní takového druhu, jaký si přeje Kampaň k zastavení robotů vraha je naprosto nezbytné.
Ale AI již začala znovu vést válčení, i když nemá (dosud) podobu doslovných Terminátorů. Existují méně filmové, ale stejně děsivé způsoby, jak zbraň AI zužitkovat. Nepotřebujete algoritmy, které by stáhly spouštěč pro algoritmy, aby hrály velmi nebezpečnou roli.
K pochopení této role pomáhá porozumět konkrétním obtížím, které představuje navždy válka. Samotné zabíjení není zvlášť obtížné. S vojenským rozpočtem větším než je Čína, Rusko, Saúdská Arábie, Indie, Francie, Británie a Japonsko kombinovanýa některé 800 základy po celém světě mají USA dostatek palebných sil a bezkonkurenční schopnost nasadit tuto palebnou sílu kdekoli na planetě.
Americká armáda ví, jak zabít. Čím těžší je zjistit, koho zabít. V tradičnější válce prostě zabijete nepřítele. Ale kdo je nepřítel v konfliktu s žádnými národními hranicemi, pevnými bojišti a žádnými konvenčními protivníky?
Toto je trvalá otázka navždy války. To je také klíčový rys jeho designu. Nejasnost nepřítele je to, co umožnilo konfliktu pokračovat po téměř dvě desetiletí rozšířit více než zemí 70 - požehnání pro dodavatele, byrokraty a politiky, kteří žijí z amerického militarismu. Pokud je válka raketa, v Slova námořní legendy Smedley Butler, navždy válka je ještě nejdelší.
Ale nejasnost nepřítele také vytváří určité výzvy. Je to jedna věc, podívat se na mapu Severního Vietnamu a vybrat si místa, kde můžete bombardovat. Je to další věc, kterou je třeba prosadit obrovské množství informací z celého světa, aby bylo možné identifikovat dobrého kandidáta na stávku sondou. Když je nepřítel všude, identifikace cíle se stává mnohem pracnější. Zde přichází AI - přesněji řečeno strojové učení. Strojové učení může pomoci automatizovat jeden z únavnějších a časově náročnějších aspektů navždy války: nalezení lidí, kteří zabijí.
Projekt Maven Pentagonu již tuto myšlenku zavádí do praxe. Maven, také známý jako Algorithmic Warfare Cross-Functional Team, nedávno zveřejnil titulky jiskření vzpoura zaměstnanců společnosti Google nad účastí společnosti. Maven je vojenský „průkopnický“ projekt AI. Jeho počáteční fáze zahrnuje používání strojového učení pro skenování videozáznamů sondami, které pomáhají identifikovat jednotlivce, vozidla a budovy, které by mohly stát za bombardování.
„Máme analytiky, kteří se dívají na video s plným pohybem a dívají se na obrazovky 6, 7, 8, 9, 10, 11 hodin najednou,“ říká ředitel projektu, generálporučík Jack Shanahan. Mavenův software tuto práci automatizuje a poté své objevy předává člověku. Dosud to byl velký úspěch: software byl nasazeny až šesti bojových míst na Středním východě av Africe. Cílem je nakonec zatížení software na drones sami, takže mohou najít cíle v reálném čase.
Nezlepší tato technologie přesnost, čímž se sníží počet civilních obětí? Toto je společný argument, který učinili vyšší skupiny v Pentagonu a Silicon Valley, aby obhájili svou spolupráci na projektech jako Maven. Kód pro americkou Jen Pahlku dělá ve smyslu „ostrých nožů“ versus „tupých nožů“: ostřejší nože mohou pomoci armádě zachránit životy.
V případě zbraně AI však nejsou příslušné nože obzvláště ostré. Neexistuje žádný nedostatek hororových příběhů o tom, co se stane, když je lidský dohled outsourcován na vadné nebo předpojaté algoritmy. uznat tváří v tvář černé tváře, nebo které posilují rasovou zaujatost v oblasti policejní a trestní \ t Opravdu chceme, aby Pentagon používal stejnou technologii, aby pomohl určit, kdo dostane bombu na hlavu?
Ale hlubší problém s humanitárním argumentem pro algoritmické válčení je předpoklad, že americká armáda je v podstatě benevolentní silou. Mnoho milionů lidí na celém světě by nesouhlasilo. V 2017 sám, USA a spojenecké stávky v Iráku a Sýrii zabil tolik jako 6,000 civilistů. Čísla, jako jsou tyto, nenaznačují několik upřímných chyb, ale systémovou lhostejnost k „vedlejším škodám“. Vláda USA má totiž opakovaně bombardován civilní shromáždění, jako jsou svatby v naději, že zabije cíl vysoké hodnoty.
Linie mezi civilistou a bojovníkem je navíc v éře věčné války vysoce porézní. Zpráva z Interceptu naznačuje, že americká armáda etikety Každý, koho zabije v „cílených“ stávkách jako „nepřítel zabitý v akci“, i když nebyl jedním z cílů. Takzvané „stávky na podpis“, které provádí americká armáda a CIA, hrají podobné triky s konceptem bojovníka. Jedná se o dronové útoky na jedince, jejichž identita je neznámá, ale kteří jsou podezřelí z toho, že jsou militanty na základě zobrazování určitých „podpisů“ - které mohou být stejně vágní jako vojáci ve specifickém prostoru.
Problémem není kvalita nástrojů, jinými slovy instituce, která je ovládá. AI tuto instituci učiní jen brutálnější. Navždy válka vyžaduje, aby USA všude viděli nepřátele. AI slibuje, že tyto nepřátele najde rychleji - i když vše, co je třeba, aby byl považován za nepřítele, vykazuje vzor chování, který (klasifikovaný) model strojového učení spojuje s nepřátelskou aktivitou. Říká se tomu smrt velkými daty.
AI má také potenciál učinit navždy válku trvalejší, a to tím, že některým z největších společností v zemi poskytne podíl na jejím udržování. Silicon Valley měl vždy úzké vazby na americkou armádu. Algoritická válka však přinese velkou techniku hlouběji do vojensko-průmyslového komplexu a dá miliardářům, jako je Jeff Bezos, mocnou pobídku k tomu, aby věčná válka trvala navždy. Nepřátelé budou nalezeni. Peníze budou provedeny.
