Autor: Marc Eliot Stein, 10. února 2020

Nedávno jsem byl pozván, abych vystoupil na shromáždění vyhynulé povstání jménem New York City World BEYOND War. Akce byla navržena tak, aby spojila tři akční skupiny: aktivisté v oblasti změny klimatu, kolektivy technických pracovníků a protiválečné aktivisty. Začali jsme podmanivým osobním účtem aktivisty změny klimatu Ha Vu, který řekl davu Newyorčanů o alarmujícím zážitku, který málokdo z nás kdy měl: návratu do domu své rodiny v Hanoji ve Vietnamu, kde zvýšené teplo již téměř znemožnilo chodit venku v době nejvyššího slunečního světla. Jen málo Američanů také ví o 2016 katastrofa znečištění vody v Ha Tinhu ve středním Vietnamu. Ha zdůrazňujeme, že klimatické změny jsou v USA často potenciálním problémem, zdůraznil Ha, ale ve Vietnamu vidí, že již narušuje životy a živobytí a rychle se zhoršuje.

Nick Mottern z KnowDrones.org hovořil s podobnou naléhavostí o nedávných masivních investicích americké armády do futuristické umělé inteligence a cloud computingu - a zdůraznil vlastní závěr armády, že nasazení systémů AI do správy jaderných zbraní a válčení dronů nevyhnutelně povede k chybám nepředvídatelného rozsahu. William Beckler z Extinction Rebellion NYC, po kterém následuje vysvětlení organizačních principů, které tato důležitá a rychle rostoucí organizace uvádí do praxe, včetně rušivých akcí, jejichž cílem je zvýšit povědomí o zásadním významu změny klimatu. Slyšeli jsme od zástupce města New York z Koalice technikůa pokusil jsem se shromáždění obrátit k pocitu praktického zmocnění mluvením o akci vzpoury technických pracovníků, která byla nečekaně úspěšná.

To bylo v dubnu 2018, kdy tzv. „Obranný průmysl“ bzučel o Project Maven, vysoce propagované nové americké vojenské iniciativě na vývoj schopností umělé inteligence pro drony a další zbraňové systémy. Všechny společnosti Google, Amazon a Microsoft nabízejí platící platformy pro umělé inteligence a společnost Google byla považována za pravděpodobného vítěze vojenské smlouvy Project Maven.

Začátkem roku 2018 začali zaměstnanci Google hovořit. Nerozuměli tomu, proč je společnost, která je přijala jako zaměstnance se zástavou „Don't Be Evil“, nyní ucházela o vojenské projekty, které se pravděpodobně podobají strašlivé epizodě „Black Mirror“, v níž mechaničtí psi pohánění umělou inteligencí honí člověka bytosti k smrti. Vystoupili na sociálních médiích a na tradičních zpravodajských místech. Organizovali akce a rozesílali petice a nechali se slyšet.

Toto povstání pracovníků bylo geneze hnutí povstalců Google Workers Rebellion a pomohlo zavést další kolektivy technologických pracovníků. Nejzajímavější věcí na interním protestu společnosti Google proti projektu Maven však nebylo to, že mluvili techničtí pracovníci. Nejúžasnější věc je, že Správa Google vyhověla požadavkům pracovníků.

O dva roky později mě tato skutečnost stále ohromuje. Ve svých desetiletích jsem viděl mnoho etických problémů jako technický pracovník, ale zřídka jsem viděl velkou společnost kategoricky souhlasit s tím, že bude etické problémy řešit významným způsobem. Výsledkem povstání společnosti Google proti projektu Maven bylo zveřejnění souboru principů umělé inteligence, které stojí za to znovu otisknout zde:

Umělá inteligence v Google: Naše zásady

Google usiluje o vytvoření technologií, které řeší důležité problémy a pomáhají lidem v jejich každodenním životě. Jsme optimističtí ohledně neuvěřitelného potenciálu umělé inteligence a dalších vyspělých technologií posilovat lidi, široce prospívat současným i budoucím generacím a pracovat pro společné dobro.

Cíle pro AI aplikace

Hodnotíme aplikace AI s ohledem na následující cíle. Věříme, že AI by měla:

1. Buďte společensky prospěšní.

Rozšířený dosah nových technologií se stále více dotýká společnosti jako celku. Pokroky v AI budou mít transformační dopady v celé řadě oblastí, včetně zdravotní péče, bezpečnosti, energie, dopravy, výroby a zábavy. Při zvažování možného vývoje a využití technologií umělé inteligence budeme brát v úvahu širokou škálu sociálních a ekonomických faktorů a budeme pokračovat tam, kde se domníváme, že celkové pravděpodobné přínosy podstatně převyšují předvídatelná rizika a nevýhody.

AI také zvyšuje naši schopnost porozumět významu obsahu v měřítku. Budeme se snažit zpřístupňovat vysoce kvalitní a přesné informace pomocí AI a přitom respektovat kulturní, sociální a právní normy v zemích, kde působíme. A budeme i nadále pečlivě vyhodnocovat, kdy budou naše technologie dostupné na nekomerční bázi.

2. Vyvarujte se vytváření nebo posilování nespravedlivé předpojatosti.

Algoritmy AI a datové sady mohou odrážet, posilovat nebo snižovat nespravedlivé předpojatosti. Uvědomujeme si, že rozlišení spravedlivých a nespravedlivých předsudků není vždy jednoduché a liší se napříč kulturami a společnostmi. Budeme se snažit vyhnout se nespravedlivým dopadům na lidi, zejména na ty, které souvisejí s citlivými charakteristikami, jako jsou rasa, etnický původ, pohlaví, národnost, příjem, sexuální orientace, schopnost a politické či náboženské přesvědčení.

3. Být postaven a testován na bezpečnost.

Budeme pokračovat ve vývoji a používání přísných bezpečnostních a bezpečnostních postupů, abychom zabránili nezamýšleným výsledkům, které vytvářejí rizika poškození. Navrhneme naše systémy AI, aby byly náležitě opatrné, a snažíme se je vyvíjet v souladu s osvědčenými postupy ve výzkumu bezpečnosti AI. Ve vhodných případech otestujeme technologie AI v omezených prostředích a sledujeme jejich provoz po nasazení.

4. Buďte odpovědní lidem.

Navrhneme systémy umělé inteligence, které poskytují vhodné příležitosti pro zpětnou vazbu, příslušná vysvětlení a odvolání. Naše technologie umělé inteligence budou podléhat odpovídajícímu lidskému řízení a kontrole.

5. Začleňte zásady návrhu ochrany osobních údajů.

Při vývoji a používání našich technologií AI začleníme naše zásady ochrany osobních údajů. Dáme příležitost pro oznámení a souhlas, povzbuzujeme architektury se zabezpečením soukromí a poskytujeme odpovídající průhlednost a kontrolu nad používáním dat.

6. Dodržujte vysoké standardy vědecké excelence.

Technologické inovace jsou zakořeněny ve vědecké metodě a závazku k otevřenému průzkumu, intelektuální přísnosti, integritě a spolupráci. Nástroje umělé inteligence mají potenciál uvolnit nové oblasti vědeckého výzkumu a znalostí v kritických oblastech, jako je biologie, chemie, medicína a environmentální vědy. Usilujeme o vysokou úroveň vědecké excelence při práci na vývoji AI.

Budeme spolupracovat s celou řadou zúčastněných stran na podpoře ohleduplného vedení v této oblasti, přičemž budeme vycházet z vědecky přísných a multidisciplinárních přístupů. A budeme zodpovědně sdílet znalosti AI zveřejňováním vzdělávacích materiálů, osvědčených postupů a výzkumu, který umožní více lidem vyvinout užitečné AI aplikace.

7. Být k dispozici pro použití, která jsou v souladu s těmito zásadami.

Mnoho technologií má více využití. Budeme se snažit omezit potenciálně škodlivé nebo zneužívající aplikace. Při vývoji a zavádění technologií AI budeme vyhodnotit pravděpodobná použití s ​​ohledem na následující faktory:

• Primární účel a použití: primární účel a pravděpodobné použití technologie a aplikace, včetně toho, do jaké míry je řešení spojeno se škodlivým používáním nebo je přizpůsobitelné
• Příroda a jedinečnost: ať už děláme dostupnou technologii, která je jedinečná nebo obecně dostupnější
• Měřítko: zda použití této technologie bude mít významný dopad
• Povaha zapojení společnosti Google: ať už poskytujeme nástroje pro všeobecné použití, integrujeme nástroje pro zákazníky nebo vyvíjíme vlastní řešení

AI aplikace, které nebudeme sledovat

Kromě výše uvedených cílů nebudeme navrhovat ani implementovat AI v následujících aplikačních oblastech:

1. Technologie, které způsobují nebo pravděpodobně způsobí celkové poškození. Pokud existuje významné riziko újmy, budeme postupovat pouze v případě, kdy se domníváme, že přínosy podstatně převažují nad riziky a budou zahrnovat příslušná bezpečnostní omezení.
2. Zbraně nebo jiné technologie, jejichž hlavním účelem nebo prováděním je způsobit nebo přímo usnadnit zranění osob.
3. Technologie, které shromažďují nebo používají informace pro dohled porušující mezinárodně uznávané normy.
4. Technologie, jejichž účel je v rozporu s obecně přijímanými zásadami mezinárodního práva a lidských práv.

Jak se naše zkušenost v tomto prostoru prohlubuje, může se tento seznam vyvíjet.

Proč investovat do čističky vzduchu?

Věříme, že tyto zásady jsou správným základem pro naši společnost a pro náš budoucí rozvoj AI. Uznáváme, že tato oblast je dynamická a vyvíjí se, a budeme přistupovat k naší práci s pokorou, závazkem k vnitřní a vnější angažovanosti a ochotou přizpůsobit náš přístup, jak se v průběhu času učíme.

Tento pozitivní výsledek nezbavuje technika gigantu Google od spoluúčasti v různých dalších oblastech, které jsou předmětem velkého zájmu, jako je podpora ICE, policie a další vojenské činnosti, agregace a prodej přístupu k soukromým údajům o jednotlivcích, skrytí kontroverzních politických prohlášení před výsledky vyhledávače. a co je nejdůležitější, umožnění svým zaměstnancům, aby i nadále hovořili o těchto a dalších otázkách, aniž by byli za to propuštěni. Hnutí povstání pracovníků Google zůstává aktivní a velmi zasnoubené.

Zároveň je důležité si uvědomit, jak působivé bylo hnutí pracovníků Google. To se okamžitě ukázalo poté, co začaly protesty Google: marketingová oddělení Pentagonu přestaly vydávat nové tiskové zprávy o dříve vzrušujícím projektu Maven a nakonec „zcela zmizely“ projekt z veřejné viditelnosti, kterou dříve hledaly. Místo toho začala z zákeřného Pentagonu vycházet nová a mnohem větší iniciativa v oblasti umělé inteligence Rada pro inovace v oblasti obrany.

Tomu se říkalo Projekt JEDI, nové jméno pro výdaje Pentagonu na špičkové zbraně. Projekt JEDI utratí mnohem více peněz než Project Maven, ale reklamní blitz pro nový projekt (ano, americká armáda utrácí množství času a pozornosti na publicitu a marketing) byl velmi odlišný od předchozího. Všechny elegantní a sexy snímky „Black Mirror“ byly pryč. Nyní místo toho, aby zdůrazňoval vzrušující a filmová dystopická hrůza, která by mohla způsobovat umělé inteligence AI, může způsobit lidské bytosti, projekt JEDI se vysvětlil jako střízlivý krok vpřed v efektivitě kombinováním různých cloudových databází, aby pomohl „válečníkům“ (oblíbený termín Pentagonu pro front-line personál) a back-office týmy podpory maximalizovat efektivitu informací. Tam, kde byl projekt Maven navržen tak, aby zněl vzrušující a futuristicky, byl projekt JEDI navržen tak, aby zněl rozumně a prakticky.

O ceně značky Project JEDI není nic rozumného ani praktického. Je to největší smlouva na vojenský software ve světové historii: 10.5 miliardy dolarů. Mnoho našich očí se zazářilo, když jsme slyšeli o stupnicích vojenských výdajů, a můžeme přeskočit rozdíl mezi miliony a miliardami. Je nezbytné pochopit, o kolik větší je Project JEDI než jakákoli předchozí softwarová iniciativa Pentagon. Jedná se o měnič her, motor generující bohatství, prázdnou šek na zisk na náklady daňových poplatníků.

Pomáhá poškrábat se pod povrchem vládních tiskových zpráv, když se snažíte pochopit bianko šek na vojenské výdaje až 10.5 miliardy dolarů. Některé informace lze získat z vlastních vojenských publikací, jako znepokojující Rozhovor s srpnem 2019 s generálním poručíkem Centra umělé inteligence Jackem Shanahanem, klíčová postava zmizelého projektu Maven i nového projektu JEDI. Podařilo se mi získat více informací o tom, jak si zasvěcenci obranného průmyslu myslí na projekt JEDI posloucháním podcastu obranného průmyslu s názvem „Projekt 38: Budoucnost vládních kontraktů“. Hosté podcastu často mluví otevřeně a nestydatě o jakémkoli tématu, o kterém diskutují. „Mnoho lidí si letos koupí nové bazény,“ bylo typické pro zasvěcený chat tohoto podcastu o projektu JEDI. Jsme si jistí, že budou.

Zde je pozoruhodná věc, která se váže zpět k principům AI společnosti Google. Zřejmými třemi průkopníky masivní smlouvy JEDI ve výši 10.5 miliard dolarů by byly Google, Amazon a Microsoft - v tomto pořadí, na základě jejich reputace jako inovátorů AI. Kvůli protestům pracovníků proti Project Maven v roce 2018 byl vůdce AI Google mimo úvahu pro mnohem větší projekt JEDI v roce 2019. Na konci roku 2019 bylo oznámeno, že smlouva přešla na Microsoft. Následoval příval zpravodajství, ale toto zpravodajství se soustředilo hlavně na rivalitu mezi Amazonem a Microsoftem a na skutečnost, že 3. místo Microsoftu bylo pravděpodobně umožněno porazit druhé místo Amazonu kvůli vítězství kvůli pokračujícím bitvám Trumpovy vlády s Washington Post kterou vlastní Amazon Jeff Bezos. Amazon se nyní chystá u soudu bojovat s darem Pentagonu ve výši 2 miliard dolarů pro Microsoft a společnost Oracle také žaluje. Konkrétní poznámka z podcastu Projekt 10.5 ​​zmíněná výše - „Mnoho lidí bude letos kupovat nové bazény“ - odkazovala nejen na finanční přínos společnosti Microsoft, ale také na všechny právníky, kteří se těchto soudních sporů zúčastní. Pravděpodobně můžeme vzdělaně odhadnout, že více než 38% z 3 miliard $ projektu JEDI poputuje právníkům. Škoda, že to nemůžeme použít k pomoci konec světového hladu namísto.

Spor o to, zda by tento převod peněz daňových poplatníků vojenským dodavatelům měl být přínosem pro společnosti Microsoft, Amazon nebo Oracle, ovládl zpravodajství projektu JEDI. Jedna pozitivní zpráva, kterou je třeba získat z tohoto obscénního štěpu - skutečnost, že Google odstoupil od největší smlouvy o vojenském softwaru ve světové historii kvůli protestům pracovníků - ve zprávách o projektu JEDI prakticky neexistovala. 

Proto bylo důležité vyprávět tento příběh technologicky zaměřeným aktivistům, kteří se minulý týden shromáždili v přeplněném pokoji v centru Manhattanu, aby hovořili o tom, jak můžeme zachránit naši planetu, jak můžeme bojovat proti dezinformacím a politizaci vědy o klimatu, jak se můžeme postavit masivní síle profesionálů z fosilních paliv a zbraní. Zdálo se, že v této malé místnosti jsme všichni pochopili rozměry problému, kterému jsme čelili, a kritickou roli, kterou musíme sami začít hrát. Tech komunita má významnou moc. Stejně jako mohou prodejní kampaně přinést skutečný rozdíl, povstání technologických pracovníků může mít skutečný rozdíl. Existuje mnoho způsobů, jak mohou aktivisté v oblasti změny klimatu, aktivisté povstaleckých techniků povstalci a protiváleční aktivisté začít spolupracovat, a my tak učiníme v každém ohledu.

S tímto shromážděním jsme měli nadějný začátek, který jsme byli ochotně iniciováni Zánik povstání NYC a Svět nemůže čekat. Toto hnutí poroste - musí růst. Demonstranti proti změně klimatu se zaměřují na zneužívání fosilních paliv. Zneužívání fosilních paliv je také jak primárním motivem zisku amerického imperialismu, tak primárním hrozným výsledkem plýtvání nafouknutou americkou armádou. Americká armáda se ve skutečnosti zdá být jediný nejhorší znečišťovatel na světě. Mohou techničtí pracovníci využít naši organizační sílu k vítězství ještě účinněji než stažení společnosti Google z projektu JEDI? Můžeme a musíme. Minulý týden bylo setkání v New Yorku jen malým krokem vpřed. Musíme udělat více a musíme dát našemu společnému protestnímu hnutí vše, co máme.

Marc Eliot Stein je ředitelem technologie a sociálních médií pro World BEYOND War.

Foto: Gregory Schwedock.