Autor: Marc Eliot Stein, 10. februára 2020

Nedávno som bol pozvaný, aby som v mene spoločnosti vystúpil na zhromaždení Extinction Rebellion v New Yorku World BEYOND War. Podujatie bolo navrhnuté tak, aby spojilo tri akčné skupiny: aktivistov v oblasti zmeny klímy, kolektívy technologických pracovníkov a protivojnových aktivistov. Začali sme strhujúcim osobným rozprávaním od aktivistky v oblasti klimatických zmien Ha Vu, ktorá davu Newyorčanov povedala o alarmujúcom zážitku, ktorý má len málo z nás: návrate do domu svojej rodiny v Hanoji vo Vietname, kde zvýšené teplo už takmer znemožňuje chodiť vonku počas hodín plného slnečného žiarenia. Len málo Američanov vie o 2016 katastrofa znečistenia vody v Ha Tinh v strednom Vietname. V USA často hovoríme o klimatickej zmene ako o potenciálnom probléme, zdôraznila Ha, no vo Vietname vidí, že už teraz narúša životy a živobytie a rýchlo sa zhoršuje.

Nick Mottern z KnowDrones.org S podobnou naliehavosťou hovoril o nedávnych masívnych investíciách americkej armády do futuristickej umelej inteligencie a cloud computingu – a zdôraznil vlastný záver armády, že nasadzovanie systémov AI pri riadení jadrových zbraní a boji s dronmi nevyhnutne povedie k chybám nepredvídateľného rozsahu. William Beckler z Extinction Rebellion NYC, po ktorom nasledovalo vysvetlenie organizačných princípov, ktoré táto dôležitá a rýchlo rastúca organizácia uvádza do činnosti, vrátane rušivých akcií určených na zvýšenie povedomia o kritickom význame klimatických zmien. Počuli sme od zástupcu mesta New York Koalícia technických pracovníkova pokúsil som sa nasmerovať zhromaždenie k pocitu praktického posilnenia tým, že som hovoril o akcii povstania technologických pracovníkov, ktorá bola nečakane úspešná.

Bolo to v apríli 2018, keď takzvaný „obranný priemysel“ bzučal o projekte Maven, vysoko propagovanej novej americkej vojenskej iniciatíve na vývoj schopností umelej inteligencie pre drony a iné zbraňové systémy. Google, Amazon a Microsoft ponúkajú bežne dostupné platformy umelej inteligencie pre platiacich zákazníkov a Google bol považovaný za pravdepodobného víťaza vojenského kontraktu Project Maven.

Začiatkom roka 2018 začali pracovníci Googlu hovoriť. Nerozumeli, prečo spoločnosť, ktorá ich naverbovala ako zamestnancov so sľubom „Nebuď zlý“, sa teraz uchádzala o vojenské projekty, ktoré by sa pravdepodobne podobali na hroznú epizódu filmu „Black Mirror“, v ktorej mechanické psy poháňané umelou inteligenciou prenasledujú ľudí. bytosti na smrť. Hovorili na sociálnych sieťach a v tradičných spravodajských kanáloch. Organizovali akcie a šírili petície a dali sa vypočuť.

Táto rebélia pracovníkov bola zrodom hnutia Google Workers Rebellion a pomohla naštartovať ďalšie kolektívy technologických pracovníkov. Najudivujúcejšou vecou na internom proteste spoločnosti Google proti Project Maven však nebolo to, že technici hovorili. Najúžasnejšie na tom je Vedenie Google sa podvolilo požiadavkám pracovníkov.

O dva roky neskôr ma táto skutočnosť stále ohromuje. Počas svojich desaťročí ako technický pracovník som videl veľa etických problémov, ale len zriedka som videl, že by veľká spoločnosť kategoricky súhlasila s riešením etických problémov významným spôsobom. Výsledkom vzbury Googlu proti Project Maven bolo zverejnenie súboru princípov AI, ktoré sa oplatí pretlačiť tu:

Umelá inteligencia v Google: naše princípy

Google sa snaží vytvárať technológie, ktoré riešia dôležité problémy a pomáhajú ľuďom v ich každodennom živote. Sme optimistickí, pokiaľ ide o neuveriteľný potenciál AI a iných pokročilých technológií na posilnenie postavenia ľudí, široký prospech pre súčasné a budúce generácie a prácu pre spoločné dobro.

Ciele pre aplikácie AI

Aplikácie AI posúdime s ohľadom na nasledujúce ciele. Sme presvedčení, že AI by mala:

1. Buďte spoločensky prospešní.

Rozšírený dosah nových technológií sa čoraz viac dotýka spoločnosti ako celku. Pokroky v AI budú mať transformačné dopady v širokej škále oblastí vrátane zdravotníctva, bezpečnosti, energetiky, dopravy, výroby a zábavy. Keď zvažujeme potenciálny vývoj a využitie technológií AI, vezmeme do úvahy širokú škálu sociálnych a ekonomických faktorov a budeme postupovať tam, kde sa domnievame, že celkové pravdepodobné prínosy výrazne prevyšujú predvídateľné riziká a nevýhody.

Umelá inteligencia tiež zlepšuje našu schopnosť porozumieť významu obsahu vo veľkom rozsahu. Budeme sa snažiť sprístupniť vysokokvalitné a presné informácie pomocou AI, pričom budeme naďalej rešpektovať kultúrne, sociálne a právne normy v krajinách, kde pôsobíme. A naďalej budeme premyslene vyhodnocovať, kedy sprístupniť naše technológie na nekomerčnej báze.

2. Vyhnite sa vytváraniu alebo posilňovaniu nespravodlivých predsudkov.

Algoritmy a súbory údajov AI môžu odrážať, posilňovať alebo znižovať nespravodlivé predsudky. Uvedomujeme si, že odlíšenie spravodlivých od nespravodlivých predsudkov nie je vždy jednoduché a líši sa v rôznych kultúrach a spoločnostiach. Budeme sa snažiť vyhnúť nespravodlivým dopadom na ľudí, najmä tým, ktoré súvisia s citlivými charakteristikami, akými sú rasa, etnická príslušnosť, pohlavie, národnosť, príjem, sexuálna orientácia, schopnosti a politické alebo náboženské presvedčenie.

3. Buďte skonštruovaní a testovaní na bezpečnosť.

Budeme pokračovať vo vývoji a uplatňovaní prísnych bezpečnostných a bezpečnostných postupov, aby sme sa vyhli neúmyselným výsledkom, ktoré vytvárajú riziko poškodenia. Naše systémy AI navrhneme tak, aby boli primerane obozretné a budeme sa ich snažiť vyvíjať v súlade s osvedčenými postupmi vo výskume bezpečnosti AI. Vo vhodných prípadoch otestujeme technológie AI v obmedzených prostrediach a po nasadení budeme monitorovať ich fungovanie.

4. Buďte voči ľuďom zodpovední.

Navrhneme systémy AI, ktoré poskytujú vhodné príležitosti na spätnú väzbu, relevantné vysvetlenia a príťažlivosť. Naše technológie AI budú podliehať primeranému ľudskému riadeniu a kontrole.

5. Začleniť zásady dizajnu súkromia.

Naše zásady ochrany osobných údajov začleníme do vývoja a používania našich technológií AI. Dáme príležitosť na oznámenie a súhlas, podporíme architektúry s ochranou súkromia a poskytneme primeranú transparentnosť a kontrolu nad používaním údajov.

6. Dodržiavať vysoké štandardy vedeckej excelentnosti.

Technologické inovácie sú zakorenené vo vedeckej metóde a záväzku k otvorenému skúmaniu, intelektuálnej prísnosti, integrite a spolupráci. Nástroje AI majú potenciál odomknúť nové oblasti vedeckého výskumu a vedomostí v kritických oblastiach, ako je biológia, chémia, medicína a environmentálne vedy. Pri práci na pokroku vo vývoji AI sa snažíme o vysoké štandardy vedeckej dokonalosti.

Budeme spolupracovať s celým radom zainteresovaných strán na podpore premysleného vedenia v tejto oblasti, pričom budeme čerpať z vedecky prísnych a multidisciplinárnych prístupov. A budeme zodpovedne zdieľať znalosti AI publikovaním vzdelávacích materiálov, osvedčených postupov a výskumu, ktoré umožnia viacerým ľuďom vyvíjať užitočné aplikácie AI.

7. byť k dispozícii na použitie, ktoré je v súlade s týmito zásadami.

Mnohé technológie majú mnohostranné využitie. Budeme pracovať na obmedzení potenciálne škodlivých alebo zneužívajúcich aplikácií. Pri vývoji a nasadzovaní technológií AI budeme vyhodnocovať pravdepodobné použitia vo svetle nasledujúcich faktorov:

• Primárny účel a použitie: primárny účel a pravdepodobné použitie technológie a aplikácie vrátane toho, do akej miery riešenie súvisí so škodlivým použitím alebo sa naň dá prispôsobiť
• Príroda a jedinečnosť: či sprístupňujeme technológiu, ktorá je jedinečná alebo všeobecne dostupná
• Mierka: či bude mať použitie tejto technológie významný vplyv
• Povaha zapojenia spoločnosti Google: či už poskytujeme univerzálne nástroje, integračné nástroje pre zákazníkov alebo vyvíjame riešenia na mieru

Aplikácie AI nebudeme sledovať

Okrem vyššie uvedených cieľov nebudeme navrhovať ani nasadzovať AI v nasledujúcich oblastiach použitia:

1. Technológie, ktoré spôsobujú alebo môžu spôsobiť celkovú škodu. Ak existuje materiálne riziko poškodenia, budeme postupovať len vtedy, ak sa domnievame, že prínosy výrazne prevažujú nad rizikami a zahrnieme primerané bezpečnostné obmedzenia.
2. Zbrane alebo iné technológie, ktorých hlavným účelom alebo implementáciou je spôsobiť alebo priamo uľahčiť zranenie ľudí.
3. Technológie, ktoré zhromažďujú alebo používajú informácie na sledovanie porušujúce medzinárodne uznávané normy.
4. Technológie, ktorých účel je v rozpore so všeobecne uznávanými princípmi medzinárodného práva a ľudských práv.

Ako sa naše skúsenosti v tomto priestore prehlbujú, tento zoznam sa môže vyvíjať.

záver

Veríme, že tieto princípy sú tým správnym základom pre našu spoločnosť a náš budúci rozvoj AI. Uvedomujeme si, že táto oblasť je dynamická a vyvíja sa a k našej práci budeme pristupovať s pokorou, oddanosťou internej a externej angažovanosti a ochotou prispôsobovať náš prístup, keď sa postupom času učíme.

Tento pozitívny výsledok neoslobodzuje technologického giganta Google od spoluviny v rôznych iných oblastiach veľkého záujmu, ako je podpora ICE, policajných a iných vojenských aktivít, zhromažďovanie a predaj prístupu k súkromným údajom o jednotlivcoch, skrývanie kontroverzných politických vyhlásení z výsledkov vyhľadávačov. a čo je najdôležitejšie, umožniť svojim zamestnancom naďalej hovoriť o týchto a iných problémoch bez toho, aby ich za to vyhodili. Hnutie za rebéliu pracovníkov Google je naďalej aktívne a veľmi angažované.

Zároveň je dôležité uvedomiť si, aký vplyv malo hnutie pracovníkov Google. To sa ukázalo okamžite po začatí protestov spoločnosti Google: marketingové oddelenia Pentagonu prestali vydávať nové tlačové správy o kedysi vzrušujúcom Project Maven a nakoniec projekt úplne „zmizli“ z verejnej viditeľnosti, o ktorú sa predtým snažil. Namiesto toho sa zo zákernej akcie Pentagonu začala vynárať nová a oveľa väčšia iniciatíva umelej inteligencie Rada pre inovácie v oblasti obrany.

Toto sa volalo Projekt JEDI, nový názov pre výdavky Pentagonu na špičkové zbrane. Projekt JEDI by minul oveľa viac peňazí ako Projekt Maven, ale propagácia nového projektu (áno, armáda USA míňa veľa času a pozornosti na publicitu a marketing) bol veľmi odlišný od predchádzajúceho. Všetky elegantné a sexy snímky „Black Mirror“ boli preč. Teraz, namiesto zdôrazňovania vzrušujúcich a filmových dystopických hrôz, ktoré môžu umelou inteligenciou poháňané drony spôsobiť ľudským bytostiam, sa projekt JEDI vysvetlil ako triezvy krok vpred k efektivite, kombinovaním rôznych cloudových databáz s cieľom pomôcť „bojovníkom“ (obľúbený výraz Pentagonu pre personál v prvej línii) a podporné tímy back-office maximalizujú efektivitu informácií. Tam, kde bol projekt Maven navrhnutý tak, aby znel vzrušujúco a futuristicky, projekt JEDI bol navrhnutý tak, aby znel rozumne a prakticky.

Na cenovke pre Project JEDI nie je nič rozumné ani praktické. Ide o najväčší kontrakt na vojenský softvér vo svetovej histórii: 10.5 miliardy dolárov. Mnohým z našich očí sa zaleskne oči, keď počujeme o mierach vojenských výdavkov, a môžeme preskočiť rozdiel medzi miliónmi a miliardami. Je nevyhnutné pochopiť, o koľko väčší je Project JEDI ako ktorákoľvek predchádzajúca softvérová iniciatíva Pentagonu. Je to menič hry, motor generujúci bohatstvo, bianko šek na zisky na náklady daňových poplatníkov.

Pomáha preniknúť pod povrch vládnych tlačových správ, keď sa pokúšate pochopiť bianko šek na vojenské výdavky vo výške 10.5 miliardy dolárov. Niektoré informácie možno získať z vlastných publikácií armády, napríklad znepokojujúce Rozhovor s generálporučíkom Jackom Shanahanom z augusta 2019 s Spoločným centrom umelej inteligencie, kľúčová postava v zmiznutom Project Maven aj v novom Projekte JEDI. Podarilo sa mi získať lepší prehľad o tom, ako zasvätenci obranného priemyslu premýšľajú o projekte JEDI, keď som si vypočul podcast s názvom obranný priemysel „Projekt 38: Budúcnosť vládnych zmlúv“. Hostia podcastov často hovoria úprimne a nehanebne o akejkoľvek téme, o ktorej diskutujú. „Veľa ľudí si bude tento rok kupovať nové bazény“ bolo typické pre interný rozhovor tohto podcastu o projekte JEDI. Sme si istí, že budú.

Tu je pozoruhodná vec, ktorá sa spája s princípmi AI spoločnosti Google. Zjavnými tromi priekopníkmi pre masívnu zmluvu JEDI v hodnote 10.5 miliardy dolárov by boli Google, Amazon a Microsoft – v tomto poradí na základe ich reputácie ako inovátorov AI. Kvôli protestu robotníkov proti Project Maven v roku 2018, líder AI Google nebral do úvahy oveľa väčší Project JEDI v roku 2019. Koncom roka 2019 bolo oznámené, že kontrakt prešiel do Microsoftu. Nasledoval príval spravodajstva, ale toto spravodajstvo sa sústredilo hlavne na rivalitu medzi Amazonom a Microsoftom a na skutočnosť, že Microsoftu na 3. mieste bolo pravdepodobne umožnené poraziť 2. miesto Amazon vo výhre kvôli pokračujúcim bojom Trumpovej administratívy s Washington Post, ktorú vlastní Jeff Bezos z Amazonu. Amazon teraz ide na súd, aby bojoval proti daru Pentagonu pre Microsoft vo výške 10.5 miliardy dolárov a Oracle žaluje tiež. Konkrétna poznámka z podcastu Projekt 38 ​​spomínaná vyššie – „Veľa ľudí si tento rok kúpi nové bazény“ – sa týkala nielen finančného zvýhodnenia Microsoftu, ale aj všetkých právnikov, ktorí sa na týchto súdnych sporoch zúčastnia. Pravdepodobne môžeme kvalifikovane odhadnúť, že viac ako 3 % z 10.5 miliardy dolárov Projektu JEDI pôjde právnikom. Škoda, že to nemôžeme použiť na pomoc koniec hladu na svete miesto.

Spor o tom, či by tento prevod peňazí daňových poplatníkov vojenským dodávateľom mal byť prínosom pre Microsoft, Amazon alebo Oracle, dominoval spravodajstvu o projekte JEDI. Jediná pozitívna správa, ktorú možno získať z tohto obscénneho grafu – skutočnosť, že Google odstúpil od najväčšej zmluvy o vojenskom softvéri vo svetovej histórii kvôli protestom robotníkov – v spravodajstve o Projekte JEDI prakticky neexistoval. 

Preto bolo dôležité porozprávať tento príbeh aktivistom zameraným na technológie, ktorí sa minulý týždeň zišli v preplnenej miestnosti v centre Manhattanu, aby hovorili o tom, ako môžeme zachrániť našu planétu, ako môžeme bojovať proti dezinformáciám a politizácii klimatickej vedy, ako sa môžeme postaviť obrovskej sile profitujúcich z fosílnych palív a zbraní. V tejto malej miestnosti sa zdalo, že všetci chápeme rozmery problému, ktorému čelíme, a kritickú úlohu, ktorú musíme začať hrať my sami. Technická komunita má významnú moc. Rovnako ako kampane na odpredaj môžu znamenať skutočný rozdiel, rebélie technologických pracovníkov môžu znamenať skutočný rozdiel. Existuje mnoho spôsobov, ako môžu aktivisti v oblasti zmeny klímy, aktivisti za povstanie technologických pracovníkov a protivojnoví aktivisti začať spolupracovať a budeme tak robiť všetkými možnými spôsobmi.

Toto stretnutie sme mali nádejný začiatok, nápomocne ho inicioval Extinction Rebellion NYC a Svet nemôže čakať. Toto hnutie bude rásť – musí rásť. Zneužívanie fosílnych palív je stredobodom pozornosti demonštrantov proti zmene klímy. Zneužívanie fosílnych palív je tiež primárnym ziskovým motívom amerického imperializmu a primárnym hrozným výsledkom nafúknutých márnotratných aktivít americkej armády. V skutočnosti sa zdá, že americká armáda áno jediný najhorší znečisťovateľ na svete. Môžu technickí pracovníci využiť našu organizačnú silu na víťazstvá ešte účinnejšie ako stiahnutie spoločnosti Google z projektu JEDI? Môžeme a musíme. Minulotýždňové stretnutie v New Yorku bolo len malým krokom vpred. Musíme urobiť viac a musíme dať nášmu spojenému protestnému hnutiu všetko, čo máme.

Marc Eliot Stein je riaditeľom technológie a sociálnych médií pre World BEYOND War.

Autor fotografie Gregory Schwedock.