Pa Marc Eliot Stein, 10 fevriye 2020

Dènyèman, mwen te envite pou pale nan yon rasanbleman disparisyon nan New York City sou non World BEYOND War. Evènman an te fèt pou mete ansanm twa gwoup aksyon: aktivis pou chanjman nan klima, kolektiv travayè teknoloji, ak aktivis anti-militè yo. Nou te kòmanse avèk yon kont pèsonèl vibran nan klima chantè aktivis Ha Vu, ki te di foul moun yo nan Nouyòkè sou yon eksperyans alarmant kèk nan nou janm genyen: retounen nan kay fanmi li nan Hanoi, Vyetnam, kote ogmante chalè te deja fè li prèske enposib mache deyò pandan èdtan solèy pik. Kèk Ameriken tou konnen sou la 2016 polisyon dlo dezas nan Ha Tinh nan santral Vyetnam. Nou souvan pale de chanjman nan klima kòm yon pwoblèm potansyèl nan USA, Ha mete aksan sou, men nan Vyetnam li ka wè li deja deranje lavi ak mwayen pou viv, ak rapidman vin pi mal.

Nick Mottern nan KnowDrones.org te pale ak ijans ki sanble sou envestisman resan militè ameriken an nan entèlijans atifisyèl futurist ak nwaj informatique - ak mete aksan sou pwòp konklizyon militè a ke deplwaman de sistèm AI nan jesyon zam nikleyè ak lagè abèy pral inevitableman mennen nan erè nan grandè enprevizib. William Beckler nan disparisyon Rebelyon NYC ki te swiv pa eksplike prensip yo òganize òganizasyon sa a enpòtan ak rapid k ap grandi mete nan aksyon, ki gen ladan aksyon deranje ki fèt yo sansibilize nan enpòtans kritik nan chanjman nan klima. Nou tande pale de yon reprezantan Vil New York nan Tech Travayè Kowalisyon, e mwen te eseye pivot rasanbleman an nan direksyon pou yon sans nan pratik otonizasyon pa pale sou yon travayè teknoloji rebelyon aksyon ki te san atann siksè.

Sa a te nan mwa avril 2018, lè sa yo rele "endistri defans lan" te buz sou Pwojè Maven, yon trè pibliye nouvo inisyativ militè US yo devlope kapasite entèlijans atifisyèl pou dron ak lòt sistèm zam. Google, Amazon ak Microsoft tout ofri nan etajè-platfòm entèlijans tribin pou peye kliyan, ak Google te wè sa tankou gayan nan pwojè Maven kontra a militè yo.

Nan kòmansman 2018, Google travayè yo te kòmanse pale. Yo pa t 'konprann poukisa yon konpayi ki te rekrite yo kòm anplwaye ak angajman an "pa fè sa ki mal" te kounye a òf sou pwojè militè chans sanble ak Episode an tèrib nan "glas nwa" nan ki lavil Ayi ki mache ak chen mekanik chen moun imen. èt pou mouri. Yo pale sou medya sosyal ak plòg nouvèl tradisyonèl yo. Yo te òganize aksyon epi yo te sikile petisyon yo e yo te fè tèt yo tande.

Rebelyon travayè sa a te jenès mouvman Rebelyon Travayè Google, e li te ede demaraj kolektif lòt travayè teknoloji. Men, bagay ki pi etonan sou pwotestasyon entèn Google la kont Pwojè Maven pa t 'ke travayè teknoloji yo te pale yo. Bagay ki pi etonan se sa Jesyon Google te bay demand travayè yo.

De ane pita, reyalite sa a toujou stuns m '. Mwen te wè anpil pwoblèm etik nan deseni mwen kòm yon travayè teknoloji, men mwen te raman wè yon gwo konpayi kategorikman dakò adrese pwoblèm etik nan yon fason enpòtan. Rezilta rebelyon Google la kont Pwojè Maven te piblikasyon yon seri prensip AI ki vo repwodiksyon isit la an plen.

Atifisyèl entèlijans nan Google: Prensip nou yo

Google aspire kreye teknoloji ki rezoud pwoblèm enpòtan epi ede moun nan lavi chak jou yo. Nou se optimis sou potansyèl la enkwayab pou AI ak lòt teknoloji avanse pèmèt moun, lajman benefisye jenerasyon aktyèl ak pwochen, ak travay pou bon an komen.

Objektif pou aplikasyon pou AI

Nou pral evalye aplikasyon AI yo nan gade nan objektif sa yo. Nou kwè ke AI ta dwe:

1. Fè benefis sosyal.

Ogmantasyon ki elaji nan nouvo teknoloji de pli zan pli manyen sosyete a kòm yon antye. Pwogrè nan AI ap gen enpak transfòmasyon nan yon pakèt domèn, tankou swen sante, sekirite, enèji, transpò, fabrikasyon, ak amizman. Kòm nou konsidere devlopman potansyèl ak itilizasyon nan teknoloji AI, nou pral pran an kont yon gwo ranje nan faktè sosyal ak ekonomik, epi yo pral kontinye kote nou kwè ke tout benefis yo gen anpil chans depase risk yo previzib ak enkonvenyans.

AI tou amelyore kapasite nou yo konprann siyifikasyon an nan kontni nan echèl. Nou pral fè efò pou fè bon jan enfòmasyon ak egzat ki disponib fasilman lè l sèvi avèk AI, pandan y ap kontinye respekte kiltirèl, sosyal, ak nòm legal nan peyi yo kote nou opere. E nou pral kontinye reflechi byen evalye lè pou fè teknoloji nou yo disponib sou yon baz ki pa komèsyal.

2. Evite kreye oswa ranfòse patipri enjis.

Algoritm AI yo ak ansanbl yo kapab reflete, ranfòse, oswa redwi prejije enjis yo. Nou rekonèt ke distenksyon jis soti nan prejije enjis se pa toujou senp, ak diferan nan tout kilti ak sosyete. Nou pral chache evite enpak enjis sou moun, patikilyèman sa ki gen rapò ak karakteristik sansib tankou ras, gwoup etnik, sèks, nasyonalite, revni, oryantasyon seksyèl, kapasite, ak kwayans politik oswa relijye.

3. Se pou bati ak teste pou sekirite.

Nou pral kontinye devlope epi aplike gwo sekirite ak pratik sekirite pou evite rezilta envolontè ki kreye risk nan mal. Nou pral desine sistèm AI nou yo dwe apwopriye atansyon, epi chèche devlope yo annakò avèk pi bon pratik nan rechèch sekirite AI. Nan ka ki apwopriye, nou pral teste AI teknoloji nan anviwònman contrainte yo epi yo kontwole operasyon yo apre deplwaman.

4. Fè responsablite bay moun.

Nou pral konsepsyon AI sistèm ki bay opòtinite apwopriye pou fidbak, eksplikasyon ki enpòtan, ak apèl. Teknoloji AI nou yo ap sijè a direksyon imen apwopriye ak kontwòl.

5. Mete ajou prensip konsepsyon vi prive.

Nou pral enkòpore prensip vi prive nou yo nan devlopman ak itilizasyon teknoloji AI nou yo. Nou pral bay opòtinite pou avi ak konsantman, ankouraje architectures ak pwoteksyon vi prive, epi yo bay apwopriye transparans ak kontwòl sou itilize nan done yo.

6. sipòte estanda ki wo nan ekselans syantifik.

Se inovasyon teknolojik rasin nan metòd syantifik la ak yon angajman yo louvri ankèt, rijid entelektyèl, entegrite, ak kolaborasyon. Zouti AI yo gen potansyèl pou déblotché nouvo domèn rechèch syantifik ak konesans nan domèn kritik tankou byoloji, chimi, medikaman, ak syans anviwònman yo. Nou renmen anwo nòmal ekselans syantifik pandan n ap travay pou pwogrese AI.

Nou pral travay avèk yon seri de moun ki gen enterè ankouraje lidèchip reflechi nan zòn sa a, trase sou syantifikman apwòch solid ak miltidisiplinè. E nou pral responsab pataje AI konesans pa pibliye materyèl edikatif, pi bon pratik, ak rechèch ki pèmèt plis moun yo devlope itil aplikasyon AI.

7. Fè disponib pou itilizasyon ki konfòm avèk prensip sa yo.

Anpil teknoloji gen plizyè itilizasyon. Nou pral travay pou limite aplikasyon potansyèlman danjere oswa abizif. Kòm nou devlope ak deplwaye teknoloji AI, nou pral evalye itilizasyon posib nan limyè de faktè sa yo:

• Objektif prensipal ak itilize: objektif prensipal la ak chans pou itilize nan yon teknoloji ak aplikasyon, ki gen ladan ki jan byen solisyon an ki gen rapò ak oswa adaptab a yon itilizasyon danjere
• Nati ak singularité: si nou ap fè disponib teknoloji ki inik oswa plis jeneralman disponib
• echèl: si wi ou non itilize nan teknoloji sa a pral gen enpak siyifikatif
• Nati patisipasyon Google la: si nou ap bay zouti pou bi jeneral, entegre zouti pou kliyan, oswa devlope solisyon koutim

Aplikasyon pou lavil Ayi nou pa pral pouswiv

Anplis de objektif ki anwo yo, nou pa pral konsepsyon oswa deplwaye AI nan domèn aplikasyon sa yo:

1. Teknoloji ki lakòz oswa ki gen plis chans lakòz domaj jeneral. Ki kote gen yon risk materyèl nan mal, nou pral kontinye sèlman kote nou kwè ke benefis yo anpil depase risk ki genyen nan, epi yo pral enkòpore kontrent sekirite ki apwopriye yo.
2. Zam oswa lòt teknoloji ki gen bi prensipal oswa aplikasyon se lakòz oswa dirèkteman fasilite blesi nan moun.
3. Teknoloji ki ranmase oswa sèvi ak enfòmasyon pou siveyans vyole nòm entènasyonalman aksepte.
4. Teknoloji ki gen objektif kontredi prensip lajman aksepte nan lwa entènasyonal ak dwa moun.

Kòm eksperyans nou nan espas sa a apwofondi, lis sa a ka evolye.

konklizyon

Nou kwè prensip sa yo se bon fondasyon pou konpayi nou an ak devlopman avni nou nan lavil Ayi. Nou rekonèt ke zòn sa a dinamik ak en, epi nou pral apwoche travay nou an avèk imilite, yon angajman pou angajman entèn ak ekstèn, ak yon volonte pou adapte apwòch nou an jan nou aprann sou tan.

Rezilta pozitif sa a pa absoud jeyan teknoloji Google de konplisite nan divès lòt domèn enkyetid, tankou sipòte ICE, lapolis ak lòt aktivite militè, totalize ak vann aksè a done prive sou moun, kache deklarasyon kontwovèsyal politik nan rezilta motè rechèch la. epi, sa ki pi enpòtan, ki pèmèt anplwaye li yo kontinye pale sou sa yo ak lòt pwoblèm san yo pa revoke pou fè sa. Mouvman rebelyon travayè Google yo rete aktif e trè angaje.

An menm tan an, li enpòtan yo rekonèt ki jan impactful travayè Google mouvman an te. Sa a te vin klè imedyatman apre manifestasyon Google yo te kòmanse: depatman maketing Pentagòn lan te sispann founi dokiman yo pou laprès nouvo sou pwojè a yon fwa-enteresan Maven, evantyèlman "disparèt" pwojè a antyèman soti nan vizibilite piblik la li te pi bonè t'ap chache. Olye de sa, yon nouvo ak pi gwo inisyativ entèlijans atifisyèl yo te kòmanse sòti nan Pentagòn lan nan trètr Komisyon Konsèy Inovasyon Defans lan.

Sa a te rele Pwojè JEDI, yon nouvo non pou Pentagòn depans sou dènye kri zam. Pwojè JEDI ta depanse plis lajan pase Pwojè Maven, men blitz piblisite pou nouvo pwojè a (wi, militè Ameriken an depanse yon anpil nan tan ak atansyon sou piblisite ak maketing) te trè diferan de yon sèl la pi bonè. Tout simagri "sexy glas la" dous ak sexy te ale. Koulye a, olye pou yo mete aksan sou enteresan ak Cinemas laterè malfoni AI ki mache ak pil dron ta ka blese sou èt imen, Pwojè JEDI eksplike tèt li kòm yon etap modere pou pi devan pou efikasite, konbine baz done plizyè nwaj yo nan lòd yo ede "warfighters" (tèm pi renmen Pentagòn lan pou ... devan-liy pèsonèl) ak back-biwo ekip sipò sipòte efikasite enfòmasyon. Ki kote Pwojè Maven te fèt yo son enteresan epi futurist, Pwojè JEDI te fèt pou son sansib ak pratik.

Pa gen anyen ki sansib oswa pratik sou tag pri a pou Pwojè JEDI. Li nan pi gwo kontra lojisyèl militè nan istwa lemonn: $ 10.5 milya dola. Anpil nan je nou glase sou lè nou tande pale de balans nan depans militè yo, epi nou ka sote sou diferans ki genyen ant milyon ak dè milya. Li esansyèl pou konprann konbyen pi gwo pwojè JEDI se pase tout inisyativ lojisyèl Pentagòn anvan yo. Li se yon changer jwèt, yon motè richès-génération, yon chèk vid pou profite nan depans kontribyab.

Li ede grate anba sifas la nan lage laprès gouvènman an lè yo ap eseye konprann yon depans militè chèk vid ki osi gwo ke $ 10.5 milya dola. Gen kèk enfòmasyon ki ka ranmase nan pwòp piblikasyon militè a, tankou yon twoublan Entèvyou Out 2019 ak sant entèlijans atifisyèl Lyetnan Jeneral Jack Shanahan, yon figi kle nan tou de disparèt Pwojè Maven ak nouvo pwojè JEDI la. Mwen te kapab jwenn plis insight nan ki jan inisans defans endistri panse sou Pwojè JEDI pa koute yon endistri defans podcast yo te rele "Pwojè 38: Future a nan Kontra Gouvènman". Envite Podcast yo souvan pale fran e san defo sou kèlkeswa sijè yo ap diskite a. "Yon anpil moun pral achte pisin nouvo ane sa a" te tipik nan chat inisye podcast sa a sou Pwojè Jedi. Nou sèten yo pral.

Isit la nan bagay la remakab ki lyen tounen ak prensip AI Google la. Evidan twa frontrunners yo pou masiv $ 10.5 milya dola kontra JEDI a ta dwe Google, Amazon ak Microsoft - nan lòd sa a, ki baze sou repitasyon yo kòm AI innovateurs. Paske nan pwotestasyon travayè yo kont Pwojè Maven nan 2018, lidè AI Google te soti nan konsiderasyon pou pi gwo pwojè JEDI nan 2019. Byen ta nan 2019, li te anonse ke kontra a te ale nan Microsoft. Yon pakèt pwoteksyon nouvèl ki te swiv, men pwoteksyon sa a konsantre sitou sou rivalite ant Amazon ak Microsoft, ak sou lefèt ke twazyèm plas Microsoft te pwobableman pèmèt yo bat 3yèm plas Amazon pou genyen an paske nan batay kontinyèl administrasyon Trump la ak Washington Post, ki posede pa Jeff Bezos Amazon la. Amazon se kounye a ale nan tribinal al goumen Pentagon a $ 2 milya dola kado bay Microsoft, ak Oracle ap rele nan tribinal tou. Remak la espesifik soti nan Pwojè a 10.5 podcast mansyone pi wo a - "Yon anpil moun ki pral achte pisin nouvo ane sa a" - refere pa sèlman nan finansye Boon Microsoft a, men tou nan tout avoka yo ki pral patisipe nan pwose sa yo. Nou kapab pwobableman fè yon devine edike ke plis pase 38% nan $ 3 milya dola Pwojè JEDI a pral ale nan avoka. Twò move nou pa ka itilize li nan ede fen grangou nan mond lan olye.

Diskisyon an sou si wi ou non transfè sa a nan lajan kontribyab nan kontraktè militè yo ta dwe benefisye Microsoft, Amazon oswa Oracle domine pwoteksyon nouvèl nan Pwojè JEDI. Mesaj la yon sèl pozitif yo dwe ranmase nan sa a grèf obsèn - lefèt ke Google te demisyone lwen pi gwo kontra a lojisyèl militè nan istwa mond paske nan pwotestasyon travayè yo - te nòmalman inègzistan nan pwoteksyon nouvèl nan Pwojè JEDI. 

Se poutèt sa li te enpòtan pou rakonte istwa sa a bay aktivis ki konsantre sou teknoloji yo ki te rasanble nan yon chanm ki gen anpil moun nan Midtown Manhattan semèn pase a pou pale sou kijan nou ka sove planèt nou an, ki jan nou ka goumen kont dezenfòmasyon ak politizasyon nan syans klima, ki jan nou ka kenbe tèt ak pouvwa a masiv nan gaz profiyab fosil ak zam profi? Nan ti chanm sa a, nou tout te sanble yo atrab dimansyon yo nan pwoblèm nan nou te fè fas a, ak wòl nan kritik nou tèt nou dwe kòmanse jwe. Kominote teknoloji a gen gwo pouvwa. Menm jan kanpay dezinyonman yo ka fè yon diferans reyèl, rebelyon travayè teknoloji ka fè yon diferans reyèl. Gen plizyè fason aktivis chanjman klima, aktivis rebelyon travayè teknoloji ak aktivis anti-anti ka kòmanse travay ansanm, e nou pral fè sa nan tout fason nou kapab.

Nou te gen yon espwa kòmanse ak rasanbleman sa a, helpfully inisye pa Disiplin Rebelyon NYC ak Mond pa ka tann. Mouvman sa a ap grandi - li dwe grandi. Abi gaz fosil se konsantre manifestan chanjman klima yo. Abi gaz fosil tou se motif pwofi prensipal enperyalis ameriken an ak yon rezilta prensipal terib nan aktivite gaspiye gonfle militè ameriken an. Vreman vre, militè ameriken an parèt sèl polye nan mond lan ki pi move. Èske travayè teknoloji yo ka itilize pouvwa òganizasyon nou an pou viktwa menm plis efè pase retrè Google a soti nan Pwojè JEDI? Nou kapab e nou dwe. Reyinyon New York City semèn pase a te jis yon ti etap pou pi devan. Nou dwe fè plis, e nou dwe bay mouvman pwotestasyon konbine nou an tout sa nou genyen.

Marc Eliot Stein se direktè teknoloji ak medya sosyal pou World BEYOND War.

Foto pa Gregory Schwedock.