Yazan Marc Eliot Stein, 10 Şubat 2020

Kısa süre önce New York'taki bir Yok Olma İsyanı toplantısında konuşmaya davet edildim World BEYOND War. Etkinlik, üç eylem grubunu bir araya getirmek için tasarlandı: iklim değişikliği aktivistleri, teknoloji çalışanları kolektifleri ve savaş karşıtı aktivistler. İklim değişikliği aktivisti Ha Vu'nun heyecan verici bir kişisel hesabıyla başladık, New York'luların kalabalığına şimdiye kadar sahip olduğumuz endişe verici bir deneyimi anlattı: Vietnam'ın Hanoi'deki ailesinin evine dönüyoruz. artan ısı yoğun güneş saatlerinde dışarı çıkmayı neredeyse imkansız hale getirdi. Birkaç Amerikalı da 2016 su kirliliği felaketi Vietnam merkezindeki Ha Tinh. İklim değişikliğinin ABD'de potansiyel bir sorun olarak sık sık konuştuğumuzu vurgulayan Ha, Vietnam'da bunun yaşamları ve geçim kaynaklarını zaten bozduğunu ve hızla kötüleştiğini görebiliyor.

Nick Mottern KnowDrones.org ABD ordusunun fütüristik yapay zeka ve bulut bilişimine yaptığı son büyük yatırım hakkında benzer bir aciliyetle konuştu ve ordunun, nükleer silah yönetimi ve drone savaşında AI sistemlerinin konuşlandırılmasının kaçınılmaz olarak öngörülemeyen boyutlarda hatalara yol açacağına dair kendi sonucunu vurguladı. Extinction Rebellion NYC'den William Beckler, iklim değişikliğinin kritik önemi konusunda farkındalık yaratmak için tasarlanmış yıkıcı eylemler de dahil olmak üzere bu önemli ve hızlı büyüyen kuruluşun eyleme geçirdiği organizasyon ilkelerini açıkladı. Bir New York City temsilcisinden duyduk Teknoloji İşçileri Koalisyonuve beklenmedik bir şekilde başarılı olan bir teknoloji işçisi isyanı eyleminden bahsederek toplantıyı pratik bir güçlendirme hissine doğru döndürmeye çalıştım.

Bu, Nisan 2018'de, sözde “savunma endüstrisi”, insansız hava araçları ve diğer silah sistemleri için yapay zeka yetenekleri geliştirmek için son derece halka açık yeni bir ABD askeri girişimi olan Project Maven hakkında vızıldandığı zamandı. Google, Amazon ve Microsoft'un tamamı, ödeme yapan müşteriler için hazır yapay zeka platformları sunuyor ve Google, Project Maven askeri sözleşmesinin muhtemel galibi olarak görülüyordu.

2018'in başlarında, Google çalışanları konuşmaya başladı. Onları “Kötülük Etme” sözü ile işe alan bir şirketin neden yapay zeka ile çalışan mekanik köpeklerin insanı avladığı “Kara Ayna” nın korkunç bölümüne benzeyen askeri projelere neden teklif verdiğini anlamadılar. ölümüne neden olan varlıklar. Sosyal medyada ve geleneksel haber kuruluşlarında konuştular. Eylemler düzenlediler ve dilekçeleri dağıttılar ve kendilerini duyurdular.

Bu işçi isyanı, Google Workers İsyanı hareketinin oluşumuydu ve diğer teknoloji çalışanları kolektiflerinin önyüklenmesine yardımcı oldu. Ancak Project Maven'e yönelik dahili Google protestosuyla ilgili en şaşırtıcı şey, teknoloji çalışanlarının konuşması değildi. En şaşırtıcı şey şu ki Google yönetimi çalışanların taleplerini karşıladı.

İki yıl sonra, bu gerçek hala beni hayrete düşürüyor. On yıllar boyunca teknoloji işçisi olarak birçok etik sorun gördüm, ancak nadiren büyük bir şirketin etik sorunları önemli ölçüde ele almayı kategorik olarak kabul ettiğini gördüm. Google'ın Project Maven'e karşı isyanının sonucu, burada tam olarak yeniden yazdırılmaya değer bir dizi AI ilkesinin yayınlanmasıydı:

Google'da Yapay Zeka: İlkelerimiz

Google, önemli sorunları çözen ve günlük yaşamlarında insanlara yardımcı olan teknolojiler yaratmayı hedeflemektedir. Yapay zeka ve diğer gelişmiş teknolojilerin insanları güçlendirmesi, şimdiki ve gelecek nesillere geniş çapta fayda sağlaması ve ortak fayda için çalışması konusunda inanılmaz bir iyimseriz.

AI uygulamaları için hedefler

AI uygulamalarını aşağıdaki hedefler doğrultusunda değerlendireceğiz. AI'nın şunları yapması gerektiğine inanıyoruz:

1. Sosyal açıdan faydalı olun.

Yeni teknolojilerin genişletilmiş kapsamı topluma bir bütün olarak giderek daha fazla dokunmaktadır. Yapay zekadaki ilerlemelerin sağlık, güvenlik, enerji, ulaşım, üretim ve eğlence gibi çok çeşitli alanlarda dönüştürücü etkileri olacaktır. Yapay zeka teknolojilerinin potansiyel gelişimini ve kullanımlarını göz önüne aldığımızda, çok çeşitli sosyal ve ekonomik faktörleri dikkate alacağız ve genel olarak olası faydaların öngörülebilir riskleri ve dezavantajları önemli ölçüde aştığına inandığımız yerde ilerleyeceğiz.

Yapay zeka ayrıca içeriğin anlamını anlamsal olarak anlama yeteneğimizi de geliştirir. Faaliyet gösterdiğimiz ülkelerdeki kültürel, sosyal ve yasal normlara saygı göstermeye devam ederken, AI kullanarak yüksek kaliteli ve doğru bilgileri kolayca sunmaya çalışacağız. Ve teknolojilerimizi ne zaman ticari olmayan bir temelde sunacağımızı düşünceli bir şekilde değerlendirmeye devam edeceğiz.

2. Haksız önyargı oluşturmaktan veya pekiştirmekten kaçının.

AI algoritmaları ve veri kümeleri haksız önyargıları yansıtabilir, güçlendirebilir veya azaltabilir. Adil olanı haksız önyargılardan ayırt etmenin her zaman basit olmadığını ve kültürler ve toplumlar arasında farklılık gösterdiğini biliyoruz. İnsanlar üzerinde, özellikle ırk, etnik köken, cinsiyet, uyruk, gelir, cinsel yönelim, yetenek ve siyasi veya dini inanç gibi hassas özellikler ile ilgili haksız etkilerden kaçınmaya çalışacağız.

3. Güvenlik için inşa edilmiş ve test edilmiştir.

Zarar riski yaratan istenmeyen sonuçlardan kaçınmak için güçlü güvenlik ve güvenlik uygulamaları geliştirmeye ve uygulamaya devam edeceğiz. Yapay zeka sistemlerimizi uygun şekilde temkinli olacak şekilde tasarlayacağız ve AI güvenlik araştırmalarındaki en iyi uygulamalara uygun olarak geliştirmeye çalışacağız. Uygun durumlarda, AI teknolojilerini kısıtlı ortamlarda test edeceğiz ve dağıtımdan sonra çalışmalarını izleyeceğiz.

4. İnsanlara karşı hesap verebilir olun.

Geri bildirim, ilgili açıklamalar ve itiraz için uygun fırsatlar sunan AI sistemleri tasarlayacağız. Yapay zeka teknolojilerimiz uygun insan yönüne ve kontrolüne tabi olacaktır.

5. Gizlilik tasarım ilkelerini dahil edin.

Gizlilik ilkelerimizi AI teknolojilerimizin geliştirilmesi ve kullanımına dahil edeceğiz. Bildirim ve izin verme, mimarileri gizlilik önlemleri ile teşvik etme ve veri kullanımı üzerinde uygun şeffaflık ve kontrol sağlama fırsatı vereceğiz.

6. Yüksek bilimsel mükemmellik standartlarını koruyun.

Teknolojik yenilik, bilimsel yönteme ve açık sorgulamaya, entelektüel titizliğe, bütünlüğe ve işbirliğine bağlılıktan kaynaklanır. Yapay zeka araçları, biyoloji, kimya, tıp ve çevre bilimleri gibi kritik alanlarda yeni bilimsel araştırma ve bilgi alanlarının kilidini açma potansiyeline sahiptir. Yapay zeka gelişimini ilerletmeye çalışırken yüksek bilimsel mükemmellik standartlarını hedefliyoruz.

Bilimsel açıdan titiz ve çok disiplinli yaklaşımlardan faydalanarak bu alanda düşünceli liderliği teşvik etmek için bir dizi paydaşla birlikte çalışacağız. Ve daha fazla insanın yararlı AI uygulamaları geliştirmesini sağlayan eğitim materyalleri, en iyi uygulamalar ve araştırmalar yayınlayarak AI bilgisini sorumlu bir şekilde paylaşacağız.

7. Bu ilkelere uygun kullanımlar için hazır bulundurulmalıdır.

Birçok teknolojinin birden fazla kullanımı vardır. Potansiyel olarak zararlı veya küfürlü uygulamaları sınırlamak için çalışacağız. AI teknolojilerini geliştirip dağıtırken, olası kullanımları aşağıdaki faktörler ışığında değerlendireceğiz:

• Birincil amaç ve kullanım: çözümün zararlı kullanımla ne kadar yakından ilişkili olduğu veya ne kadar uyarlanabilir olduğu da dahil olmak üzere, bir teknoloji ve uygulamanın birincil amacı ve olası kullanımı
• Doğa ve teklik: benzersiz veya daha genel olarak ulaşılabilir teknolojiyi kullanıp kullanmadığımızı
• ölçek: Bu teknolojinin kullanımının önemli bir etkisi olup olmayacağı
• Google'ın katılımının doğası: ister genel amaçlı araçlar sağlıyoruz, müşteriler için araçlar entegre ediyoruz ister özel çözümler geliştiriyoruz

İzlemeyeceğimiz AI uygulamaları

Yukarıdaki hedeflere ek olarak, AI'yı aşağıdaki uygulama alanlarında tasarlamayacak veya kullanmayacağız:

1. Genel zarara neden olan veya muhtemel zarar veren teknolojiler. Maddi bir zarar riski olduğunda, yalnızca faydaların risklerden önemli ölçüde daha ağır bastığına inandığımız ve uygun güvenlik kısıtlamalarını içereceğimiz sürece devam edeceğiz.
2. Asıl amacı veya uygulaması insanların yaralanmasına neden olmak veya onları doğrudan kolaylaştırmak olan silahlar veya diğer teknolojiler.
3. Uluslararası kabul görmüş normları ihlal eden gözetim için bilgi toplayan veya kullanan teknolojiler.
4. Amacı, uluslararası hukuk ve insan haklarının geniş kabul gören ilkelerine aykırı teknolojiler.

Bu alandaki deneyimimiz derinleştikçe, bu liste gelişebilir.

Sonuç

Bu ilkelerin şirketimiz ve gelecekteki yapay zeka gelişimimiz için doğru temel olduğuna inanıyoruz. Bu alanın dinamik ve gelişmekte olduğunu kabul ediyoruz ve çalışmalarımıza alçakgönüllülük, iç ve dış katılım taahhüdü ve zaman içinde öğrendikçe yaklaşımımızı adapte etme isteğiyle yaklaşacağız.

Bu olumlu sonuç, teknoloji devi Google'ı, ICE, polis ve diğer askeri faaliyetleri destekleme, bireylerle ilgili özel verilere erişimi toplama ve satma, arama motoru sonuçlarından tartışmalı siyasi beyanları gizleme gibi diğer önemli endişe alanlarındaki suçlardan kurtarmaz. ve en önemlisi, çalışanlarının bu ve diğer konular hakkında işten çıkarılmadan konuşmaya devam etmelerine izin vermek. Google işçi isyanı hareketi aktif ve son derece meşgul.

Aynı zamanda, Google işçi hareketinin ne kadar etkili olduğunu bilmek de önemlidir. Bu, Google protestoları başladıktan hemen sonra netleşti: Pentagon'un pazarlama departmanları, bir zamanlar heyecan verici Project Maven hakkında yeni basın bültenleri yayınlamayı durdurdu, sonunda projeyi daha önce istediği kamu görünürlüğünden “ortadan kaldırdı”. Bunun yerine, Pentagon'un sinsi olanından yeni ve çok daha büyük bir yapay zeka girişimi ortaya çıkmaya başladı Savunma İnovasyon Kurulu.

Buna denirdi JEDI ProjesiPentagon'un son teknoloji silahlara harcadığı yeni isim. JEDI Projesi, Project Maven'den çok daha fazla para harcayacaktı, ancak yeni proje için tanıtım patlaması (evet, ABD ordusu bir çok tanıtım ve pazarlama konusundaki zaman ve ilgi) öncekinden çok farklıydı. Şık ve seksi “Kara Ayna” görüntülerinin hepsi gitmişti. Şimdi, yapay zeka destekli dronların insanlara verebileceği heyecan verici ve sinematik distopik korkuları vurgulamak yerine, JEDI Projesi, “savaşçıların” (Pentagon'un en sevdiği terim) yardımcı olmak için çeşitli bulut veritabanlarını birleştirerek verimlilik için ayık bir adım olarak açıkladı. ön hat personeli) ve arka ofis destek ekipleri bilgi etkinliğini en üst düzeye çıkarır. Project Maven'in heyecan verici ve fütüristik gelmesi için tasarlandığı Project JEDI, mantıklı ve pratik gelmek için tasarlandı.

Project JEDI'nin fiyat etiketi hakkında makul veya pratik bir şey yoktur. Dünya tarihindeki en büyük askeri yazılım sözleşmesi: 10.5 milyar dolar. Askeri harcamaların ölçeklerini duyduğumuzda gözlerimizin çoğu parlıyor ve milyonlarca ve milyarlarca arasındaki farkı atlayabiliriz. Project JEDI'nin önceki Pentagon yazılım girişimlerinden ne kadar daha büyük olduğunu anlamak çok önemlidir. Bu bir oyun değiştirici, servet üreten bir motor, vergi mükellefi masraflarında vurgunculuk için boş bir çek.

10.5 milyar dolarlık bir askeri harcama boş çekini anlamaya çalışırken, hükümetin basın bültenlerinin yüzeyini kazımaya yardımcı oluyor. Rahatsız edici bir bilgi gibi, ordunun kendi yayınlarından bazı bilgiler toplanabilir. Ağustos 2019 Ortak Yapay Zeka Merkezi Korgeneral Jack Shanahan ile röportajhem Kaybolan Proje Maven'in hem de yeni JEDI Projesinin kilit figürlerinden biri. Savunma endüstrisi kullanıcılarının proje JEDI hakkında nasıl düşündükleri hakkında daha fazla bilgi edinebildim. “Proje 38: Devlet Sözleşmesinin Geleceği”. Podcast konukları genellikle tartıştıkları konu hakkında samimi ve utanmazca konuşurlar. Bu podcast'in JEDI Projesi ile ilgili içeriden yapılan sohbeti “Bu yıl birçok insan yeni yüzme havuzları satın alacak”. Olacaklarından eminiz.

İşte Google'ın yapay zeka ilkelerine geri dönen dikkate değer şey. 10.5 milyar dolarlık devasa JEDI sözleşmesinin önde gelen üç öncüsü, bu sırayla, AI yenilikçileri olarak itibarlarına göre Google, Amazon ve Microsoft olurdu. İşçilerin 2018'de Project Maven'i protesto etmesi nedeniyle, AI lideri Google, 2019'daki çok daha büyük Proje JEDI'yi dikkate almadı. 2019'un sonlarında sözleşmenin Microsoft'a gittiği açıklandı. Bunu bir haber telaşı takip etti, ancak bu haber esas olarak Amazon ve Microsoft arasındaki rekabete odaklandı ve Trump yönetiminin Washington Post ile devam eden savaşları nedeniyle Microsoft'un galibiyet için muhtemelen 3. sıradaki Amazon'u yenmesine izin verildiği gerçeğine odaklandı. Amazon'dan Jeff Bezos'a ait. Amazon şimdi Pentagon'un Microsoft'a verdiği 2 milyar dolarlık hediyeyle mücadele etmek için mahkemeye gidiyor ve Oracle da dava açıyor. Yukarıda bahsedilen Project 10.5 podcast'inden özel bir açıklama - "Bu yıl birçok insan yeni yüzme havuzları satın alacak" - yalnızca Microsoft'un mali nimetine değil, aynı zamanda bu davalara katılacak tüm avukatlara da atıfta bulundu. Muhtemelen, JEDI Projesi'nin 38 milyar dolarının% 3'ünden fazlasının avukatlara gideceğine dair bilgiye dayalı bir tahminde bulunabiliriz. Çok kötü, yardım etmek için kullanamıyoruz son dünya açlığı yerine.

Mükellef parasının askeri yüklenicilere transferinin Microsoft'a, Amazon'a veya Oracle'a fayda sağlayıp sağlamayacağı konusundaki anlaşmazlık, JEDI Projesi'nin haber kapsamına hakim oldu. Bu müstehcen greftten alınacak tek olumlu mesaj - Google'ın, işçilerin protestosu nedeniyle dünya tarihindeki en büyük askeri yazılım sözleşmesinden uzaklaştığı gerçeği - JEDI Projesi'nin haberlerde neredeyse hiç yok. 

Bu yüzden, geçen hafta Manhattan şehir merkezindeki kalabalık bir odada toplanan teknoloji odaklı aktivistlere bu hikayeyi anlatmak, gezegenimizi nasıl kurtarabileceğimizi, iklim biliminin dezenfeksiyonuna ve politikleşmesine karşı nasıl savaşabileceğimizi, fosil yakıt vurguncularının ve silah vurguncularının muazzam gücüne nasıl dayanabiliriz. Bu küçük odada hepimiz karşı karşıya olduğumuz sorunun boyutlarını ve kendimizin kritik rolünü oynamaya başlamamız gerekiyor gibiydi. Teknoloji camiası önemli bir güce sahiptir. Nasıl elden çıkarma kampanyaları gerçek bir fark yaratabilirse, teknoloji çalışanları isyanları da gerçek bir fark yaratabilir. İklim değişikliği aktivistleri, teknoloji işçileri isyan aktivistleri ve savaş karşıtı aktivistler birlikte çalışmaya başlamanın birçok yolu var ve bunu elimizden gelen her şekilde yapacağız.

Bu toplantıya umutlu bir başlangıç ​​yaptık. Yok olma İsyanı NYC ve Dünya bekleyemez. Bu hareket büyüyecek - büyümesi gerekiyor. Fosil yakıt kullanımı, iklim değişikliği protestocularının odak noktasıdır. Fosil yakıt suistimali aynı zamanda hem ABD emperyalizminin birincil kâr nedeni hem de şişirilmiş ABD ordusunun savurgan faaliyetlerinin birincil korkunç sonucudur. Nitekim ABD ordusu, dünyanın en kötü kirleticisi. Teknoloji çalışanları, organizasyon gücümüzü zaferler için Google'ın Project JEDI'den çekilmesinden daha etkili kullanabilir mi? Yapabiliriz ve yapmalıyız. Geçen haftanın New York City toplantısı ileride sadece küçük bir adımdı. Daha fazlasını yapmalıyız ve sahip olduğumuz her şeyi kombine protesto hareketimize vermeliyiz.

Marc Eliot Stein, teknoloji ve sosyal medya direktörüdür. World BEYOND War.

Fotoğrafı çeken Gregory Schwedock.