“Google, Savaşın İşinde Olmamalı”: Yapay Zekanın Silahlanmasını Anlamak

Marc Eliot Stein tarafından, Haziran 8, 2018

Nisan ayının başlarında, 3100'ten fazla Google çalışanı imzaladı Mektup “Google savaş işinde olmamalı” kelimeleriyle başlar. Mektup, şirketin görsel görüntüleri yorumlamak için tasarlanmış bir “özelleştirilmiş AI gözetim motoru” olarak nitelendirdiği “Maven Projesi” adlı yeni bir ABD Savunma Bakanlığı yapay zeka programına katılımına bir cevap. uçağıve Google çalışanlarının yönetimlerine yönelik güçlü bir istekle sona erer:

“Google’ın ahlaki ve etik sorumluluğunu ve Google’ın itibarını tehdit eden tehdidi kabul ederek, sizden şunu rica ediyoruz:

1. Hemen bu projeyi iptal et

2. Ne Google’ın ne de müteahhitlerinin hiçbir zaman savaş teknolojisi kuramayacağını belirten net bir politika taslağını hazırlayın, yayınlayın ve uygulayın ”

Bu cesur protesto eylemi ve sosyal sorumluluk, açıklığı bakımından dikkat çekicidir ve savaşın korkularına katılmaya doğrudan itiraz eden az sayıda aktif bilim insanı veya işçiden biri olarak tanınmayı hak ediyor. Russell-Einstein manifestosu Savaşın kaldırılmasını ve bir dünya için ileriye giden tek yol olarak nükleer silahlarla donanmış olan 1955’in

Bu dikkat çekici mektup, onlarca Google çalışanının istifası ile birlikte, Google yönetiminin bir ay sonra gücünü açıkladı. Maven Projesi'ni yenilemeyecek Sözleşme, Mart ayındaki 2019’te tamamlandıktan sonra, Google’ın bu itibarlı yönetim kararının arkasındaki ana sebep olarak ününe karşı “tepki” olduğunu kabul etti. Bu cevap orijinal mektubun taleplerini karşılamıyor olsa da, açıkça doğru bir adım atılmış durumda ve Google çalışanının, ABD’nin ABD’ye kavuşmasıyla boğuşurken bir temel olarak protesto eylemi yapma potansiyelini gösteriyor. askeri (ve muhtemelen diğer askeri güçler de) yapay zekayı silahlandırmak için hızla hareket ediyorlar.

World BEYOND War Google çalışanlarına teşekkür etmek için yeni bir dilekçe yayınladı. Onlara sadece cesaretlerinden dolayı teşekkür etmemeliyiz, ayrıca her biri bu yeni teknoloji biçiminin sonuçları ve kendisinin kullanımının en kötü durum senaryolarından kaçınmak için ortak sorumluluğumuz hakkında kendimiz için çok düşünmesi gerekir.

Bu en kötü durum senaryolarını hayal etmenin en iyi yolu, yapay zekanın zaten günlük hayatımıza dokunduğu iki kabiliyetin militarizasyonu hakkında düşünmektir: yüz tanıma ve sürücüsüz araçlar. Bildiğiniz gibi, Facebook'ta hiç bir fotoğraf etiketlediyseniz, yapay zeka algoritmasıyla kolayca ve hemen tanımlanabileceğiniz bir noktaya ulaştı. “Güvenlik kameraları” da tüm dünyada artmıştır, aniden bilinmeyen organizasyonlara iznimiz, bilgimiz veya kontrolümüz olmadan bilgilerimizi içeren “kimlik veritabanları” ile yüzleri bir araya getirme ve eşleştirme özelliğini kontrol etmeme olanağı sağlar.

Sürücüsüz araçların teknolojisi, kamusal ortak alanlar adına az katılım veya farkındalık ile de ilerlemiştir. Sürücüsüz bir otomobilde ilk ölüm, bir Tesla'nın bir kamyona çarpması sırasında 2016'taydı. Sürücüsüz bir araç tarafından öldürülen ilk yaya davası sadece üç ay önceydiMart 2018’ta, özerk bir Über Arizona’da sokağı geçen bir kadını vurduğunda.

Bu gerçekler, Google mektubunun ardındaki aciliyeti, kar, rekabet ve hissedar değerinin takıntılı olduğu bir teknoloji endüstrisini yansıtmaktadır. İşte dünyamızın şu anda içinde bulunduğu ikilemin ve şu an karşı karşıya olduğumuz sert sonuçların tam bir resmini elde etmek için anlaşılması gereken diğer bazı noktalar.

Proje Maven küçük bir projedir. JEDI daha büyük projedir.

Google mektubu, şirketin şimdi yenilenmeyeceğini söylediği Maven Projesi'ne dikkat çekti. Daha da önemlisi, mektupta, bu konuya devam etmenin ana odağı olması gereken, JEDI (Ortak İşletme Savunma Altyapısı) adlı daha büyük bir ABD Savunma Bakanlığı projesinin varlığına dikkat edildi. Bu gizli proje hakkında kamuya açık çok az bilgi var, ancak kapsamı hem yapay zekayı hem de bulut bilişimi içeriyor; bu da büyük hesaplama gücü ve ölçeklenebilirliğin yanı sıra coğrafi ve bireysel kişisel bilgiler içeren dipsiz bir veri tabanına erişim anlamına geliyor.

Çoğu askeri teknoloji projesinde olduğu gibi, JEDI bunun için ödeme yapan vergi mükellefleri tarafından bile görülebilmemektedir, ancak bu büyük ve pahalı proje hakkındaki bilgilerin halka açıklanacağını ummalıyız. Açıkça “Yıldız Savaşları” diye adlandırılan bir proje adının aşikâr seçimi, Savunma Bakanlığının bu projeyi, ihtişamlı bir ihtişam ve kendini beğenme düzeyi ile gördüğünü öne sürüyor. Yoda etkilenmezdi.

Google çalışanları konuştu. Amazon ve Microsoft çalışanları nerede?

3100 + Google çalışanları tarafından imzalanan mektup, diğer şirketleri ada göre çağırır:

“Microsoft ve Amazon gibi diğer firmaların da katıldığı argümanı, Google için daha az riskli hale getirmiyor.”

Gerçekten de, çok karlı bir bulut bilişim alanında, Amazon, Google'dan bile daha büyük. Çoğu insan Amazon'u dünyanın en büyük çevrimiçi mağazası olarak görse de, yazılım geliştiricileri ve teknoloji uzmanları tamamen farklı bir Amazon biliyor. Bu şirket, hem küçük hem de büyük kuruluşların sunucu özelliklerini hızlı ve kolay bir şekilde satın almalarını ve kullanmalarını sağlayan, bulut bilişimde dünyaya liderlik ediyor. On yıl önce, çoğu şirket kendi sunucularını yönetti. Bugün çoğu şirket Amazon'dan sunucu kiralıyor. Hükümet ve askeri kuruluşlar, gelişmiş yapay zeka ve veritabanı yetenekleri de dahil olmak üzere Amazon'un bulut hizmetlerine güvenenler arasındadır. Amazon çalışanlarının Google'daki meslektaşlarından ilham alacaklarını ve yaptıkları işin sosyal sonuçları hakkında kamuoyunda konuşmaya başlayacaklarını ummalıyız. Amazon'un herhangi bir çalışanı, Google arkadaşlarının da olduğu gibi “Amazon'un savaş işinde olmaması gerektiğini” beyan eder mi?

Google ve Amazon gibi şirketler açık kaynak toplulukları için benzersiz bir bağlılığa sahiptir.

Tüm şirketler birbirine benzemiyor ve aslında Google'ın “Kötü Olmama” konusundaki meşhur kendine özgü kuralı, Google çalışanı olamayabilen ancak Google gibi açık kaynaklı kütüphanelere katkıda bulunan ve etkileşime giren sayısız açık kaynak geliştiricisi tarafından ciddiye alındı. TensorFlow, derin öğrenme yetenekleri sağlar.

Bu, Google çalışanları mektubunun küresel açık kaynak geliştiricileri topluluğuna böyle bir şok dalgası olmasının bir nedenidir. Raytheon veya General Dynamics gibi geleneksel bir askeri müteahhit, tüm çalışmalarını özel olarak yürütürken, TensorFlow gibi yapay zeka kütüphaneleri, şirketler ve kamu ortakları arasındaki benzersiz işbirlikleridir. Küresel açık kaynak kodlu yazılım topluluğu, tüm İnternet'in gelişmesi ve sağlıklı büyümesi için ayrılmaz bir rol oynadı ve bu topluluk her zaman açık bir sosyal sorumluluk duygusuna sahipti. Çalışanlar “Google savaş alanında olmamalıdır” derken, yalnızca Google çalışanları için değil, projelerine katkıda bulunan uluslararası açık kaynak geliştiricileri topluluğu için de konuşuyorlar.

Silahlı AI artık sadece ABD'de değil, bir gerçektir.

Silahlı yapay zeka yaşının sadece Amerika Birleşik Devletleri'nde değil, üzerimizde olduğu konusunda bizi uyarması için 3100 Google çalışanlarından bir mektuba ihtiyacımız olmamalıydı. ABD'de, bu kaçınılmaz olarak, silahlı AI alanında diğer ülkelerin ne yaptığı hakkında artan bir halk korkusu ve histeri ile sonuçlanacaktır. Dünyanın her yerindeki askeri vurguncular kesinlikle bu silahlanma yarışına güveniyorlar. Bu, içinde bulunduğumuz durumun korkunç gerçeğidir.

Aklı başında tek cevap, savaşın kaldırılması.

Bertrand Russell, Albert Einstein ve diğerleri tarafından 1955’ta imzalanan nükleer yayılmaya ilişkin manifesto, bizi hala çeken bir cevaba işaret etti. Korku tarafından tutulan ve patlamaya hazır olan bir dünya için akıl sağlığına giden tek yol savaşın kaldırılmasıdır. Bu, 1955'te tamamen açıktı, ancak zamanın liderleri bu umudu yerine getiremedi.

63 yıl sonra bugün, savaşın yalnızca daha fazla savaş getirdiğini ve teknolojik gelişmelerin tehlikeyi artırmaya devam edeceğini her zamankinden daha net görüyoruz. Büyük gerçek zamanlı veritabanlarına bağlı ve insanları kovalayan son teknoloji yapay zeka yetenekleriyle donatılmış katil dronların rahatsız edici vizyonu artık geleceğin bir vizyonu değil (tıpkı korkutucu "Metalhead" bölümünde olduğu gibi. Sadece geçen yıl yayınlanan “Black Mirror”). Bu mide bulandırıcı vizyonu gerçeğe dönüştürmek için tüm parçalar yerinde ve 3100'den fazla Google çalışanının cesur eylemi, ahlaki bir standardı sürdürme sözü veren bazı şirketlerin bile bu geleceğe doğru tam hızla ilerlediğini bize gösterdi. kimsenin istemediği. Bahisler yine yükseldi. Sorumluluk hepimize - sadece Google çalışanlarına değil, sadece yazılım geliştiricilerine değil, hepimize - dünyanın gördüğü en kötü sorunu çözmek ve savaşın tamamen ortadan kaldırılması için çalışmak.