Yapay Ahlak

Yazan Robert C. Koehler, 14 Mart 2019

Yapay Zeka bir şeydir. Yapay ahlak başka bir şeydir. Kulağa şöyle bir şey gelebilir:

"Öncelikle ABD'nin güçlü savunmasına inanıyoruz ve onu savunan kişilerin, Microsoft dahil olmak üzere ülkenin en iyi teknolojisine erişmesini istiyoruz."

Bunlar Microsoft başkanının sözleri Brad Smith, geçen sonbaharda kurumsal bir blogda şirketin ABD Ordusu ile savaşta kullanılmak üzere artırılmış gerçeklik kulaklıkları üretmeye yönelik 479 milyon dolar değerindeki yeni sözleşmesini savunmak için yazıyor. Savunma Bakanlığı'ndan bir yetkiliye göre, Entegre Görsel Büyütme Sistemi veya IVAS olarak bilinen kulaklıklar, ordu düşmanla çatışmaya girdiğinde "ölümcüllüğü artırmanın" bir yolu. Microsoft'un bu programa katılımı şirket çalışanları arasında bir öfke dalgasına yol açtı; yüzden fazla çalışan, şirketin üst düzey yöneticilerine sözleşmenin iptal edilmesini talep eden bir mektup imzaladı.

“Biz küresel bir koalisyonuz. Microsoft çalışanlarıve savaş ve baskıya yönelik teknoloji yaratmayı reddediyoruz. Microsoft'un ABD Ordusuna silah teknolojisi sağlamaya çalışarak, bir ülkenin hükümetinin kendi geliştirdiğimiz araçları kullanarak 'ölümcüllüğü artırmasına' yardımcı olmasından endişe duyuyoruz. Silah geliştirmek için kaydolmadık ve çalışmalarımızın nasıl kullanılacağı konusunda söz hakkı talep ediyoruz.”

Vay, vicdan ve umut sözleri. Tüm bunların içindeki daha derin hikaye, sıradan insanların geleceği şekillendirmek için güçlerini kullanmaları ve onun ölümcüllüğünü artırmayı reddetmeleridir.

Mektup şöyle devam ediyor: Bu sözleşmeyle Microsoft "silah geliştirmede çizgiyi aştı. . . . HoloLens'in IVAS sistemi içindeki uygulaması, insanların öldürülmesine yardımcı olmak için tasarlanmıştır. Savaş alanında konuşlandırılacak ve savaşı simüle edilmiş bir 'video oyununa' dönüştürerek çalışacak ve askerleri savaşın korkunç risklerinden ve kan dökülmesinin gerçekliğinden daha da uzaklaştıracak.”

Bu isyan, Smith'in "güçlü bir savunmaya" inandığını söylerken yanıt verdiği şeydi; büyük şirketlerin veya en azından bu büyük şirketin kararlarını yönlendiren şeyin paradan ziyade ahlaki klişeler olduğunu ima ediyordu. Her nasılsa, düşünceli ve derinlemesine düşünülmüş olarak aktarmaya çalıştığı sözleri, neredeyse yarım milyar dolar değerindeki bir savunma sözleşmesiyle yan yana getirildiğinde ikna edici değil.

Smith, ordu dahil hiçbir kurumun mükemmel olmadığını kabul ederek şöyle devam ediyor: "Bir şey açık. Milyonlarca Amerikalı önemli ve adil savaşlarda görev yaptı ve savaştı”, Amerika'nın artan ölümcüllüğünün köleleri serbest bıraktığı ve Avrupa'yı özgürleştirdiği İç Savaş ve II. Dünya Savaşı gibi övülen eskileri özenle seçiyordu.

Şaşırtıcı bir şekilde, blog gönderisinin tonu çalışanlara karşı kibirli değil - size söyleneni yapın ya da kovulursunuz - daha ziyade yumuşak bir şekilde yatıştırıcı, buradaki gücün üst düzey yöneticilerde yoğunlaşmadığını gösteriyor gibi görünüyor. yönetmek. Microsoft esnektir: "Her zaman olduğu gibi, çalışanlarımız hangi nedenle olursa olsun farklı bir projede veya ekipte çalışmak isterse, yetenek hareketliliğini desteklediğimizi bilmelerini istiyoruz."

Mektubu imzalayan çalışanlar Savunma sözleşmesinin iptalini talep etti. Smith kişisel vicdanlarına bir çıkış yolu sundu: Hadi, çizgiyi aşıp silah geliştirme üzerinde çalışmak istemiyorsanız başka bir takıma katılın. Microsoft, çeşitli ahlaki inançlara sahip çalışanlarını onurlandırıyor!

Yapay Zeka, oldukça karmaşık düşünmeyi gerektiren ileri teknolojiye sahip bir olgudur. Yapay ahlak, paraya kölelik konusundaki en yakın klişenin arkasına saklanıyor.

Burada gördüğüm şey, sosyopolitik çekişme için çabalayan ahlaki uyanış: Çalışanlar salt kişisel çıkarlardan daha büyük bir şeyi temsil ediyorlar, bu süreçte Büyük Teknoloji üst düzey yöneticilerini sonsuz bir sermaye akışına olan ihtiyaçlarının ötesinde düşünmeye itiyorlar, sonuçları kahrolsun.

Bu ülke genelinde yaşanıyor. Bir hareket süzülüyor: Teknoloji bunu inşa etmeyecek!

“Teknoloji endüstrisi genelinde” New York Times Ekim ayında bildirildiğine göre, "tabandan çalışanlar, şirketlerinin kendi oluşturdukları teknolojiyi nasıl kullandıklarına dair daha fazla bilgi talep ediyorlar. Google, Amazon, Microsoft ve Salesforce'un yanı sıra yeni teknoloji şirketlerinde mühendisler ve teknoloji uzmanları, üzerinde çalıştıkları ürünlerin Çin gibi yerlerde gözetim amacıyla mı, yoksa Amerika Birleşik Devletleri veya başka yerlerdeki askeri projeler için mi kullanıldığını giderek daha fazla soruyorlar. .

"Bu, Silikon Vadisi çalışanlarının genellikle sosyal maliyetler hakkında çok az sorgulamayla ürünler geliştirdiği geçmişe göre bir değişiklik."

Ya ahlaki düşünce - kitaplarda ve felsefi broşürlerde değil de gerçek dünyada, hem kurumsal hem de politik olarak - teknik düşünce kadar geniş ve karmaşık olsaydı? Artık adil savaş klişesinin arkasına saklanamaz (ve hazırlandığımız bir sonraki savaş kesinlikle adil olacaktır), ancak savaşın kendisini - son 70 yıldakiler de dahil olmak üzere tüm savaşları - değerlendirmek zorunda kalacaktı. tüm maliyetleri ve sonuçlarıyla birlikte, bugün aldığımız kararlara bağlı olarak nasıl bir gelecek yaratabileceğimizi de dört gözle bekliyoruz. Karmaşık ahlaki düşünce, şu anda finansal veya başka türlü hayatta kalma ihtiyacını göz ardı etmez, ancak bu ihtiyaç karşısında sakin kalır ve hayatta kalmayı rekabetçi değil kolektif bir girişim olarak görür.

Ahlaki karmaşıklığa barış denir. Basit barış diye bir şey yoktur.

Robert Koehler PeaceVoiceChicago ödüllü bir gazeteci ve editördür. Kitabı, Cesaret Yarasında Güçlü Büyüyor. Adresinden ona ulaşın koehlercw@gmail.com ya da web sitesi ziyaret commonwonders.com.