Marc Eliot Stein tarafından, World BEYOND War, 31 Temmuz 2023
Bu, Bölüm 50'nin tam bir kopyasıdır. World BEYOND War: yeni bir podcast.
Temmuz, 2023'ün sıcak yazı. Kim olduğumu biliyorsunuz, ben Marc Eliot Stein, teknoloji direktörü. World Beyond War, hala burada Brooklyn New York'un Lanape topraklarında, burada hala doğru olanı yapıyor World Beyond War podcast, Ancak bugün özel çünkü bu bölüm 50, vay yuvarlak bir sayı.
Bu podcast'e başladığımda, sanırım 50 bölüme ulaşıp ulaşamayacağımı hiç düşünmemiştim. 50 sayısı o zamanlar kesinlikle gerçekçi görünmüyordu. Sanırım esas olarak 1 numaralı bölümü tamamlayıp tamamlamayacağımı merak ediyordum ve benden önce pes etmekle ilgili birkaç yakın çağrı oldu.
Ve burada 50 yaşındayım ve bu savaş karşıtı podcast'i gerçekten nasıl çalıştıracağımızı anladığımızı ve her ay büyüyen bir izleyici kitlesi bulduğumuzu fark etmek ne kadar keyifli bir şey. Bu podcast ile çok gurur duyuyorum ve şimdiye kadar bunun bir parçası olan herkese minnettarım.
Podcasting, benzersiz bir yaratıcı biçimdir. Başka hiçbir şeye benzemiyor. Bunu biliyorum çünkü ben de bir podcast bağımlısıyım. Tarih, politika, teknoloji, müzik, edebiyat, TV, filmler hakkında gerçekten önemsediğim en az 20 düzenli programım var. Aynı anda bilgimi genişletme ve rahatlama havasında olduğumda, gerçekten bir podcast'in yaptığı gibi vuran başka bir format yok. Bunun önemli bir ayrım olduğunu düşünüyorum: bir sunucu ve bir konuğu bir web seminerine veya canlı yayınlanan bir sohbete koyun ve tek tür bir konuşma yapacaklar, ancak aynı iki kişiyi bir podcast röportajına koyarsanız, bir şekilde onlar Farklı türde bir konuşma yapacağım - muhtemelen daha kişisel, daha spontane, daha başıboş, daha çok anda, daha az bir sonuca varmak için tasarlanmış.
Tam olarak neden bu? Bilmiyorum ama merhum medya ve teknoloji filozofu Marshall McLuhan 1964'te televizyonun yeni popülaritesinin modern toplumu ne kadar hızlı değiştirdiği hakkında bir şeyler yazdı ve haklıydı. Araç, dedi McLuhan, mesajdır. Biçim içeriktir.
Örneğin, aynı kelimeleri Facebook'ta, Twitter'da ve LinkedIn'de yazabilirsiniz ve kelimeler her durumda farklı bir anlam taşır. Podcast'ler spontane ve provasız insan sesini yücelttiklerinden, podcasting, insan kararsızlığının ve hatta kafa karıştırıcı çelişki ve ironinin kolayca karşılanıp anlaşılabileceği bir forum haline geldi. Sanırım bu, haberlerde çokça yer alan ve benim de bugün sizinle paylaşmak üzere olduğum pek çok kararsız ve kafa karıştırıcı düşüncem olan bir trend hakkında konuşmak için iyi bir forum. Yapay zekadan bahsediyorum.
Marshall McLuhan 1964'te ortamın mesaj olduğunu söylediğinde, çok az insan televizyonun ve diğer mahrem ev tabanlı yayın araçlarının insan toplumunun dokusunu değiştirmesinin incelikli yollarını düşünürken. Bugün, günümüzün en güncel teknolojisinin sağladığı yeni bir ortam, aynı zamanda geniş bir toplumsal etkiye sahip olma tehdidi taşıyor. İnternet bağlantısı olan herkesin kullanabileceği ChatGPT gibi popüler genel amaçlı AI araçlarından bahsediyorum ve ChatGPT'yi duymadıysanız, insan konuşmasını ne kadar iyi taklit ettiği için her yerde çok fazla dikkat çekiyor. ve mevcut genel bilginin tüm geniş yelpazesini ne kadar zahmetsizce bütünleştirebildiğini ve geri getirebildiğini.
Chatbot'lar birkaç yıldır ortalıkta dolaşıyor - bir BestBuy veya Ticketmaster web sitesindeki dostça otomatik müşteri hizmetleri sohbet robotları kadar basit ve zararsız olabilirler. ChatGPT4 gibi yeni sohbet robotlarının kapsamı elektronik ürünler veya konser biletleriyle sınırlı değildir - bunlar, insan zekasının tamamını kavramak için eğitilmiş, büyük dil modelleri olarak bilinen çok farklı türde bilgi motorlarıdır.
Bazen insanlar ChatGPT'deki G'nin Genel için olduğunu düşünürler ve bu iyi bir tahmin olur, çünkü sistem genel zekayı ve genel bilgiyi göstermek için tasarlanmıştır. G aslında Generative'in kısaltmasıdır, bu da bu ürünün aynı zamanda orijinal görüntüler ve kelimeler oluşturmak için bir şeyler yaratmak üzere tasarlandığı anlamına gelir. P, birkaç dakika içinde bahsedeceğimiz önceden eğitilmiş anlamına gelir ve T, klasik bir Lou Reed albümü değil, dil modelinin girilen metinlere yanıt vermesine izin veren bir yazılım tasarım modeli olan Transformer anlamına gelir. her seferinde bir kelimeyi işlemek, ancak girilen metnin tamamı üzerinde dönüşümleri bir bütün olarak dikkate almak ve çalıştırmak.
Bu yeni sohbet botları, herhangi bir konu hakkında arkadaşça, kişilerarası, incelikli bir konuşma tarzında sohbet edebilir. Chatbot'lar makaleler yazabilir, sorunları çözebilir, derin veritabanı aramaları yapabilir, bilgisayar kodu oluşturabilir, zor soruları anında yanıtlayabilir. ChatGPT ve buna benzer diğer teklifler, yapay zeka alanını çoğumuzun beklediğinden daha hızlı ilerletiyor gibi görünen bir düzeyde dilbilimsel ve kapsamlı çeviklik gösteriyor. Kısa bir süre önce, Google'daki bazı personelin kendi AI sistemlerinin Turing testini geçebileceğine ve duyarlı insan iletişiminden ayırt edilemez hale gelebileceğine inandıklarına dair bir haber vardı ve Google'ın kendi uzmanlarını bilinç kanıtlarıyla ürkütüyordu. Şahsen herhangi bir yapay zekanın Turing Testini geçebileceğine inanıp inanmadığımı bilmiyorum, ancak artık birçok uzmanın bunun mümkün hale geldiğine inandığını biliyorum.
Genel bilgi sohbet robotları, AI için tek popüler kullanım durumundan çok uzaktır. Görüntü oluşturucular, metin istemlerinden anında görsel sanat eserleri oluşturabilir - bazen fiziksel ressamların veya dijital sanatçıların yaratması saatler, günler veya haftalar alacak şaşırtıcı, zekice görüntüler. ChatGPT'yi oluşturan aynı Silikon Vadisi şirketi olan OpenAI'den DALL-E gibi ücretsiz çevrimiçi yapay zeka görüntü oluşturucuları aracılığıyla metin istemlerinden görüntü oluşturma bugün bir gerçektir. Bir fikir hayal edebilir ve bir resim stilini tanımlayabilirsiniz ve bu web hizmeti, fikrinizi yakalamanız için sihirli bir şekilde size bir dizi farklı deneme varyasyonu gönderir.
Bu, günümüzün bir gerçeği ve aynı zamanda ChatGPT4'ün kendilerine sorulan hemen hemen her konuda yetkin, düşünceli, kapsamlı makaleler yazabileceği de bir gerçek - ileri düzey üniversite dereceleri kazanmak için yeterince iyi olabilecek makaleler.
Belki böyle bir tahminde bulunmak için çok erken, ancak görünen o ki akıllı sohbet robotları ve görüntü üreteçleri - makine tarafından üretilen yazı ve makine tarafından üretilen sanat - dünyadaki hepimizi bir şekilde etkileyecek büyük bir teknolojik yeniliği ve büyük bir toplumsal yeniliği temsil ediyor. veya başkası. Bugünlerde geleceğin ne yöne gittiğini kim bilebilir, ancak en azından 3'de ChatGPT2022'ün piyasaya sürülmesinin, bir gün kültürel tarihte önemli bir an olarak hatırlanması mümkün görünüyor. Bugün hala içinde yaşadığımız internet patlaması.
Üzülerek söylüyorum ki, bu yeni inovasyon hepimizin uğraşmak zorunda kalacağı yeni türden büyük sorunlara yol açacak, her ne kadar çoğumuz toplumumuzu zaten istenmeyen sonraki etkiler içinde boğuluyormuş gibi hissetsek de. hayatımızda istemediğimiz, hayatımıza davet etmediğimiz ama yine de hayatımızda olan diğer teknolojik yenilikler.
Bu bölümü yapay zekanın savaş karşıtı aktivistler olarak bizi nasıl etkilediği hakkında konuşarak geçirmek istiyorum. Baştan şunu söyleyeyim: AI sıcak bir konu, çok tartışmalı ve olması gereken de bu. Bunun için endişelenmeli ve bunun hakkında konuşmalıyız ve bence bu teknolojinin yapabileceği iyi şeylere de zihnimizi açmalıyız.
İlericiler ve aktivistler arasında tartışmalı ve herkes için tartışmalı. Tartışmalı olmalı ve bu bölümü yapmıyorum çünkü bu son yeniliklerin gezegenimizi nasıl etkileyebileceği konusunda kolay cevaplarım var. Dünyamızı etkileyeceklerini biliyorum ve savaş karşıtı aktivistlerin bunun hakkında konuşması gerektiğini biliyorum. Bu yüzden bu bölümü sohbeti başlatmak, birçok savaş karşıtı aktivistin muhtemelen bu konu hakkında konuşurken mücadele ettiğini düşündüğüm çeşitli farklı konuları ortaya koymak ve belki de bu kafa karıştırıcı olayın tüm yönleriyle ilgili bir anlayış ifade etmek için yapıyorum. sorunlar. Ben de burada yapmaya çalışacağım şey bu - ve bu bölümü dinlemeyi bitirdiğinizde lütfen geri bildirimlerinizi bizimle paylaşın. world beyond war Bu bölüm için web sayfası veya doğrudan benimle iletişime geçerek – beni bulmak çok kolay.
Günlük yaşamlar üzerindeki etkisi açısından, birçok kişi, yapay zekanın inanılmaz yeteneklerinin çok sayıda insanı işsiz bırakıp bırakmayacağını merak ediyor. Bu genellikle, yapay zekanın gücünü gördüklerinde insanların aklına gelen ilk endişedir. Bu gelişmiş yetenekler, sağlıklı insan istihdamının çeşitli sektörlerine neden olacak ve aniden istenmeyen olmaya çalışacak mı? Toplumumuz kimin çalışıp, kimin kazandığını ve kimin harcadığını zaten çok kötü bir şekilde dengeliyor. Yapay zeka aynı görevlerin birçoğunu daha iyi ve ücretsiz olarak yapabildiğinden orta sınıf yaşamak için çalışan ekosistemleri daha da bozulursa, bozulmanın zenginler ile geri kalanımız arasındaki uçurumu artıracağından emin olabiliriz. %1, geri kalanımız sonuçlarla yüzleşmek zorunda kalırken değişimden yararlanabilecek ve %1, %1'e yardımcı olan yapay zeka araçlarını, yardımlarını kullanabilecek kişiler için kullanılamaz veya çok pahalı hale getirecek. erişmelerini sağlar.
Kabul edelim, çoğumuzun içinde yaşamaya mahkûm olduğu yağmacı kapitalist ekonomilerde, işsizlik borca girmek ve seçme özgürlüğümüzü kaybetmek demektir ve bu sosyopatik kale ekonomilerinin sıradan insanlara yapmak için tasarlandığı tam da budur - gücümüzü elimizden almak. seçim ve onlara ödeme yapmamızı ve onlar için çalışmamızı sağlayın. Bugünün kale kapitalizminin gelecek vizyonu budur: Kendimiz yoksullaştırıldığımız için yeni akıllı ve güçlü bilgisayarlara sahip olacağız.
Ayrıca polis ve ordunun, yeni güçlü ve şiddet yanlısı robotların yanı sıra yapay zeka araçlarını şimdiden kullanmaya başladığı gerçeği de var. Bunun AI'nın şu anda sunduğu en ciddi ve acil tehdit olabileceğini düşünüyorum ve örneğin Atlanta Georgia'daki önemli Stop Cop City hareketi gibi polis tarafından kuşatılan protesto hareketlerinin şimdiden bu değişen gerçeklikle uğraştığını düşünüyorum. AI sistemleri, insan yaratıcılarının önyargılarını ve kodlanmış değerlerini taşır, bu nedenle AI eğitimli polis veya ordu, savunmasız popülasyonlar için hedeflerini görünüşe veya ırka göre seçerek gerçek anlamda avlanma ve öldürme makineleri olma tehdidinde bulunur. Ukrayna'dan Yemen'e savaşla zaten kontrolden çıkmış bir dünyada, şu ya da bu tarafı - ve kaçınılmaz olarak her iki tarafı da - yeni tür cinayet makineleri ve acımasız ırksal profilleme ile kodlanmış baskı rejimleriyle güçlendirme fikri, en az bu kadar korkunç. geliyor.
Kitlesel işsizlik veya ırk kodlu yapay zekanın polis ve askeri güçler tarafından kullanılmasına yönelik en kötü durum senaryoları korkunç ve bunun üzerinde uyuyamıyoruz çünkü etkileri şimdiden dünyamızda. Zaten oluyor. Öyleyse bu sohbete, gelişmiş yapay zekanın ortaya koyduğu görünen iki ayrı dehşetin – kitlesel işsizlik ve polis ve askeri güçlerin suiistimali – yerleşik zenginlik ve ayrıcalığın güçlü güçlerinin insanlardan hak ve özgürlükleri çalmasının iki farklı yolu olduğunu kabul ederek başlayalım. .
Yerleşik zenginlik ve ayrıcalıktan bahsetmişken - şu adreste çevrimiçi olarak bulabileceğiniz Kuzey Kaliforniya'daki bir şirket olan OpenAI hakkında konuşalım: OpenAI.com. Bu şirket, 2021'de DALL-E görüntü oluşturucuyu piyasaya sürene kadar çok az tanınıyordu ve ardından Kasım 2022'de, sadece dokuz ay önce, ilk genel sohbet robotu ChatGPT3'ü piyasaya sürdüler ve hemen ardından daha güçlü ve yetenekli ChatGPT3.5 ve ChatGPT4 geldi. , sürümler şimdi kullanılabilir.
DALL-E'nin oluşturabileceği görüntüleri ilk gördüğümde bayıldım ve ChatGPT'yi ilk denediğimde daha da bayıldım. Bu araçların karşılamaya çalıştığı zorluk bana çok tanıdık geldi çünkü birçok yazılım geliştiricisinin sahip olduğu gibi ben de yapay zeka üzerinde yoğun bir şekilde çalıştım. Yapay zeka ile ilk karşılaşmam, birkaç on yıl önce üniversitede yaptığım bağımsız bir çalışma projesiydi.
Bu 1980'lerdi ve belki bazı çok genç insanlar benim gibi insanların 1980'lerde yapay zeka işi yaptığını duyunca şaşıracaklar, ancak yapay zeka terimi neredeyse bilgisayar devriminin kendisi kadar eskidir. 1950'lerden 1990'lara kadar olan AI başarıları, o zamandan beri gördüğümüz ilerlemelere kıyasla çocukça olsa da.
80'lerde alanın ucu o kadar açıktı ki, aslında, felsefe ve bilgisayar bilimlerini birleştirdiğim son yılımda, ayrıştıracak bir program için özgün, bağımsız bir çalışma projesi hazırlayarak birkaç kredi alabildim. İngilizce cümleler kurun ve temel kavrayışı gösterecek veya simüle edecek şekilde yanıt verin. Büyük bir bina büyüklüğünde olan ve muhtemelen MacBook'tan daha az güce sahip devasa bir Univac anabilgisayarına bağlı, gülünç derecede hantal, yeşil ışık saçan bir Unimatic terminalinde LISP'de kod yazdım. 80'lerde.
AI bağımsız çalışma projemin heyecan verici zorluğu, basit fiiller ve isimler içeren cümleleri ayrıştırmak ve bunlara yanıt vermekti. Örneğin, LISP programıma “Mutlu adında bir kedim var” ve “kedim turuncu” ve “tüm kediler miyav der” gibi cümleler yazardım, bu da “Mutlu turuncu mu?” veya "Marc'ın kedisi miyav mı diyor?". Yeterince eğlenceli, Univac ana bilgisayarımda bir yapay zeka sohbet robotu oluşturmaya çalışıyordum.
Bahse girerim o sırada diğer birçok üniversite öğrencisi de aynı şeyi yapmaya çalışıyordu ama hiçbirimiz çok ileri gidemedik çünkü bu 1980'lerdi ve parlak bir fikir henüz bize ulaşmamıştı: bir yazılım sağlayan sinir ağı. insan beynindeki nöronlara benzer, büyük ölçüde paralel basit işlemleri gerçekleştirmek için tasarlanmış bir yapı. LISP programım tek iş parçacıklı hesaplama sağlarken ve Fortran ve COBOL ve Pascal programları aynı sınırlı tek iş parçacıklı paradigmayı takip ederken, sinir ağları basit hesaplamaları paralel olarak gerçekleştiren paralel temel iş parçacıkları sağladı. İnsan beyni pek çok paralel işlem yapar - tekillik illüzyonları oluşturmak için birbirini izleyen eşzamanlı işlemler - ve sinir ağı olarak bilinen yazılım yapısı, ben üniversiteden mezun olduktan sonra kodlayıcıların bu paralel işlemenin gücünü toplamasına olanak tanır.
Nöral ağ kavramıyla birlikte, en sonunda, 80'lerde henüz bize ulaşmamış başka bir kavram olan, tekrarlayan faaliyetlerle bir sinir ağını eğitme kavramı geldi. LISP programımı az sayıda tam cümleyle besliyordum ve performansını düzeltip iyileştirmesi için herhangi bir geri bildirim vermiyordum. Yapmam gereken şey, bilgisayar terminalime cümleler yazmak yerine, onu tüm kitaplarla, gazetelerle ve ansiklopedilerle beslemek ve programım sürekli olarak en temel, ilkel eylemleri simüle etmeye çalışırken, davranışına geri bildirim sağlamak için onunla sürekli etkileşimde bulunmaktı. anlayış. Zengin ve karmaşık bir bilgi tabanı oluşturmak için ona pek çok okuma materyali vererek ve onu tekrar tekrar ve kapsamlı bir şekilde eğiterek, aslında bilgisayar programımın turuncu bir kedim olup olmadığı konusunda şaşırtıcı bir şey söylemesini sağlayabilirdim. Nöral ağlar ve tekrarlayan eğitim, bugün chatbot'larda gördüğümüz başarılı insan zekası simülasyonlarının yolunu açtı.
İnsan zekasını simüle etmekten bahsettiğimi fark edeceksiniz. Bu başka bir tartışmaya işaret ediyor. Bazı insanlar "yapay zeka" terimini saçma buluyor. Gülünçten daha da kötüsü, bazıları bu fikri etik açıdan rahatsız edici buluyor çünkü zeka bilinci doğurursa, yapay zeka yapay bilince dönüşebilir - yapay duyarlılık, yapay irade, yapay var olma hakkı. Bu kesinlikle pek çok varoluşsal soruyu gündeme getiriyor. Tüm bu sorular geçerli ve önemlidir. Bazıları, AI bilgi motorlarının ve dil modellerinin halihazırda bilinç geliştirip geliştirmediğini merak ediyor. Şahsen, hayır, sohbet robotlarının gerçek hisler geliştirmesi konusunda endişelenmemize gerek olmadığını beyan etmeyi oldukça kolay buluyorum. Yapay zekanın endişelenecek pek çok farklı yönü var ve bu benim kişisel olarak endişelendiğim bir konu değil. Ancak bu, haklı olduğumu ve kimsenin bu konuda endişelenmemesi gerektiğini kanıtlayabileceğim anlamına gelmez. Belki de endişelenmem gereken farklı şeylerden o kadar bunaldım ki, bunun için endişelenecek zamanım yok. Makine duyarlılığıyla ilgili sorular hakkında ortaya çıkabilecek tüm sorulara kesin bir yanıtım yok ve biliyormuş gibi davranmayacağım. Ama nasıl yüzleşeceğimizi bulmamız gereken soruların ne olduğunu biliyorum.
Aktivist topluluklarda bazen duyduğum bir görüş, yapay zekanın bir sürü yutturmaca anlamına geldiğidir - büyük bir dil modelinin mükemmel konuşma becerilerinin beslediği bir yanılsama. Elbette, GPT bir soruyu çözümleyebilir ve zarif ifadelerle yanıtlayabilir, ancak dildeki bu mutluluk neden bize anlamlı bir ilerleme kaydedildiğini düşündürsün? Google ve Wikipedia, Encyclopedia Britannica'yı dehşete düşürerek, tüm insan bilgisini İnternette ücretsiz olarak kolayca erişilebilir hale getirdi. ChatGPT hakkındaki tüm bu abartıları, sırf insan bilincinin dilsel bir cephesini sunduğu için, hepimizin hevesle aşık olduğu bir illüzyon olarak duyuyoruz. Bence burada bir geçerlilik var. Belki Google veya Wikipedia başlangıçta ChatGPT'nin yaptığı gibi ani ve tam biçimli bir şekilde başlatılmış olsaydı, belki de Google veya Wikipedia'nın toplu insan zekasında büyük ilerlemeler olarak lansmanından bahsediyor olurduk çünkü ikisi de dünyamızı şimdiden etkiledi.
Yine de, yukarıda sinir ağları ve eğitimden bahsederken bahsettiğim gibi, büyük dil modellerini cepheler olarak tanımlamak, bu dilsel mutluluğu mümkün kılmak için var olması gereken yazılım yapısının katmanlarını hafife almaktır.
İşte bence daha büyük bir soru: OpenAI'nin etiğine ve ilkelerine, kurucularına, yatırımcılarına ve ortaklarına bakalım. Burada bir sürü sorun var.
OpenAI.com, bize Facebook, Google, Microsoft, Amazon ve Oracle'ı veren aynı ultra zengin ve yüksek devirli Silikon Vadisi teknoloji inkübatörleri ekosisteminden doğan, özel olarak finanse edilen bir araştırma laboratuvarıdır. Kurucuları arasında, sosyopatik kamuoyu açıklamaları diğer birçok insanı olduğu kadar beni de gerçekten rahatsız eden ünlü milyarder Elon Musk var. Elon Musk, OpenAI ile hiçbir zaman doğrudan ilgilenmedi ve saldırgan kişiliğini sosyal medyanın her yerinde sergilemek gibi başka şeylere yöneldi, bu yüzden bugün Elon Musk hakkında söylemek istediklerim bu kadar.
Gördüğüm kadarıyla, OpenAI'nin büyük bir savaş vurguncusu ve savaş için yapay zeka alanında büyük bir vurguncu olan Microsoft ile sıkı bir şekilde ilişki içinde olması daha da lanetleyici. Bu rahatsız edici ilişki, insanların Elon Musk bağlantısından bile daha fazla endişe duyacağını umduğum şey. DALL-E ve OpenAI'nin dostane yüzünün, en az bir büyük ölçüde etkili ve şeytani savaş vurguncusu Microsoft için yararlı bir cephe olmasından çok rahatsız olmalıyız, halihazırda konuştuğumuz türden ırksal olarak kodlanmış askeri ve polis yapay zeka uygulamaları geliştiriyor. yukarıda hakkında. Bu, Microsoft'ta ve ABD savaş makinesine derinden bağlı olan diğer ABD teknoloji devlerinde zaten perde arkasında oluyor. Ve bu, aklıma gelen en kötü haberle ilgili.
Savaş karşıtı hareketteki bizler, kötü potansiyeli nedeniyle yapay zekaya sırtımızı dönemeyiz. Elbette, savaş karşıtı hareketteki herkesin kendi yaşamlarına teknolojik tecavüzlere izin vermesi gerektiğini kastetmiyorum. Birçok ilericinin ve aktivistin modaya uygun teknolojik yenilikleri hayatlarına sokmamak için geçerli bir seçim yapmasına sevindim. Kendim teknolojiden arınmış bir yaşam tarzından uzak olsam da, bu tavırla ilişki kurabilir ve saygı duyabilirim. Teknoloji benim alanım, benim kariyerim ve bir teknoloji uzmanı olarak yapay zeka gibi çabaların arkasındaki deha, yaratıcılık ve yenilikçilikten büyüleniyorum.
Ayrıca, sadece meraklı bir insan olarak, bilgisayarların onu simüle etmek için nasıl yapıldığını öğrenerek insan zekası hakkında fikir edinmekle kesinlikle ilgileniyorum. Ne kadar faydalı olduğunu keşfettiğim için ChatGPT'nin hayatıma girmesine de izin veriyorum. OpenAI.com'a gidip sürekli sorular soruyorum. ChatGPT'yi kod yazmak için kullanıyorum; bu yaz ABD'deki diğer insanlarla birlikte üzerinde çalıştığım etkileşimli ABD askeri üsleri haritamızın yeni bir sürümü için Javascript de dahil. World Beyond War.
Diyelim ki, bir düzenli ifadeyle özel karakterleri kaldırarak bir sorgu dizesi parametresini temizlemek istiyorum; . Bunun yerine, şimdi ChatGPT'ye ne istediğimi söylüyorum ve ChatGPT mükemmel şekilde biçimlendirilmiş, çalıştırılabilir ve hatasız Javascript'i gösteriyor. Yazılım geliştirici arkadaşlarımın çoğu artık kod yazmak için ChatGPT kullanıyor - bunun hakkında konuşmayı sevdiğimiz için kullandığımızı biliyorum. Henüz hiçbir kodlayıcının ChatGPT'nin yerimizi alacağından endişe ettiğini sanmıyorum, çünkü çalışan sistemler oluşturmak için kod parçalarını bir araya getirmek zorunda olanlar biziz ve GPT sadece kod parçaları üretiyor. Ancak bunun yazılım geliştiricilerin çalışma şeklini nasıl değiştireceğini merak ediyorum. Kesinlikle şimdiden oyunu değiştiriyor.
ChatGPT'yi, Google'ı kullanırken kullandığım şekilde çevrimiçi arama yapmak için de kullanıyorum ve bunu yazdığım veya düşündüğüm şeyler hakkında bilgi istemleri, perspektifler ve arka plan bilgileri için kullanıyorum. Her şey için kullandığımı söylerken şaka yapmıyorum – yukarıda 1960'ların teknoloji filozofu Marshall McLuhan'dan bahsettiğimde olduğu gibi, tabii ki ChatGPT'den Marshall McLuhan hakkında biraz bilgi istedim ve bana 1964'ün XNUMX olduğunu söyleyen ChatGPT. Araç mesajdır” diyen kitabı yayımladı.
Birçoğumuzun temel internet aramaları için Google'dan GPT'ye geçmiş olması çok şey söylüyor. Arkalarındaki sonuçlar ve motivasyonlar hakkında endişelensek bile, bu yeni tür araçların yavaş yavaş ve fark edilmeden hayatımıza girmesine izin vermeye başlamak çok kolaydır.
ABD ordusu tarafından şüpheli nedenlerle yaratılan, ancak toplumsal değişikliklere neden olmaya ve orijinal amacının tamamen dışında yeni kullanım durumları bulmaya devam eden İnternet'in altında yatan yazılım teknolojisi gibi, bu yeni teknoloji hayatımızı etkilemek için kendi yolunu bulur. Bu yeni teknoloji gerçek, göz ardı edilemeyecek kadar iyi çalışıyor ve kalıcı olarak burada. Yine bu yüzden, savaş karşıtı aktivistlerle bunun hakkında konuşarak bir bölüm geçiriyorum – çünkü bu zaten bizim gerçekliğimizin bir parçası ve burada, yeryüzünde kendi işimizi yapabilmek için bazı güçlere ihtiyacımız olabilir.
Biz savaş karşıtı aktivistlerin çok iyi bildiği korkunç sorunlara sahip olmayan bu gezegendeki yaşamın birçok yönü üzerinde bir dakika düşünelim. Sanat, müzik, edebiyat, biyoloji, kimya, fizik, jeoloji, astronomi, tıp, sağlık, imalat, tarım, beslenme. Tüm bu dünyalarda, tüm bu çabalarda … son derece yetenekli bir genel bilgi sohbet robotunun halka açılması büyük bir etki yaratıyor. Dokunmadığı alan yoktur.
İnsanların barış içinde bir arada yaşama düzleminde - keşke kendim için daha fazla zaman geçirebilseydim dediğim bir düzlemde - yapay zeka, büyük faydalar vaat eden insan yeteneğinin mucizevi bir ilerlemesidir. Keşke barışçıl, güvenli ve eşitlikçi bir dünyada yaşasaydık, yapay zekanın üretebileceği harikaların tadını birlikte daha iyi çıkarabilirdik.
Bir görüntü oluşturucuyla çalışırken bu harikalardan bazılarını görüyoruz ve başka türlü üretemeyeceğimiz, kendi istemlerimize dayalı olarak şaşırtıcı derecede zekice veya yaratıcı görüntüler oluşturuyoruz. Yapay zeka araçlarının iyiye kullanılıp kullanılamayacağı konusundaki paradoksu da hissediyoruz. Bir teknisyen olarak, 21. yüzyılda dünya gezegenindeki sorunun teknolojik yenilik olmadığına inanıyorum. Teknolojik yeniliği her zaman memnuniyetle karşılarım ve yapay zekanın sunduğu tehlikelerin yerleşik kapitalizm ve savaştan kaynaklandığını düşünüyorum - bu gezegenin kendi kendisiyle savaş halinde olduğu gerçeğine, zengin %1'lik bir kesimin egemen olduğu ve kendini tehlikeye atmaya karşı koyamayan bir gezegen olduğu gerçeğine. ayrıcalıkları korumak için diğer insanları baskı altına alan militarize kale toplumları inşa etmenin intihara meyilli yolu. Yapmamız gereken şey toplumumuzu iyileştirmektir - yapmamız gerekmeyen şey, ıstırabımızın nedenlerini ve intihara meyilli gidişatımızı yanlış anladığımız için teknolojik gelişmelerden kaçmak değildir.
Bu benim düşündüğüm şey. Elbette her savaş karşıtı aktivistin düşündüğü gibi değil ve sorun değil. hakkında ilginç tepkiler aldık. World Beyond War e-posta tartışma listesi – herkesin katılmasını tavsiye ettiğim canlı ve akıllı bir forum, sadece web sitemizdeki bağlantıya tıklayın veya arama yapın world beyond war tartışma listesi - birisi DALL-E ile oluşturulmuş gerçekten yaratıcı bazı savaş karşıtı görüntüleri paylaştıktan ve bir başkası hasta gezegenimizin dünya barışına giden yolları nasıl bulabileceğine dair şaşırtıcı derecede faydalı bazı sözler paylaştıktan sonra.
Aktivistlerin mevcut tüm teknolojilerde ustalaşması gerektiğine inanıyorum - aktivizm kendisini, bizi ezme alışkanlığına sahip yozlaşmış hükümetler ve açgözlü şirketlerden daha az gelişmiş yenilikçi teknolojileri kullanma konusunda daha az yetenekli konumuna getirmemelidir.
Ayrıca, onu modellemek ve simüle etmek için kullanılan algoritmaları ve tasarım modellerini inceleyerek insan bilinci ve insan varoluşu hakkında şaşırtıcı felsefi gerçekleri toplayabileceğimize de inanıyorum. OpenAI web sitesinde ChatGPT ile birkaç dakika oynayarak geçirmek, insan doğası hakkında bazı vahşi gerçekleri ortaya çıkarabilir.
İşte hala beynimi sarmaladığım vahşi bir şey. ChatGPT bazen yalan söyler. Bir şeyler uyduruyor. GPT'yi sorgulamaya başladığınızda genellikle bunu görmezsiniz, çünkü genellikle bir konuşma dizisindeki ilk soruya güçlü bir yanıt verir. Ardından GPT, siz takip soruları sorarken size ayak uydurur ve GPT'yi tam da burada yalan söylemeye başladığı bir köşeye geri döndürmenin mümkün olduğu yer burasıdır. ChatGPT'ye sorduğum ilk sorulardan biri bana en iyi savaş karşıtı podcast'leri anlatmaktı, çünkü doğal olarak egom devreye girdi ve ben de bunun olup olmayacağını görmek istedim. World Beyond War podcast listede görünürdü.
Şimdi, GPT önceden eğitildiğinden - yani, önceden eğitildiğinden ve artık çok güncel haberler ve bilgilerle aktif olarak güncellenmiyor, bu nedenle onun küçüklüğüm hakkında çok fazla şey bilmesini beklemiyorum. dijital ses dosyası. Ayrıca GPT'ye belirli bir podcast'le ilgilendiğimi göstererek sonuçları çarpıtmak istemedim, bu yüzden ona mükemmel savaş karşıtı podcast'ler olup olmadığını sordum ve gerçekten de var olduğuna dair bana güvence verdi. Daha sonra, onu adlandırmasını istemeyi umarak ayrıntılara girmeye başladım. World Beyond War podcast'i sorarak – bana Medea Benjamin gibi tanınmış aktivistlerle röportaj yapan podcast'lerden bahseder misiniz? İşte burada işler komikleşmeye başlıyor. Sistem bir iddiada bulunduğunda iddiayı desteklemeye çalışacak, bu yüzden Medea Benjamin ile gerçekten röportaj yapan podcast'ler olduğuna dair bana güvence verdikten sonra ondan bu podcast'lerden birinin adını vermesini istedim ve sonra bana Medea Benjamin'in o olduğunu söyledi. kendi podcast'inin sunucusu. O değil! Olsaydı kesinlikle dinlerdim. ChatGPT'yi, sahip olmadığı bilgileri sağlaması gereken bir köşeye sıkıştırarak yalan söylemesini sağlayabildim, böylece kulağa gerçekçi gelen bilgiler oluşturdu.
Bu, birinin düşündüğünden daha sık olur. Ayrıca ChatGPT'yi yanlışlıkla doğru ama çelişkili bilgiler atarak kolayca yakalayabilirsiniz. GPT, Marshall McLuhan'ın 1964'te "Araç mesajdır" sözünü ortaya koyduğunu doğru bir şekilde bana bildirdikten sonra, bu parlak ve keskin filozofun, daha karanlık ve daha rahatsız edici konulara değinen önceki kitabının bir tür ironik devamı niteliğinde de yazdığını hatırladım. medyanın insan zihnini uyutabileceği yollar, kurumsal kitlesel nüfusun medya aracılığıyla kontrol ettiği korkutucu nüfuslar - çünkü Marshall McLuhan gerçekten o kadar harikaydı, 1960'larda bu tehlikeyi anladı ve 1967'de sanatçı Quentin Fiore ile başka bir kitap yayınladı. “Aracı Masajdır” denir.
İşte GPT ile işlerin garipleştiği yer burası. ChatGPT'den bana Marshall McLuhan'ın "araç masajdır" sözünden bahsetmesini istedim... ve GPT bana açıkça McLuhan'ın "araç masajdır" demediğini, bunun yerine "araç mesajdır" dediğini bildirdi. Açıkçası, GPT masajın bir yazım hatası olduğunu düşündü. Daha sonra GPT'ye bunun yanlış olduğunu ve McLuhan'ın hem "araç mesajdır" hem de "araç masajdır" dediğini bildirdim. Bunu söyler söylemez ChatGPT hatasını anladı ve özür diledi ve evet, “medya masajdır”ın 1967'de yazdığı bir kitap olduğunu bildirdi.
Öyleyse neden önce yanlış anladı ve özellikle de doğru cevaba zaten erişimi varken neden yanlış yaptı? İşte burada GPT kendimizle ilgili şaşırtıcı gerçekleri ortaya çıkarmaya başlıyor, çünkü aslında GPT'nin iki hatası veya yanlış davranışı onu daha az değil, daha insani gösteriyordu. GPT'deki G'nin üretici anlamına geldiğini unutmayın. Sistem, doğru cevaptan emin olmadığında cevaplar üretecek şekilde tasarlanmıştır. Size var olmayan bir filmin veya kitabın adını söyleyebilir ama var olabilecekmiş gibi görünen bir ad olacaktır. Hakkında çok şey bildiğiniz herhangi bir konu hakkında ChatGPT ile açık uçlu, uzun bir konuşmanız varsa, hata yapmaya başladığını hemen göreceksiniz.
GPT'ye kendi cevaplarına ek sorular sorarak köşeye sıkıştırmam ve sonunda önceki ifadelerini desteklemek için gerçekçi görünen ancak yanlış bilgiler üretmesine neden olma şeklim bana insanlık dışı değil, tamamen insan.
Burada retorik ve manipülatif tartışma tarzlarının kaba gücünü görüyoruz. Belki de ChatGPT'nin bu şaşırtıcı kötü davranışından öğrenebileceğimiz şey şu ya da bu şekilde gerçekleri uydurmadan insani olarak gerçeği kavramanın imkansız olduğu ve retorik amaçlarla kullandığımız bu uydurma gerçeklerin dikkatli olmazsak bildiğimiz yalanlara dönüşebileceğidir. daha fazla uydurma ile savunmak zorunda kaldı. Evlat, bu kesinlikle bana gerçekçi görünüyor.
Daha da gerçekçi: ChatGPT'nin insana benzer davranışının yalan söylemeyi de içerdiğini biliyoruz. Ve yine de ona güveniyoruz! Kendim bile kullanmaya devam ediyorum, çünkü gerçekten, GPT'nin ne zaman yanıt aradığını ve yanlış bilgi ürettiğini her zaman tespit edebileceğime inanacak kadar kendime güveniyorum. Hey, belki kendimi kandırıyorum ve belki de uydurma gerçeklere inanma eğilimimi ve başkalarında yalan söyleme eğilimimi düşünmeliyim.
İşte GPT'nin, normal insan ilişkilerimizde gerçek olmayan şeylerle, görünüşlerle, beyaz yalanlarla ve dostça aldatmacalarla ilişki kurma yollarımıza işaret ederek bizi daha akıllı kılmasının bir yolu. Özetle söylemek gerekirse: ChatGPT bazen yalan söylemeden insan davranışını simüle edemez. Bu, hepimizin düşünmesi gereken bir cehennem.
İşte düşünülmesi gereken bir şey daha var: Biz insanlar, toplumlarımızı tanımlayan teknolojik yeniliklere ayak uydurmak açısından ne durumdayız? Son birkaç yılda, yeni mülkiyet, erişim ve doğrulama kavramlarıyla paylaşılan veritabanları oluşturmanın yeni bir teknolojik yöntemi olan blok zincirinin icadını özümserken aynı zamanda yapay zekadaki gelişmelere uyum sağlıyoruz. Tamamen blockchain hakkında bir önceki bölümü yapmıştık ve şahsen eminim ki tanıdığım çoğu insan hala blockchain'in yaşamlarımızı nasıl değiştirdiğini ve gelecekte de değiştireceğini anlamadı – ve şimdi geniş bir dil kullanıyoruz modelleri ve genel bilgi motorları hayatımızı ve geleceğimizi de değiştirecek! Bunu bir de üstüne koyun, hmm... burada nereye gideceğim... insan genomu projesi, beyin bilimindeki büyük ilerlemeler, uzayın keşfi ve kolonileştirilmesi... hey, dost insanlar, tüm bunlara ayak uydurabiliyor muyuz?
Şimdi COVID gibi salgın hastalıklarla ilgili teknolojik ve bilimsel tartışmaları bir kenara bırakalım ve burada dinlenmeyelim ve yaşlanan bürokratlar tarafından yönetilen yozlaşmış ve beceriksiz sözde hükümetlerin ve siyasetin elinde yaygın olarak bulunan nükleer silahların durumunu düşünmeye devam edelim. Karşılıklı garantili imha.
Buna ayak uyduruyor muyuz? Hayır, ama bu bok bize ayak uyduruyor ve numaramızı aldı. Her sabah uyanıyorum ve Ukrayna'da yaşayan zavallı insanları trajik bir şekilde katleden NATO ile Rusya arasındaki vekalet savaşını okuyorum. Ve her sabah, sözde liderlerimizin beceriksizliğinin nükleer savaşın başlamasına neden olacağı gün olup olmadığını merak ediyorum - her gün, bunun dünya gezegenindeki insan yaşamı için son gün olup olmadığını merak ediyorum.
2023'ün sıcak yazı. 1945'te Japonya'nın Hiroşima ve Nagasaki'de yüzbinlerce insanın bir anda katledilmesi gibi inanılmaz dehşet verici çalışmalara yol açan bilim insanı hakkında “Oppenheimer” adında yeni bir film var. henüz herhangi birimiz, toplumlarımızın yaptığı hataların mutlak kötülüğünü, şok edici, dayanılmaz gerçeklerini ve kendimizi geliştirmedeki ve kendimizi zavallı, utanç verici toplumsal bağımlılığımızdan yükseltmedeki başarısızlığımızı kavrayacak kadar kendi zihnimizi genişletmeyi henüz başardık. kitlesel nefret ve kitlesel şiddet.
Yukarıda bahsetmiştim, bazı insanlar yapay zekanın bilince ve/veya sezgiye yol açıp açamayacağını - bir AI sisteminin duygu ve hisler geliştirip geliştiremeyeceğini ve bu kelimelerin ve bu soruların ne anlama geldiğini soruyor. Oppenheimer filmini henüz izlemedim ve Japonya'daki toplu katliam hakkında Japon kurbanların yüzlerini göstermeyen bir film fikri beni oldukça rahatsız ediyor. Yapay zeka sistemlerinin bilinçli olup olmadığını merak etmek yerine, Hiroşima ve Nagasaki'de yakılan her bir kişinin duyarlı ve bilinçli olduğunu söylemek istiyorum. Bu, henüz yüzleşmeyi başaramadığımızı düşündüğüm bir gerçek. Belki de bu konuda kendi zihnimizi biraz daha eğitmeliyiz.
Ve bugün burada bitiriyoruz. İnsanlar, yarattığımız sorunlar ve kendimizi geliştirmek için yapmamız gereken değişiklikler hakkındaki gerçeği kaldıramaz. Botlar da gerçeği kaldıramaz. İnsan varoluşunun gizemlerini ve ironilerini düşünürken bu alanı benimle paylaştığınız için teşekkürler ve bizi uzun zamandır sevdiğim şarkıcı ve söz yazarı Sinead O'Connor'ın insan sesiyle dışarı çıkaracağım. ve Healing Room adlı bir şarkı. 50. bölümü dinlediğiniz için teşekkürler. 51'de görüşmek üzere.
World BEYOND War Podcast iTunes'da
World BEYOND War Spotify'da Podcast
World BEYOND War Dikiş üzerine Podcast
World BEYOND War Podcast RSS Beslemesi
