Autor: Marc Eliot Stein, World BEYOND War, 31. srpnja 2023
Ovo je potpuni prijepis 50. epizode World BEYOND War: novi podcast.
Srpanj je, vruće ljeto 2023. Znate tko sam ja, ja sam Marc Eliot Stein, tehnološki direktor World Beyond War, još uvijek ovdje u Lanape zemljama Brooklyna New Yorka, još uvijek radi pravu stvar ovdje na World Beyond War podcasta, Samo što je danas poseban jer je ovo 50. epizoda, vau okrugla brojka.
Kad sam pokrenuo ovaj podcast, pretpostavljam da nikad nisam ni razmišljao o tome hoću li ikada doći do 50 epizoda. Brojka od 50 sigurno se ne bi činila realnom u to vrijeme. Pretpostavljam da sam se uglavnom pitao hoću li ikada dovršiti epizodu broj 1, a bilo je nekoliko bliskih razgovora s odustajanjem prije nego što sam to učinio.
I evo me u 50. godini, i kakva je to radost, shvatiti da smo smislili kako ovaj antiratni podcast stvarno funkcionirati i pronašli publiku koja raste svaki mjesec. Tako sam ponosan na ovaj podcast i zahvalan sam svima koji su do sada bili dio njega.
Podcasting je jedinstveni kreativni format. Nije kao ništa drugo. Znam to jer sam i sam ovisnik o podcastu. Imam najmanje 20 redovnih emisija do kojih mi je stvarno stalo - o povijesti, politici, tehnologiji, glazbi, književnosti, televiziji, filmovima. Kad sam raspoložen da se opustim i istovremeno proširim svoje znanje, zapravo ne postoji nijedan drugi format koji pogađa kao podcast. Mislim da je ovo važna razlika: stavite domaćina i gosta na webinar, recimo, ili livestreamani chat, i oni će imati jednu vrstu razgovora, ali ako stavite iste dvije osobe u podcast intervju, oni nekako Vodit ću drugačiju vrstu razgovora – vjerojatno osobniji, spontaniji, lutajući, više u trenutku, manje osmišljen da ide prema zaključku.
Zašto je to točno? Ne znam, ali pokojni filozof medija i tehnologije Marshall McLuhan napisao je nešto 1964. o tome kako brzo nova popularnost televizije mijenja moderno društvo, i bio je u pravu. Medij je, rekao je McLuhan, poruka. Format je sadržaj.
Na primjer, možete napisati iste riječi na Facebooku, Twitteru i LinkedInu, a riječi će u svakom slučaju imati drugačije značenje. Budući da podcasti slave spontani i neuvježbani ljudski glas, podcasting je postao forum na kojem se ljudska ambivalentnost ili čak zbunjujuća kontradikcija i ironija mogu lako prihvatiti i razumjeti. Pretpostavljam da je ovo dobar forum za razgovor o trendu koji je uvelike u vijestima, a koji imam mnogo svojih ambivalentnih i zbunjujućih misli koje ću danas podijeliti s vama. Govorim o umjetnoj inteligenciji.
Kada je Marshall McLuhan 1964. godine rekao da je medij poruka, kada je malo ljudi razmišljalo o suptilnim načinima na koje televizija i drugi intimni kućni mediji mijenjaju samu strukturu ljudskog društva. Danas novi medij omogućen najsuvremenijom tehnologijom također prijeti golemim društvenim utjecajem. Govorim o popularnim alatima umjetne inteligencije opće namjene poput ChatGPT-a koji su dostupni svima s internetskom vezom – a ako niste čuli za ChatGPT, posvuda privlači veliku pažnju jer dobro oponaša ljudski razgovor i kako bez napora može integrirati i dohvatiti cijeli široki spektar dostupnog općeg znanja.
Chatbotovi postoje već nekoliko godina – mogu biti jednostavni i bezopasni poput prijateljskih automatiziranih chatbotova korisničke službe na web-mjestu BestBuy ili Ticketmaster. Novi chatbotovi kao što je ChatGPT4 nisu ograničeni opsegom na elektroničke proizvode ili ulaznice za koncerte – to su vrlo različite vrste mehanizama znanja, poznatih kao veliki jezični modeli, osposobljeni za razumijevanje cjelokupne ljudske inteligencije.
Ponekad ljudi misle da je G u ChatGPT-u za General, a to bi bila dobra pretpostavka, jer je sustav dizajniran da pokaže opću inteligenciju i opće znanje. G zapravo označava Generative, što znači da je ovaj proizvod također dizajniran za stvaranje stvari – za stvaranje originalnih slika i riječi. P označava pre-trained, o čemu ćemo govoriti za nekoliko minuta, a T je za Transformer, koji nije klasični album Lou Reeda, već softverski dizajn koji omogućuje jezičnom modelu da odgovori na unesene tekstove ne obrađivanje jedne po jedne riječi, ali razmatranjem i izvođenjem transformacija na cijelom unesenom tekstu kao cjelini.
Ovi novi chatbotovi mogu razgovarati o bilo kojoj temi u prijateljskom, međuljudskom, nijansiranom stilu razgovora. Chatbotovi mogu pisati eseje, rješavati probleme, temeljito pretraživati baze podataka, generirati računalni kod, trenutno odgovarati na teška pitanja. ChatGPT i druge ponude poput njega pokazuju razinu lingvističke i sveobuhvatne agilnosti koja, čini se, pomiče polje umjetne inteligencije naprijed brže nego što su mnogi od nas očekivali da će biti moguće. Ne tako davno pojavila se vijest da neko osoblje u Googleu vjeruje da njihov vlastiti AI sustav može proći Turingov test i postati nerazlučiv od razumne ljudske komunikacije, prestrašivši Googleove vlastite stručnjake svojim dokazima o svijesti. Ne znam vjerujem li ja osobno da bilo koja umjetna inteligencija može proći Turingov test, ali znam da mnogi stručnjaci sada vjeruju da je to moguće.
Chatbotovi općeg znanja daleko su od jedinog popularnog slučaja upotrebe umjetne inteligencije. Generatori slika mogu trenutno stvoriti vizualna umjetnička djela iz tekstualnih upita – ponekad zapanjujuće, pametne slike za čije bi stvaranje fizičkim slikarima ili digitalnim umjetnicima trebali sati ili dani ili tjedni. Generiranje slika iz tekstualnih upita danas je stvarnost putem besplatnih online generatora slika umjetne inteligencije kao što je DALL-E, iz OpenAI-a, iste tvrtke iz Silicijske doline koja je stvorila ChatGPT. Možete zamisliti ideju i opisati stil slikanja, a ovaj web servis vam magično šalje hrpu različitih varijanti pokušaja da uhvatite svoju ideju.
To je danas realnost, a danas je također realnost da ChatGPT4 može napisati stručne, promišljene, opsežne eseje o gotovo svakoj temi o kojoj ih se pita – eseje koji bi mogli biti dovoljno dobri da steknu napredne fakultetske diplome.
Možda je prerano za ovakvo predviđanje, ali čini se da inteligentni chatbotovi i generatori slika – strojno generirano pisanje i strojno generirana umjetnost – predstavljaju veliku tehnološku inovaciju i veliku društvenu inovaciju koja će utjecati na sve nas na zemlji na jedan način ili drugi. Tko zna u kojem smjeru ide budućnost ovih dana, no čini se barem mogućim da će lansiranje ChatGPT3 2022. jednog dana biti zapamćen kao značajan trenutak u kulturnoj povijesti sličan pokretanju preglednika Mosaic 1993., koji je pokrenuo cijeli popularni Internetski bum u kojem živimo i danas.
Također se čini mogućim, uznemiren sam što moram reći, da će ova nova inovacija uzrokovati nove vrste velikih problema s kojima ćemo se svi morati nositi, iako mnogi od nas možda osjećaju da se naše društvo već utapa u neželjenim posljedicama druge tehnološke inovacije koje nismo tražili u svojim životima, nismo pozvali u svoje živote, a koje ipak postoje u našim životima.
Želim provesti ovu epizodu govoreći o tome kako AI utječe na nas kao antiratne aktiviste. Dopustite mi da ovo kažem unaprijed: umjetna inteligencija je vruća tema, vrlo kontroverzna, i tako treba biti. Trebali bismo se brinuti o tome i trebali bismo razgovarati o tome, a po mom mišljenju također bismo trebali otvoriti svoje umove za dobro koje ova tehnologija može učiniti.
Kontroverzan je među naprednjacima i aktivistima i kontroverzan je za sve. Trebalo bi biti kontroverzno, a ja ne radim ovu epizodu jer imam jednostavne odgovore o tome kako ove nedavne inovacije mogu utjecati na naš planet. Znam da će utjecati na naš svijet i znam da antiratni aktivisti moraju razgovarati o tome. Zato radim ovu epizodu kako bih započeo razgovor, kako bih izložio različita pitanja s kojima se vjerojatno bore mnogi antiratni aktivisti kada govore o ovoj temi, i možda kako bih izrazio razumijevanje svih strana ove zbunjujuće pitanja. To je ono što ću pokušati učiniti ovdje – a kada završite sa slušanjem ove epizode, podijelite svoje povratne informacije na našem world beyond war web stranici za ovu epizodu ili me kontaktirajte izravno – lako me pronaći.
Što se tiče utjecaja na svakodnevni život, mnogi se pitaju hoće li nevjerojatne sposobnosti umjetne inteligencije ostaviti puno ljudi bez posla. Ovo je često prva zabrinutost koja ljudima padne na pamet kada vide snagu umjetne inteligencije. Hoće li te napredne sposobnosti uzrokovati da različiti sektori zdravog ljudskog zapošljavanja i nastojanja odjednom postanu nepoželjni? Naše društvo već je u velikoj neravnoteži u pogledu toga tko radi, tko zarađuje, a tko troši. Ako se ekosustavi srednje klase koji rade za život dodatno poremete jer umjetna inteligencija može obavljati mnoge od istih zadataka bolje i besplatno, možemo biti sigurni da će poremećaj povećati jaz između bogatih i nas ostalih, da 1 % moći će imati koristi od promjene dok ćemo mi ostali biti prepušteni suočavanju s posljedicama i da će 1% također učiniti alate umjetne inteligencije koji pomažu 1% nedostupnim ljudima kojima bi njihova pomoć dobro došla ili preskupima za pristupiti im.
Suočimo se s tim, u grabežljivim kapitalističkim ekonomijama u kojima su mnogi od nas ostali živjeti, nezaposlenost znači zaduživanje i gubitak naše slobode izbora, a to je upravo ono što su ove sociopatske ekonomije tvrđava osmišljene kako bi učinile običnim ljudima – oduzele nam moć izbora i natjeraju nas da ih plaćamo i radimo za njih. Ovo je buduća vizija kapitalizma tvrđave danas: imat ćemo nova inteligentna i moćna računala, budući da smo i sami pauperizirani.
Tu je i činjenica da policija i vojska već počinju koristiti alate umjetne inteligencije, zajedno s novim snažnim i nasilnim robotima. Mislim da je ovo možda najozbiljnija i najneposrednija prijetnja koju umjetna inteligencija trenutno predstavlja, i mislim da se prosvjedni pokreti opkoljeni policijom, poput, recimo, važnog pokreta Stop Cop City u Atlanti Georgia, već suočavaju s ovom promijenjenom stvarnošću. Sustavi umjetne inteligencije nose predrasude i kodirane vrijednosti svojih ljudskih kreatora, tako da policija ili vojska obučena za umjetnu inteligenciju prijeti postati strojevi za doslovni lov i ubijanje ranjive populacije, birajući svoje mete na temelju izgleda ili rase. U svijetu koji već bjesni izvan kontrole s ratom od Ukrajine do Jemena, ideja o osnaživanju jedne ili druge strane – i, neizbježno, obje strane – s novim vrstama strojeva za ubojstva i režima suzbijanja kodiranih opakim rasnim profiliranjem jednako je užasna kao zvuči kao.
Najgori mogući scenariji za masovnu nezaposlenost ili rasno kodiranu umjetnu inteligenciju koju koriste policijske i vojne snage su zastrašujući, i ne možemo spavati na tome jer su učinci već prisutni u našem svijetu. To se već događa. Započnimo ovaj razgovor priznanjem da su dva odvojena užasa koja, čini se, predstavlja napredna umjetna inteligencija – masovna nezaposlenost i zlostavljanje od strane policijskih i vojnih snaga – dva različita načina na koje moćne sile ukorijenjenog bogatstva i privilegija kradu prava i slobode od ljudi. .
Govoreći o ukorijenjenom bogatstvu i privilegijama – razgovarajmo o OpenAI-u, tvrtki u sjevernoj Kaliforniji koju možete pronaći online na OpenAI.com. Ova je tvrtka bila malo poznata sve dok nisu lansirali DALL-E generator slike 2021., a onda su u studenom 2022., prije samo devet mjeseci, objavili svoj prvi javni chatbot, ChatGPT3, a ubrzo su ga slijedili snažniji i sposobniji ChatGPT3.5 i ChatGPT4 , sada dostupne verzije.
Bio sam prilično iznenađen kada sam prvi put vidio slike koje DALL-E može stvoriti, a bio sam još više iznenađen kada sam prvi put isprobao ChatGPT. Izazov s kojim su se ti alati pokušavali suočiti bio mi je vrlo poznat jer sam i sam intenzivno proučavao AI, kao što su to učinili mnogi programeri softvera. Moj prvi susret s umjetnom inteligencijom bio je samostalni studijski projekt koji sam radio na koledžu, prije dosta desetljeća.
Ovo su bile 1980-e i možda će se neki vrlo mladi ljudi iznenaditi kada čuju da su se ljudi poput mene bavili umjetnom inteligencijom 1980-ih, ali pojam umjetna inteligencija star je gotovo koliko i sama računalna revolucija. Iako su postignuća umjetne inteligencije od 1950-ih do 1990-ih bila infantilna u usporedbi s napretkom koji smo vidjeli u godinama od tada.
Područje je zapravo bilo toliko otvoreno u 80-ima da sam uspio dobiti nekoliko bodova tijekom zadnje godine kao kombinirani smjer filozofije i informatike tako što sam pripremio originalni nezavisni studijski projekt za program koji bi analizirao rečenice na engleskom i odgovarati na način koji pokazuje ili simulira osnovno razumijevanje. Kodirao sam u LISP-u na urnebesno glomaznom Unimatic terminalu koji svijetli zelenom bojom spojenom na masivni Univac mainframe koji je bio veličine velike zgrade i vjerojatno je imao manje energije od MacBooka na kojem upravo snimam ovaj podcast, jer smo tako krenuli još u 80-ima.
Uzbudljiv izazov mog projekta neovisnog proučavanja umjetne inteligencije bio je raščlaniti i odgovoriti na rečenice koje uključuju jednostavne glagole i imenice. Na primjer, utipkao bih rečenice poput "Imam mačku koja se zove Happy" i "moja je mačka narančasta" i "sve mačke kažu mijau" u svoj LISP program, što bi pokazalo određeno razumijevanje odgovarajući na pitanja poput "je li Happy narančasta?" ili "kaže li Marcova mačka mijau?". Dovoljno zabavno, pokušavao sam stvoriti AI chatbot upravo tamo na mom Univac glavnom računalu.
Kladim se da su mnogi drugi studenti pokušavali napraviti istu stvar u to vrijeme, ali nitko od nas nije daleko stigao, jer su to bile 1980-e i jedna ključna briljantna ideja još nije stigla do nas: neuronska mreža, koja pruža softver struktura dizajnirana za izvođenje masivnih paralelnih jednostavnih operacija sličnih neuronima u ljudskom mozgu. Dok je moj LISP program pružao jednonitno računanje, a Fortran, COBOL i Pascal programi slijedili su istu ograničenu jednonitnu paradigmu, neuronske mreže su pružale paralelne elementarne niti koje su paralelno izvodile jednostavna izračunavanja. Ljudski mozak radi puno paralelnih obrada – simultane operacije kaskadno se slažu kako bi stvorile iluzije singularnosti – a softverska struktura poznata kao neuronska mreža omogućila bi koderima da prikupe snagu ove paralelne obrade – nakon što sam diplomirao na koledžu.
Zajedno s konceptom neuronske mreže na kraju je došao koncept treniranja neuronske mreže s ponavljajućim aktivnostima – još jedan koncept koji još nije stigao do nas u 80-ima. Ubacivao sam svoj LISP program malim brojem potpunih rečenica i nisam mu davao nikakve povratne informacije s kojima bih mogao ispraviti i poboljšati njegovu izvedbu. Ono što sam trebao činiti, umjesto da upisujem rečenice u svoj računalni terminal, bilo je da mu ubacujem čitave knjige, novine i enciklopedije, i neprestano komuniciram s njim kako bih dao povratnu informaciju o njegovom ponašanju dok je moj program opetovano pokušavao simulirati najosnovnije, primitivne radnje shvaćanja. Dajući mu puno materijala za čitanje kako bi izgradio bogatu i složenu bazu znanja i obučavao ga ponavljajući i temeljito, mogao sam natjerati svoj računalni program da kaže nešto iznenađujuće o tome imam li narančastu mačku ili ne. Ispostavilo se da su neuronske mreže i ponavljajuća obuka pomogli otvoriti put uspješnim simulacijama ljudske inteligencije koje danas vidimo kod chatbota.
Primijetit ćete da govorim o simulaciji ljudske inteligencije. Ovo ukazuje na još jednu kontroverzu. Neki ljudi smatraju pojam "umjetna inteligencija" smiješnim. Gore nego smiješno, neki smatraju da je ideja etički zabrinjavajuća jer, ako inteligencija rađa svijest, umjetna inteligencija se može preobraziti u umjetnu svijest – umjetni osjećaj, umjetnu samovolju, umjetno pravo na postojanje. Ovo sigurno postavlja mnoga egzistencijalna pitanja. Sva ova pitanja su valjana i važna. Neki se pitaju razvijaju li motori znanja AI i jezični modeli možda već svijest. Osobno, smatram da je prilično lako izjaviti da, ne, ne moramo brinuti o tome da chatbotovi razvijaju stvarne osjećaje. Postoji mnogo različitih aspekata umjetne inteligencije o kojima treba brinuti, a ovo nije ono o čemu ja osobno brinem. Ali to ne znači da mogu dokazati da sam u pravu i da to nikoga ne treba brinuti. Možda sam jednostavno toliko preopterećen raznim stvarima o kojima bih se trebao brinuti da nemam vremena brinuti se o ovoj. Nemam konačan odgovor na sva pitanja koja se mogu pojaviti o pitanjima strojnog osjećaja i neću se pretvarati da ga imam. Ali znam koja su to pitanja s kojima se moramo suočiti.
Jedno mišljenje koje ponekad čujem unutar aktivističkih zajednica jest da je umjetna inteligencija samo gomila reklama – iluzija potaknuta izvrsnim konverzacijskim vještinama velikog jezičnog modela. Naravno, GPT može raščlaniti pitanje i odgovoriti elegantnom frazeologijom, ali zašto bi nas ova sreća s jezikom natjerala da zamislimo da je postignut neki značajan napredak? Google i Wikipedia već su cijelo ljudsko znanje učinili lako dostupnim besplatno na internetu, na užas Enciklopedije Britannice. Čujemo svu tu pompu o ChatGPT-u jednostavno zato što predstavlja lingvističku fasadu ljudske svijesti, iluziju na koju svi tako željno padamo. Mislim da ovdje ima neke valjanosti. Možda da su se Google ili Wikipedia prvotno pokrenuli na iznenadan i potpuno formiran način na koji je to učinio ChatGPT, možda bismo o pokretanju Googlea ili Wikipedije govorili kao o velikom napretku u kolektivnoj ljudskoj inteligenciji, jer su oboje već utjecali na naš svijet.
Ipak, kao što sam spomenuo gore kada sam govorio o neuronskim mrežama i obuci, opisivati velike jezične modele kao fasade znači podcjenjivati slojeve softverske strukture koji moraju postojati da bi omogućili ovu lingvističku sreću.
Evo većeg pitanja, po mom mišljenju: pogledajmo etiku OpenAI-ja i njegovih principala, osnivača, investitora i partnera. Ovdje postoji hrpa problema.
OpenAI.com je privatno financirani istraživački laboratorij nastao iz istog ultra-bogatog i visokoprometnog ekosustava tehnoloških inkubatora u Silicijskoj dolini koji nam je dao Facebook, Google, Microsoft, Amazon i Oracle. Njegovi osnivači uključuju Elona Muska, slavnog milijardera čije mi se sociopatske javne primjedbe zgade jednako kao što su mučne i mnoge druge ljude. Elon Musk nikada nije bio izravno uključen u OpenAI, a prešao je na druge stvari poput prikazivanja svoje uvredljive osobnosti na društvenim mrežama, tako da je to sve što danas želim reći o Elonu Musku.
Kako ja to vidim, još je strašnije što je OpenAI tijesno povezan s Microsoftom, velikim ratnim profiterom i velikim profiterom na polju umjetne inteligencije za rat. Nadam se da će ljudi brinuti zbog ove zabrinjavajuće povezanosti, čak i više od veze s Elonom Muskom. Trebalo bi nas jako uznemiriti što je prijateljsko lice DALL-E-a i OpenAI-ja korisna fasada za barem jednog masovno utjecajnog i zlog ratnog profitera, Microsoft, koji već razvija vrste rasno kodiranih vojnih i policijskih aplikacija umjetne inteligencije o kojima smo razgovarali otprilike gore. To se već događa iza kulisa u Microsoftu i drugim američkim tehnološkim divovima koji su duboko povezani s američkim ratnim strojem. A ovo je otprilike najgora vijest koje se mogu sjetiti.
Mi u antiratnom pokretu ne možemo okrenuti leđa umjetnoj inteligenciji zbog njezinog zlog potencijala. Naravno, ne mislim da svatko u antiratnom pokretu treba dopustiti tehnološka zadiranja u vlastite živote. Drago mi je što su mnogi naprednjaci i aktivisti napravili valjan izbor da izbjegnu moderne tehnološke inovacije u svojim životima. Mogu se poistovjetiti s tim stavom i poštovati ga, iako sam i sam daleko od načina života bez tehnologije. Tehnologija je moje polje, moja karijera, a kao tehnolog fasciniran sam genijalnošću, kreativnošću i inovativnošću iza pothvata poput umjetne inteligencije.
Također, jednostavno kao znatiželjna osoba, apsolutno sam zainteresiran za dobivanje uvida u ljudsku inteligenciju učenjem o tome kako su računala napravljena da je simuliraju. Također dopuštam ChatGPT u svoj život jer sam otkrio koliko je koristan. Idem na OpenAI.com i neprestano mu postavljam pitanja. Koristim ChatGPT za pisanje koda, uključujući Javascript za novu verziju naše interaktivne karte američkih stranih vojnih baza na kojoj radim ovo ljeto zajedno s drugim ljudima iz World Beyond War.
Recimo da želim očistiti parametar niza upita uklanjanjem posebnih znakova s regularnim izrazom, što je nešto o čemu bih upotrijebio da pitam Stack Overflow, i sastavio bih svoj radni kod iz preporučenih fragmenata objavljenih u niti razgovora . Umjesto toga, sada govorim ChatGPT-u što želim, a ChatGPT jednostavno izbaci savršeno formatirani Javascript, izvršni i bez grešaka. Većina mojih prijatelja programera softvera sada koristi ChatGPT za pisanje koda – znam da to radimo jer volimo razgovarati o tome. Mislim da nitko od nas kodera još nije zabrinut da će nas ChatGPT zamijeniti, jer mi smo ti koji moramo sastaviti dijelove koda kako bismo stvorili radne sustave, a GPT samo proizvodi dijelove koda. Ali pitam se kako će to promijeniti način na koji programeri softvera rade. Definitivno već mijenja igru.
Također koristim ChatGPT za traženje stvari na mreži na način na koji bih prije koristio Google, a koristim ga za upute i perspektive i pozadinske informacije o stvarima o kojima pišem ili o kojima razmišljam. Ne šalim se kad kažem da ga koristim za sve – kao kad sam gore spomenuo tehnološkog filozofa iz 1960-ih Marshalla McLuhana, naravno da sam od ChatGPT-a tražio neke informacije o Marshallu McLuhanu, a ChatGPT mi je rekao da je 1964. bila godina kada je objavio knjigu u kojoj piše "medij je poruka".
Činjenica da je toliko nas već prešlo s Googlea na GPT za osnovna internetska pretraživanja govori mnogo. Vrlo je lako dopustiti ovim novim vrstama alata da polako i neprimjetno uđu u naše živote, čak i dok brinemo o implikacijama i motivacijama iza njih.
Kao i temeljna softverska tehnologija samog interneta, koju je iz sumnjivih razloga stvorila američka vojska, ali je uzrokovala društvene promjene i pronašla nove slučajeve upotrebe koji su bili potpuno izvan područja njezine izvorne svrhe, ova nova tehnologija će pronaći vlastiti put do utjecaja na naše živote. Ova nova tehnologija je stvarna, radi predobro da bi je se zanemarilo i tu je da ostane. Opet, zato provodim epizodu razgovarajući s antiratnim aktivistima o tome – jer je to već dio naše stvarnosti i možda će nam trebati neke od ovlasti ako se ponude kako bismo obavili vlastiti posao ovdje na zemlji.
Provedimo minutu razmišljajući o mnogim aspektima života na ovoj planeti koji nemaju strašne probleme kojih smo mi antiratni aktivisti toliko svjesni. Umjetnost, glazba, književnost, biologija, kemija, fizika, geologija, astronomija, medicina, zdravlje, proizvodnja, poljoprivreda, prehrana. U svim ovim svjetovima, svim ovim nastojanjima... javno lansiranje vrlo sposobnog chatbota općeg znanja ima veliki utjecaj. Nema polja koje ne dodiruje.
Na planu mirnog ljudskog suživota – planu za koji bih volio da mogu provoditi više vremena na sebi – umjetna inteligencija je čudesan napredak ljudskih sposobnosti koji obećava velike koristi. Kad bismo samo živjeli u mirnom, sigurnom i pravednom svijetu, mogli bismo bolje zajedno uživati u čudima koja umjetna inteligencija može proizvesti.
Neka od tih čuda vidimo kada radimo s generatorom slika i stvaramo zapanjujuće pametne ili kreativne slike na temelju vlastitih upita koje inače ne bismo mogli proizvesti. Također osjećamo paradoks o tome mogu li se alati umjetne inteligencije koristiti za dobro ili ne. Kao tehničar, vjerujem da tehnološke inovacije nisu problem na planeti Zemlji u 21. stoljeću. Uvijek pozdravljam tehnološke inovacije i mislim da su opasnosti koje umjetna inteligencija predstavlja posljedica ukorijenjenog kapitalizma i rata – činjenice da je ovo planet u ratu sam sa sobom, planet kojim dominira 1% bogatih koji ne mogu odoljeti da se ne postave samoubilački put izgradnje militariziranih društava tvrđava koja potiskuju druga ljudska bića kako bi zadržala privilegije. Ono što trebamo učiniti je izliječiti naše društvo – ono što ne trebamo učiniti je bježati od tehnološkog napretka jer krivo shvaćamo uzroke naše agonije i naše suicidalne putanje.
To je ono što ja mislim. Naravno, to nije ono što svaki antiratni aktivist misli, i to je u redu. Imali smo zanimljive reakcije na World Beyond War popis rasprava putem e-pošte – koji je živahan i inteligentan forum kojem preporučujem da se svima pridruži, samo kliknite vezu na našoj web stranici ili potražite world beyond war lista za raspravu – nakon što je netko podijelio neke zaista maštovite antiratne slike koje je generirao DALL-E, a netko je podijelio neke iznenađujuće korisne riječi o tome kako naš bolesni planet može pronaći puteve do svjetskog mira.
Vjerujem da bi aktivisti trebali ovladati svim dostupnim tehnologijama – da se aktivizam ne bi trebao dovesti u poziciju da bude manje sposoban koristiti napredne inovativne tehnologije od korumpiranih vlada i pohlepnih korporacija koje nas imaju naviku tlačiti.
Također vjerujem da možemo prikupiti iznenađujuće filozofske istine o ljudskoj svijesti i ljudskom postojanju proučavanjem algoritama i dizajnerskih obrazaca korištenih za modeliranje i simulaciju. Samo nekoliko minuta zezanja s ChatGPT-om na web stranici OpenAI može otkriti neke divlje istine o ljudskoj prirodi.
Evo jedne divlje stvari o kojoj još uvijek razmišljam. ChatGPT ponekad laže. Izmišlja stvari. Ovo obično nećete vidjeti kada počnete postavljati pitanja o GPT-u, jer će obično doći do snažnog odgovora na prvo pitanje u razgovornoj niti. GPT zatim ide ukorak s vama dok postavljate dodatna pitanja, a ovdje je moguće nekako vratiti GPT u kut gdje počinje ravno lagati. Jedno od prvih pitanja koje sam ikada postavio ChatGPT-u bilo je da mi kaže o najboljim antiratnim podcastovima, jer je, naravno, moj ego bio angažiran i želio sam vidjeti hoće li World Beyond War podcast bi se pojavio na popisu.
Sada, budući da je GPT unaprijed obučen – to jest, bio je unaprijed obučen i više mu se ne dostavlja aktivno ažuriranje vrlo aktualnih vijesti i informacija, pa ne bih očekivao da zna puno o mojoj maloj podcast. Također nisam želio iskriviti rezultate pokazujući GPT-u da me zanima jedan određeni podcast, pa sam ga pitao ima li izvrsnih antiratnih podcastova i uvjerio me da ih doista ima. Zatim sam počeo ulaziti u pojedinosti, nadajući se da ću ga potaknuti da imenujem World Beyond War podcast pitanjem – možete li mi reći o podcastima u kojima su intervjuirane poznate aktivistice poput Medee Benjamin. Ovdje stvari počinju biti smiješne. Nakon što sustav podnese zahtjev, pokušat će napraviti sigurnosnu kopiju zahtjeva, pa nakon što me uvjerio da doista postoje podcastovi koji su intervjuirali Medeu Benjamin, zamolio sam ga da imenuje jedan od tih podcasta, a onda mi je rekao da je Medea Benjamin voditeljica vlastitog podcasta. Hm, nije! Da je, sigurno bih je poslušao. Uspio sam natjerati ChatGPT da laže tako što sam ga gurnuo u kut gdje je trebao pružiti informacije koje nije imao, tako da je izmislio informacije koje su zvučale realno.
Ovo se događa češće nego što bi se moglo pomisliti. Također možete lako uhvatiti ChatGPT u pogrešci bacanjem istinitih, ali kontradiktornih informacija. Nakon što me GPT ispravno obavijestio da je Marshall McLuhan uveo citat "Medij je poruka" 1964., sjetio sam se da je ovaj briljantni i britki filozof također napisao neku vrstu ironičnog nastavka svoje prethodne knjige koja se bavi mračnijim i zabrinjavajućim načini na koje mediji mogu uspavati ljudske umove, zastrašujuće populacije korporativne masovne kontrole populacije putem medija – budući da je Marshall McLuhan doista bio tako strašan, shvatio je ovu opasnost još u 1960-ima, te je objavio drugu knjigu 1967. s umjetnikom Quentinom Fioreom pod nazivom “Medij je masaža”.
Evo gdje su stvari postale čudne s GPT-om. Zamolio sam ChatGPT da mi ispriča o citatu Marshalla McLuhana “medij je masaža” … i GPT me izravno obavijestio da McLuhan nije rekao “medij je masaža”, već je rekao “medij je poruka”. Jasno je da je GPT mislio da je masaža tipfeler. Zatim sam obavijestio GPT da je to netočno i da je McLuhan doista rekao i "medij je poruka" i "medij je masaža". Čim sam to rekao, ChatGPT je shvatio svoju pogrešku, ispričao se i obavijestio me da je, da, "medij je masaža" knjiga koju je napisao 1967.
Pa zašto je prvo pogriješilo, a posebno zašto je pogriješilo kada je već imalo pristup pravom odgovoru nadohvat ruke? Pa, ovdje GPT počinje otkrivati iznenađujuće istine o nama samima, jer zapravo GPT-ove dvije pogreške ili loše ponašanje učinile su da izgleda više ljudski, a ne manje. Zapamtite da G u GPT označava generativno. Sustav je dizajniran za generiranje odgovora kada nije siguran u točan odgovor. Može vam reći naslov filma ili knjige koji ne postoji – ali bit će to naslov za koji se čini da bi mogao postojati. Ako imate otvoreni, dugi razgovor s ChatGPT-om o bilo kojoj temi o kojoj znate puno, brzo ćete vidjeti da počinje raditi pogreške.
Način na koji sam uspio stjerati GPT u kut postavljajući mu pitanja koja se nadovezuju na njegove vlastite odgovore, na kraju ga natjeravši da generira realistične naizgled, ali lažne informacije u pokušaju da potkrijepi svoje prethodne izjave, nije mi se činio nehumanim, ali temeljito ljudski.
Ovdje vidimo tupu snagu retoričkih i manipulativnih stilova argumentacije. Možda ono što možemo naučiti iz ovog iznenađujućeg lošeg ponašanja ChatGPT-a jest da je ljudski nemoguće shvatiti istinu bez izmišljanja istina na ovaj ili onaj način, a ako nismo oprezni, te izmišljene istine koje koristimo u retoričke svrhe mogu postati laži koje smo prisiljeni braniti s više izmišljotina. Čovječe, ovo mi se stvarno čini životnim.
Još realističnije: znamo da ljudsko ponašanje ChatGPT-a uključuje laganje. A ipak vjerujemo! Čak ga i sam nastavljam koristiti jer sam, doista, dovoljno samouvjeren da vjerujem da ću uvijek moći otkriti kada GPT traži odgovor i generira lažne informacije. Hej, možda se šalim i možda bih trebao razmisliti o vlastitoj sklonosti da vjerujem izmišljenim istinama i svojoj sklonosti da drugima omogućim laganje.
Evo načina na koji nas GPT čini pametnijima, ukazujući na načine na koje se bavimo neistinom, fasadama i bijelim lažima i prijateljskim prijevarama u našim normalnim ljudskim odnosima. Ukratko: ChatGPT ne može simulirati ljudsko ponašanje, a da ponekad ne laže. Ovo je vraška stvar o kojoj svi moramo razmišljati.
Evo još nešto o čemu treba razmisliti: kako mi ljudi idemo u smislu držanja koraka s tehnološkim inovacijama koje definiraju naša društva? U posljednjih nekoliko godina prilagođavamo se napretku u umjetnoj inteligenciji u isto vrijeme kada apsorbiramo izum blockchaina, nove tehnološke metode izgradnje dijeljenih baza podataka s novim konceptima vlasništva, pristupa i provjere valjanosti. Prethodnu smo epizodu radili o blockchainu i osobno sam prilično siguran da većina ljudi koje poznajem još uvijek ne razumije načine na koje blockchain mijenja naše živote i kako će mijenjati naše živote u budućnosti – a sada imamo širok jezik modeli i motori općeg znanja koji će promijeniti naše živote i budućnost! Stavite ovo na vrh, hmm ... gdje da idem ovdje ... projekt ljudskog genoma, veliki napredak u znanosti o mozgu, istraživanje i kolonizacija svemira ... hej, ljudi, idemo li u korak sa svim ovim?
Sada se bacimo na tehnološke i znanstvene sporove oko pandemija poput COVID-a, i nemojmo tu stati, nego nastavimo razmatrati situaciju široko dostupnog nuklearnog oružja u rukama korumpiranih i nesposobnih takozvanih vlada kojima upravljaju ostarjeli birokrati, i politike uzajamno osiguranog uništenja.
Idemo li u korak s ovim? Ne, ali ovo sranje ide ukorak s nama, i ima naš broj. Svako jutro se probudim i čitam o posredničkom ratu između NATO-a i Rusije koji tragično ubija jadna ljudska bića koja žive u Ukrajini. I svako jutro se pitam je li ovo dan kada će nesposobnost naših takozvanih vođa uzrokovati početak nuklearnog rata – svaki dan se pitam je li ovo posljednji dan za ljudski život na planetu Zemlji.
Vruće je ljeto 2023. Izašao je novi film pod nazivom “Oppenheimer” o znanstveniku čiji je rad doveo do nevjerojatnog užasa trenutnog ubojstva stotina tisuća ljudskih bića u Hirošimi i Nagasakiju u Japanu 1945. Ne mislim svatko od nas je uspio dovoljno proširiti vlastiti um da shvati apsolutno zlo, šokantne, nepodnošljive istine o pogreškama koje su naša društva učinila – i o našem neuspjehu da se poboljšamo i izdignemo iz naše jadne, sramotne društvene ovisnosti o masovna mržnja i masovno nasilje.
Gore sam spomenuo da se neki ljudi pitaju može li ili ne umjetna inteligencija dovesti do svijesti i/ili osjećaja – može li sustav umjetne inteligencije ikada razviti emocije i osjećaje i što ove riječi i ova pitanja uopće znače. Još nisam gledao film Oppenheimer i prilično mi je muka od ideje o filmu o masovnom ubojstvu u Japanu koji ne prikazuje lica japanskih žrtava. Umjesto da se pitam jesu li sustavi umjetne inteligencije razumni ili ne, sve što želim reći jest da je svaka osoba spaljena u Hirošimi i Nagasakiju bila razumna i pri svijesti. To je istina s kojom se još nismo uspjeli suočiti. Možda trebamo još malo vježbati vlastiti um na ovome.
I tu danas završavamo. Ljudi se ne mogu nositi s istinom o problemima koje smo stvorili i promjenama koje moramo napraviti da bismo se poboljšali. Ni botovi ne mogu podnijeti istinu. Hvala što dijelite ovaj prostor sa mnom dok razmišljam o misterijama i ironijama ljudskog postojanja, a ja ću nas izvesti ljudskim glasom pjevačice i tekstopisca koju volim već dugo, Sinead O'Connor, i pjesma pod nazivom The Healing Room. Hvala što ste slušali epizodu 50. Vidimo se uskoro za 51.
World BEYOND War Podcast na iTunesu
World BEYOND War Podcast u Spotifyu
World BEYOND War Podcast na Stitcher
World BEYOND War Podcast RSS feed
