Autor: Marc Eliot Stein, World BEYOND War, 31. jula 2023
Ovo je kompletan transkript 50. epizode World BEYOND War: novi podcast.
Juli je, vruće ljeto 2023. Znate ko sam ja, ja sam Marc Eliot Stein, tehnološki direktor World Beyond War, još uvijek ovdje u Lanape zemljama Brooklyn New Yorka, još uvijek radi pravu stvar ovdje na World Beyond War podcast, Osim što je danas poseban jer je ovo 50. epizoda, vau okrugli broj.
Kada sam započeo ovaj podcast, pretpostavljam da nisam ni razmišljao o tome da li ću ikada doći do 50 epizoda. Broj 50 sigurno ne bi izgledao realistično u to vrijeme. Pretpostavljam da sam se uglavnom pitao da li ću ikada završiti epizodu broj 1, a bilo je nekoliko bliskih poziva s odustajanjem prije nego što sam to učinio.
I evo me u 50. godini, i kakva je to radosna stvar, shvatiti da smo smislili kako da ovaj antiratni podcast zaista funkcionira, i pronašli publiku koja raste svakog mjeseca. Tako sam ponosna na ovaj podcast, i zahvalna sam svima koji su do sada bili dio njega.
Podcasting je jedinstven kreativni format. Ne liči na ništa drugo. Znam to jer sam i sam zavisnik od podcasta. Imam najmanje 20 redovnih emisija do kojih mi je zaista stalo – o istoriji, politici, tehnologiji, muzici, književnosti, TV-u, filmovima. Kada sam istovremeno raspoložen da se opustim i proširim svoje znanje, zaista ne postoji drugi format koji se uklapa u podcast. Mislim da je ovo važna razlika: stavite domaćina i gosta u webinar, recimo, ili chat uživo, i oni će imati jednu vrstu razgovora, ali ako stavite iste dvije osobe u intervju za podcast, oni će nekako Imat ću drugačiju vrstu razgovora – vjerovatno više ličnog, spontanijeg, više neuredna, više u trenutku, manje osmišljenog da se krene ka zaključku.
Zašto je to tačno? Ne znam, ali pokojni filozof medija i tehnologije Marshall McLuhan napisao je nešto 1964. o tome kako brzo nova popularnost televizije mijenja moderno društvo, i bio je u pravu. Medijum, rekao je McLuhan, je poruka. Format je sadržaj.
Na primjer, možete napisati iste riječi na Facebooku, Twitteru i LinkedIn-u, a riječi će imati različito posebno značenje u svakom slučaju. Budući da podkasti slave spontani i neuvježbani ljudski glas, podcasting je postao forum gdje se ljudska ambivalentnost ili čak zbunjujuća kontradikcija i ironija mogu lako pozdraviti i razumjeti. Pretpostavljam da je ovo dobar forum za razgovor o trendu koji je veoma zastupljen u vijestima, i koji imam puno ambivalentnih i zbunjujućih misli koje ću danas podijeliti s vama. Govorim o vještačkoj inteligenciji.
Kada je Marshall McLuhan rekao da je medij poruka još 1964. godine, kada je malo ljudi razmišljalo o suptilnim načinima na koje su televizija i drugi intimni kućni elektronski mediji mijenjali samu strukturu ljudskog društva. Danas, novi medij koji omogućava današnja najsavremenija tehnologija također prijeti da ima ogroman društveni uticaj. Govorim o popularnim alatima za umjetnu inteligenciju opće namjene kao što je ChatGPT koji su dostupni svima s internetskom vezom – a ako niste čuli za ChatGPT, posvuda dobija veliku pažnju zbog toga koliko dobro oponaša ljudski razgovor i koliko bez napora može integrirati i povratiti cijeli široki spektar dostupnog općeg znanja.
Chatbotovi postoje već nekoliko godina – mogu biti jednostavni i bezazleni kao i prijateljski automatizirani chatboti za korisničku podršku na web stranici BestBuy ili Ticketmaster. Novi chat botovi kao što je ChatGPT4 nisu ograničeni u opsegu na elektronske proizvode ili ulaznice za koncerte – to su vrlo različite vrste motora znanja, poznati kao veliki jezički modeli, obučeni da shvate cjelokupnu ljudsku inteligenciju.
Ponekad ljudi misle da je G u ChatGPT-u za generala, a ovo bi bila pristojna pretpostavka, jer je sistem dizajniran da demonstrira opštu inteligenciju i opšte znanje. G zapravo je skraćenica za Generative, što znači da je ovaj proizvod dizajniran i za stvaranje stvari – za generiranje originalnih slika i riječi. P označava pre-trening, o čemu ćemo pričati za nekoliko minuta, a T je za Transformer, koji nije klasični album Lou Reeda, već obrazac softverskog dizajna koji omogućava modelu jezika da odgovori na unesene tekstove ne putem obrađujući jednu po jednu riječ, ali razmatranjem i izvođenjem transformacija na cijelom unesenom tekstu u cjelini.
Ovi novi chat botovi mogu razgovarati o bilo kojoj temi u prijateljskom, međuljudskom, nijansiranom stilu razgovora. Chat botovi mogu pisati eseje, rješavati probleme, vršiti duboke pretrage baze podataka, generirati kompjuterski kod, odmah odgovoriti na teška pitanja. ChatGPT i druge ponude poput njega pokazuju nivo lingvističke i sveobuhvatne agilnosti za koju se čini da pomiče polje umjetne inteligencije naprijed brže nego što su mnogi od nas očekivali da bi to bilo moguće. Ne tako davno postojala je vijest da je neko osoblje u Google-u vjerovalo da njihov vlastiti AI sistem može proći Turingov test i postati nerazlučiv od razumne ljudske komunikacije, zastrašujući Guglove stručnjake svojim dokazima svijesti. Ne znam da li lično vjerujem da bilo koja AI može proći Turingov test, ali znam da mnogi stručnjaci sada vjeruju da je to moguće.
Chatbotovi općeg znanja daleko su od jedinog popularnog slučaja upotrebe AI. Generatori slika mogu trenutno da kreiraju vizuelna umetnička dela iz tekstualnih upita – ponekad zapanjujuće, pametne slike za koje bi fizičkim slikarima ili digitalnim umetnicima bili potrebni sati ili dani ili nedelje da ih kreiraju. Generisanje slika iz tekstualnih upita danas je stvarnost putem besplatnih online generatora slika veštačke inteligencije kao što je DALL-E, iz OpenAI, iste kompanije iz Silicijumske doline koja je kreirala ChatGPT. Možete zamisliti ideju i opisati stil slikanja, a ovaj web servis vam magično šalje gomilu različitih varijacija pokušaja da uhvatite svoju ideju.
Ovo je danas realnost, a takođe je i stvarnost danas da ChatGPT4 može pisati stručne, promišljene, opsežne eseje o gotovo bilo kojoj temi o kojoj ih pitaju – eseje koji bi mogli biti dovoljno dobri da steknu napredne fakultetske diplome.
Možda je prerano za ovakvo predviđanje, ali čini se da inteligentni chat botovi i generatori slika – strojno generirano pisanje i umjetnost generirana mašinama – predstavljaju veliku tehnološku inovaciju i veliku društvenu inovaciju koja će utjecati na sve nas na svijetu na jedan način ili drugi. Ko zna kojim putem ide budućnost ovih dana, ali čini se barem mogućim da će lansiranje ChatGPT3 2022. jednog dana biti zapamćen kao značajan trenutak u kulturnoj istoriji sličan lansiranju pretraživača Mosaic 1993. godine, koji je pokrenuo čitav popularni Internet bum u kojem živimo i danas.
Također se čini mogućim, uznemiren sam što mogu reći, da će ova nova inovacija uzrokovati nove vrste velikih problema s kojima ćemo se svi morati nositi, iako mnogi od nas možda osjećaju da se naše društvo već davi u neželjenim posljedicama druge tehnološke inovacije koje nismo tražili u našim životima, koje nismo pozvali u svoje živote, a koje su ipak u našim životima.
Želim da ovu epizodu provedem govoreći o tome kako AI utiče na nas kao antiratne aktiviste. Dozvolite mi da kažem ovo unaprijed: AI je vruća tema, vrlo kontroverzna, i to je kako bi trebalo biti. Trebalo bi da se brinemo o tome i treba da razgovaramo o tome, a po mom mišljenju takođe treba da otvorimo um za dobro koje ova tehnologija može da učini.
To je kontroverzno među naprednjacima i aktivistima i kontroverzno je za sve. Trebalo bi da bude kontroverzno, a ja ne radim ovu epizodu jer imam jednostavne odgovore o tome kako ove nedavne inovacije mogu uticati na našu planetu. Znam da će uticati na naš svijet, i znam da antiratni aktivisti moraju razgovarati o tome. Tako da radim ovu epizodu da započnem razgovor, da izložim razna različita pitanja sa kojima se, mislim, mnogi antiratni aktivisti bore kada govore o ovoj temi, i možda da izrazim neko razumijevanje svih strana ove zbunjujuće problemi. To je ono što ću pokušati učiniti ovdje – i kada završite sa slušanjem ove epizode, molimo vas da podijelite svoje povratne informacije na našem world beyond war web stranicu za ovu epizodu, ili ako me kontaktirate direktno – lako me je pronaći.
Što se tiče uticaja na svakodnevni život, mnogi se pitaju da li će neverovatne sposobnosti veštačke inteligencije mnoge ljude ostaviti bez posla. Ovo je često prva briga koja se javlja ljudima kada vide moć AI. Hoće li ove napredne sposobnosti uzrokovati da različiti sektori zdravog ljudskog zapošljavanja i nastojanja odjednom postanu nepoželjni? Naše društvo je već u lošem stanju u pogledu toga ko radi, ko zarađuje, a ko troši. Ako ekosistemi srednje klase koji rade za život budu dodatno poremećeni jer AI može bolje i besplatno obavljati mnoge iste zadatke, možemo biti sigurni da će poremećaj povećati podjelu između bogatih i nas ostalih, da će 1 % će moći imati koristi od promjene dok mi ostali ostajemo da se suočimo s posljedicama, a da će 1% također učiniti AI alate koji pomažu 1% nedostupnim ljudima koji bi mogli koristiti njihovu pomoć, ili preskupi za da im pristupe.
Suočimo se s tim, u grabežljivim kapitalističkim ekonomijama u kojima mnogi od nas žive, nezaposlenost znači zaduživanje i gubljenje slobode izbora, a to je upravo ono što su ove sociopatske ekonomije tvrđave dizajnirane da urade običnim ljudima – oduzimaju nam moć izbora i natjerati nas da ih platimo i radimo za njih. Ovo je buduća vizija kapitalizma tvrđava danas: imaćemo nove inteligentne i moćne kompjutere, pošto smo i sami siromašni.
Tu je i činjenica da policija i vojska već počinju koristiti alate umjetne inteligencije, zajedno sa novim moćnim i nasilnim robotima. Mislim da je ovo možda najozbiljnija i najneposrednija prijetnja koju AI trenutno predstavlja, i mislim da se protestni pokreti koje opsjeda policija, poput, recimo, važnog pokreta Stop Cop City u Atlanti, Džordžija, već suočavaju sa ovom promijenjenom stvarnošću. AI sistemi nose predrasude i šifrirane vrijednosti svojih ljudskih kreatora, tako da policija ili vojska obučena AI prijete da postanu bukvalne mašine za lov i ubijanje ranjivih populacija, birajući svoje mete na osnovu izgleda ili rase. U svijetu koji već bjesni kontroli ratom od Ukrajine do Jemena, ideja o osnaživanju jedne ili druge strane – i, neizbježno, obje strane – novim vrstama mašina za ubistva i režima suzbijanja kodiranih opakim rasnim profiliranjem je užasna kao zvuči.
Najgori scenariji za masovnu nezaposlenost ili rasno kodiranu umjetnu inteligenciju koju koriste policijske i vojne snage su zastrašujući, a mi ne možemo spavati o tome jer su efekti već u našem svijetu. To se već dešava. Dakle, hajde da započnemo ovaj razgovor priznavanjem da su dva odvojena užasa koje napredna AI izgleda predstavlja – masovna nezaposlenost i zlostavljanje od strane policije i vojske – dva različita načina na koja moćne sile ukorijenjenog bogatstva i privilegija kradu prava i slobode od ljudi .
Govoreći o ukorijenjenom bogatstvu i privilegijama – hajde da pričamo o OpenAI, kompaniji u Sjevernoj Kaliforniji koju možete pronaći na internetu na adresi OpenAI.com. Ova kompanija je bila malo poznata sve dok nisu lansirali DALL-E generator slika 2021. godine, a onda su u novembru 2022., prije samo devet mjeseci, objavili svoj prvi javni chatbot, ChatGPT3, nakon čega su ubrzo uslijedili moćniji i sposobniji ChatGPT3.5 i ChatGPT4 , verzije dostupne sada.
Bio sam prilično nokautiran kada sam prvi put vidio slike koje DALL-E može stvoriti, a bio sam još više nokautiran kada sam prvi put isprobao ChatGPT. Izazov sa kojim su ovi alati pokušavali da se suoče bio mi je veoma poznat, jer sam i sam intenzivno proučavao veštačku inteligenciju, kao i mnogi programeri softvera. Moj prvi susret sa veštačkom inteligencijom bio je samostalni studijski projekat koji sam radio na koledžu, pre nekoliko decenija.
Ovo su bile 1980-te, i možda će se neki vrlo mladi ljudi iznenaditi kada čuju da su ljudi poput mene radili 1980-ih, ali pojam umjetna inteligencija star je skoro koliko i sama kompjuterska revolucija. Iako su dostignuća umjetne inteligencije od 1950-ih do 1990-ih bila infantilna u poređenju s napretkom koji smo vidjeli u godinama od tada.
Oblast je bila toliko otvorena još 80-ih, u stvari, da sam mogao da dobijem nekoliko kredita tokom svoje zadnje godine kombinovanog smera filozofije i računarstva tako što sam pripremio originalni nezavisni studijski projekat za program koji bi analizirao rečenice na engleskom i odgovorite na način koji demonstrira ili simulira osnovno razumijevanje. Kodirao sam u LISP-u na urnebesno glomaznom Unimatic terminalu koji sija zeleno, spojenom na masivni Univac mainframe koji je bio veličine velike zgrade i vjerovatno je imao manje snage od MacBook-a na kojem trenutno snimam ovaj podcast, jer smo tako krenuli još 80-ih godina.
Uzbudljiv izazov mog nezavisnog studijskog projekta AI bio je da raščlanim i odgovorim na rečenice koje uključuju jednostavne glagole i imenice. Na primjer, u svoj LISP program ukucao bih rečenice poput „Imam mačku koja se zove Happy“ i „moja mačka je narandžasta“ i „sve mačke kažu mijau“, što bi demonstrirao određeno razumijevanje odgovarajućim na pitanja poput „da li je Happy narandžasta?“ ili „da li Marcova mačka kaže mijau?“. Zanimljivo je da sam pokušavao da napravim AI chatbot upravo tamo na mom Univac glavnom računaru.
Kladim se da su mnogi drugi studenti pokušavali da urade istu stvar u to vreme, ali niko od nas nije stigao daleko, jer su to bile 1980-te i jedna ključna briljantna ideja još nije stigla do nas: neuronska mreža, koja obezbeđuje softver struktura dizajnirana za izvođenje masovno paralelnih jednostavnih operacija sličnih neuronima u ljudskom mozgu. Dok je moj LISP program pružao jednonitno računanje, a Fortran i COBOL i Pascal programi slijedili su istu ograničenu jednonitnu paradigmu, neuronske mreže su pružale paralelne elementarne niti koje su paralelno izvodile jednostavna izračunavanja. Ljudski mozak obavlja puno paralelnih procesa – simultane operacije koje se kaskadiraju kako bi se formirale iluzije singularnosti – a softverska struktura poznata kao neuronska mreža omogućila bi koderima da izvuku snagu ove paralelne obrade – nakon što sam završio fakultet.
Zajedno sa konceptom neuronske mreže na kraju je došao i koncept treninga neuronske mreže sa repetitivnim aktivnostima – još jedan koncept koji nas još nije stigao 80-ih godina. Dao sam svom LISP programu mali broj kompletnih rečenica i nisam mu davao nikakvu povratnu informaciju pomoću koje bi ispravio i poboljšao njegove performanse. Ono što je trebalo da radim, umesto da kucam rečenice u svoj kompjuterski terminal, jeste da mu hranim čitave knjige, novine i enciklopedije, i da stalno komuniciram s njim kako bih dao povratnu informaciju o njegovom ponašanju dok je moj program u više navrata pokušavao da simulira najosnovnije, primitivne radnje razumevanja. Dajući mu puno materijala za čitanje kako bih izgradio bogatu i složenu bazu znanja i trenirajući je ponavljajući i temeljno, možda sam zapravo natjerao svoj kompjuterski program da kaže nešto iznenađujuće o tome da li imam ili ne imam mačku koja je narandžasta. Ispostavilo se da su neuronske mreže i ponavljajuća obuka pomogli da se dovede do uspješnih simulacija ljudske inteligencije koje danas vidimo kod chatbotova.
Primijetit ćete da govorim o simulaciji ljudske inteligencije. Ovo ukazuje na još jednu kontroverzu. Neki ljudi smatraju da je termin "vještačka inteligencija" smiješan. Što je gore nego smiješno, neki smatraju da je ta ideja etički zabrinjavajuća jer, ako inteligencija stvara svijest, umjetna inteligencija se može preobraziti u umjetnu svijest – umjetnu svijest, umjetnu samovolju, umjetno pravo na postojanje. Ovo sigurno izaziva mnoga egzistencijalna pitanja. Sva ova pitanja su validna i važna. Neki se pitaju da li motori znanja AI i jezički modeli možda već razvijaju svijest. Lično, smatram da je prilično lako izjaviti da, ne, ne moramo da brinemo o tome da će chatbotovi razviti stvarna osećanja. Postoji mnogo različitih aspekata umjetne inteligencije o kojima treba brinuti, a ja lično ne brinem o ovome. Ali to ne znači da mogu dokazati da sam u pravu i da niko ne treba da brine o tome. Možda sam samo toliko opterećen različitim stvarima o kojima bih trebao brinuti da nemam vremena za brigu o ovoj. Nemam konačan odgovor na sva pitanja koja se mogu pojaviti u vezi sa pitanjima čula mašina, i neću se pretvarati da imam. Ali znam koja su pitanja sa kojima treba da smislimo kako da se suočimo.
Jedno mišljenje koje ponekad čujem u aktivističkim zajednicama je da AI predstavlja gomilu hypea – iluzija koju podstiču odlične konverzacijske vještine velikog jezičkog modela. Naravno, GPT može raščlaniti pitanje i odgovoriti u elegantnoj frazeologiji, ali zašto bi nas ta sreća s jezikom navela da zamislimo da je napravljen neki značajan napredak? Google i Wikipedia su već učinili da cjelokupno ljudsko znanje bude lako dostupno na Internetu, na užas Enciklopedije Britannica. Slušamo svu ovu reklamu o ChatGPT-u jednostavno zato što predstavlja lingvističku fasadu ljudske svijesti, iluziju na koju svi tako željno padamo. Mislim da tu ima neke valjanosti. Možda da su se Google ili Wikipedia prvobitno pokrenuli na način na koji je ChatGPT iznenadno i potpuno formiran, možda bismo pričali o pokretanju Gugla ili Wikipedije kao ogromnom napretku u kolektivnoj ljudskoj inteligenciji, jer su oba već uticala na naš svijet.
Ipak, kao što sam već spomenuo kada sam govorio o neuronskim mrežama i obuci, opisati velike jezičke modele kao fasade znači potcijeniti slojeve softverske strukture koji moraju postojati da bi ova lingvistička sreća bila moguća.
Evo većeg pitanja, po mom mišljenju: hajde da pogledamo etiku OpenAI-a i njegovih principala, osnivača i investitora i partnera. Ima tu gomilu problema.
OpenAI.com je privatno finansirana istraživačka laboratorija koja proizlazi iz istog izuzetno bogatog i snažnog ekosistema tehnoloških inkubatora iz Silicijumske doline koji nam je dao Facebook, Google, Microsoft, Amazon i Oracle. Među njegovim osnivačima je Elon Musk, slavni milijarder čije me sociopatske javne primjedbe stvarno muče isto koliko i mnoge druge ljude. Elon Musk nikada nije bio direktno uključen u OpenAI, a prešao je na druge stvari kao što je iskazivanje svoje uvredljive ličnosti na društvenim mrežama, tako da je to sve što želim reći o Elonu Musku danas.
Kako ja to vidim, još je strašnije što je OpenAI usko povezan s Microsoftom, velikim ratnim profiterom i velikim profiterom u polju umjetne inteligencije za rat. Nadam se da će ljudi brinuti o ovoj uznemirujućoj asocijaciji, čak i više od povezanosti Elona Muska. Trebalo bi nas jako uznemiriti što je prijateljsko lice DALL-E i OpenAI korisna fasada za barem jednog ogromnog utjecaja i zlog ratnog profitera, Microsofta, koji već razvija vrste rasno kodiranih vojnih i policijskih aplikacija umjetne inteligencije o kojima smo razgovarali o gore. Ovo se već dešava iza kulisa u Microsoftu i drugim američkim tehnološkim divovima koji su duboko povezani sa američkom ratnom mašinom. A ovo su najgore vijesti koje se mogu sjetiti.
Mi u antiratnom pokretu ne možemo okrenuti leđa vještačkoj inteligenciji zbog njenog zlog potencijala. Naravno, ne mislim da svi u antiratnom pokretu moraju dozvoliti tehnološke napade u svoje živote. Drago mi je da su mnogi naprednjaci i aktivisti napravili valjan izbor da izbjegnu trendovske tehnološke inovacije u svojim životima. Mogu da prihvatim i poštujem ovaj stav, iako sam i sam daleko od načina života bez tehnologije. Tehnologija je moje polje, moja karijera, a kao tehnolog sam fasciniran genijalnošću i kreativnošću i inovacijama koje stoje iza poduhvata poput umjetne inteligencije.
Također, jednostavno kao znatiželjna osoba, apsolutno sam zainteresiran da steknem uvid u ljudsku inteligenciju učenjem o tome kako su kompjuteri napravljeni da je simuliraju. Dopuštam i ChatGPT u svoj život jer sam otkrio koliko je koristan. Idem na OpenAI.com i stalno mu postavljam pitanja. Koristim ChatGPT za pisanje koda, uključujući Javascript za novu verziju naše interaktivne mape američkih stranih vojnih baza na kojoj radim ovog ljeta zajedno s drugim ljudima na World Beyond War.
Recimo da želim očistiti parametar stringa upita uklanjanjem posebnih znakova s regularnim izrazom, što je nešto o čemu bih pitao Stack Overflow, i sastavio bih svoj radni kod iz preporučenih fragmenata objavljenih u niti za razgovor . Umjesto toga, sada kažem ChatGPT-u šta želim, a ChatGPT jednostavno ispljune savršeno formatiran Javascript, izvršni i bez grešaka. Većina mojih prijatelja programera sada koristi ChatGPT za pisanje koda – znam da to radimo jer volimo razgovarati o tome. Mislim da niko od nas kodera još nije zabrinut da će nas ChatGPT zamijeniti, jer mi smo ti koji moramo spojiti dijelove koda kako bismo stvorili funkcionalne sisteme, a GPT samo proizvodi dijelove koda. Ali se pitam kako će ovo promijeniti način rada programera softvera. Definitivno već mijenja igru.
Takođe koristim ChatGPT da tražim stvari na mreži na način na koji sam koristio Google, i koristim ga za upite i perspektive i pozadinske informacije o stvarima o kojima pišem ili o kojima razmišljam. Ne šalim se kad kažem da ga koristim za sve – kao kada sam gore pomenuo tehnološkog filozofa iz 1960-ih Marshalla McLuhana, naravno, pitao sam ChatGPT za neke informacije o Marshallu McLuhanu, a ChatGPT mi je rekao da je 1964. godina kada je objavio knjigu u kojoj je pisalo “medij je poruka”.
Činjenica da su mnogi od nas već prešli sa Google-a na GPT za osnovne internet pretrage govori mnogo. Vrlo je lako početi dopuštati ovim novim vrstama alata da polako i neprimjetno uđu u naše živote, čak i kada brinemo o implikacijama i motivacijama iza njih.
Poput temeljne softverske tehnologije samog Interneta, koju je iz sumnjivih razloga stvorila američka vojska, ali je nastavila da izaziva društvene promjene i pronalazi nove slučajeve upotrebe koji su bili potpuno izvan područja svoje prvobitne svrhe, ova nova tehnologija će pronaći svoj put da utiče na naše živote. Ova nova tehnologija je stvarna, radi previše dobro da bi je ignorisala, i tu je da ostane. Opet, zato provodim epizodu razgovarajući s antiratnim aktivistima o tome – jer je to već dio naše stvarnosti, i možda će nam trebati neka od ovlasti ako se ponude da bismo obavili svoj posao ovdje na zemlji.
Provedite minut razmišljajući o mnogim aspektima života na ovoj planeti koji nemaju strašnih problema kojih smo mi antiratni aktivisti toliko svjesni. Umjetnost, muzika, književnost, biologija, hemija, fizika, geologija, astronomija, medicina, zdravstvo, proizvodnja, poljoprivreda, ishrana. U svim ovim svjetovima, svi ovi napori ... javno lansiranje vrlo sposobnog chatbot-a općeg znanja ima veliki utjecaj. Nema polja koje ne dotiče.
Na planu mirnog ljudskog suživota – planu za koji bih volio da mogu više vremena provoditi na sebi – umjetna inteligencija je čudesni napredak ljudskih sposobnosti koji obećava velike koristi. Kad bismo samo živjeli u mirnom, sigurnom i pravednom svijetu, bolje bismo mogli zajedno uživati u čudima koja umjetna inteligencija može proizvesti.
Vidimo neka od ovih čuda kada radimo s generatorom slika i stvaramo zapanjujuće pametne ili kreativne slike na temelju vlastitih poticaja koje inače ne bismo mogli proizvesti. Također osjećamo paradoks o tome da li se alati umjetne inteligencije mogu koristiti za dobro. Kao tehničar, vjerujem da nisu tehnološke inovacije problem na planeti Zemlji u 21. vijeku. Uvijek pozdravljam tehnološke inovacije i mislim da su opasnosti koje AI predstavlja posljedica ukorijenjenog kapitalizma i rata – zbog činjenice da je ovo planet u ratu sam sa sobom, planeta kojom dominira bogati 1% koji ne može odoljeti da se stavi samoubilački put izgradnje militariziranih društava tvrđava koja potiskuju druga ljudska bića kako bi zadržali privilegije. Ono što trebamo učiniti je izliječiti naše društvo – ono što ne trebamo učiniti je bježati od tehnološkog napretka jer pogrešno razumijemo uzroke naše agonije i naše samoubilačke putanje.
To je ono što ja mislim. Naravno da to nije ono što svaki antiratni aktivista misli, i to je u redu. Imali smo nekoliko zanimljivih reakcija na World Beyond War email diskusijska lista – koji je živahan i inteligentan forum kojem preporučujem svima da se pridruže, samo kliknite na link na našoj web stranici ili potražite world beyond war lista za diskusiju – nakon što je neko podelio neke zaista maštovite antiratne slike koje su generisane sa DALL-E, a neko drugi je podelio neke iznenađujuće korisne reči o tome kako naša bolesna planeta može da pronađe put do svetskog mira.
Vjerujem da bi aktivisti trebali ovladati svim dostupnim tehnologijama – da aktivizam ne bi trebao sebe staviti u poziciju da bude manje sposoban za korištenje naprednih inovativnih tehnologija od korumpiranih vlada i pohlepnih korporacija koje nas ugnjetavaju.
Također vjerujem da možemo izvući iznenađujuće filozofske istine o ljudskoj svijesti i ljudskom postojanju proučavajući algoritme i obrasce dizajna koji se koriste za modeliranje i simulaciju. Samo provođenje nekoliko minuta glupiranja sa ChatGPT-om na OpenAI web stranici može otkriti neke divlje istine o ljudskoj prirodi.
Evo jedne divlje stvari oko koje još uvijek motam mozak. ChatGPT ponekad laže. Stvara stvari. Obično to nećete vidjeti kada počnete ispitivati GPT, jer će obično doći do moćnog odgovora na prvo pitanje u konverzacijskoj niti. GPT vas zatim prati dok postavljate dodatna pitanja, a evo gde je moguće vratiti GPT u ugao gde počinje da laže. Jedno od prvih pitanja koje sam ikada postavio ChatGPT-u bilo je da mi kaže o najboljim antiratnim podcastima, jer je, naravno, moj ego bio angažovan i želeo sam da vidim da li World Beyond War podcast bi se pojavio na listi.
Sada, pošto je GPT prethodno obučen – to jest, bio je prethodno obučen i više se ne hrani aktivno sa aktuelnim vijestima i informacijama, tako da ne bih očekivao da zna puno o mom malom podcast. Takođe nisam želeo da iskrivim rezultate pokazujući GPT-u da me zanima jedan konkretan podcast, pa sam ga pitao da li ima odličnih antiratnih podcasta i uverio me da ih zaista ima. Zatim sam počeo ulaziti u pojedinosti, nadajući se da ću ga potaknuti da imenuje World Beyond War podcast pitanjem – možete li mi reći o podcastima koji su intervjuisali poznate aktiviste poput Medee Benjamin. Evo gdje stvari počinju da postaju smiješne. Jednom kada sistem podnese tvrdnju, pokušat će podržati tvrdnju, pa nakon što me je uvjerio da zaista postoje podcastovi koji su intervjuisali Medeu Benjamin, zamolio sam ga da navede jedan od ovih podcasta, a onda mi je rekao da je Medea Benjamin voditeljica vlastitog podcasta. Hm, nije! Da jeste, sigurno bih je poslušao. Uspio sam natjerati ChatGPT da laže tako što sam ga spustio u ćošak gdje je trebao pružiti informacije koje nije imao, tako da je napravio informacije koje su zvučale realno.
Ovo se dešava češće nego što se misli. Takođe možete lako uhvatiti ChatGPT u grešci tako što ćete mu dati istinite, ali kontradiktorne informacije. Nakon što me je GPT tačno obavestio da je Marshall McLuhan 1964. uveo citat „Medijum je poruka“, sjetio sam se da je ovaj briljantni i oštar filozof napisao i neku vrstu ironičnog nastavka svoje ranije knjige koja se bavila mračnijim i zabrinjavajućim načine na koje mediji mogu uspavljivati ljudske umove, zastrašujuću populaciju korporativne masovne kontrole stanovništva putem medija – jer je Marshall McLuhan zaista bio tako strašan, shvatio je ovu opasnost još 1960-ih i objavio drugu knjigu 1967. s umjetnikom Quentinom Fioreom pod nazivom “Medijum je masaža”.
Dakle, evo gdje su stvari postale čudne s GPT-om. Zamolio sam ChatGPT da mi kaže o citatu Marshalla McLuhana “medij je masaža” … i GPT me je jasno obavijestio da McLuhan nije rekao “medij je masaža” već je rekao “medij je poruka”. Očigledno, GPT je mislio da je masaža greška u kucanju. Tada sam obavijestio GPT da je to netačno i da je McLuhan zaista rekao i “medij je poruka” i “medij je masaža”. Čim sam ovo rekao, ChatGPT je shvatio svoju grešku, izvinio se i obavijestio me da je, da, “medij je masaža” knjiga koju je napisao 1967.
Pa zašto je onda prvo pogrešio, a posebno zašto je pogrešio kada je već imao pristup pravom odgovoru na dohvat ruke? Pa, evo gdje GPT počinje da otkriva iznenađujuće istine o nama samima, jer su zapravo dvije greške ili loše ponašanje GPT-a učinile da izgleda više ljudski, a ne manje. Zapamtite da G u GPT označava generativno. Sistem je dizajniran da generiše odgovore kada nije siguran u tačan odgovor. Može vam reći naslov filma ili knjige koji ne postoji – ali to će biti naslov za koji se čini da bi mogao postojati. Ako imate otvoren, dug razgovor sa ChatGPT-om o bilo kojoj temi o kojoj mnogo znate, brzo ćete vidjeti da počinje praviti greške.
Način na koji sam bio u mogućnosti da odvedem GPT u ćošak postavljajući mu dodatna pitanja na njegove vlastite odgovore, što je na kraju dovelo do toga da generiše realistične naizgled, ali lažne informacije u pokušaju da potkrijepi svoje prethodne izjave, nije mi se činilo neljudskim, već temeljito čovjek.
Ovdje vidimo tupu moć retoričkih i manipulativnih stilova argumentacije. Možda ono što možemo naučiti iz ovog iznenađujućeg lošeg ponašanja ChatGPT-a jeste da je ljudski nemoguće shvatiti istinu bez izmišljanja istine na ovaj ili onaj način, a ako ne budemo oprezni, ove izmišljene istine koje koristimo u retoričke svrhe mogu postati laži koje smo mi primoran da se brani sa više izmišljotina. Čovječe, ovo mi se sigurno čini životnim.
Još životnije: znamo da ChatGPT ljudsko ponašanje uključuje laganje. A mi ipak vjerujemo! Čak i sam nastavljam da ga koristim, jer, zaista, dovoljno sam samouvjeren da vjerujem da ću uvijek moći otkriti kada se GPT trudi da dobije odgovor i generiše lažne informacije. Hej, možda se zezam i možda bih trebao razmisliti o svojoj sklonosti da vjerujem u izmišljene istine i o svojoj sklonosti da omogućim laganje drugima.
Evo načina na koji nas GPT čini pametnijima, ukazujući na načine na koje se bavimo neistinom i fasadama i bijelim lažima i prijateljskim obmanama u našim normalnim ljudskim odnosima. Ukratko: ChatGPT ne može simulirati ljudsko ponašanje, a da ponekad ne laže. Ovo je paklena stvar o kojoj svi mi treba da razmišljamo.
Evo još nečega o čemu treba razmišljati: kako se mi ljudi snalazimo u smislu držanja koraka s tehnološkim inovacijama koje definiraju naša društva? U posljednjih nekoliko godina prilagođavamo se napretku u umjetnoj inteligenciji u isto vrijeme kada apsorbiramo izum blockchaina, nove tehnološke metode izgradnje zajedničkih baza podataka s novim konceptima vlasništva, pristupa i validacije. Uradili smo prethodnu epizodu o blockchainu, i lično sam prilično siguran da većina ljudi koje poznajem još uvijek ne razumije načine na koje blockchain mijenja naše živote i da će promijeniti naše živote u budućnosti – a sada imamo veliki jezik modeli i motori opšteg znanja da promene naše živote i našu budućnost! Stavite ovo na vrh, hmm... gde ja uopšte da idem ovde... projekat ljudskog genoma, ogroman napredak u nauci o mozgu, istraživanje i kolonizacija svemira... hej, ljudi, da li idemo u korak sa svim ovim?
Sada bacimo tehnološke i naučne sporove oko pandemija kao što je COVID, i nemojmo se zaustaviti na tome, nego nastavimo s razmatranjem situacije široko dostupnog nuklearnog oružja u rukama korumpiranih i nesposobnih takozvanih vlada kojima upravljaju ostarjeli birokrati i politike obostrano osiguranog uništenja.
Da li držimo korak sa ovim? Ne, ali ovo sranje nas prati, i ima naš broj. Svako jutro se budim i čitam o proxy ratu između NATO-a i Rusije koji je tragično ubijao jadna ljudska bića koja žive u Ukrajini. I svako jutro se pitam da li je ovo dan kada će nesposobnost naših takozvanih lidera izazvati nuklearni rat – svakog dana se pitam da li je ovo posljednji dan za ljudski život na planeti Zemlji.
Vruće je ljeto 2023. Izašao je novi film pod nazivom “Openhajmer” o naučniku čiji je rad doveo do neverovatnog užasa trenutnog ubistva stotina hiljada ljudskih bića u Hirošimi i Nagasakiju u Japanu 1945. godine. Mislim da nije bilo ko od nas je još uspio dovoljno proširiti vlastite umove da shvati apsolutno zlo, šokantne, nepodnošljive istine o greškama koje su naša društva napravila – i o našem neuspjehu da se poboljšamo i podignemo iz naše patetične, sramotne društvene ovisnosti o masovna mržnja i masovno nasilje.
Gore sam spomenuo da se neki ljudi pitaju može li ili ne umjetna inteligencija dovesti do svijesti i/ili osjećaja – može li AI sistem ikada razviti emocije i osjećaje, i šta ove riječi i ova pitanja uopće znače. Još nisam gledao film Openheimer, i prilično mi je muka od ideje o filmu o masovnim ubistvima u Japanu koji ne prikazuje lica japanskih žrtava. Umjesto da se pitam da li su AI sistemi razumni ili ne, sve što želim reći je da je svaka pojedinačna osoba spaljena u Hirošimi i Nagasakiju bila razumna i svjesna. To je istina sa kojom mislim da se još nismo uspjeli suočiti. Možda moramo još malo da treniramo svoje misli o ovome.
I tu danas završavamo. Ljudi se ne mogu nositi s istinom o problemima koje smo stvorili i promjenama koje moramo napraviti da bismo poboljšali sebe. Ni botovi ne mogu da podnesu istinu. Hvala što dijelite ovaj prostor sa mnom dok razmišljam o misterijama i ironijama ljudskog postojanja, a ja ću nas izvesti ljudskim glasom pjevačice i tekstopisca koju volim dugo vremena, Sinead O'Connor, i pesma pod nazivom The Healing Room. Hvala što ste slušali 50. epizodu. Vidimo se uskoro na 51.
World BEYOND War Podcast na iTunes-u
World BEYOND War Podcast na Spotify
World BEYOND War Podcast na Stitcher-u
World BEYOND War Podcast RSS Feed
