af Marc Eliot Stein, World BEYOND War, 31. juli 2023
Dette er en komplet udskrift af afsnit 50 af World BEYOND War: en ny podcast.
Det er juli, den varme sommer 2023. Du ved, hvem jeg er, jeg er Marc Eliot Stein, teknologidirektør for World Beyond War, stadig her i Lanape-landene i Brooklyn New York, gør stadig det rigtige her på World Beyond War podcast, Undtagen i dag er speciel, fordi dette er episode 50, wow et rundt tal.
Da jeg startede denne podcast, tænkte jeg vist aldrig på, om jeg nogensinde ville nå 50 afsnit. Tallet 50 ville helt sikkert ikke have virket realistisk på det tidspunkt. Jeg tænkte først og fremmest på, om jeg nogensinde ville gennemføre episode nummer 1, og der var et par tætte opkald med at give op, før jeg gjorde det.
Og her er jeg på 50, og sikke en glædelig ting det er, at indse, at vi fandt ud af, hvordan vi kunne få denne antikrigs podcast til at fungere, og fandt et publikum, der vokser hver måned. Jeg er så stolt af denne podcast, og jeg er taknemmelig for alle, der har været en del af den indtil videre.
Podcasting er et unikt kreativt format. Det er ikke som noget andet. Jeg ved det, fordi jeg selv er podcastafhængig. Jeg har mindst 20 regelmæssige shows, som jeg virkelig holder af – om historie, politik, teknologi, musik, litteratur, tv, film. Når jeg er i humør til at slappe af og udvide min viden på samme tid, er der virkelig ikke noget andet format, der rammer, som en podcast gør. Jeg synes, dette er en vigtig skelnen: indsæt en vært og en gæst i et webinar, f.eks. eller en livestreamet chat, og de vil have én slags samtale, men hvis du sætter de samme to personer ind i et podcastinterview, vil de på en eller anden måde vil have en anden form for samtale – sandsynligvis mere personlig, mere spontan, mere tumult, mere i øjeblikket, mindre designet til at bevæge sig hen imod en konklusion.
Hvorfor er dette præcist? Jeg ved det ikke, men den afdøde medie- og teknologifilosof Marshall McLuhan skrev noget i 1964 om, hvor hurtigt tv'ets nye popularitet ændrede det moderne samfund, og han havde ret. Mediet, sagde McLuhan, er budskabet. Formatet er indholdet.
For eksempel kan du skrive de samme ord på Facebook og på Twitter og på LinkedIn, og ordene vil have en anden bestemt betydning i hvert enkelt tilfælde. Siden podcasts hylder den spontane og uøvede menneskelige stemme, er podcasting blevet et forum, hvor menneskelig ambivalens eller endda forvirrende modsigelse og ironi nemt kan hilses velkommen og forstås. Jeg gætter på, at dette er et godt forum til at tale om en tendens, der er meget i nyhederne, og som jeg har en masse ambivalente og forvirrende tanker om at dele med dig i dag. Jeg taler om kunstig intelligens.
Da Marshall McLuhan sagde, at mediet er budskabet tilbage i 1964, dengang kun få mennesker tænkte på de subtile måder, tv og andre intime hjemmebaserede udsendelsesmedier ændrede selve strukturen i det menneskelige samfund på. I dag truer et nyt medie, der er muliggjort af nutidens mest up-to-date teknologi, også med at få en stor samfundsmæssig indflydelse. Jeg taler om populære AI-værktøjer til generelle formål som ChatGPT, som er tilgængelige for alle med en internetforbindelse – og hvis du ikke har hørt om ChatGPT, får det en masse opmærksomhed overalt på grund af, hvor godt det emulerer menneskelig samtale og hvor ubesværet det kan integrere og hente hele det brede spektrum af tilgængelig generel viden.
Chatbots har eksisteret i et par år – de kan være lige så enkle og ufarlige som venlige automatiserede kundeservice-chatbots på et BestBuy- eller Ticketmaster-websted. Nye chatbots som ChatGPT4 er ikke begrænset i omfang til elektroniske produkter eller koncertbilletter – det er meget forskellige typer vidensmotorer, kendt som store sprogmodeller, trænet til at forstå hele menneskelig intelligens.
Nogle gange tror folk, at G i ChatGPT er for General, og dette ville være et anstændigt gæt, fordi systemet er designet til at demonstrere generel intelligens og generel viden. G'et står faktisk for Generative, hvilket betyder, at dette produkt også er designet til at skabe ting - at generere originale billeder og ord. P står for pre-trained, som vi taler om om et par minutter, og T er for Transformer, som ikke er et klassisk Lou Reed-album, men et softwaredesignmønster, der gør det muligt for sprogmodellen at reagere på indtastede tekster behandle et ord ad gangen, men ved at overveje og køre transformationer på hele den indtastede tekst som helhed.
Disse nye chatbots kan tale om ethvert emne i en venlig, interpersonel, nuanceret samtalestil. Chatbotterne kan skrive essays, løse problemer, lave dybe databasesøgninger, generere computerkode, svare på vanskelige spørgsmål med det samme. ChatGPT og andre tilbud som det viser et niveau af sproglig og omfattende smidighed, der ser ud til at flytte feltet for kunstig intelligens fremad hurtigere, end mange af os forventede ville være muligt. Der var en nyhed for ikke så længe siden, at nogle medarbejdere hos Google troede, at deres eget AI-system kunne bestå Turing-testen og blive umulig at skelne fra sansende menneskelig kommunikation, hvilket skræmmede Googles egne eksperter med beviser på bevidsthed. Jeg ved ikke, om jeg personligt tror, at enhver kunstig intelligens kan bestå Turing-testen, men jeg ved, at mange eksperter nu tror, at dette er ved at blive muligt.
Chatbots med generel viden er langt fra den eneste populære brugssag til AI. Billedgeneratorer kan øjeblikkeligt skabe visuelle kunstværker ud fra tekstprompter – nogle gange opsigtsvækkende, smarte billeder, der ville tage fysiske malere eller digitale kunstnere timer eller dage eller uger at skabe. Billedgenerering fra tekstprompter er en realitet i dag via gratis online billedgeneratorer til kunstig intelligens som DALL-E, fra OpenAI, det samme Silicon Valley-firma, der skabte ChatGPT. Du kan forestille dig en idé og beskrive en malestil, og denne webservice sender dig på magisk vis en masse forskellige variationer af forsøg på at fange din idé.
Dette er en realitet i dag, og det er også en realitet i dag, at ChatGPT4 kan skrive dygtige, tankevækkende, omfattende essays om næsten ethvert emne, de bliver spurgt om – essays, der kan være gode nok til at opnå avancerede universitetsgrader.
Måske er det for tidligt at komme med en forudsigelse som denne, men det ser ud til, at intelligente chatbots og billedgeneratorer – maskingenereret skrift og maskingenereret kunst – repræsenterer en stor teknologisk innovation og en stor samfundsinnovation, der vil påvirke os alle på jorden på én måde eller en anden. Hvem ved, hvilken vej fremtiden går i disse dage, men det virker i det mindste muligt, at lanceringen af ChatGPT3 i 2022 en dag vil blive husket et betydningsfuldt øjeblik i kulturhistorien svarende til lanceringen af Mosaic-browseren i 1993, som kickstartede hele den populære Internetboom, som vi stadig lever i i dag.
Det synes også muligt, jeg er foruroliget over at sige, at denne nye innovation vil forårsage nye former for store problemer, som vi alle bliver nødt til at håndtere, selvom mange af os måske føler, at vores samfund allerede drukner i de uønskede eftervirkninger af andre teknologiske innovationer, som vi ikke bad om i vores liv, som ikke inviterede ind i vores liv, og som alligevel er i vores liv.
Jeg vil bruge denne episode på at tale om, hvordan AI påvirker os som antikrigsaktivister. Lad mig sige dette på forhånd: AI er et varmt emne, meget kontroversielt, og det er, som det skal være. Vi bør bekymre os om det, og vi bør tale om det, og efter min mening bør vi også åbne vores sind for det gode, som denne teknologi kan gøre.
Det er kontroversielt blandt progressive og aktivister, og det er kontroversielt for alle. Det burde være kontroversielt, og jeg laver ikke denne episode, fordi jeg har nemme svar på, hvordan disse seneste innovationer kan påvirke vores planet. Jeg ved, at de vil påvirke vores verden, og jeg ved, at antikrigsaktivister er nødt til at tale om det. Så jeg laver denne episode for at få samtalen i gang, for at redegøre for de forskellige spørgsmål, som jeg tror, mange antikrigsaktivister sandsynligvis kæmper med, når de taler om dette emne, og måske for at udtrykke en vis forståelse for alle siderne af dette forvirrende. problemer. Det er det, jeg vil prøve at gøre her – og når du er færdig med at lytte til denne episode, så del venligst din feedback på vores world beyond war webside for denne episode, eller ved at kontakte mig direkte – jeg er nem at finde.
Med hensyn til indflydelse på hverdagen, spekulerer mange på, om kunstig intelligenss fantastiske evner vil sætte mange mennesker uden arbejde. Dette er ofte den første bekymring, der opstår hos folk, når de ser kraften i AI. Vil disse avancerede kapaciteter forårsage, at forskellige sektorer af sund menneskelig beskæftigelse og bestræbelser pludselig bliver uønsket? Vores samfund er allerede slemt ude af balance med hensyn til, hvem der arbejder, hvem der tjener og hvem der bruger. Hvis middelklassens økosystemer, der arbejder for et levende, forstyrres yderligere, fordi AI kan udføre mange af de samme opgaver bedre og gratis, kan vi være sikre på, at forstyrrelsen vil øge skellet mellem de velhavende og resten af os, at den 1. % vil kunne drage fordel af ændringen, mens vi andre er overladt til at tage konsekvenserne i øjnene, og at de 1 % også vil gøre AI-værktøjer, der hjælper de 1 % utilgængelige for de mennesker, der kunne bruge deres hjælp, eller for dyre for dem at få adgang til.
Lad os se det i øjnene, i de rovkapitalistiske økonomier, hvor mange af os sidder fast og lever i, betyder arbejdsløshed, at vi går i gæld og mister vores valgfrihed, og det er præcis, hvad disse sociopatiske fæstningsøkonomier er designet til at gøre mod almindelige mennesker – tage vores magt væk. valg og få os til at betale dem og arbejde for dem. Dette er fremtidsvisionen for fæstningskapitalismen i dag: vi får nye intelligente og kraftfulde computere, da vi selv er fattige.
Der er også det faktum, at politi og militær allerede er begyndt at bruge kunstig intelligens-værktøjer sammen med nyligt kraftfulde og voldelige robotter. Jeg tror, at dette kan være den mest alvorlige og umiddelbare trussel, AI udgør lige nu, og jeg tror, at protestbevægelser, der er belejret af politiet, som f.eks. den vigtige Stop Cop City-bevægelse i Atlanta Georgia, allerede håndterer denne ændrede virkelighed. AI-systemer bærer skævheder og kodede værdier fra deres menneskelige skabere, så AI-uddannet politi eller militær truer med at blive bogstavelige jagt- og drabsmaskiner for sårbare befolkningsgrupper, der vælger deres mål baseret på udseende eller race. I en verden, der allerede raser ude af kontrol med krig fra Ukraine til Yemen, er ideen om at styrke den ene eller anden side – og uundgåeligt begge sider – med nye former for mordmaskiner og undertrykkelsesregimer kodet med ond raceprofilering lige så forfærdelig som det lyder.
De værste scenarier for massearbejdsløshed eller racemæssigt kodet kunstig intelligens, der bliver brugt af politi og militærstyrker, er rædselsvækkende, og vi kan ikke sove på dette, fordi virkningerne allerede er i vores verden. Det sker allerede. Så lad os bare starte denne samtale med at erkende, at to af de adskilte rædsler, som avanceret kunstig intelligens synes at frembyde – massearbejdsløshed og misbrug fra politi- og militærstyrker – er to forskellige måder, hvorpå magtfulde kræfter med forankret rigdom og privilegier stjæler rettigheder og friheder fra folket. .
Apropos rodfæstet rigdom og privilegier – lad os tale om OpenAI, et firma i det nordlige Californien, som du kan finde online på OpenAI.com. Dette firma var lidt kendt, indtil de lancerede DALL-E billedgeneratoren i 2021, og i november 2022, for bare ni måneder siden, udgav de deres første offentlige chatbot, ChatGPT3, hurtigt efterfulgt af den mere kraftfulde og dygtige ChatGPT3.5 og ChatGPT4 , de versioner, der er tilgængelige nu.
Jeg var ret slået ud, da jeg første gang så de billeder, DALL-E kunne skabe, og blev slået endnu mere ud, første gang jeg prøvede ChatGPT. Den udfordring, disse værktøjer forsøgte at møde, var meget velkendt for mig, fordi jeg selv har studeret AI intensivt, som mange softwareudviklere har. Mit første møde med kunstig intelligens var et selvstændigt studieprojekt, jeg lavede på college for en del årtier siden.
Dette var 1980'erne, og måske nogle meget unge mennesker vil blive overraskede over at høre, at folk som mig arbejdede med kunstig intelligens i 1980'erne, men begrebet kunstig intelligens er næsten lige så gammelt som selve computerrevolutionen. Selvom AI-præstationer fra 1950'erne til 1990'erne var infantile sammenlignet med de fremskridt, vi har set i årene siden da.
Feltet var faktisk så åbent tilbage i 80'erne, at jeg var i stand til at få et par point i løbet af mit sidste år som en kombineret hovedfag i filosofi og datalogi ved at lave et originalt selvstændigt studieprojekt til et program, der ville analysere sætninger på engelsk og svarer på en måde, der demonstrerer eller simulerer grundlæggende forståelse. Jeg kodede i LISP på en sjovt klumpete, grøn-glødende Unimatic-terminal forbundet til en massiv Univac-mainframe, der var på størrelse med en stor bygning og sandsynligvis havde mindre strøm end den MacBook, jeg optager denne podcast på lige nu, for det var sådan, vi rullede tilbage i 80'erne.
Den spændende udfordring i mit AI-uafhængige studieprojekt var at analysere og reagere på sætninger, der indeholdt simple verber og navneord. For eksempel ville jeg skrive sætninger som "Jeg har en kat, der hedder Happy" og "min kat er orange" og "alle katte siger miav" i mit LISP-program, hvilket ville demonstrere en vis forståelse ved at besvare spørgsmål som "er Happy orange?" eller “siger Marcs kat miav?”. Sjovt nok prøvede jeg at oprette en AI-chatbot lige der på min Univac-mainframe.
Jeg vil vædde på, at mange andre universitetsstuderende forsøgte at gøre det samme på det tidspunkt, men ingen af os nåede ret langt, for det var 1980'erne, og en genial nøgleidé var endnu ikke nået frem til os: det neurale netværk, som leverer en software struktur designet til at udføre massivt parallelle simple operationer svarende til neuroner i den menneskelige hjerne. Mens mit LISP-program leverede enkelttråds-beregning, og Fortran- og COBOL- og Pascal-programmer fulgte det samme begrænsede enkelt-trådede paradigme, leverede neurale netværk parallelle elementære tråde, der udførte simple beregninger parallelt. Den menneskelige hjerne udfører en hel masse parallel bearbejdning – samtidige operationer, der går i kaskade for at danne illusioner om singularitet – og softwarestrukturen kendt som det neurale netværk ville gøre det muligt for kodere at skaffe kraften i denne parallelle behandling – efter at jeg var færdig med universitetet.
Sammen med konceptet om det neurale netværk kom til sidst konceptet med at træne et neuralt netværk med gentagne aktiviteter – et andet koncept, der endnu ikke var nået frem til os i 80'erne. Jeg fodrede mit LISP-program med et lille antal komplette sætninger og gav det ikke nogen feedback til at rette og forbedre dets ydeevne med. Det, jeg burde have gjort, i stedet for at skrive sætninger ind i min computerterminal, var at fodre den med hele bøger og aviser og encyklopædier og konstant interagere med den for at give feedback til dens adfærd, mens mit program gentagne gange forsøgte at simulere de mest grundlæggende, primitive handlinger af forståelse. Ved at give den masser af læsestof for at opbygge en rig og kompleks vidensbase og træne den gentagne gange og grundigt, kunne jeg faktisk have fået mit computerprogram til at sige noget overraskende om, hvorvidt jeg havde en kat, der var orange. Neurale netværk og gentagen træning, viser det sig, var med til at lede vejen til de vellykkede simuleringer af menneskelig intelligens, som vi ser med chatbots i dag.
Du vil bemærke, at jeg taler om simulering af menneskelig intelligens. Dette peger på en anden kontrovers. Nogle mennesker finder udtrykket "kunstig intelligens" latterligt. Værre end latterligt finder nogle ideen etisk bekymrende, fordi hvis intelligens giver anledning til bevidsthed, kan kunstig intelligens forvandles til kunstig bevidsthed – kunstig sansning, kunstig vilje, kunstig ret til at eksistere. Dette kalder helt sikkert mange eksistentielle spørgsmål op. Alle disse spørgsmål er gyldige og vigtige. Nogle spekulerer på, om AI-videnmotorer og sprogmodeller måske allerede er ved at udvikle bevidsthed. Personligt finder jeg det ret nemt at erklære, at nej, vi behøver ikke bekymre os om, at chatbots udvikler faktiske følelser. Der er mange forskellige aspekter af AI at bekymre sig om, og det er ikke en, jeg personligt bekymrer mig om. Men det betyder ikke, at jeg kan bevise, at jeg har ret, og at ingen skal bekymre sig om det. Måske er jeg bare så overvældet af forskellige ting, jeg burde bekymre mig om, at jeg ikke har tid til at bekymre mig om denne. Jeg har ikke et endeligt svar på alle de spørgsmål, der måtte opstå om spørgsmålene om maskinsans, og det vil jeg ikke lade som om, jeg gør. Men jeg ved, hvad de spørgsmål er, som vi skal finde ud af, hvordan vi skal konfrontere.
En mening, jeg nogle gange hører inden for aktivistsamfund, er, at kunstig intelligens svarer til en masse hype – en illusion, der er fremmet af en stor sprogmodels fremragende samtaleevner. Selvfølgelig kan GPT analysere et spørgsmål og svare i elegant fraseologi, men hvorfor skulle denne glæde med sproget få os til at forestille os, at der er gjort nogle meningsfulde fremskridt? Google og Wikipedia har allerede gjort hele menneskelig viden let tilgængelig gratis på internettet, til Encyclopedia Britannicas forfærdelse. Vi hører al denne hype om ChatGPT, simpelthen fordi den præsenterer en sproglig facade af menneskelig bevidsthed, en illusion, som vi alle falder for så ivrigt. Jeg tror, der er en vis gyldighed her. Måske hvis Google eller Wikipedia oprindeligt var lanceret på den slags pludselige og fuldt udformet måde ChatGPT gjorde, ville vi måske tale om lanceringen af Google eller Wikipedia som massive fremskridt inden for kollektiv menneskelig intelligens, fordi de begge allerede har påvirket vores verden.
Alligevel, som jeg nævnte ovenfor, da jeg talte om neurale netværk og træning, at beskrive store sprogmodeller som facader er at undervurdere de lag af softwarestruktur, der skal eksistere for at gøre denne sproglige lykke mulig.
Her er et større spørgsmål, efter min mening: Lad os se nærmere på OpenAI's etik og dets principaler, stiftere og investorer og partnere. Der er en hel lort af problemer her.
OpenAI.com er et privat finansieret forskningslaboratorium, der er opstået fra det samme ultra-rige og højtrullende Silicon Valley-økosystem af teknologisk inkubatorer, som gav os Facebook, Google, Microsoft, Amazon og Oracle. Dens grundlæggere omfatter Elon Musk, berømthedsmilliardæren, hvis sociopatiske offentlige bemærkninger virkelig gør mig lige så syg, som de gør mange andre mennesker syge. Elon Musk var aldrig direkte involveret i OpenAI, og han er gået videre til andre ting som at vise sin offensive personlighed overalt på sociale medier, så det er alt, hvad jeg vil sige om Elon Musk i dag.
Som jeg ser det, er det endnu mere fordømmende, at OpenAI er tæt involveret i Microsoft, en stor krigsprofitør og en stor profitør inden for kunstig intelligens til krig. Denne bekymrende forening er, hvad jeg håber, folk vil bekymre sig om, endda mere end Elon Musk-forbindelsen. Vi burde være meget foruroligede over, at det venlige ansigt af DALL-E og OpenAI er en nyttig facade for mindst én massivt indflydelsesrig og ond krigsprofitør, Microsoft, som allerede er ved at udvikle den slags racekodede militær- og politiapplikationer til kunstig intelligens, som vi talte om. om ovenstående. Dette sker allerede bag kulisserne hos Microsoft og andre amerikanske teknologigiganter, der er dybt bundet til den amerikanske krigsmaskine. Og det er den værste nyhed, jeg kan komme i tanke om.
Vi i antikrigsbevægelsen kan ikke vende ryggen til kunstig intelligens på grund af dets onde potentiale. Jeg mener selvfølgelig ikke, at alle i antikrigsbevægelsen skal tillade teknologiske indgreb i deres eget liv. Jeg er glad for, at mange progressive og aktivister træffer et gyldigt valg for at undgå trendy teknologiske innovationer i deres liv. Jeg kan relatere til og respektere denne holdning, selvom jeg langt fra selv er en tech-fri livsstil. Teknologi er mit felt, min karriere, og som teknolog er jeg fascineret af genialitet og kreativitet og innovation bag bestræbelser som kunstig intelligens.
Som en nysgerrig person er jeg også absolut interesseret i at få indsigt i menneskelig intelligens ved at lære om, hvordan computere er blevet lavet til at simulere den. Jeg tillader også ChatGPT i mit liv, fordi jeg har opdaget, hvor nyttigt det er. Jeg går til OpenAI.com og stiller det spørgsmål konstant. Jeg bruger ChatGPT til at skrive kode, inklusive Javascript til en ny version af vores interaktive kort over amerikanske udenlandske militærbaser, som jeg arbejder på denne sommer sammen med andre på World Beyond War.
Lad os sige, at jeg vil rydde op i en forespørgselsstrengparameter ved at fjerne specialtegn med et regulært udtryk, hvilket er noget, jeg ville have brugt til at spørge Stack Overflow om, og jeg ville stykke min arbejdskode sammen fra anbefalede fragmenter, der er postet i en samtaletråd . I stedet fortæller jeg nu ChatGPT, hvad jeg vil have, og ChatGPT spytter simpelthen perfekt formateret Javascript ud, eksekverbart og fejlfrit. De fleste af mine softwareudviklervenner bruger ChatGPT til at skrive kode nu – det ved jeg, at vi gør, fordi vi godt kan lide at tale om det. Jeg tror ikke, at nogen af os kodere endnu er bekymrede for, at ChatGPT vil erstatte os, for det er os, der skal sætte kodestykkerne sammen for at skabe fungerende systemer, og GPT producerer bare kodestykker. Men jeg spekulerer på, hvordan dette vil ændre den måde, softwareudviklere arbejder på. Det er helt sikkert allerede ved at ændre spillet.
Jeg bruger også ChatGPT til at slå ting op på nettet, som jeg ville have brugt til at bruge Google, og jeg bruger det til forespørgsler og perspektiver og baggrundsoplysninger om ting, jeg skriver om eller tænker på. Jeg laver ikke sjov, når jeg siger, at jeg bruger det til alt – ligesom da jeg nævnte 1960'ernes teknologifilosof Marshall McLuhan ovenfor, jeg bad selvfølgelig ChatGPT om noget info om Marshall McLuhan, og det var ChatGPT, der fortalte mig, at 1964 var året, hvor han udgav bogen, der sagde "mediet er budskabet".
Det faktum, at så mange af os allerede er flyttet fra Google til GPT for grundlæggende internetsøgninger, siger meget. Det er meget nemt at begynde at tillade disse nye slags værktøjer at langsomt og umærkeligt komme ind i vores liv, selvom vi bekymrer os om implikationerne og motivationerne bag dem.
Ligesom den underliggende softwareteknologi på selve internettet, som blev skabt af tvivlsomme årsager af det amerikanske militær, men som er gået hen og forårsaget samfundsmæssige ændringer og fundet nye use cases, der var helt uden for dets oprindelige formål, vil denne nye teknologi finde sin egen vej til at påvirke vores liv. Denne nye teknologi er ægte, den fungerer for godt til at blive ignoreret, og den er kommet for at blive. Igen, det er derfor, jeg bruger en episode på at tale med antikrigsaktivister om det – fordi det allerede er en del af vores virkelighed, og vi kan have brug for nogle af kræfterne, hvis tilbud, for at få vores eget arbejde gjort her på jorden.
Lad os bruge et minut på at overveje de mange aspekter af livet på denne planet, som ikke har de forfærdelige problemer, som vi antikrigsaktivister er så opmærksomme på. Kunst, musik, litteratur, biologi, kemi, fysik, geologi, astronomi, medicin, sundhed, fremstilling, landbrug, ernæring. I alle disse verdener har alle disse bestræbelser ... den offentlige lancering af en yderst kompetent chatbot til generel viden har stor indflydelse. Der er intet felt, det ikke rører ved.
På planet af fredelig menneskelig sameksistens – et plan som jeg ville ønske, jeg kunne bruge mere tid på at eksistere på mig selv – er kunstig intelligens en mirakuløs fremgang af menneskelig kapacitet, der lover store fordele. Hvis bare vi levede i en fredelig og sikker og retfærdig verden, kunne vi bedre sammen nyde de vidundere, som kunstig intelligens kan frembringe.
Vi ser nogle af disse vidundere, når vi arbejder med en billedgenerator og skaber forbløffende smarte eller kreative billeder baseret på vores egne opfordringer, som vi ellers ikke ville være i stand til at producere. Vi føler også paradokset om, hvorvidt kunstig intelligens-værktøjer kan bruges til gavn. Som tekniker tror jeg, at det ikke er teknologisk innovation, der er problemet på planeten jorden i det 21. århundrede. Jeg hilser altid teknologisk innovation velkommen, og jeg tror, at farerne AI frembyder skyldes forankret kapitalisme og krig – det faktum, at dette er en planet i krig med sig selv, en planet domineret af en velhavende 1 %, der ikke kan modstå at sætte sig på den selvmorderiske vej med at bygge militariserede fæstningssamfund, der undertrykker andre mennesker for at bevare privilegier. Det, vi skal gøre, er at helbrede vores samfund – hvad vi ikke behøver at gøre, er at løbe væk fra teknologiske fremskridt, fordi vi misforstår årsagerne til vores smerte og vores selvmordsbane.
Det synes jeg. Det er selvfølgelig ikke, hvad enhver antikrigsaktivist mener, og det er okay. Vi havde nogle interessante reaktioner på World Beyond War e-mail diskussionsliste – som er et livligt og intelligent forum, som jeg anbefaler alle at deltage i, bare klik på linket på vores hjemmeside eller søg efter world beyond war diskussionsliste – efter at nogen delte nogle virkelig fantasifulde antikrigsbilleder, der var blevet genereret med DALL-E, og en anden delte nogle overraskende nyttige ord om, hvordan vores syge planet kan finde veje til verdensfred.
Jeg mener, at aktivister bør mestre alle tilgængelige teknologier – at aktivisme ikke bør sætte sig selv i den position, at de er mindre i stand til at bruge avancerede innovative teknologier end de korrupte regeringer og grådige virksomheder, der har for vane at undertrykke os.
Jeg tror også, at vi også kan skaffe overraskende filosofiske sandheder om menneskelig bevidsthed og menneskelig eksistens ved at studere de algoritmer og designmønstre, der bruges til at modellere og simulere det. Bare det at bruge et par minutter på at fjolle rundt med ChatGPT på OpenAI-webstedet kan afsløre nogle vilde sandheder om den menneskelige natur.
Her er en vild ting, jeg stadig vikler min hjerne om. ChatGPT lyver nogle gange. Det finder på ting. Du vil normalt ikke se dette, når du begynder at stille spørgsmålstegn ved GPT, fordi det normalt vil komme med et kraftfuldt svar på det første spørgsmål i en samtaletråd. GPT følger så med dig, mens du stiller opfølgende spørgsmål, og her er det muligt at komme GPT tilbage i et hjørne, hvor det begynder at ligge lige op. Et af de første spørgsmål, jeg nogensinde stillede ChatGPT, var at fortælle mig om de bedste antikrigs podcasts, fordi mit ego naturligvis var engageret, og jeg ville se, om World Beyond War podcast ville dukke op på listen.
Nu, da GPT er fortrænet – det vil sige, at det var fortrænet og bliver ikke længere aktivt fodret med opdateret med meget aktuelle nyheder og informationer, så jeg ville ikke forvente, at den ville vide en masse om min lille podcast. Jeg ønskede heller ikke at skævvride resultater ved at vise GPT, at jeg var interesseret i en bestemt podcast, så jeg spurgte den, om der var nogle fremragende antikrigs-podcasts, og det forsikrede mig om, at der faktisk var det. Jeg begyndte så at komme ind i detaljerne i håb om at få den til at navngive World Beyond War podcast ved at spørge – kan du fortælle mig om podcasts, som har interviewet kendte aktivister som Medea Benjamin. Det er her, ting begynder at blive sjove. Når først systemet fremsætter en påstand, vil det forsøge at sikkerhedskopiere påstanden, så efter at det forsikrede mig om, at der faktisk var podcasts, der havde interviewet Medea Benjamin, bad jeg det om at navngive en af disse podcasts, og det fortalte mig så, at Medea Benjamin var vært for sin egen podcast. Øh, det er hun ikke! Hvis hun var, ville jeg bestemt lytte til den. Jeg var i stand til at få ChatGPT til at lyve ved at bakke den ind i et hjørne, hvor den skulle give oplysninger, den ikke havde, så den udgjorde oplysninger, der lød realistisk.
Dette sker oftere, end man skulle tro. Du kan også nemt fange ChatGPT i en fejl ved at smide sand, men modstridende information efter den. Efter at GPT korrekt informerede mig om, at Marshall McLuhan's introducerede citatet "The medium is the message" i 1964, huskede jeg, at denne geniale og skarpe filosof også havde skrevet en slags ironisk opfølgning på sin tidligere bog, der omhandlede det mørkere og mere bekymrende. måder, hvorpå medier kan få menneskets sind til at sove, de skræmmende befolkninger af virksomhedernes massebefolkningskontrol gennem medierne - fordi Marshall McLuhan virkelig var så fantastisk, han forstod denne fare helt tilbage i 1960'erne og udgav endnu en bog i 1967 med kunstneren Quentin Fiore kaldet "Mediet er massagen".
Så her er tingene blevet mærkelige med GPT. Jeg bad ChatGPT om at fortælle mig om Marshall McLuhans citat "mediet er massagen" ... og GPT informerede mig blankt om, at McLuhan ikke havde sagt "mediet er massagen", men snarere havde sagt "mediet er budskabet". Det er klart, at GPT mente, at massage var en tastefejl. Jeg informerede så GPT om, at det var forkert, og at McLuhan faktisk havde sagt både "mediet er budskabet" og "mediet er massagen". Så snart jeg sagde dette, indså ChatGPT sin fejl og undskyldte og informerede mig om, at ja, "mediet er massagen" var en bog, han havde skrevet i 1967.
Så hvorfor gik det galt først, og især hvorfor gik det galt, når det allerede havde adgang til det rigtige svar inden for rækkevidde? Nå, det er her, GPT begynder at afsløre overraskende sandheder om os selv, for faktisk fik GPT's to fejl eller dårlig opførsel det til at virke mere menneskeligt, ikke mindre. Husk at G i GPT står for generativ. Systemet er designet til at generere svar, når det ikke er sikker på det rigtige svar. Det kan fortælle dig titlen på en film eller en bog, der ikke eksisterer – men det vil være en titel, der ser ud til at kunne eksistere. Hvis du har en åben, lang samtale med ChatGPT om et emne, du ved meget om, vil du hurtigt se, at det begynder at lave fejl.
Den måde, hvorpå jeg var i stand til at manøvrere GPT ind i et hjørne ved at stille den opfølgende spørgsmål til dens egne svar, hvilket til sidst fik den til at generere realistisk tilsyneladende, men falsk information i et forsøg på at bakke op om dets tidligere udsagn, virkede ikke umenneskelig for mig, men grundigt. human.
Vi ser den afstumpede kraft af retoriske og manipulative argumenter her. Det, vi måske kan lære af denne overraskende dårlige opførsel af ChatGPT, er, at det er menneskeligt umuligt at opfatte sandheden uden at opdigte sandheder på den ene eller anden måde, og hvis vi ikke passer på, kan disse opdigtede sandheder, som vi bruger til retoriske formål, blive løgne, som vi er. tvunget til at forsvare med flere opspind. Dreng, det virker virkelig virkelighedstro for mig.
Endnu mere naturtro: vi ved, at ChatGPTs menneskelignende adfærd inkluderer løgn. Og alligevel stoler vi på det! Jeg fortsætter endda med at bruge det selv, fordi jeg i virkeligheden er selvsikker nok til at tro, at jeg altid vil være i stand til at opdage, når GPT anstrenger sig for et svar og genererer falsk information. Hej, måske laver jeg sjov med mig selv, og måske skulle jeg tænke på min egen tilbøjelighed til at tro på opdigtede sandheder og min egen tilbøjelighed til at gøre det muligt at lyve i andre.
Her er en måde, hvorpå GPT gør os klogere ved at påpege, hvordan vi engagerer os i usandhed og facader og hvide løgne og venlige bedrag i vores normale menneskelige relationer. For at sige det i en nøddeskal: ChatGPT kan ikke simulere menneskelig adfærd uden nogle gange at lyve. Det er en helvedes ting for os alle at tænke på.
Her er noget andet at tænke på: hvordan klarer vi os mennesker med hensyn til at følge med de teknologiske innovationer, der definerer vores samfund? I de sidste par år tilpasser vi os til fremskridt inden for kunstig intelligens, samtidig med at vi absorberer opfindelsen af blockchain, en ny teknologisk metode til at bygge delte databaser med nye begreber om ejerskab, adgang og validering. Vi lavede et tidligere afsnit om blockchain, og jeg føler mig personligt ret sikker på, at de fleste mennesker, jeg kender, stadig ikke forstår, hvordan blockchain ændrer vores liv og vil ændre vores liv i fremtiden – og nu har vi et stort sprog modeller og generelle vidensmotorer til at ændre vores liv og vores fremtid også! Læg det her oven i, hmm … hvor skal jeg overhovedet hen … det menneskelige genom-projekt, store fremskridt inden for hjernevidenskab, udforskningen og koloniseringen af rummet … hey, medmennesker, holder vi trit med alt dette?
Lad os nu kaste de teknologiske og videnskabelige stridigheder om pandemier som COVID ind, og lad os ikke hvile der, men fortsætte med at overveje situationen med bredt tilgængelige atomvåben i hænderne på korrupte og inkompetente såkaldte regeringer styret af aldrende bureaukrater, og politikken gensidigt sikret ødelæggelse.
Holder vi med det her? Nej, men det her lort følger os, og det har vores nummer. Hver morgen vågner jeg op og læser om proxy-krigen mellem NATO og Rusland, der på tragisk vis har myrdet de stakkels mennesker, der bor i Ukraine. Og hver morgen spekulerer jeg på, om det er den dag, vores såkaldte lederes inkompetence vil få atomkrig til at begynde - hver dag spekulerer jeg på, om dette er den sidste dag for menneskeliv på planeten jorden.
Det er den varme sommer 2023. Der er udkommet en ny film kaldet "Oppenheimer" om videnskabsmanden, hvis arbejde førte til den utrolige rædsel ved det øjeblikkelige mord på hundredtusindvis af mennesker i Hiroshima og Nagasaki Japan i 1945. Jeg tror ikke nogen af os har endnu formået at udvide vores eget sind nok til at forstå den absolutte ondskab, de chokerende, uudholdelige sandheder om de fejl, vores samfund har begået – og om vores manglende evne til at forbedre os selv og rejse os fra vores patetiske, skamfulde samfundsafhængighed til massehad og massevold.
Jeg nævnte ovenfor, at nogle mennesker spørger, om kunstig intelligens kan føre til bevidsthed og/eller sansning – om et AI-system nogensinde kan udvikle følelser og følelser, og hvad disse ord og disse spørgsmål overhovedet betyder. Jeg har ikke set filmen Oppenheimer endnu, og jeg føler mig temmelig ked af tanken om en film om massemord i Japan, der ikke viser de japanske ofres ansigter. I stedet for at spekulere på, om AI-systemer er sansende eller ej, vil jeg kun sige, at hver enkelt person, der blev forbrændt i Hiroshima og Nagasaki, var sansende og bevidst. Det er en sandhed, jeg ikke tror, vi har formået at se i øjnene endnu. Måske skal vi træne vores eget sind lidt mere i denne.
Og det er der, vi slutter i dag. Mennesker kan ikke håndtere sandheden om de problemer, vi har skabt, og de ændringer, vi skal foretage for at forbedre os selv. Bots kan heller ikke håndtere sandheden. Tak fordi du deler dette rum med mig, mens jeg overvejer mysterierne og ironierne i den menneskelige eksistens, og jeg vil tage os ud med den menneskelige stemme fra en sanger og sangskriver, jeg har elsket i lang tid, Sinead O'Connor, og en sang kaldet The Healing Room. Tak fordi du lyttede til afsnit 50. Vi ses snart igen til 51.
World BEYOND War Podcast på iTunes
World BEYOND War Podcast på Spotify
World BEYOND War Podcast på Stitcher
World BEYOND War Podcast RSS Feed
