마크 엘리엇 스타인, World BEYOND War, 31년 2023월 XNUMX일
이것은 에피소드 50의 전체 대본입니다. World BEYOND War: 새로운 팟캐스트.
2023년 뜨거운 여름, XNUMX월입니다. World Beyond War, 여전히 여기 뉴욕 브루클린의 Lanape 땅에서 여전히 옳은 일을 하고 있습니다. World Beyond War 팟 캐스트, 오늘을 제외하고는 이것이 에피소드 50이기 때문에 특별합니다. 와우 어림수.
제가 이 팟캐스트를 시작했을 때, 제가 50개의 에피소드에 도달할 수 있을지에 대해 생각조차 하지 않았던 것 같습니다. 당시에는 50이라는 숫자가 현실적으로 보이지 않았을 것입니다. 1회를 끝낼 수 있을지 주로 고민했던 것 같은데, 그 전에 포기하고 아슬아슬한 전화가 몇 번 있었다.
이제 저는 50세입니다. 우리가 이 반전 팟캐스트를 실제로 작동시키는 방법을 알아내고 매달 늘어나는 청중을 찾았다는 사실을 깨닫는 것이 얼마나 기쁜 일입니까? 이 팟캐스트가 정말 자랑스럽고 지금까지 참여해 주신 모든 분들께 감사드립니다.
팟캐스팅은 독특한 크리에이티브 형식입니다. 다른 것과는 다릅니다. 나는 팟캐스트 중독자이기 때문에 이것을 안다. 저는 역사, 정치, 기술, 음악, 문학, TV, 영화에 대해 정말 관심 있는 정규 프로그램을 최소 20개 이상 가지고 있습니다. 휴식을 취하면서 동시에 지식을 확장하고 싶을 때 팟캐스트만큼 좋은 형식은 없습니다. 저는 이것이 중요한 차이점이라고 생각합니다. 호스트와 게스트를 웨비나 또는 라이브 스트리밍 채팅에 넣으면 한 종류의 대화를 할 수 있지만 동일한 두 사람을 팟캐스트 인터뷰에 넣으면 어쨌든 그들은 다른 종류의 대화를 하게 될 것입니다. 아마도 더 개인적이고, 더 자발적이고, 더 장황하고, 순간적으로 더 많이, 결론을 향해 나아가기 위해 덜 고안된 것일 것입니다.
이것이 정확히 왜 그렇습니까? 잘 모르겠지만 미디어 및 기술 철학자인 고 마샬 맥루한(Marshall McLuhan)은 1964년에 텔레비전의 새로운 인기가 현대 사회를 얼마나 빠르게 변화시키고 있는지에 대해 글을 썼고 그의 말이 옳았습니다. McLuhan은 매체가 메시지라고 말했습니다. 형식이 내용입니다.
예를 들어 Facebook, Twitter 및 LinkedIn에 같은 단어를 쓸 수 있으며 단어는 각 경우에 다른 의미를 지닙니다. 팟캐스트는 즉흥적이고 연습되지 않은 인간의 목소리를 찬양하기 때문에 팟캐스팅은 인간의 양가감정 또는 당혹스러운 모순과 아이러니를 쉽게 환영하고 이해할 수 있는 포럼이 되었습니다. 뉴스에 많이 나오는 경향에 대해 이야기할 수 있는 좋은 포럼이라고 생각합니다. 오늘 여러분과 공유하려고 하는 저만의 모호하고 당혹스러운 생각이 많이 있습니다. 인공 지능에 대해 이야기하고 있습니다.
1964년 마셜 맥루한이 매체가 곧 메시지라고 말했을 때, 텔레비전과 기타 친밀한 가정 기반 방송 매체가 인간 사회의 구조 자체를 변화시키는 미묘한 방식에 대해 생각하는 사람이 거의 없었을 때였습니다. 오늘날 최신 기술로 가능해진 새로운 매체는 사회적으로도 막대한 영향을 미칠 것으로 위협하고 있습니다. 저는 인터넷 연결이 있는 모든 사람이 사용할 수 있는 ChatGPT와 같은 인기 있는 범용 AI 도구에 대해 이야기하고 있습니다. ChatGPT에 대해 들어본 적이 없다면 사람의 대화를 얼마나 잘 모방하기 때문에 모든 곳에서 많은 관심을 받고 있습니다. 사용 가능한 일반 지식의 전체 스펙트럼을 얼마나 쉽게 통합하고 검색할 수 있는지.
챗봇은 몇 년 동안 사용되어 왔습니다. BestBuy 또는 Ticketmaster 웹사이트의 친절하고 자동화된 고객 서비스 챗봇만큼 간단하고 무해할 수 있습니다. ChatGPT4와 같은 새로운 챗봇은 전자 제품이나 콘서트 티켓에 그 범위가 제한되지 않습니다. 이들은 인간 지능 전체를 파악하도록 훈련된 대규모 언어 모델로 알려진 매우 다른 유형의 지식 엔진입니다.
때때로 사람들은 ChatGPT의 G가 일반을 위한 것이라고 생각하는데, 시스템이 일반 지능과 일반 지식을 보여주도록 설계되었기 때문에 이것은 괜찮은 추측일 것입니다. G는 실제로 Generative를 의미하며, 이는 이 제품이 독창적인 이미지와 단어를 생성하기 위해 무언가를 생성하도록 설계되었음을 의미합니다. P는 pre-trained의 약자이며 몇 분 후에 설명하겠습니다. T는 Transformer를 의미합니다. 이는 고전적인 Lou Reed 앨범이 아니라 언어 모델이 입력된 텍스트에 응답할 수 있도록 하는 소프트웨어 디자인 패턴입니다. 한 번에 한 단어씩 처리하지만 입력된 전체 텍스트에 대한 변환을 전체적으로 고려하고 실행합니다.
이 새로운 챗봇은 모든 주제에 대해 친근하고 대인관계에 있으며 미묘한 대화 스타일로 대화할 수 있습니다. 챗봇은 에세이를 작성하고, 문제를 해결하고, 심층적인 데이터베이스 검색을 수행하고, 컴퓨터 코드를 생성하고, 어려운 질문에 즉시 답할 수 있습니다. ChatGPT 및 이와 유사한 기타 서비스는 우리 중 많은 사람들이 예상했던 것보다 더 빠르게 인공 지능 분야를 발전시키는 것처럼 보이는 수준의 언어적이고 포괄적인 민첩성을 보여줍니다. 얼마 전 Google의 일부 직원이 자신의 AI 시스템이 Turing 테스트를 통과하고 감각적 인간 의사소통과 구별할 수 없게 될 수 있다고 믿으며 의식의 증거로 Google 전문가를 놀라게 한다는 뉴스 기사가 있었습니다. 나는 개인적으로 AI가 튜링 테스트를 통과할 수 있다고 믿는지 모르겠지만 많은 전문가들이 이것이 가능해지고 있다고 믿는다는 것을 알고 있습니다.
일반 지식 챗봇은 AI의 유일한 인기 사용 사례와는 거리가 멉니다. 이미지 생성기는 텍스트 프롬프트에서 시각적 아트워크를 즉시 생성할 수 있습니다. 때로는 실제 화가나 디지털 아티스트가 만드는 데 몇 시간, 몇 일 또는 몇 주가 걸리는 놀랍고 영리한 이미지입니다. ChatGPT를 만든 동일한 실리콘 밸리 회사인 OpenAI의 DALL-E와 같은 무료 온라인 인공 지능 이미지 생성기를 통해 텍스트 프롬프트에서 이미지를 생성하는 것은 오늘날 현실입니다. 아이디어를 상상하고 페인팅 스타일을 설명할 수 있으며 이 웹 서비스는 아이디어를 포착하기 위한 시도의 다양한 변형을 마술처럼 보냅니다.
이것은 오늘날의 현실이며, ChatGPT4가 질문을 받는 거의 모든 주제에 대해 능숙하고 사려 깊고 광범위한 에세이를 작성할 수 있다는 것도 오늘날의 현실입니다.
이와 같이 예측하기에는 너무 이르지만 지능형 챗봇과 이미지 생성기(기계가 생성한 글과 기계가 생성한 예술)는 지구상의 우리 모두에게 한 가지 방식으로 영향을 미칠 주요 기술 혁신과 주요 사회 혁신을 나타내는 것으로 보입니다. 또는 다른 것. 요즘 미래가 어떻게 될지 누가 알겠습니까? 하지만 적어도 3년 ChatGPT2022의 출시는 1993년 Mosaic 브라우저의 출시와 유사하게 문화사에서 중요한 순간으로 기억될 것 같습니다. 오늘날 우리가 살고 있는 인터넷 붐.
또한 이 새로운 혁신이 우리 모두가 처리해야 할 새로운 종류의 주요 문제를 야기할 가능성이 있는 것 같습니다. 우리 삶에서 요구하지 않았고 우리 삶에 초대하지 않았지만 어쨌든 우리 삶에 있는 다른 기술 혁신.
AI가 반전 운동가로서 우리에게 어떤 영향을 미치는지 이야기하면서 이 에피소드를 보내고 싶습니다. 미리 말씀드리자면, AI는 뜨거운 주제이고 매우 논란이 많은 주제입니다. 우리는 그것에 대해 걱정해야 하고 그것에 대해 이야기해야 하며 제 생각에는 이 기술이 할 수 있는 좋은 일에 마음을 열어야 합니다.
진보와 활동가 사이에서 논란이 되고 모두에게 논란이 된다. 그것은 논란의 여지가 있어야 하며, 최근의 혁신이 지구에 어떤 영향을 미칠 수 있는지에 대한 쉬운 대답을 가지고 있기 때문에 이 에피소드를 하지 않습니다. 나는 그들이 우리 세계에 영향을 미칠 것이라는 것을 알고 있으며 반전 운동가들이 그것에 대해 이야기해야 한다는 것을 알고 있습니다. 그래서 저는 이 에피소드를 통해 대화를 시작하고, 많은 반전 운동가들이 이 주제에 대해 이야기할 때 어려움을 겪고 있을 것으로 생각되는 다양한 문제를 설명하고, 이 난처한 상황의 모든 측면에 대한 이해를 표현하기 위해 할 것입니다. 문제. 이것이 바로 제가 여기서 하려고 하는 것입니다. 이 에피소드를 다 들으신 후 피드백을 공유해 주십시오. world beyond war 이 에피소드에 대한 웹 페이지 또는 저에게 직접 연락하시면 쉽게 찾을 수 있습니다.
일상 생활에 미치는 영향 측면에서 많은 사람들은 인공 지능의 놀라운 기능이 많은 사람들을 실직하게 만들지 궁금해합니다. 이것은 종종 사람들이 AI의 힘을 볼 때 발생하는 첫 번째 우려 사항입니다. 이러한 고급 기능으로 인해 다양한 분야의 건전한 인간 고용이 발생하고 갑자기 쓸모 없게 될 것입니까? 우리 사회는 이미 누가 일하고, 누가 벌고, 누가 지출하는지 균형이 맞지 않습니다. AI가 많은 동일한 작업을 무료로 더 잘 수행할 수 있기 때문에 생계를 위해 일하는 중산층 생태계가 더 혼란에 빠지면 우리는 그 혼란이 부유층과 나머지 우리 사이의 격차를 증가시킬 것이라고 확신할 수 있습니다. %는 변화의 혜택을 받을 수 있고 나머지는 결과에 직면해야 하며 1%는 또한 도움을 받을 수 있는 사람들이 사용할 수 없는 1%를 돕는 AI 도구를 만들거나 너무 비쌉니다. 액세스할 수 있습니다.
현실을 직시하자, 우리 중 많은 사람들이 살아가고 있는 약탈적인 자본주의 경제에서 실업은 빚을 지고 선택의 자유를 잃는 것을 의미하며, 이것이 바로 이러한 사회병적 요새 경제가 일반 사람들에게 하도록 설계된 것입니다. 우리의 힘을 빼앗아 갑니다. 우리가 그들에게 돈을 지불하고 그들을 위해 일하게 합니다. 이것이 오늘날 요새 자본주의의 미래 비전입니다. 우리 자신이 가난할 때 새롭게 지능적이고 강력한 컴퓨터를 갖게 될 것입니다.
경찰과 군대가 이미 강력하고 폭력적인 새로운 로봇과 함께 인공 지능 도구를 사용하기 시작했다는 사실도 있습니다. 저는 이것이 현재 AI가 제시하는 가장 심각하고 즉각적인 위협일 수 있다고 생각하며, 조지아 애틀랜타의 중요한 Stop Cop City 운동과 같이 경찰에 의해 포위된 시위 운동은 이미 이러한 변화된 현실을 다루고 있다고 생각합니다. AI 시스템은 인간 창조자의 편견과 코드화된 가치를 지니고 있기 때문에 AI 훈련을 받은 경찰이나 군대는 외모나 인종에 따라 대상을 선택하는 취약한 인구를 위한 말 그대로 사냥과 살인 기계가 될 것이라고 위협합니다. 우크라이나에서 예멘에 이르는 전쟁으로 이미 통제 불능 상태에 빠진 세상에서, 새로운 종류의 살인 기계와 악의적인 인종 프로파일링으로 암호화된 억압 체제로 한쪽 또는 다른 쪽, 그리고 필연적으로 양쪽 모두에게 권한을 부여한다는 생각은 그만큼 끔찍합니다. 소리가 난다.
경찰과 군대가 사용하는 대량 실업 또는 인종적으로 코딩된 인공 지능에 대한 최악의 시나리오는 끔찍하며 그 영향이 이미 우리 세계에 있기 때문에 잠을 잘 수 없습니다. 이미 일어나고 있습니다. 따라서 고급 AI가 제시하는 것으로 보이는 두 가지 별도의 공포인 경찰과 군대에 의한 대량 실업과 학대는 확고한 부와 특권을 가진 강력한 세력이 사람들의 권리와 자유를 훔치는 두 가지 다른 방법임을 인정함으로써 이 대화를 시작하겠습니다. .
확고한 부와 특권에 대해 말하면서 – 온라인에서 찾을 수 있는 북부 캘리포니아에 있는 회사인 OpenAI에 대해 이야기해 봅시다. OpenAI.com. 이 회사는 2021년 DALL-E 이미지 생성기를 출시할 때까지 거의 알려지지 않았으며, 불과 2022개월 전인 3년 3.5월에 첫 번째 공개 챗봇인 ChatGPT4를 출시했고, 곧 더 강력하고 기능이 뛰어난 ChatGPTXNUMX 및 ChatGPTXNUMX를 출시했습니다. , 현재 사용 가능한 버전.
나는 DALL-E가 만들 수 있는 이미지를 처음 보았을 때 상당히 기절했고 ChatGPT를 처음 시도했을 때 훨씬 더 기절했습니다. 많은 소프트웨어 개발자처럼 AI를 집중적으로 연구했기 때문에 이러한 도구가 해결하려는 과제는 나에게 매우 친숙했습니다. 인공 지능과의 첫 만남은 수십 년 전 대학에서 수행한 독립적인 연구 프로젝트였습니다.
그때는 1980년대였고, 아주 젊은 사람들은 저와 같은 사람들이 1980년대에 AI 작업을 했다는 사실에 놀랄 수도 있지만, 인공 지능이라는 용어는 거의 컴퓨터 혁명만큼이나 오래되었습니다. 1950년대부터 1990년대까지 AI의 성과는 그 이후 몇 년 동안 우리가 본 발전에 비하면 유치했습니다.
사실 80년대에는 이 분야가 너무 개방적이어서 철학과 컴퓨터 공학을 결합한 전공으로 80학년 때 분석할 프로그램을 위한 독창적인 독립 학습 프로젝트를 만들어 몇 학점을 얻을 수 있었습니다. 문장을 영어로 말하고 기본 이해력을 보여주거나 시뮬레이션하는 방식으로 응답합니다. 나는 큰 건물 크기의 거대한 Univac 메인프레임에 연결된 유쾌하게 부피가 큰 녹색 빛나는 Unimatic 터미널에서 LISP로 코딩했으며 아마도 지금 이 팟캐스트를 녹음하고 있는 MacBook보다 전력이 적을 것입니다. XNUMX년대에.
AI 독립 연구 프로젝트의 흥미진진한 도전은 간단한 동사와 명사가 포함된 문장을 구문 분석하고 응답하는 것이었습니다. 예를 들어, "I have a cat with Happy", "my cat is orange", "all cats say meow"와 같은 문장을 내 LISP 프로그램에 입력하면 "is Happy orange?" 또는 "마크의 고양이가 야옹이라고 하나요?" 흥미롭게도 저는 제 Univac 메인프레임에서 바로 AI 챗봇을 만들려고 했습니다.
그 당시 많은 다른 대학생들이 같은 일을 하려고 노력하고 있었을 것이라고 장담하지만 우리 중 아무도 멀리 가지 못했습니다. 지금은 1980년대였고 한 가지 중요한 기발한 아이디어가 아직 우리에게 도달하지 않았기 때문입니다. 인간 두뇌의 뉴런과 유사한 대규모 병렬 단순 작업을 수행하도록 설계된 구조입니다. 내 LISP 프로그램이 단일 스레드 계산을 제공하고 Fortran, COBOL 및 Pascal 프로그램이 동일한 제한된 단일 스레드 패러다임을 따랐지만 신경망은 간단한 계산을 병렬로 수행하는 병렬 요소 스레드를 제공했습니다. 인간의 두뇌는 많은 병렬 처리를 수행합니다. 동시 작업은 특이점의 환상을 형성하기 위해 계단식으로 배열됩니다. 그리고 신경망으로 알려진 소프트웨어 구조는 코더가 대학을 졸업한 후 이 병렬 처리의 힘을 얻을 수 있도록 합니다.
신경망의 개념과 함께 결국 반복적인 활동으로 신경망을 훈련시키는 개념이 등장했습니다. 이는 80년대에 아직 우리에게 도달하지 못한 또 다른 개념입니다. 나는 내 LISP 프로그램에 소수의 완전한 문장을 제공하고 있었고 성능을 수정하고 개선하기 위한 피드백을 제공하지 않았습니다. 컴퓨터 터미널에 문장을 입력하는 대신 내가 해야 할 일은 책, 신문, 백과사전 전체를 제공하고 내 프로그램이 가장 기본적이고 원시적인 동작을 반복적으로 시뮬레이션하려고 시도할 때 동작에 대한 피드백을 제공하기 위해 지속적으로 상호 작용하는 것이었습니다. 이해의. 풍부하고 복잡한 지식 기반을 구축하기 위해 많은 독서 자료를 제공하고 반복적이고 철저하게 훈련함으로써 실제로 내 컴퓨터 프로그램이 주황색 고양이가 있는지 여부에 대해 놀라운 말을 하게 되었을 수 있습니다. 신경망과 반복적인 훈련은 오늘날 우리가 챗봇에서 볼 수 있는 인간 지능의 성공적인 시뮬레이션으로 가는 길을 이끄는 데 도움이 된 것으로 밝혀졌습니다.
내가 인간 지능을 시뮬레이션하는 것에 대해 말하는 것을 알 수 있을 것입니다. 이는 또 다른 논란을 불러일으킨다. 어떤 사람들은 "인공 지능"이라는 용어를 우스꽝스럽게 생각합니다. 우스꽝스러운 것보다 일부 사람들은 지능이 의식을 낳는다면 인공 지능이 인공 의식, 즉 인공적인 지각력, 인공적인 의지, 인공적인 존재권으로 변할 수 있기 때문에 윤리적으로 문제가 있다고 생각합니다. 이것은 확실히 많은 실존적 질문을 불러일으킨다. 이 모든 질문은 타당하고 중요합니다. 어떤 사람들은 AI 지식 엔진과 언어 모델이 이미 의식을 발전시키고 있지 않을까 궁금해합니다. 개인적으로 나는 챗봇이 실제 감정을 발전시키는 것에 대해 걱정할 필요가 없다고 선언하는 것이 매우 쉽다는 것을 알게 되었습니다. 걱정해야 할 AI의 다양한 측면이 많이 있으며 이것은 제가 개인적으로 걱정하는 것이 아닙니다. 그러나 그것이 내가 옳고 아무도 그것에 대해 걱정할 필요가 없다는 것을 증명할 수 있다는 의미는 아닙니다. 아마도 내가 걱정해야 할 여러 가지 일에 너무 압도되어 이것에 대해 걱정할 시간이 없을 수도 있습니다. 나는 기계 감각의 질문에 대해 발생할 수 있는 모든 질문에 대한 확실한 답을 가지고 있지 않으며, 그렇게 가장하지 않을 것입니다. 그러나 나는 우리가 직면하는 방법을 알아내는 데 필요한 질문이 무엇인지 압니다.
내가 활동가 커뮤니티에서 가끔 듣는 한 가지 의견은 AI가 많은 과장에 달한다는 것입니다. 이는 대규모 언어 모델의 뛰어난 대화 기술에 의해 조성된 환상입니다. 물론 GPT는 질문을 분석하고 우아한 어법으로 응답할 수 있지만 언어의 이러한 행복감이 의미 있는 발전이 이루어졌다고 상상하게 만드는 이유는 무엇입니까? Google과 Wikipedia는 이미 인간의 모든 지식을 인터넷에서 무료로 쉽게 사용할 수 있게 하여 브리태니커 백과사전을 실망시켰습니다. 우리는 ChatGPT가 인간 의식의 언어적 외관, 우리 모두가 열광적으로 빠지는 환상을 보여주기 때문에 ChatGPT에 대한 이 모든 과대 광고를 듣고 있습니다. 여기에 타당성이 있다고 생각합니다. 어쩌면 Google이나 Wikipedia가 원래 ChatGPT처럼 갑작스럽고 완전히 형성된 방식으로 시작했다면 Google이나 Wikipedia의 시작을 집단적 인간 지능의 엄청난 발전이라고 이야기할 수도 있습니다. 둘 다 이미 우리 세계에 영향을 미쳤기 때문입니다.
그럼에도 불구하고 위에서 신경망과 훈련에 대해 이야기할 때 언급했듯이 대규모 언어 모델을 파사드로 설명하는 것은 이 언어적 적합성을 가능하게 하기 위해 존재해야 하는 소프트웨어 구조의 계층을 과소평가하는 것입니다.
제 생각에는 여기에 더 큰 질문이 있습니다. OpenAI와 그 주체, 설립자, 투자자 및 파트너의 윤리를 살펴보겠습니다. 여기에는 엄청난 문제가 있습니다.
OpenAI.com은 우리에게 Facebook, Google, Microsoft, Amazon 및 Oracle을 제공한 기술 인큐베이터의 실리콘 밸리 에코시스템과 동일한 초부유 및 고수익 실리콘 밸리 에코시스템에서 등장한 민간 자금 지원 연구 실험실입니다. 그것의 설립자들은 셀러브리티 억만장자 엘론 머스크를 포함하는데 그의 소시오패스 공개 발언은 다른 많은 사람들을 역겹게 하는 것만큼이나 나를 역겹게 한다. Elon Musk는 OpenAI에 직접 관여한 적이 없으며 소셜 미디어 전체에서 자신의 공격적인 성격을 표시하는 것과 같은 다른 일로 옮겨갔기 때문에 오늘 Elon Musk에 대해 말하고 싶은 전부입니다.
내가 보기에 OpenAI가 주요 전쟁 수익자이자 전쟁용 인공 지능 분야의 주요 수익자인 Microsoft와 밀접하게 관련되어 있다는 것은 훨씬 더 끔찍합니다. 이 골칫거리 협회는 사람들이 Elon Musk 연결보다 훨씬 더 걱정하기를 바랍니다. 우리는 DALL-E와 OpenAI의 친근한 얼굴이 적어도 한 명의 막대한 영향력을 가진 악의적인 전쟁 수익자인 마이크로소프트에게 유용한 외관이라는 사실에 매우 불안해해야 합니다. 위에 대해. 이것은 이미 마이크로소프트와 미국의 전쟁 기계와 깊이 연관되어 있는 다른 미국 거대 기술 기업들의 배후에서 일어나고 있습니다. 그리고 이것은 내가 생각할 수 있는 최악의 뉴스에 관한 것입니다.
반전 운동에 참여하는 우리는 인공 지능의 사악한 잠재력 때문에 등을 돌릴 수 없습니다. 물론 반전 운동에 참여하는 모든 사람이 기술이 자신의 삶을 잠식하도록 허용해야 한다는 뜻은 아닙니다. 나는 많은 진보주의자들과 활동가들이 자신들의 삶에 유행하는 기술 혁신을 피하기 위해 타당한 선택을 하게 되어 기쁩니다. 나는 기술 없는 라이프스타일과는 거리가 멀지만 이러한 태도에 공감하고 존중할 수 있습니다. 기술은 제 분야이자 경력이며, 기술자로서 저는 인공 지능과 같은 시도 뒤에 숨겨진 천재성과 창의성, 혁신에 매료되었습니다.
또한 단순히 호기심이 많은 사람으로서 저는 인간 지능을 시뮬레이션하기 위해 컴퓨터가 어떻게 만들어졌는지 배움으로써 인간 지능에 대한 통찰력을 얻는 데 절대적으로 관심이 있습니다. 또한 ChatGPT가 얼마나 유용한지 알게 되었기 때문에 ChatGPT를 내 삶에 허용합니다. 저는 OpenAI.com에 가서 끊임없이 질문합니다. 저는 ChatGPT를 사용하여 이번 여름에 다른 사람들과 함께 작업하고 있는 미국 해외 군사 기지의 대화형 지도의 새 버전에 대한 Javascript를 포함하여 코드를 작성합니다. World Beyond War.
정규식으로 특수 문자를 제거하여 쿼리 문자열 매개 변수를 정리하고 싶다고 가정해 보겠습니다. 이는 Stack Overflow에 요청하는 데 사용했을 것이며 대화 스레드에 게시된 권장 조각에서 작업 코드를 함께 조각합니다. . 대신 이제 ChatGPT에 내가 원하는 것을 말하면 ChatGPT는 실행 가능하고 오류가 없는 완벽한 형식의 Javascript를 간단히 내뱉습니다. 대부분의 소프트웨어 개발자 친구는 현재 ChatGPT를 사용하여 코드를 작성합니다. 우리가 그것에 대해 이야기하기를 좋아하기 때문에 그렇게 한다는 것을 압니다. 저는 우리 코더 중 누구도 ChatGPT가 우리를 대체할 것이라고 아직 걱정하지 않는다고 생각합니다. 왜냐하면 우리는 작동하는 시스템을 만들기 위해 코드 조각을 모아야 하는 사람이고 GPT는 단지 코드 조각을 생성하기 때문입니다. 그러나 이것이 소프트웨어 개발자의 작업 방식을 어떻게 바꿀지 궁금합니다. 확실히 이미 게임을 바꾸고 있습니다.
또한 ChatGPT를 사용하여 Google을 사용할 때 사용했던 방식으로 온라인에서 항목을 조회하고, 작성하거나 생각하고 있는 항목에 대한 프롬프트, 관점 및 배경 정보에 사용합니다. 1960년대의 기술 철학자인 Marshall McLuhan을 위에서 언급했을 때 물론 저는 ChatGPT에 Marshall McLuhan에 대한 몇 가지 정보를 요청했고 ChatGPT는 1964년이 자신의 해라고 말했습니다. 매체가 메시지다'라는 책을 출간했다.
우리 중 많은 사람들이 기본 인터넷 검색을 위해 이미 Google에서 GPT로 이동했다는 사실은 많은 것을 말해줍니다. 이러한 새로운 종류의 도구가 우리 삶에 천천히 그리고 눈에 띄지 않게 들어오도록 허용하기 시작하는 것은 매우 쉽습니다. 비록 우리가 도구 뒤에 있는 의미와 동기에 대해 걱정할지라도 말입니다.
의심스러운 이유 때문에 미군에 의해 만들어졌지만 계속해서 사회적 변화를 일으키고 원래 목적의 영역을 완전히 벗어난 새로운 사용 사례를 발견한 인터넷 자체의 기본 소프트웨어 기술처럼 이 새로운 기술은 우리 삶에 영향을 미칠 수 있는 고유한 경로를 찾습니다. 이 새로운 기술은 현실적이며 너무 잘 작동하여 무시할 수 없으며 여기에 있습니다. 다시 한 번, 그것이 제가 반전 운동가들과 그것에 대해 이야기하는 에피소드를 보내는 이유입니다. 왜냐하면 그것은 이미 우리 현실의 일부이고 우리가 여기 지구에서 우리 자신의 일을 완수하기 위해 제공되는 경우 일부 권한이 필요할 수 있기 때문입니다.
우리 반전 운동가들이 잘 알고 있는 끔찍한 문제가 없는 이 행성의 삶의 여러 측면에 대해 잠시 숙고해 봅시다. 예술, 음악, 문학, 생물학, 화학, 물리학, 지질학, 천문학, 의학, 건강, 제조, 농업, 영양. 이 모든 세계에서 이러한 모든 노력은 ... 매우 유능한 일반 지식 챗봇의 공개 출시가 큰 영향을 미치고 있습니다. 닿지 않는 분야가 없습니다.
평화로운 인간 공존의 차원, 즉 나 자신에 더 많은 시간을 할애할 수 있기를 바라는 차원에서 인공 지능은 큰 이점을 약속하는 인간 능력의 기적적인 발전입니다. 우리가 평화롭고 안전하고 공평한 세상에서 살기만 한다면 인공지능이 만들어낼 수 있는 경이로움을 함께 즐길 수 있을 것입니다.
우리는 이미지 생성기로 작업할 때 이러한 경이로움 중 일부를 확인하고 다른 방법으로는 생성할 수 없는 우리 자신의 프롬프트를 기반으로 놀랍도록 영리하거나 창의적인 이미지를 생성합니다. 우리는 또한 인공 지능 도구가 선을 위해 사용될 수 있는지 여부에 대한 역설을 느낍니다. 기술 전문가로서 저는 21세기 지구상의 문제는 기술 혁신이 아니라고 생각합니다. 나는 항상 기술 혁신을 환영하며, AI가 제시하는 위험은 확고한 자본주의와 전쟁 때문이라고 생각합니다. 이 행성은 자신과 전쟁을 벌이고 있는 행성이고, 자신을 입는 것을 거부할 수 없는 부유한 1%가 지배하는 행성이라는 사실 때문입니다. 특권을 유지하기 위해 다른 인간을 억압하는 군사 요새 사회를 건설하는 자살 경로. 우리가 해야 할 일은 우리 사회를 치유하는 것입니다. 우리가 할 필요가 없는 것은 우리의 고통과 자살 궤적의 원인을 오해하기 때문에 기술 발전에서 도망치는 것입니다.
그게 내가 생각하는거야. 물론 모든 반전 운동가가 생각하는 것은 아니며 괜찮습니다. 에 대한 몇 가지 흥미로운 반응이 있었습니다. World Beyond War 이메일 토론 목록 – 누구에게나 가입할 것을 권장하는 활기차고 지능적인 포럼입니다. 저희 웹사이트의 링크를 클릭하거나 world beyond war 토론 목록 – 누군가 DALL-E로 생성된 정말 상상력이 풍부한 반전 이미지를 공유한 후, 다른 누군가는 우리의 병든 행성이 어떻게 세계 평화로 가는 길을 찾을 수 있는지에 대해 놀랍도록 유용한 단어를 공유했습니다.
저는 활동가들이 사용 가능한 모든 기술을 숙달해야 한다고 믿습니다. 즉, 우리를 억압하는 습관이 있는 부패한 정부와 탐욕스러운 기업보다 진보된 혁신 기술을 사용할 능력이 떨어지는 위치에 행동주의를 두어서는 안 된다는 것입니다.
나는 또한 그것을 모델링하고 시뮬레이션하는 데 사용되는 알고리즘과 디자인 패턴을 연구함으로써 인간의 의식과 인간 존재에 대한 놀라운 철학적 진실을 수집할 수 있다고 믿습니다. OpenAI 웹사이트에서 ChatGPT로 장난을 치는 데 몇 분만 투자하면 인간 본성에 대한 거친 진실을 밝힐 수 있습니다.
여기 내가 여전히 내 머리를 감싸고 있는 거친 일이 하나 있습니다. ChatGPT는 가끔 거짓말을 합니다. 그것은 물건을 만듭니다. 일반적으로 대화 스레드의 첫 번째 질문에 대한 강력한 답변이 제공되기 때문에 일반적으로 GPT에 질문을 시작할 때 이것을 볼 수 없습니다. 그런 다음 GPT는 사용자가 후속 질문을 할 때 따라잡습니다. 여기에서 GPT를 똑바로 놓기 시작하는 구석으로 정렬할 수 있습니다. 내가 ChatGPT에 물어본 첫 번째 질문 중 하나는 최고의 반전 팟캐스트에 대해 알려주는 것이었습니다. World Beyond War 팟캐스트가 목록에 표시됩니다.
이제 GPT는 사전 교육을 받았기 때문에, 즉 사전 교육을 받았고 더 이상 최신 뉴스와 정보를 적극적으로 제공하지 않기 때문에 GPT가 내 작은 정보에 대해 많이 알 것이라고는 기대하지 않습니다. 팟캐스트. 또한 GPT에 내가 특정 팟캐스트에 관심이 있다는 것을 보여줌으로써 결과를 왜곡하고 싶지 않았기 때문에 훌륭한 반전 팟캐스트가 있는지 물어봤고 정말 있다고 확신했습니다. 그런 다음 세부 사항에 들어가기 시작하여 이름을 지정하도록 요청했습니다. World Beyond War 질문을 통한 팟캐스트 – Medea Benjamin과 같은 유명한 활동가를 인터뷰한 팟캐스트에 대해 말씀해 주시겠습니까? 여기에서 일이 재미있어지기 시작합니다. 일단 시스템이 주장을 하면 주장을 뒷받침하려고 시도할 것이므로 Medea Benjamin을 인터뷰한 팟캐스트가 실제로 있음을 확인한 후 이 팟캐스트 중 하나의 이름을 지정하도록 요청한 다음 Medea Benjamin이 자신의 팟캐스트 진행자. 음, 그녀는 아니에요! 그녀라면 나는 확실히 그것을 들었을 것입니다. 저는 ChatGPT가 가지고 있지 않은 정보를 제공해야 하는 구석으로 뒷받침하여 거짓말을 하도록 할 수 있었습니다. 그래서 사실적으로 들리는 정보를 구성했습니다.
이것은 생각보다 자주 발생합니다. 사실이지만 모순되는 정보를 던져 실수로 ChatGPT를 쉽게 잡을 수도 있습니다. GPT가 1964년에 Marshall McLuhan이 "매체는 메시지다"라는 인용구를 도입했다고 정확하게 알려준 후, 나는 이 훌륭하고 예리한 철학자가 더 어둡고 더 문제가 되는 문제를 다룬 그의 이전 책에 대한 일종의 아이러니한 후속작을 썼다는 것을 기억했습니다. 미디어가 인간의 마음을 잠재울 수 있는 방법, 미디어를 통한 기업 대량 인구 통제의 무서운 인구 – Marshall McLuhan은 정말 대단했기 때문에 1960년대에 그는 이 위험 방식을 이해했고 1967년 예술가 Quentin Fiore와 함께 또 다른 책을 출판했습니다. "매체는 마사지다"라고 불렀습니다.
여기에서 GPT의 상황이 이상해졌습니다. 저는 ChatGPT에 Marshall McLuhan의 "매체는 마사지입니다"라는 인용문에 대해 말해 달라고 요청했고 GPT는 McLuhan이 "매체는 마사지입니다"라고 말한 것이 아니라 "매체는 메시지입니다"라고 말했습니다. 분명히 GPT는 마사지가 오타라고 생각했습니다. 그런 다음 GPT에 그것이 틀렸고 McLuhan이 실제로 "매체는 메시지입니다"와 "매체는 마사지입니다"라고 말했습니다. 내가 이 말을 하자마자 ChatGPT는 자신의 실수를 깨닫고 사과했고, 네, "매체는 마사지입니다"는 그가 1967년에 쓴 책이라고 알려줬습니다.
그렇다면 왜 처음에 틀렸을까요? 특히 이미 도달 범위 내에서 정답에 접근할 수 있었는데 왜 틀렸을까요? 글쎄요, 여기에서 GPT가 우리 자신에 대한 놀라운 진실을 밝히기 시작했습니다. 사실 GPT의 두 가지 실수나 잘못된 행동으로 인해 GPT가 덜 인간적인 것이 아니라 더 인간적으로 보이기 때문입니다. GPT의 G는 생성을 의미합니다. 이 시스템은 정답이 확실하지 않을 때 답을 생성하도록 설계되었습니다. 존재하지 않는 영화나 책의 제목을 알려줄 수도 있지만 존재할 수 있을 것 같은 제목이 될 것입니다. 여러분이 많이 알고 있는 주제에 대해 ChatGPT로 끝이 없는 긴 대화를 나누면 실수를 하기 시작하는 것을 금방 볼 수 있습니다.
내가 GPT에게 자체 답변에 대한 후속 질문을 함으로써 궁지로 몰아넣을 수 있었던 방식은 결국 GPT가 이전 진술을 뒷받침하기 위해 사실적으로 보이지만 거짓된 정보를 생성하게 만드는 방식이 나에게는 비인간적이지는 않았지만 철저하게 보였습니다. 인간.
우리는 여기서 수사학적이고 조작적인 논증 스타일의 무뚝뚝한 힘을 봅니다. 아마도 우리가 ChatGPT의 이 놀라운 잘못된 행동에서 배울 수 있는 것은 어떤 식으로든 진실을 조작하지 않고는 진실을 이해하는 것이 인간적으로 불가능하다는 것입니다. 더 많은 조작으로 방어해야 합니다. 소년, 이것은 확실히 나에게 생생한 것 같습니다.
훨씬 더 생생한: ChatGPT의 인간과 같은 행동에는 거짓말이 포함됩니다. 그러나 우리는 그것을 믿습니다! GPT가 답변을 구걸하고 잘못된 정보를 생성할 때 항상 감지할 수 있을 것이라고 믿을 만큼 충분히 자신이 있기 때문에 저는 그것을 직접 사용하기까지 합니다. 이봐, 내가 농담을 하고 있는 것일 수도 있고, 조작된 진실을 믿는 내 성향과 다른 사람에게 거짓말을 가능하게 하는 내 성향에 대해 생각해야 할 수도 있다.
다음은 정상적인 인간 관계에서 거짓, 겉치레, 선의의 거짓말, 우호적인 속임수에 관여하는 방식을 지적함으로써 GPT가 우리를 더 똑똑하게 만드는 방법입니다. 간단히 말해서 ChatGPT는 때때로 거짓말을 하지 않고는 인간의 행동을 시뮬레이션할 수 없습니다. 이것은 우리 모두가 생각해야 할 끔찍한 일입니다.
여기 생각해야 할 다른 것이 있습니다. 우리 인간은 우리 사회를 정의하는 기술 혁신을 따라잡는 측면에서 어떻게 하고 있습니까? 지난 몇 년 동안 우리는 소유권, 액세스 및 검증의 새로운 개념으로 공유 데이터베이스를 구축하는 새로운 기술 방법인 블록체인의 발명을 흡수하는 동시에 AI의 발전에 적응하고 있습니다. 우리는 블록체인에 관한 모든 이전 에피소드를 만들었고 개인적으로 내가 아는 대부분의 사람들은 블록체인이 우리의 삶을 변화시키고 미래에 우리의 삶을 변화시킬 방식을 여전히 이해하지 못한다고 확신합니다. 우리의 삶과 미래를 바꾸는 모델과 일반 지식 엔진! 여기에 더해, 흠... 여기서 어디로 가야 할까요... 인간 게놈 프로젝트, 뇌 과학의 엄청난 발전, 우주 탐사 및 식민지화... 이봐, 동료 인간들, 우리는 이 모든 것을 따라가고 있습니까?
이제 코로나XNUMX와 같은 팬데믹에 대한 기술적, 과학적 논쟁을 집어넣고, 거기에 안주하지 않고 고령 관료들이 운영하는 부패하고 무능한 소위 정부의 손에 널리 보급된 핵무기의 상황과 정치권을 고려하자. 상호확증파괴.
우리는 이것을 따라 잡고 있습니까? 아니, 하지만 이게 우리를 뒤쫓고 있고 우리 전화번호를 가지고 있어. 매일 아침 나는 일어나서 우크라이나에 살고 있는 가난한 사람들을 비극적으로 살해해 온 NATO와 러시아 간의 대리 전쟁에 대해 읽습니다. 그리고 매일 아침 나는 소위 지도자들의 무능이 핵전쟁을 일으키게 될 날이 아닐까 생각합니다. 매일 이것이 지구상에서 인간 생명의 마지막 날이 아닐까 생각합니다.
2023년 무더운 여름입니다. 1945년 일본 히로시마와 나가사키에서 수십만 명의 인간을 순식간에 살해하는 엄청난 공포를 불러일으킨 과학자에 대한 "오펜하이머"라는 새 영화가 개봉했습니다. 우리 중 누구라도 절대적 악, 우리 사회가 저지른 실수의 충격적이고 참을 수 없는 진실을 이해할 수 있을 만큼 마음을 넓힐 수 있었습니다. 집단 증오와 집단 폭력.
인공 지능이 의식 및/또는 감각으로 이어질 수 있는지 여부, 즉 AI 시스템이 감정과 감정을 개발할 수 있는지, 그리고 이러한 단어와 질문이 무엇을 의미하는지 묻는 사람들이 있다고 위에서 언급했습니다. 나는 오펜하이머라는 영화를 아직 보지 않았고, 일본 희생자들의 얼굴이 나오지 않는 일본의 대량 살인에 관한 영화라는 생각에 꽤 구역질이 난다. AI 시스템이 지각이 있는지 여부를 궁금해하는 대신에 제가 말하고 싶은 것은 히로시마와 나가사키에서 소각된 모든 사람이 지각이 있고 의식이 있었다는 것입니다. 그것은 우리가 아직 직시하지 못했다고 생각하는 진실입니다. 아마도 우리는 이것에 대해 우리 자신의 마음을 조금 더 훈련해야 할 것입니다.
그리고 그것이 오늘 우리가 끝나는 곳입니다. 인간은 우리가 만든 문제와 우리 자신을 개선하기 위해 필요한 변화에 대한 진실을 감당할 수 없습니다. 봇도 진실을 다룰 수 없습니다. 인간 존재의 신비와 아이러니를 고민하는 저와 이 공간을 함께해주셔서 감사합니다. 제가 오랫동안 사랑해 온 싱어송라이터 시네이드 오코너의 인간적인 목소리로 우리를 데리고 나가려 합니다. 그리고 힐링룸이라는 노래. 50화를 들어주셔서 감사합니다. 곧 51화로 찾아뵙겠습니다.
World BEYOND War iTunes의 Podcast
World BEYOND War Spotify에 대한 팟 캐스트
World BEYOND War Stitcher의 Podcast
World BEYOND War 팟 캐스트 RSS 피드
