ボットが真実を処理できないとき: 人工知能と活動主義

平和の文化, 非暴力的なアクティビズム, ポッドキャスト, 警察, World BEYOND War ポッドキャスト

マーク・エリオット・スタイン著、 World BEYOND War、31 年 2023 月 XNUMX 日

第50話の完全書き起こしです。 World BEYOND War: 新しいポッドキャスト。

2023 年の暑い夏、XNUMX 月です。ご存知のとおり、私は、テクノロジーディレクターのマークエリオットスタインです。 World Beyond War、今もニューヨークのブルックリンのラナペの地で、ここで正しいことをやっています。 World Beyond War ポッドキャスト、今日はエピソード 50 なので特別ですが、すごい概数です。

このポッドキャストを始めたときは、エピソードが 50 回に達するかどうかなど考えたこともなかったと思います。確かに当時は50という数字が現実的ではなかったでしょう。おそらく、エピソード 1 を完成させることができるかどうかを主に考えていたと思いますが、完成するまでに何度か諦める寸前がありました。

そして今、私は 50 歳ですが、この反戦ポッドキャストを実際に機能させる方法を考え出し、毎月増加する視聴者を見つけたことを実感するのは、何と嬉しいことでしょう。私はこのポッドキャストをとても誇りに思っており、これまで参加してくれたすべての人に感謝しています。

ポッドキャスティングはユニークなクリエイティブ形式です。他のものとは違います。私自身もポッドキャスト中毒なので、これはよくわかります。私は歴史、政治、テクノロジー、音楽、文学、テレビ、映画など、本当に興味のある定期番組を少なくとも 20 番組持っています。リラックスしながら同時に知識を広げたい気分のときに、ポッドキャストほど適した形式はありません。これは重要な違いだと思います。たとえば、ウェビナーやライブストリーミングのチャットにホストとゲストを参加させると、彼らは一種の会話をすることになりますが、同じ XNUMX 人をポッドキャストのインタビューに参加させると、どういうわけか彼らは会話をします。おそらく、より個人的で、より自発的で、とりとめのない、より瞬間的なもので、結論に向かうことはあまり考えられていません。

まさにこれはなぜでしょうか? わかりませんが、メディアとテクノロジーの哲学者、故マーシャル・マクルーハンは 1964 年に、テレビの新たな人気が現代社会をどれほど急速に変えているかについて何かを書きましたが、彼は正しかったです。マクルーハン氏によれば、媒体とはメッセージだという。形式は内容です。

たとえば、Facebook、Twitter、LinkedIn で同じ単語を書くと、その単語はそれぞれの場合で異なる特定の意味を持ちます。ポッドキャストはリハーサルを行っていない自然発生的な人間の声を称賛するものであるため、人間の両価性や、さらには複雑な矛盾や皮肉さえも容易に歓迎され、理解できるフォーラムとなっています。これは、非常にニュースになっているトレンドについて話すのに適したフォーラムだと思います。今日、私自身もそれについて多くの曖昧で複雑な考えを共有したいと思います。私は人工知能について話しています。

マーシャル・マクルーハンがメディアはメッセージであると1964年に語ったとき、当時はテレビやその他の親密な家庭用放送メディアが人間社会の構造そのものを微妙に変えていることについて考えている人はほとんどいなかった。今日、最新のテクノロジーによって可能になった新しいメディアも、社会に多大な影響を与える恐れがあります。私が話しているのは、インターネット接続があれば誰でも利用できる ChatGPT のような人気のある汎用 AI ツールについてです。ChatGPT について聞いたことがない方のために説明しますが、ChatGPT は人間の会話をうまくエミュレートするため、あちこちで大きな注目を集めています。そして、利用可能な一般知識の広範な領域全体をいかに簡単に統合し、取得できるかということです。

チャットボットは数年前から存在しています。BestBuy や Ticketmaster Web サイト上のフレンドリーな自動カスタマーサービスチャットボットと同じくらいシンプルで無害なものもあります。 ChatGPT4 などの新しいチャットボットの範囲は、電子製品やコンサートチケットに限定されません。これらは、人間の知能全体を把握するように訓練された、大規模言語モデルとして知られる非常に異なる種類の知識エンジンです。

時々、ChatGPT の G が General であると考える人がいますが、システムは一般的な知性と一般知識を示すように設計されているため、これは適切な推測です。 G は実際には Generative の略で、この製品が何かを作成する、つまりオリジナルの画像や言葉を生成するように設計されていることを意味します。 P は事前トレーニングの略で、これについては数分で説明します。T は Transformer の略です。これは古典的なルー・リードのアルバムではありませんが、言語モデルが入力テキストに応答することを可能にするソフトウェア設計パターンです。一度に XNUMX つの単語を処理しますが、入力されたテキスト全体を全体として考慮して変換を実行します。

これらの新しいチャットボットは、友好的で対人的でニュアンスのある会話スタイルであらゆるトピックについて会話できます。チャットボットは、エッセイを書いたり、問題を解決したり、データベースの詳細な検索を行ったり、コンピューターコードを生成したり、難しい質問に即座に答えたりすることができます。 ChatGPT とそれに類する他の製品は、私たちの多くが予想していたよりも早く人工知能の分野を前進させる、言語的かつ包括的な機敏性のレベルを示しています。少し前に、Google の一部の担当者が、自社の AI システムがチューリングテストに合格し、知覚を持った人間のコミュニケーションと区別できなくなると信じていたというニュース記事があり、その意識の証拠に Google の専門家を驚かせました。私が個人的にAIがチューリングテストに合格できると信じているかどうかはわかりませんが、多くの専門家が現在それが可能になりつつあると信じていることは知っています。

一般的な知識として、AI の一般的な使用例はチャットボットだけではありません。画像ジェネレーターは、テキストプロンプトから視覚的なアートワークを即座に作成できます。時には、物理的な画家やデジタルアーティストが作成するのに数時間、数日、または数週間かかるような驚くべき巧妙な画像を作成できます。 ChatGPT を作成したのと同じシリコンバレーの企業である OpenAI の DALL-E のような無料のオンライン人工知能画像ジェネレーターを介して、テキストプロンプトからの画像生成が今日現実になっています。あなたがアイデアを想像し、絵画のスタイルを説明すると、この Web サービスはあなたのアイデアを実現するためのさまざまなバリエーションを魔法のように送りつけます。

DALL-E のプロンプトには、「ブルックリンの橋で泣いているさまざまな人々のグループを水彩風に描いてください」というメッセージが表示され、その後、画像ジェネレーターによって生成された 4 つの画像が表示されます。 — DALL-E イメージジェネレーターとの対話例。

これは今日の現実であり、ChatGPT4 が、質問されたほぼすべてのトピックについて、熟達した、思慮深い、広範なエッセイ、つまり上級大学の学位を取得するのに十分なエッセイを書くことができることも今日の現実です。

このような予測をするのは時期尚早かもしれませんが、インテリジェントなチャットボットと画像ジェネレーター、つまり機械生成された文章や機械生成されたアートは、地球上の私たち全員に何らかの形で影響を与える主要な技術革新と主要な社会革新を象徴しているようです。または別のもの。最近、未来がどのような方向に進むかは誰にもわかりませんが、少なくとも、3 年の ChatGPT2022 のリリースが、すべての人気を高めた 1993 年の Mosaic ブラウザのリリースと同様に、いつか文化史の重要な瞬間として記憶される可能性は高いと思われます。今も続くインターネットブーム。

また、私たちの社会がすでに望ましくない後遺症に溺れていると多くの人が感じているかもしれないが、この新たな技術革新が、私たち全員が対処しなければならない新たな種類の大きな問題を引き起こす可能性もあるようで、気がかりだ。私たちが生活の中で要求したわけでも、私たちの生活に招き入れたわけでもない、にもかかわらず私たちの生活の中に存在するその他の技術革新。

このエピソードを使って、AI が反戦活動家として私たちにどのような影響を与えるかについて話したいと思います。先に言っておきますが、AI は注目のトピックであり、非常に物議を醸していますが、それは当然のことです。私たちはそれについて心配し、それについて話し合うべきであり、私の意見では、このテクノロジーがもたらす良いことにも心を開かなければなりません。

これは進歩主義者や活動家の間で物議を醸しており、誰にとっても物議を醸しています。それは物議を醸すはずですが、私がこのエピソードを取り上げるのは、これらの最近の技術革新が地球にどのような影響を与えるかについて簡単に答えられるからです。私はそれらが私たちの世界に影響を与えることを知っていますし、反戦活動家がそれについて話す必要があることも知っています。そこで、私がこのエピソードをやっているのは、会話を始めるためであり、多くの反戦活動家がおそらくこのテーマについて話すときに苦労していると思われるさまざまな問題を整理するためであり、おそらくこの複雑な問題のあらゆる側面についてある程度の理解を表明するためです。問題。それが私がここでやろうとしていることです - そしてこのエピソードを聞き終わったら、ぜひフィードバックを共有してください。 world beyond war このエピソードの Web ページを参照するか、私に直接連絡してください。簡単に見つけることができます。

日常生活への影響という点では、人工知能の驚くべき機能によって多くの人が失業するのではないかと多くの人が疑問に思っています。 AI の力を見たときに人々が最初に抱く懸念は、多くの場合これです。これらの高度な機能により、人間の健全な雇用や努力のさまざまな分野が突然不要になるのでしょうか? 私たちの社会は、誰が働き、誰が稼ぎ、誰が支出するのかという点で、すでにひどくバランスを崩しています。 AI が同じタスクの多くをより効率的に、しかも無料で実行できるため、中産階級の生活のために働くエコシステムがさらに破壊されると、その破壊によって富裕層とそれ以外の人々の間の格差がさらに拡大することは確実です。残りの人々がその結果に直面することになるのに対し、%の人はその変化から恩恵を受けることができ、また、1%の人を助けるAIツールも、彼らの助けを借りられる人々には利用できなくなるか、高価すぎるものになってしまうだろう。それらにアクセスします。

正直に言うと、私たちの多くがこの略奪的な資本主義経済で生き延びることができず、失業とは借金をして選択の自由を失うことを意味し、これがまさにこれらの反社会的要塞経済が一般の人々に対して行うように設計されていることです - 私たちの力を奪うのです私たちに彼らにお金を払い、彼らのために働かせるのです。これが今日の要塞資本主義の将来ビジョンです。私たち自身が貧しくなっても、私たちは新たにインテリジェントで強力なコンピューターを手に入れることになります。

警察や軍がすでに人工知能ツールや、新しく強力で暴力的なロボットを使い始めているという事実もあります。私はこれがAIが現在提示している最も深刻かつ差し迫った脅威ではないかと考えており、例えばジョージア州アトランタでの重要なストップ・コップ・シティ運動のような警察に包囲された抗議運動はすでにこの変化した現実に対処していると思う。 AI システムには人間の作成者による偏見とコード化された価値観が引き継がれているため、AI の訓練を受けた警察や軍隊は、外見や人種に基づいてターゲットを選択し、弱い立場にある人々を文字通り狩猟し殺害する機械になる恐れがあります。ウクライナからイエメンに至る戦争で既に制御不能に陥っている世界において、悪質な人種プロファイリングでコード化された新種の殺人機械や抑圧体制をどちらか一方に、そして必然的に双方に権限を与えるという考えは、これと同じくらい恐ろしいことである。聞こえます。

大量の失業者や、人種コード化された人工知能が警察や軍隊によって使用されるという最悪のシナリオは恐ろしいものであり、その影響はすでに私たちの世界に現れているため、私たちはこれについて眠ることはできません。それはすでに起こっています。それでは、高度な AI がもたらすと思われる XNUMX つの別々の恐怖、つまり大量失業と警察や軍による虐待は、確固たる富と特権の強力な勢力が人々から権利と自由を盗む XNUMX つの異なる方法であることを認識することから、この会話を始めましょう。。

定着した富と特権について言えば、OpenAI について話しましょう。OpenAI は北カリフォルニアの会社で、オンラインで見つけることができます。 OpenAI.com。この企業は、2021 年に DALL-E 画像ジェネレーターを発売するまでほとんど知られていませんでしたが、わずか 2022 か月前の 3 年 3.5 月に、最初のパブリックチャットボットである ChatGPT4 をリリースし、その後すぐに、より強力で有能な ChatGPTXNUMX と ChatGPTXNUMX が続きました。、現在利用可能なバージョン。

DALL-E が作成できる画像を初めて見たとき、私はかなりノックアウトされましたが、初めて ChatGPT を試したときはさらにノックアウトされました。多くのソフトウェア開発者と同じように、私自身も AI を集中的に研究してきたので、これらのツールが対処しようとしている課題は私にとって非常によく知られていました。私が人工知能に初めて出会ったのは、数十年前、大学で行った自由研究プロジェクトでした。

これは 1980 年代のことであり、私のような人が 1980 年代に AI の研究をしていたと聞いて驚く若い人もいるかもしれませんが、人工知能という用語はコンピューター革命そのものとほぼ同じくらい古いものです。たとえ 1950 年代から 1990 年代にかけての AI の成果は、それ以降私たちが見てきた進歩と比較すると幼稚なものでした。

実際、この分野は 80 年代には非常に自由度が高かったため、私は 80 年生のときに、解析プログラムのための独自の独立研究プロジェクトを作成することで、哲学とコンピュータサイエンスを組み合わせた専攻として数単位を取得することができました。英語で文章を話し、基本的な理解を実証または模擬する方法で応答します。私は、大きな建物ほどの大きさで、おそらく今このポッドキャストを録音している MacBook よりも電力が少ない巨大な Univac メインフレームに接続された、笑えるほどかさばる緑色に光る Unimatic 端末で LISP でコーディングしました。 XNUMX年代に戻って。

私の AI 独立研究プロジェクトのエキサイティングな課題は、単純な動詞と名詞を含む文を解析して応答することでした。たとえば、「私はハッピーという名前の猫を飼っています」「私の猫はオレンジ色です」「すべての猫はニャーと言う」などの文を LISP プログラムに入力すると、「ハッピーはオレンジ色ですか?」などの質問に答えることである程度の理解を示します。または「マークの猫はニャーと鳴きますか?」面白いことに、私は Univac メインフレーム上で AI チャットボットを作成しようとしていました。

当時、他の多くの大学生が同じことをやろうとしていたと思いますが、私たちの誰もあまり遠くまでは到達できませんでした。なぜなら、これは 1980 年代であり、重要な素晴らしいアイデアの XNUMX つがまだ私たちに到達していなかったからです。それは、ソフトウェアを提供するニューラルネットワークです。人間の脳のニューロンと同様の単純な演算を大規模に並列して実行するように設計された構造。私の LISP プログラムはシングルスレッド計算を提供し、Fortran、COBOL、Pascal プログラムは同じ制限されたシングルスレッドパラダイムに従っていましたが、ニューラルネットワークは単純な計算を並列実行する並列要素スレッドを提供しました。人間の脳は、大量の並列処理、つまり同時操作がカスケードして特異点の錯覚を形成します。そして、ニューラルネットワークとして知られるソフトウェア構造により、プログラマーはこの並列処理の力を集めることができるようになります。私が大学を卒業した後は。

ニューラルネットワークの概念とともに、最終的には反復的なアクティビティでニューラルネットワークをトレーニングするという概念が誕生しました。これも 80 年代にはまだ到達していなかった概念です。私は LISP プログラムに少数の完全な文を与えていましたが、パフォーマンスを修正して改善するためのフィードバックを与えていませんでした。私がやるべきだったのは、コンピューター端末に文章を入力する代わりに、本、新聞、百科事典全体をコンピューター端末に入力し、プログラムが最も基本的で原始的な行為を繰り返しシミュレートしようとする際に常に端末と対話してその動作にフィードバックを提供することでした。理解力の。豊富で複雑な知識ベースを構築するためにたくさんの読み物を与え、それを繰り返し徹底的にトレーニングすることで、オレンジ色の猫を飼っているかどうかについて、実際にコンピュータープログラムに驚くべきことを言わせることができたかもしれません。ニューラルネットワークと反復トレーニングが、今日のチャットボットで見られる人間の知能のシミュレーションを成功に導くのに役立ったことが判明しました。

私が人間の知能をシミュレートすることについて話していることに気づくでしょう。これは別の論争を示唆しています。「人工知能」という言葉をばかげていると感じる人もいます。ばかばかしいというよりもさらに悪いことに、この考えが倫理的に問題だと考える人もいます。なぜなら、もし知能が意識を生むなら、人工知能は人工意識、つまり人工の知覚、人工の意志、人工の生存権に変形する可能性があるからです。これは確かに多くの実存的な疑問を呼び起こします。これらの質問はすべて有効かつ重要です。 AI の知識エンジンと言語モデルがすでに意識を発達させているのではないかと疑問に思う人もいます。個人的には、「いいえ、チャットボットが実際の感情を育むことを心配する必要はありません」と断言するのは非常に簡単だと思います。 AI には心配すべきさまざまな側面がたくさんありますが、これは私が個人的に心配していることではありません。しかしだからといって、自分が正しいこと、誰も心配する必要がないことを証明できるわけではありません。たぶん、私は心配すべきさまざまなことで圧倒されて、このことについて心配する時間がないだけなのかもしれません。機械の知覚に関する疑問に関して生じる可能性のあるすべての疑問に対する明確な答えを私は持っていませんし、持っているふりをするつもりもありません。しかし、私たちがどのように立ち向かうべきかを考えなければならない問題が何かはわかっています。

活動家コミュニティ内で時々耳にする意見の XNUMX つは、AI は誇大宣伝に過ぎず、大規模な言語モデルの優れた会話スキルによって促進される幻想であるというものです。確かに、GPT は質問を解析し、エレガントな表現法で応答できますが、この言語の楽しさによって、何らかの意味のある進歩があったと思われるのはなぜでしょうか? ブリタニカ百科事典を残念がらせたのは、Google と Wikipedia がすでに人類の知識全体をインターネット上で無料で簡単に利用できるようにしていることです。私たちが ChatGPT についてこれだけ誇大宣伝を聞いているのは、それが人間の意識の言語的なファサード、つまり私たち全員が熱心に陥っている幻想を提示しているからにすぎません。ここには一定の妥当性があると思います。おそらく、Google や Wikipedia がもともと ChatGPT のように突然完全に形成された方法で立ち上げられたとしたら、おそらく私たちは Google や Wikipedia の立ち上げについて、人類の集合知における大きな進歩として語ることになるでしょう。なぜなら、どちらもすでに私たちの世界に影響を与えているからです。

それでも、ニューラルネットワークとトレーニングについて話したときに上で述べたように、大規模な言語モデルをファサードとして説明することは、この言語の素晴らしさを可能にするために存在する必要があるソフトウェア構造の層を過小評価することになります。

私の意見では、ここに大きな疑問があります。OpenAI とそのプリンシパル、創設者、投資家、パートナーの倫理を調べてみましょう。ここには問題が山積みだ。

OpenAI.com は、Facebook、Google、Microsoft、Amazon、Oracle を生み出したのと同じ、超富裕層で活気に満ちたシリコンバレーのテクノロジーインキュベーターのエコシステムから誕生した、私募の研究機関です。その創設者には、有名人の億万長者であるイーロン・マスクも含まれており、彼の社会病質な公の発言は、他の多くの人々をうんざりさせるのと同じくらい私も本当にうんざりさせます。イーロン・マスクは OpenAI に直接関与したことはなく、ソーシャルメディア上で攻撃的な性格を示すなど、他のことに移ったので、今日私がイーロン・マスクについて言いたいのはこれだけです。

私の見方では、OpenAIが戦争で大儲けしているマイクロソフト、そして戦争用人工知能の分野で大儲けしているマイクロソフトと密接に関わっているのはさらにひどいことだ。イーロン・マスクとの関係以上に、この厄介な関連性を人々が心配してほしいと願っています。 DALL-E と OpenAI の友好的な顔が、少なくとも XNUMX つの巨大な影響力を持つ邪悪な戦争利得者であるマイクロソフトにとって有益な見せかけであることに、私たちは非常に動揺すべきです。Microsoft はすでに、私たちが話したような種類の人種コード化された軍事および警察の人工知能アプリケーションを開発しています。以上くらい。これは、米国の戦争機構と深く結びついているマイクロソフトやその他の米国ハイテク大手企業の舞台裏ですでに起こっている。そしてこれは私が考える限り最悪のニュースです。

ゴーグルとケーブルが付いた重いヘッドセットを装着した兵士 — MicrosoftのHololens拡張現実ヘッドセットが米軍で使用されている

私たち反戦運動に携わる者は、人工知能の邪悪な可能性を理由に、人工知能に背を向けることはできません。もちろん、反戦運動に参加する人全員が自分たちの生活にテクノロジーが侵入することを容認する必要がある、と言っているわけではありません。多くの進歩主義者や活動家が流行の技術革新を生活に取り入れることを避けるという正しい選択をしていることを嬉しく思います。私自身はテクノロジーフリーのライフスタイルからはほど遠いものの、この姿勢には共感し、尊敬できます。テクノロジーは私の専門分野であり、キャリアであり、技術者として、人工知能のような取り組みの背後にある天才性、創造性、革新性に魅了されています。

また、単純に好奇心旺盛な人間として、私は人間の知能をシミュレートするためにコンピューターがどのように作られてきたのかを学ぶことで、人間の知能について洞察を得ることに非常に興味があります。また、ChatGPT がどれほど便利かを発見したため、ChatGPT を生活に取り入れています。私は OpenAI.com にアクセスして、絶えず質問しています。私は ChatGPT を使用してコードを作成しています。これには、他の人々と一緒にこの夏に取り組んでいる米外国軍事基地のインタラクティブマップの新バージョン用の Javascript も含まれます。 World Beyond War.

正規表現を使用して特殊文字を削除してクエリ文字列パラメータをクリーンアップしたいとします。これはスタックオーバーフローに質問するために使用するもので、会話スレッドに投稿された推奨フラグメントから作業コードをつなぎ合わせます。。代わりに、ChatGPT に必要なことを伝えると、ChatGPT は実行可能でエラーのない、完全にフォーマットされた Javascript を吐き出すだけです。私のソフトウェア開発者の友人のほとんどは、現在 ChatGPT を使用してコードを書いています。私たちはそれについて話すのが好きなので、そうしているのは知っています。私たちプログラマーの誰も、ChatGPT が私たちに取って代わることをまだ心配していないと思います。なぜなら、コードの断片を組み合わせて機能するシステムを作成する必要があるのは私たちであり、GPT は単にコードの断片を生成するだけだからです。しかし、これによってソフトウェア開発者の仕事のやり方がどのように変わるのか、私は疑問に思っています。それは間違いなくすでにゲームを変えつつあります。

また、ChatGPT を使用して、Google を使用していたときと同じ方法でオンラインで情報を検索したり、書いたり考えたりしている内容に関するプロンプトや視点、背景情報に使用しています。あらゆることに使っているというのは冗談ではありません。上で 1960 年代のテクノロジー哲学者マーシャル・マクルーハンについて言及したときのように、もちろん私は ChatGPT にマーシャル・マクルーハンに関する情報を求めました。そして、1964 年がマーシャル・マクルーハンがマーシャル・マクルーハンを始めた年であると教えてくれたのは ChatGPT でした。「メディアはメッセージである」という本を出版しました。

私たちの多くがすでに基本的なインターネット検索を Google から GPT に移行しているという事実が多くを物語っています。これらの新しい種類のツールが、その背後にある影響や動機を心配しながらも、ゆっくりと、そして気づかれないうちに私たちの生活に浸透し始めるのは非常に簡単です。

インターネット自体の基盤となるソフトウェア技術と同様に、米軍によって疑わしい理由で作成されたものの、社会に変化を引き起こし、本来の目的の範囲を完全に逸脱した新たな使用例が発見されるようになったこの新しい技術も、私たちの生活に影響を与える独自の道を見つけます。この新しいテクノロジーは本物であり、無視できないほどうまく機能し、今後も存続します。繰り返しますが、それが私が反戦活動家たちとそれについて話すためにエピソードを費やしている理由です - それはすでに私たちの現実の一部であり、私たちがこの地球上で自分たちの仕事を成し遂げるためには、もし申し出があれば、いくつかの権限が必要になるかもしれないからです。

私たち反戦活動家が認識しているようなひどい問題を抱えていない、この地球上の生活のさまざまな側面について、少し考えてみましょう。芸術、音楽、文学、生物学、化学、物理学、地質学、天文学、医学、健康、製造、農業、栄養学。これらすべての世界で、これらすべての取り組みが行われています…高機能な一般知識チャットボットの一般公開は、大きな影響を与えています。触れない分野はありません。

人間が平和に共存するという次元、つまり自分自身の存在にもっと時間を費やすことができればいいのにと思う次元において、人工知能は人間の能力の奇跡的な進歩であり、大きな利益を約束します。私たちが平和で安全かつ公平な世界に住んでいれば、人工知能が生み出す驚異を一緒にもっと楽しむことができるでしょう。

画像ジェネレーターを使用して作業すると、私たちはこれらの驚異のいくつかに気づき、他の方法では作成できないような、私たち自身のプロンプトに基づいて驚くほど賢明で創造的な画像を作成します。私たちはまた、人工知能ツールが良い目的に使用できるかどうかについての矛盾を感じています。技術者として、私は 21 世紀の地球上で問題になるのは技術革新ではないと信じています。私は常に技術革新を歓迎します。そして、AI がもたらす危険は、固定化された資本主義と戦争によるものだと考えています。この惑星は、自らと戦争をしている惑星であり、自分自身を犠牲にすることを抵抗できない 1% の裕福な人々によって支配されているという事実からです。特権を維持するために他の人間を抑圧する軍事要塞社会を構築するという自殺行為。私たちがしなければならないのは社会を癒すことです。私たちがする必要のないのは、苦しみの原因や自殺願望の原因を誤解してテクノロジーの進歩から逃げることです。

そう思います。もちろん、それはすべての反戦活動家が考えていることではなく、それは問題ありません。については興味深い反応がありました World Beyond War 電子メールディスカッションリスト – これは活発で知的なフォーラムですので、誰でも参加することをお勧めします。Web サイト上のリンクをクリックするか、次のキーワードで検索してください。 world beyond war ディスカッションリスト – 誰かが DALL-E で生成された非常に想像力豊かな反戦イメージを共有し、また別の誰かが、私たちの病んだ地球がどのようにして世界平和への道を見つけることができるかについて驚くほど有益な言葉を共有した後。

私は、活動家は利用可能なすべてのテクノロジーを習得すべきであると信じています。活動家は、私たちを抑圧する習慣のある腐敗した政府や強欲な企業よりも高度な革新的テクノロジーを使用する能力が劣るという立場に置かれるべきではありません。

また、人間の意識と人間の存在をモデル化してシミュレーションするために使用されるアルゴリズムとデザインパターンを研究することによって、人間の意識と人間の存在に関する驚くべき哲学的真実を収集できると私は信じています。 OpenAI Web サイトで ChatGPT を数分間いじるだけで、人間の本性についてのとんでもない真実が明らかになることがあります。

ここで、私がまだ頭の中で考えているとんでもないことを XNUMX つ紹介します。 ChatGPT は時々嘘をつきます。それは物事を作ります。通常、GPT は会話スレッドの最初の質問に対して強力な答えを導き出すため、GPT に質問し始めるときにはこのようなことは起こりません。その後、GPT はあなたがフォローアップの質問をするときにフォローし続けます。ここで、GPT をコーナーに戻し、まっすぐに嘘をつき始めることができます。私が ChatGPT に尋ねた最初の質問の XNUMX つは、最高の反戦ポッドキャストについて教えていただくことでした。なぜなら、当然のことながら、私のエゴが関与していて、 World Beyond War ポッドキャストがリストに表示されます。

さて、GPT は事前にトレーニングされているため、つまり、事前にトレーニングされており、最新のニュースや情報が積極的に供給されていないため、私の小さなことについてすべてのことを知っているとは期待できません。ポッドキャスト。また、特定のポッドキャストに興味があることを GPT に示して結果を歪めたくなかったので、優れた反戦ポッドキャストがあるかどうか尋ねたところ、確かにあると保証されました。それから私は、名前を付けるよう促すことを期待して、具体的な内容に入り始めました。 World Beyond War 質問してポッドキャスト – メディア・ベンジャミンのような有名な活動家にインタビューしたポッドキャストについて教えてください。ここからが面白くなり始めます。システムが主張を行うと、その主張を裏付けようとするため、メディア・ベンジャミンにインタビューしたポッドキャストが確かに存在することを確認した後、これらのポッドキャストの XNUMX つに名前を付けるようシステムに尋ねたところ、メディア・ベンジャミンは彼女自身のポッドキャストのホスト。ええと、彼女は違います！もし彼女だったら、私は間違いなくそれを聞くだろう。 ChatGPT が持っていない情報を提供する必要がある隅に追い込むことで、ChatGPT に嘘をつかせることができました。そのため、現実的に聞こえる情報をでっち上げました。

これは思っているよりも頻繁に起こります。また、ChatGPT に真実ではあるが矛盾した情報を投げることで、間違いを簡単に発見することもできます。マーシャル・マクルーハンが1964年に「媒体はメッセージである」という名言を紹介したことをGPTが私に正確に知らせた後、私はこの聡明で鋭敏な哲学者が、より暗く、より厄介な問題を扱った彼の以前の本の一種の皮肉な続編も書いていたことを思い出しました。メディアが人間の心を眠らせる方法、メディアを通じた大企業による集団人口コントロールの恐ろしい人々 – マーシャル・マクルーハンは本当に素晴らしかったので、彼は1960年代にこの危険性を当時から理解しており、1967年にアーティストのクエンティン・フィオーレと別の本を出版しました「媒体はマッサージである」と呼ばれています。

ここで GPT がおかしくなりました。私は ChatGPT に、マーシャル・マクルーハンの名言「メディアはマッサージである」について教えてほしいと頼みました…そして GPT は、マクルーハンが「メディアはマッサージである」とは言っていない、むしろ「メディアはメッセージである」と言っているときっぱりと教えてくれました。明らかに、GPT はマッサージはタイプミスだと考えていました。それから私は GPT に、それは誤りであり、マクルーハンは確かに「媒体はメッセージである」と「媒体はマッサージである」の両方を述べていると伝えました。私がこれを言うとすぐに、ChatGPT は間違いに気づき、謝罪し、そう、「メディアはマッサージである」は彼が 1967 年に書いた本であることを教えてくれました。

では、なぜ最初に間違ってしまったのでしょうか。特に、すでに正しい答えにアクセスできる範囲にあったのに、なぜ間違ってしまったのでしょうか? さて、ここで GPT が私たち自身についての驚くべき真実を明らかにし始めています。実際、GPT の XNUMX つの間違いまたは不正行為により、GPT がより人間的ではなく、より人間的に見えるようになったからです。 GPT の G は生成を意味することを思い出してください。このシステムは、正しい答えがわからない場合に答えを生成するように設計されています。存在しない映画や本のタイトルを教えてくれるかもしれませんが、それは存在しそうなタイトルになります。あなたがよく知っているトピックについて ChatGPT と自由に長い会話をすると、すぐに間違いを犯し始めることがわかります。

GPT 自身の回答に対するフォローアップの質問をすることで GPT を窮地に追い込み、最終的に GPT が以前の発言を裏付けるために現実的であるように見えるが誤った情報を生成させた方法は、私には非人間的ではなく徹底的に見えました。人間。

ここで、修辞的で操作的な議論スタイルの鈍感な力がわかります。おそらく、ChatGPT のこの驚くべき不正行為から私たちが学べることは、何らかの方法で真実を捏造することなく真実を把握することは人間的に不可能であり、注意を怠ると、修辞目的で使用する捏造された真実が、私たちがいるという嘘になってしまう可能性があるということです。より多くの捏造で防御することを余儀なくされた。やあ、これは確かに私には本物のように思えます。

さらに本物らしく、ChatGPT の人間らしい行動には嘘が含まれることがわかっています。それでも私たちはそれを信頼しています！私自身もそれを使い続けています。なぜなら、GPT が答えを求めて誤った情報を生成しているときはいつでも検出できると信じられるほどの自信があるからです。ねえ、もしかしたら私は冗談かもしれないし、捏造された真実を信じる自分自身の性向と、他人に嘘をついてしまう自分自身の性向について考えるべきかもしれない。

ここでは、GPT が私たちをより賢くする方法を紹介します。通常の人間関係において、私たちが虚偽や見せかけ、白い嘘や友好的な欺瞞にどのように関わっているかを指摘します。一言で言えば、ChatGPT は時々嘘をつかないと人間の行動をシミュレートできません。これは私たち全員にとって考えるべきとんでもないことです。

ここでもう XNUMX つ考えるべきことがあります。私たちの社会を定義する技術革新に追いつくという点で、私たち人間はどのようにしているのでしょうか? ここ数年、私たちは AI の進歩に適応すると同時に、所有権、アクセス、検証の新しい概念を備えた共有データベースを構築する新しい技術手法であるブロックチェーンの発明を吸収しています。私たちはブロックチェーンに関する前回のエピソードを行いましたが、私個人としては、ブロックチェーンが私たちの生活をどのように変え、そして将来私たちの生活をどのように変えていくのかを、私の知り合いのほとんどがまだ理解していないと確信しています。そして今、私たちは大きな言語を手に入れました。私たちの生活と未来も変えるモデルと一般知識エンジン! これに加えて、うーん…どこに行けばいいのでしょう…ヒトゲノムプロジェクト、脳科学の大幅な進歩、宇宙の探査と植民地化…ねえ、人類の皆さん、私たちはこれらすべてについていけていますか？

さて、新型コロナウイルスのようなパンデミックをめぐる技術的・科学的論争を放り込んで、そこで休まず、老朽化した官僚が運営する腐敗した無能ないわゆる政府の手中に広く入手可能な核兵器と政治の状況について考えてみましょう。相互確証破壊。

私たちはこれに追いついていますか？いや、でもこのクソ野郎は我々に追いついており、我々の番号を知っている。私は毎朝起きて、ウクライナに住む貧しい人々を悲劇的に殺害しているNATOとロシアの間の代理戦争について読んでいます。そして毎朝、私は今日がいわゆる指導者たちの無能なせいで核戦争が始まる日なのかと考えています。毎日、今日が地球上の人類最後の日なのかと考えています。

2023 年の暑い夏です。1945 年に日本の広島と長崎で数十万人が瞬時に殺害された信じられないほどの恐怖をもたらした科学者を描いた「オッペンハイマー」という新しい映画が公開されています。私たちの誰もが、絶対的な悪、私たちの社会が犯した間違い、そして自分自身を改善し、哀れで恥ずべき社会中毒から自分自身を引き上げることの失敗についての絶対的な悪、衝撃的で耐え難い真実を理解するのに十分に自分自身の心をまだ広げることができていません。集団的憎悪と集団的暴力。

上で述べたように、人工知能は意識や感覚をもたらすことができるのか、AI システムが感情や気持ちを発達させることができるのか、そしてこれらの言葉やこれらの質問は何を意味するのか、と尋ねる人もいます。私は映画『オッペンハイマー』をまだ見ていないが、日本の大量殺人についての映画で日本人犠牲者の顔が映らないという考えにはかなりうんざりする。 AI システムに知覚があるかどうかを疑問に思うのではなく、私が言いたいのは、広島と長崎で焼却されたすべての人には知覚があり、意識があったということです。それは私たちがまだ向き合えていない真実だと思います。おそらく私たちは、この点に関して自分自身の心をもう少し訓練する必要があるかもしれません。

今日はここで終わります。人間は、自分たちが生み出した問題や、自分自身を改善するために必要な変化についての真実に対処することができません。ボットも真実を扱うことはできません。人間存在の謎と皮肉を考える私とこの場を共有してくれてありがとう。私が長年愛しているシンガーソングライター、シニード・オコナーの人間の声で私たちを連れ出そう。そして「Healing Room」という曲。エピソード 50 をお聴きいただきありがとうございました。またすぐに 51 でお会いしましょう。