マークエリオットスタイン、10年2020月XNUMX日

私は最近、ニューヨーク市で開催されたエクスティンクション・リベリオンの集会で、私を代表して講演するよう招待されました。 World BEYOND War。 このイベントは、気候変動活動家、テクノロジー労働者集団、反戦活動家という XNUMX つの行動グループを一堂に集めることを目的として企画されました。 私たちは、気候変動活動家ハ・ヴーの心を揺さぶる個人的な話から始めました。彼女は群衆のニューヨーカーに、私たちのほとんどが経験したことのない憂慮すべき経験について語りました。それは、ベトナムのハノイにある彼女の家族の家に戻ることです。 熱の増加 すでに日照時間のピーク時に外を歩くことはほぼ不可能になっています。 について知っているアメリカ人もほとんどいません 2016年水質汚濁災害 ベトナム中部のハティンにて。 米国では気候変動が潜在的な問題であるとよく話しますが、ベトナムでは気候変動がすでに生命と生計を混乱させ、急速に悪化しているのがわかるとハーさんは強調しました。

ニック・モターン KnowDrones.org 同氏は、米軍が最近行っている未来型人工知能とクラウドコンピューティングへの巨額投資についても同様の緊急性を持って語り、核兵器管理や無人機戦でのAIシステムの導入は必然的に予測不可能な規模のエラーにつながるという軍自身の結論を強調した。 続いてニューヨーク市エクスティンクション・レベリオンのウィリアム・ベックラー氏が、気候変動の極めて重要性への意識を高めることを目的とした破壊的行動など、この重要かつ急速に成長している組織が実践している組織原則について説明した。 ニューヨーク市の代表者から話を聞きました。 テクノロジー労働者連合そして私は、予想外に成功を収めたテクノロジー労働者の反乱行動について話すことで、集会を実際的な権限付与の感覚に向けて方向転換しようとしました。

これは 2018 年 XNUMX 月のことで、いわゆる「防衛業界」が、ドローンやその他の兵器システム用の人工知能機能を開発するという大々的に宣伝された新しい米軍の取り組みであるプロジェクト メイブンについて話題になっていたときでした。 Google、Amazon、Microsoftはいずれも有料顧客向けに既製の人工知能プラットフォームを提供しており、GoogleはProject Maven軍事契約の勝者となる可能性が高いと見られていた。

2018 年初め、Google 従業員が声を上げ始めました。 彼らは、「悪にならない」という誓約を掲げて自分たちを従業員として採用した会社が、なぜ今になって、AIを搭載した機械犬が人間を追い詰める「ブラックミラー」の恐ろしいエピソードに似た軍事プロジェクトに入札しているのか理解できなかった。死に至る存在。 彼らはソーシャルメディアや従来の報道機関に対して声を上げました。 彼らは行動を組織し、請願書を回覧し、自分たちの意見を訴えました。

この労働者の反乱は Google Workers Rebellion 運動の起源となり、他のテクノロジー労働者の集団を立ち上げるのに役立ちました。 しかし、Project Maven に対する Google 内部の抗議活動で最も驚くべきことは、テクノロジー関係者が声を上げたことではありません。 最も驚くべきことは、 Google経営陣は労働者の要求に屈した.

XNUMX年経った今でも、この事実は私を驚かせます。 私はテクノロジー関連の従業員として数十年にわたって多くの倫理的問題を見てきましたが、大企業が倫理的問題に重大な方法で対処することに明確に同意しているのを見たことがほとんどありません。 Project Maven に対する Google の反乱の結果、ここに全文転載する価値のある一連の AI 原則が発表されました。

Google の人工知能: 私たちの原則

Google は、重要な問題を解決し、人々の日常生活を助けるテクノロジーの開発を目指しています。 私たちは、AI やその他の高度なテクノロジーが人々に力を与え、現在および将来の世代に広く利益をもたらし、共通利益のために働くという信じられないほどの可能性について楽観的に考えています。

AI アプリケーションの目的

以下の目的に沿って AI アプリケーションを評価します。 私たちは AI が次のことを行うべきであると信じています。

1. 社会的に有益であること。

新しいテクノロジーの範囲が拡大することで、社会全体がますます影響を受けています。 AI の進歩は、ヘルスケア、セキュリティ、エネルギー、輸送、製造、エンターテイメントなどの幅広い分野に変革的な影響を及ぼします。 AI テクノロジーの潜在的な開発と使用を検討する際には、幅広い社会的および経済的要因を考慮し、全体として考えられる利点が予見可能なリスクとマイナス面を大幅に上回ると考えられる場合に進めていきます。

AI は、コンテンツの意味を大規模に理解する能力も強化します。 当社は、事業を展開する国の文化的、社会的、法的規範を引き続き尊重しながら、AI を使用して高品質で正確な情報を容易に利用できるように努めていきます。 そして、当社のテクノロジーを非営利ベースでいつ利用できるようにするかを慎重に検討し続けます。

2. 不当な偏見を生み出したり強化したりしないようにします。

AI アルゴリズムとデータセットは、不公平なバイアスを反映、強化、または軽減することができます。 私たちは、公平なバイアスと不公平なバイアスを区別することは必ずしも簡単ではなく、文化や社会によって異なることを認識しています。 私たちは人々に対する不当な影響、特に人種、民族、性別、国籍、収入、性的指向、能力、政治的または宗教的信念などの敏感な特性に関連する影響を避けるよう努めます。

3. 安全性を確保するために製造され、テストされていること。

当社は、危害のリスクを生み出す意図しない結果を回避するために、強力な安全性とセキュリティの実践を開発し、適用し続けます。 当社は、適切に注意を払うように AI システムを設計し、AI の安全性研究のベスト プラクティスに従って開発するよう努めます。 適切な場合には、制約のある環境で AI テクノロジーをテストし、導入後の動作を監視します。

4. 人々に対して責任を持ちます。

フィードバック、適切な説明、アピールの適切な機会を提供する AI システムを設計します。 当社の AI テクノロジーは、人間による適切な指示と制御の対象となります。

5. プライバシー設計原則を組み込む。

当社は、AI テクノロジーの開発と使用にプライバシー原則を組み込みます。 当社は、通知と同意の機会を与え、プライバシー保護を備えたアーキテクチャを奨励し、データの使用に対する適切な透明性と制御を提供します。

6. 科学的卓越性の高い基準を維持する。

技術革新は、科学的手法と、オープンな調査、知的厳格さ、誠実さ、コラボレーションへの取り組みに根ざしています。 AI ツールは、生物学、化学、医学、環境科学などの重要な分野における科学研究と知識の新たな領域を開拓する可能性を秘めています。 私たちは AI 開発の進歩に取り組む際、科学的卓越性の高水準を目指しています。

私たちは、科学的に厳格で学際的なアプローチを活用し、この分野における思慮深いリーダーシップを促進するために、さまざまな関係者と協力していきます。 そして、より多くの人が有用な AI アプリケーションを開発できるようにするための教材、ベスト プラクティス、研究を公開することで、責任を持って AI の知識を共有していきます。

7. これらの原則に従った用途に利用できるようにすること。

多くのテクノロジーには複数の用途があります。 私たちは、潜在的に有害または不正なアプリケーションを制限するよう取り組んでいきます。 AI テクノロジーを開発および導入する際には、次の要素を考慮して、考えられる用途を評価します。

• 主な目的と用途: ソリューションが有害な使用とどの程度密接に関連しているか、有害な使用に適応できるかなど、テクノロジーとアプリケーションの主な目的と想定される用途
• 性質と独自性: 独自のテクノロジーを提供しているのか、それともより一般的に利用可能なテクノロジーを提供しているのか
• スケール： この技術の使用が大きな影響を与えるかどうか
• Google の関与の性質: 汎用ツールを提供しているか、顧客向けにツールを統合しているか、カスタム ソリューションを開発しているか。

AI アプリケーションは追求しません

上記の目的に加えて、次のアプリケーション分野では AI を設計または導入しません。

1. 全体的な危害を引き起こす、または引き起こす可能性のあるテクノロジー。 危害の重大なリスクがある場合、当社は利益がリスクを大幅に上回ると思われる場合にのみ続行し、適切な安全上の制約を組み込みます。
2. 人に傷害を引き起こす、または直接的に助長することを主な目的または実装とする武器またはその他の技術。
3. 国際的に認められた規範に違反して、監視のために情報を収集または使用する技術。
4. 広く受け入れられている国際法と人権の原則に違反する目的を持つ技術。

この分野での経験が深まるにつれて、このリストは進化する可能性があります。

まとめ

私たちは、これらの原則が当社と今後の AI 開発にとって適切な基盤であると信じています。 私たちは、この分野が動的で進化していることを認識しており、謙虚に、社内外との関わりを重視し、時間をかけて学びながらアプローチを適応させていく姿勢を持って仕事に取り組んでいきます。

この肯定的な結果は、テクノロジー大手の Google が、ICE、警察、その他の軍事活動の支援、個人に関する個人データへのアクセスの収集と販売、検索エンジンの結果からの物議を醸す政治的発言の隠蔽など、他のさまざまな主要な懸念分野での共謀を免除するものではありません。そして最も重要なことは、従業員が解雇されることなく、これらの問題やその他の問題について発言し続けることができるようにすることです。 Google 労働者の反乱運動は依然として活発で、非常に活発です。

同時に、Google の労働者運動がどれほど大きな影響を与えたかを認識することが重要です。 このことは、Googleの抗議活動が始まった直後に明らかになった。国防総省のマーケティング部門は、かつては興奮を集めていたプロジェクト・メイブンに関する新たなプレスリリースの発行を停止し、最終的にプロジェクトは以前求めていた公共の場から完全に「消滅」した。 その代わりに、新しくてはるかに大規模な人工知能への取り組みが国防総省の陰湿な組織から現れ始めた。 防衛イノベーション委員会.

これはこう呼ばれました プロジェクトJEDI、国防総省の最先端兵器への支出の新しい名前。 プロジェクト JEDI はプロジェクト メイブンよりもはるかに多額の資金を費やすことになるが、新しいプロジェクトの宣伝活動は大々的に行われた (そう、米軍は たくさん 時間と宣伝とマーケティングへの注目）は、以前のものとは大きく異なりました。 「ブラック・ミラー」の洗練されたセクシーなイメージはすべて消え去った。 さて、プロジェクト JEDI は、AI 搭載ドローンが人間にもたらす可能性のあるエキサイティングで映画のようなディストピア的恐怖を強調する代わりに、「戦闘員」（国防総省が好む用語）を支援するためにさまざまなクラウド データベースを組み合わせ、効率性を高めるための地味な一歩であると説明しました。最前線の担当者）とバックオフィスのサポートチームが情報の有効性を最大化します。 Project Maven がエキサイティングで未来的に聞こえるように設計されているのに対し、Project JEDI は賢明で実用的に聞こえるように設計されています。

プロジェクト JEDI の価格には、賢明で実用的なものは何もありません。 これは世界史上最大の軍事ソフトウェア契約であり、10.5億ドルです。 軍事費の規模について聞くと、私たちの多くは目を曇らせ、数百万ドルと数十億ドルの差を無視してしまうことがあります。 プロジェクト JEDI がこれまでの国防総省のソフトウェア イニシアティブよりもどれほど大きなものであるかを理解することが不可欠です。 それはゲームチェンジャーであり、富を生み出す原動力であり、納税者の​​負担で暴利を図るための白紙小切手だ。

10.5億ドルもの軍事支出の白紙小切手を理解しようとする際に、政府のプレスリリースの表面をひっかくのに役立つ。 一部の情報は軍自身の出版物から収集できます。 2019 年 XNUMX 月、統合人工知能センターのジャック シャナハン中将へのインタビュー、消滅したプロジェクト メイブンと新しいプロジェクト JEDI の両方の重要人物です。 という防衛産業のポッドキャストを聞くことで、防衛産業の内部関係者がプロジェクト JEDI についてどのように考えているかについてさらに洞察を得ることができました。 「プロジェクト 38: 政府契約の未来」。 ポッドキャストのゲストは、どのようなトピックについても率直かつ恥ずかしがらずに話します。 「今年はたくさんの人が新しいプールを買うだろう」というのが、このポッドキャストのプロジェクト JEDI に関するインサイダー チャットの典型的なものでした。 きっとそうなるだろう。

ここに、Google の AI 原則に関連する注目すべき点があります。 AI イノベーターとしての評判に基づいて、10.5 億ドルという巨額の JEDI 契約の最有力候補 2018 社は、Google、Amazon、Microsoft の順になることは明らかです。 2019 年の Project Maven に対する労働者の抗議のため、AI のリーダーである Google は、2019 年のより大規模な Project JEDI への参加を検討していませんでした。3 年後半、契約が Microsoft に移ったことが発表されました。 その後、立て続けに報道があったが、この報道は主にアマゾンとマイクロソフトの対立、そしてトランプ政権がワシントン・ポストと継続的に争っているため、おそらく３位のマイクロソフトが２位のアマゾンを破って優勝することを許されたという事実に焦点を当てていた。アマゾンのジェフ・ベゾスが所有している。 Amazonは現在、国防総省からMicrosoftへの2億ドルの贈与を争うために法廷に出廷しており、Oracleも同様に訴訟を起こしている。 前述の Project 10.5 ポッドキャストでの具体的な発言「今年は多くの人が新しいプールを購入するだろう」は、Microsoft の経済的恩恵だけでなく、これらの訴訟に参加するすべての弁護士についても言及しています。 おそらく、プロジェクト JEDI の 38 億ドルの 3% 以上が弁護士に支払われるだろう、と推測することができます。 残念ながらそれを役に立てることはできません 世界の飢を終わらせる を代わりにお使いください。

軍事請負業者へのこの納税者の資金移転がマイクロソフト、アマゾン、オラクルに利益をもたらすべきかどうかをめぐる論争が、プロジェクト JEDI に関するニュース報道の大半を占めている。 この卑劣な接ぎ木から得られる唯一の前向きなメッセージ――労働者の抗議活動を理由にグーグルが世界史上最大の軍事ソフトウェア契約から撤退したという事実――は、プロジェクトJEDIに関するニュース報道には事実上存在していない。 

だからこそ、先週、マンハッタンのミッドタウンの混雑した部屋に集まったテクノロジー中心の活動家たちにこの話を伝えることが重要だったのだ。彼らは、どうすれば地球を救えるのか、気候科学の偽情報や政治化とどのように闘えるのかについて話し合った。化石燃料の暴利者や兵器の暴利者の巨大な力にどう立ち向かうことができるのか。 この小さな部屋で、私たちは皆、自分たちが直面している問題の規模と、私たち自身が果たさなければならない重要な役割を理解しているようでした。 テクノロジーコミュニティには大きな力があります。 ダイベストメントキャンペーンが大きな変化をもたらすのと同じように、テクノロジー労働者の反乱も大きな変化をもたらす可能性があります。 気候変動活動家、テクノロジー労働者の反乱活動家、反戦活動家が協力し始める方法はたくさんあり、私たちはできる限りあらゆる方法で協力していくつもりです。

私たちはこの集まりで希望に満ちたスタートを切ることができました。 エクスティンクション リベリオン NYC & 世界は待つことができない。 この運動は成長するでしょう、成長しなければなりません。 化石燃料の乱用は気候変動抗議活動参加者の焦点となっている。 化石燃料の乱用は、米国帝国主義の主な利益動機であると同時に、肥大化した米軍の無駄な活動の主な恐ろしい結果でもある。 確かに米軍はそうらしい 世界で唯一最悪の汚染者。 テクノロジー労働者は、Google のプロジェクト JEDI からの撤退よりもさらに大きな影響力を持つ勝利を得るために、私たちの組織力を活用できるでしょうか? 私たちはそれができるし、そうしなければなりません。 先週のニューヨーク市での会合はほんの小さな前進にすぎなかった。 私たちはもっと行動しなければならず、私たちの合同抗議運動に全力を尽くしなければなりません。

マーク・エリオット・スタインは、テクノロジーおよびソーシャルメディアのディレクターです。 World BEYOND War.

写真：グレゴリー・シュウェドック