人工道徳

Robert C. Koehler著、3月14、2019

人工知能はその一つです。 人工道徳もまた別のものです。 それはこのような何かに聞こえるかもしれません：

「まず、私たちは米国の強力な防御を信じており、それを守る人々には、マイクロソフトを含む、米国で最も優れたテクノロジへのアクセスを求めています。」

これらはマイクロソフト社長の言葉です ブラッドスミス同氏は、昨年の米軍との新たな契約を守るための企業ブログを執筆し、数十億ドル規模の戦闘用の拡張現実ヘッドセットを製作した。 国防総省の関係者によると、統合型視覚増強システム（IVAS）として知られるヘッドセットは、軍が敵に従事したときに「致死率を高める」ための方法です。 このプログラムへのマイクロソフトの関与は、従業員の間で憤慨の波を引き起こし、100人以上の従業員が、契約の解除を求める同社の最高幹部への書簡に署名しました。

「私たちは世界的な連合です。 マイクロソフトワーカーそして私たちは戦争や抑圧のための技術を創ることを拒否します。 マイクロソフトが米軍に武器技術を提供しようと努力していることを心配しています。 我々は武器を開発するために申し込まなかった、そして我々は我々の仕事がどのように使われるかについての発言を要求する。」

うわー、良心と希望の言葉。 これらすべてのより深い物語は、未来を形作るために彼らの力を行使し、その致死率を高めることを拒むことです。

この契約で、手紙は続きます、マイクロソフトは「武器開発に線を越えました」。 。 。 。 IVASシステム内のHoloLensのアプリケーションは、人々が殺すのを助けるように設計されています。 それは戦場で展開されて、戦争を模倣された「ビデオゲーム」に変えて、戦争の厳格な賭けと流血の現実からさらに兵士を遠ざけることによって働きます。」

この反乱は、スミスが「強力な防衛」を信じていると言ったときの対応であり、大企業、あるいは少なくともこの大企業の決定を左右するのは、お金ではなく道徳的な決まり文句であることを示唆しています。 どういうわけか、彼が内省的で深く考えられていると伝えようとした彼の言葉は説得力がありません - ほぼ5億ドルの価値がある防衛契約と並置されたときではありません。

スミスは続けて、軍を含むどの機関も完璧ではないことを認めながらも、「一つのことは明らかだ」と指摘した。 南北戦争や第二次世界大戦など、アメリカの致死率が高まり、奴隷が解放され、ヨーロッパが解放されたなど、昔ながらの古き良き時代の人々をチェリーピッキングしました。

興味深いことに、彼のブログ記事の口調は従業員に対して傲慢ではありません - あなたが言ったことや解雇されたことをしてください - しかしむしろ、こころの力が上のレベルに集中していないことを示しているように見えます。管理。 マイクロソフトは柔軟に対応します。「何らかの理由で、従業員が別のプロジェクトやチームで仕事をしたい場合は、常にそうですが、私たちは人材の流動性をサポートしていることを知ってもらいたいのです。」

手紙に署名した従業員は、防衛契約の解除を要求しました。 スミスは彼らの個人的な良心を表明しました：さあ、あなたがラインを越えて武器開発に取り組むことを望まないならば、別のチームに加わってください。 マイクロソフトは、社員に複数の道徳的説得力を尊重します。

人工知能は非常に複雑な思考を必要とするハイテク現象です。 人工道徳はお金への奉仕において最も近い決まり文句の後ろに隠れています。

ここで私が見ているのは社会政治的牽引のためのスクランブルを道徳的に目覚めさせている：従業員は資本の無限の流れの必要性を超えて考えるようにビッグテックの真鍮を押し進めるプロセスにおいて、結果は弱められます。

これは全国で起こっています。 動きが浸透しています：Techはそれを構築しません！

「テクノロジー業界全体で」 ニューヨーク·タイムズ紙 10月に報じられたところによると、「ランクアンドファイルの従業員は、自社が構築したテクノロジをどのように展開しているかについて、より深い洞察を求めています。 グーグル、アマゾン、マイクロソフト、セールスフォース、そして技術系新興企業では、エンジニアや技術者が彼らが取り組んでいる製品が中国のような場所での監視に使用されているのか。

「これは、シリコンバレーの従業員が社会コストについてほとんど疑問を持たずに製品を開発していた昔からの変化です。」

本や哲学的な分野ではなく、現実の世界（企業と政治の両方）において、道徳的思考が技術的思考と同じくらい大きく複雑になったとしたらどうでしょうか。 それはもはや正当な戦争の決まり文句の背後に隠れることはできません（そして確実に次の戦争を準備することになるでしょう）が、戦争そのものを評価しなければなりません - 過去の70年前後の戦争を含むすべての戦争それらのコストと結果を十分に考慮して、そして私たちが今日下す決定を下すことによって、私たちがつくることができる未来の種類を見据えて。 複雑な道徳的思考は、現時点では、経済的にもそうでなくても生き残る必要性を無視するものではありませんが、その必要性に直面しても落ち着きを保ち、競争を目的とする集団ではありません。

道徳的な複雑さは平和と呼ばれます。 単純化した平和のようなものはありません。

によってシンジケートされたロバートケーラー、 ピースボイスシカゴの受賞歴のあるジャーナリスト兼エディターです。 彼の著書、「勇気が傷口で強くなる」が利用可能です。 に連絡してください koehlercw@gmail.com または彼のウェブサイトをご覧ください commonwonders.com.