作者：Marc Eliot Stein，10 年 2020 月 XNUMX 日

最近，我受邀代表紐約市在“反抗滅絕”集會上發言 World BEYOND War。 該活動旨在匯集三個行動團體：氣候變化活動人士、科技工人集體和反戰活動人士。 我們從氣候變化活動家 Ha Vu 的一段激動人心的個人敘述開始，她向紐約群眾講述了我們中很少有人經歷過的令人震驚的經歷：回到她在越南河內的家，在那裡 熱量增加 已經使得在陽光照射高峰期幾乎不可能外出行走。 很少有美國人知道 2016年水污染災難 在越南中部的河靜省。 哈強調，在美國，我們經常將氣候變化視為一個潛在問題，但在越南，她看到氣候變化已經擾亂了人們的生活和生計，而且情況正在迅速惡化。

尼克·莫特恩 KnowDrones.org 同樣緊迫地談到美國軍方最近對未來人工智能和雲計算的大規模投資，並強調了軍方自己的結論，即在核武器管理和無人機戰爭中部署人工智能係統將不可避免地導致難以預測的錯誤。 隨後，紐約市“反抗滅絕”組織的威廉·貝克勒解釋了這個重要且快速發展的組織所採取的行動的組織原則，包括旨在提高人們對氣候變化至關重要性的認識的破壞性行動。 我們聽取了紐約市代表的意見 技術工人聯盟，我試圖通過談論一場出乎意料成功的科技工人叛亂行動，將聚會轉向一種實際賦權感。

那是在 2018 年 XNUMX 月，當時所謂的“國防工業”正在熱議 Maven 項目，這是一項廣為人知的美國新軍事計劃，旨在為無人機和其他武器系統開發人工智能能力。 谷歌、亞馬遜和微軟都為付費客戶提供現成的人工智能平台，谷歌被視為 Project Maven 軍事合同的可能贏家。

2018年初，谷歌員工開始發聲。 他們不明白為什麼一家以“不作惡”為誓言招募他們為員工的公司現在卻競標軍事項目，這些項目可能類似於《黑鏡》中人工智能驅動的機械狗追捕人類的恐怖情節。眾生至死。 他們在社交媒體和傳統新聞媒體上發表了言論。 他們組織行動、散發請願書並表達自己的意見。

這次工人叛亂是谷歌工人叛亂運動的起源，它有助於引導其他科技工人集體。 但谷歌內部對 Maven 項目的抗議中最令人驚訝的並不是技術員工的大聲疾呼。 最令人驚奇的是 谷歌管理層屈服於員工的要求.

兩年後，這個事實仍然讓我震驚。 作為一名科技工作者，我在數十年的時間裡見過許多道德問題，但我很少看到一家大公司明確同意以重大方式解決道德問題。 Google 反抗 Maven 項目的結果是發布了一套人工智能原則，值得在此全文轉載：

谷歌的人工智能：我們的原則

谷歌渴望創造能夠解決重要問題並幫助人們日常生活的技術。 我們對人工智能和其他先進技術在增強人類能力、廣泛造福當代和子孫後代以及為共同利益而努力方面所具有的巨大潛力感到樂觀。

人工智能應用的目標

我們將根據以下目標評估人工智能應用。 我們認為人工智能應該：

1. 有益於社會。

新技術的影響範圍不斷擴大，越來越多地觸及整個社會。 人工智能的進步將對醫療保健、安全、能源、交通、製造和娛樂等廣泛領域產生變革性影響。 當我們考慮人工智能技術的潛在開發和使用時，我們將考慮廣泛的社會和經濟因素，並將在我們認為總體可能收益大大超過可預見的風險和缺點的情況下繼續進行。

人工智能還增強了我們大規模理解內容含義的能力。 我們將努力利用人工智能提供高質量和準確的信息，同時繼續尊重我們業務所在國家的文化、社會和法律規範。 我們將繼續深思熟慮地評估何時在非商業基礎上提供我們的技術。

2. 避免製造或強化不公平的偏見。

人工智能算法和數據集可以反映、強化或減少不公平偏見。 我們認識到，區分公平偏見和不公平偏見並不總是那麼簡單，而且在不同文化和社會中也存在差異。 我們將努力避免對人們產生不公正的影響，特別是那些與種族、民族、性別、國籍、收入、性取向、能力以及政治或宗教信仰等敏感特徵有關的影響。

3. 構建並測試安全性。

我們將繼續開發和應用強有力的安全和安保實踐，以避免造成傷害風險的意外結果。 我們將適當謹慎地設計我們的人工智能係統，並尋求根據人工智能安全研究的最佳實踐來開發它們。 在適當的情況下，我們將在受限環境中測試人工智能技術，並在部署後監控其運行情況。

4. 對人負責。

我們將設計人工智能係統，為反饋、相關解釋和上訴提供適當的機會。 我們的人工智能技術將受到適當的人類指導和控制。

5.納入隱私設計原則。

我們將在人工智能技術的開發和使用中納入我們的隱私原則。 我們將提供通知和同意的機會，鼓勵具有隱私保護措施的架構，並對數據的使用提供適當的透明度和控制。

6. 堅持科學卓越的高標準。

技術創新植根於科學方法以及對開放探究、學術嚴謹、誠信和協作的承諾。 人工智能工具有潛力在生物學、化學、醫學和環境科學等關鍵領域開啟科學研究和知識的新領域。 在努力推進人工智能開發時，我們追求高標準的卓越科學成果。

我們將與一系列利益相關者合作，利用科學嚴謹和多學科的方法，促進該領域深思熟慮的領導力。 我們將通過發布教育材料、最佳實踐和研究來負責任地分享人工智能知識，使更多的人能夠開發有用的人工智能應用程序。

7. 可供符合這些原則的用途使用。

許多技術有多種用途。 我們將努力限制潛在有害或濫用的應用程序。 當我們開發和部署人工智能技術時，我們將根據以下因素評估可能的用途：

• 主要目的和用途： 技術和應用程序的主要目的和可能的用途，包括解決方案與有害用途的相關程度或適應程度
• 自然性和獨特性： 我們提供的技術是獨特的還是更普遍的
• 規模： 該技術的使用是否會產生重大影響
• Google 參與的性質： 無論我們是提供通用工具、為客戶集成工具還是開發定制解決方案

我們不會追求人工智能應用

除上述目標外，我們不會在以下應用領域設計或部署人工智能：

1. 造成或可能造成總體損害的技術。 如果存在重大損害風險，我們只有在我們認為收益遠大於風險的情況下才會採取行動，並將採取適當的安全限制措施。
2. 主要目的或實施是造成或直接造成人員傷害的武器或其他技術。
3. 收集或使用信息進行監視的技術違反了國際公認的規範。
4. 其目的違反廣泛接受的國際法和人權原則的技術。

隨著我們在這個領域的經驗不斷加深，這個列表可能會不斷變化。

結論

我們相信這些原則是我們公司和人工智能未來發展的正確基礎。 我們承認這一領域是充滿活力和不斷發展的，我們將以謙遜的態度對待我們的工作，致力於內部和外部的參與，並願意隨著時間的推移不斷學習調整我們的方法。

這一積極結果並不能免除科技巨頭谷歌在其他各個主要領域的共謀行為，例如支持ICE、警察和其他軍事活動、匯總和出售個人私人數據的訪問權限、在搜索引擎結果中隱藏有爭議的政治聲明最重要的是，允許員工繼續就這些問題和其他問題發表意見，而不會因此而被解僱。 谷歌工人的反抗運動仍然活躍且高度參與。

與此同時，認識到谷歌工人運動的影響力也很重要。 谷歌抗議活動開始後，這一點立即變得清晰起來：五角大樓的營銷部門停止發布有關曾經令人興奮的 Maven 項目的新新聞稿，最終使該項目完全從其先前尋求的公眾知名度中“消失”。 相反，一項新的、規模更大的人工智能計劃開始從五角大樓的陰險計劃中浮現出來。 國防創新委員會.

這被稱為 絕地防禦計劃，五角大樓尖端武器支出的新名稱。 JEDI 項目比 Maven 項目花費更多的錢，但新項目的宣傳攻勢（是的，美國軍方花費了 很多 宣傳和營銷的時間和注意力）與之前的有很大不同。 所有時尚性感的“黑鏡”形像都消失了。 現在，JEDI 項目並沒有強調人工智能驅動的無人機可能對人類造成的令人興奮和電影般的反烏托邦恐怖，而是將自己解釋為提高效率的清醒一步，結合了各種雲數據庫以幫助“戰士”（五角大樓最喜歡的術語）一線人員）和後台支持團隊最大限度地提高信息效率。 Project Maven 的設計聽起來令人興奮且充滿未來感，而 Project JEDI 的設計則聽起來明智且實用。

JEDI 項目的價格標籤既不合理也不實際。 這是世界歷史上最大的軍事軟件合同：10.5 億美元。 當我們聽到軍費開支規模時，許多人都會目光呆滯，我們可以跳過數百萬和數十億之間的差異。 有必要了解 JEDI 項目比五角大樓之前的任何軟件計劃大多少。 它是一個遊戲規則的改變者，一個創造財富的引擎，一個用納稅人的錢牟取暴利的空白支票。

當試圖理解金額高達 10.5 億美元的軍費空白支票時，它有助於深入了解政府新聞稿的表面。 一些信息可以從軍方自己的出版物中收集，例如令人不安的 2019年XNUMX月聯合人工智能中心傑克·沙納漢中將訪談是已消失的 Maven 項目和新的 JEDI 項目的關鍵人物。 通過收聽名為“JEDI”的國防工業播客，我能夠更深入地了解國防工業內部人士如何看待 JEDI 項目 “項目 38：政府承包的未來”。 播客嘉賓經常坦誠、毫不掩飾地談論他們正在討論的任何話題。 “今年很多人將購買新的游泳池”是該播客有關 JEDI 項目的內部談話的典型內容。 我們確信他們會的。

這是與穀歌人工智能原則相關的值得注意的事情。 這筆價值 10.5 億美元的 JEDI 巨額合同的三個領跑者顯然是谷歌、亞馬遜和微軟——根據他們作為人工智能創新者的聲譽，按這個順序排列。 由於 2018 年工人抗議 Maven 項目，人工智能領導者谷歌在 2019 年不再考慮參與規模大得多的 JEDI 項目。2019 年末，宣布該合同交給了微軟。 隨之而來的是一系列新聞報導，但這些報導主要集中在亞馬遜和微軟之間的競爭，以及由於特朗普政府與《華盛頓郵報》的持續鬥爭，第三名微軟可能被允許擊敗第二名亞馬遜獲勝，它的所有者是亞馬遜的傑夫·貝佐斯。 亞馬遜現在正向法庭起訴五角大樓向微軟提供的 3 億美元贈款，甲骨文也在提起訴訟。 上述Project 2播客的具體言論——“今年很多人將購買新的游泳池”——不僅指的是微軟的財務收益，也指的是所有將參與這些訴訟的律師。 我們或許可以做出有根據的猜測，JEDI 項目 10.5 億美元中超過 38% 將支付給律師。 可惜我們不能用它來幫忙 結束世界飢餓 代替。

關於將納稅人的錢轉移給軍事承包商是否應該使微軟、亞馬遜或甲骨文受益的爭論一直主導著 JEDI 項目的新聞報導。 從這一淫穢的貪污行為中收集到的一個積極信息——谷歌因工人抗議而放棄了世界歷史上最大的軍事軟件合同這一事實——在 JEDI 項目的新聞報導中幾乎不存在。 

這就是為什麼向專注於科技的活動人士講述這個故事很重要，他們上週聚集在曼哈頓市中心一個擁擠的房間裡，討論我們如何拯救我們的星球，我們如何對抗虛假信息和氣候科學的政治化，我們如何才能抵禦化石燃料奸商和武器奸商的巨大力量。 在這個小房間裡，我們似乎都掌握了我們所面臨問題的嚴重性，以及我們自己必須開始發揮的關鍵作用。 科技界擁有巨大的力量。 正如撤資運動可以產生真正的影響一樣，科技工人的叛亂也可以產生真正的影響。 氣候變化活動人士、科技工人反叛活動人士和反戰活動人士可以通過多種方式開始合作，我們將盡我們所能。

我們對這次聚會有了一個充滿希望的開始，由以下人士發起： 紐約市“反抗滅絕” 和 世界不能等待。 這個運動將會發展——它必鬚髮展。 化石燃料濫用是氣候變化抗議者關注的焦點。 濫用化石燃料既是美帝國主義的首要利益動機，也是美軍臃腫浪費行為的首要可怕後果。 事實上，美軍似乎 世界上污染最嚴重的國家。 科技工作者能否利用我們的組織力量取得比谷歌退出 JEDI 項目更有影響力的勝利？ 我們可以而且必須。 上週的紐約市會議只是向前邁出了一小步。 我們必須做得更多，我們必須為聯合抗議運動提供我們所擁有的一切。

馬克·艾略特·斯坦 (Marc Eliot Stein) 是以下公司的技術和社交媒體總監 World BEYOND War.

格雷戈里·施韋多克拍攝。