马克·埃利奥特·斯坦（Marc Eliot Stein），10年2020月XNUMX日

最近我应邀在纽约市的“灭绝叛乱”聚会上发言 World BEYOND War。 该活动旨在将三个行动小组召集在一起：气候变化积极分子，技术工人集体和反战积极分子。 我们从气候变化积极分子Ha Vu的激动人心的讲话开始，他向纽约人人群介绍了我们中很少有人遇到的令人震惊的经历：回到她在越南河内的家人的住所。 热量增加 已经使得在高峰日照时间几乎不可能走到外面。 很少美国人也知道 2016年水污染灾难 在越南中部的Ha Tinh。 哈强调，我们经常说气候变化是美国的潜在问题，但在越南，她可以看到气候变化已经在破坏人们的生活和生计，并迅速恶化。

的尼克·莫特恩（Nick Mottern） KnowDrones.org 谈到美国军方最近对未来的人工智能和云计算的大量投资时，他也有类似的紧迫感，并强调了军方自己的结论，即在核武器管理和无人机战中部署AI系统将不可避免地导致不可预测的错误。 纽约灭绝叛乱组织的威廉·贝克勒（William Beckler）随后解释了这个重要且快速发展的组织实施的组织原则，包括旨在提高人们对气候变化的重要性的认识的破坏性行动。 我们听到纽约市代表 科技工作者联盟，并且我通过谈论意外成功的技术工作者叛乱行动，试图使聚会朝着一种实际的授权感发展。

这是在2018年XNUMX月，当时所谓的“国防工业”正在嗡嗡作响的Maven项目，这是一项备受关注的美国新军事举措，旨在为无人机和其他武器系统开发人工智能功能。 谷歌，亚马逊和微软都为付费客户提供了现成的人工智能平台，而谷歌被认为是Project Maven军事合同的赢家。

在2018年初，谷歌员工开始大声疾呼。 他们不明白，为什么一家以“不要作恶”的承诺招募员工的公司现在正在竞标军事项目，该项目很可能类似于“黑镜”（Black Mirror）恐怖的一幕，其中人工智能动力的机械狗追捕人类生死。 他们在社交媒体和传统新闻媒体上发表讲话。 他们组织了行动并散发了请愿书，并发表了自己的看法。

工人起义是Google工人起义运动的起源，它有助于引导其他技术工人集体。 但是，谷歌内部针对Project Maven的抗议中最令人惊讶的事情不是技术人员在讲话。 最令人惊讶的是 Google的管理满足了工人的需求.

两年后，这个事实仍然令我震惊。 在作为技术工作者的几十年中，我曾见过许多道德问题，但我很少见到大型公司绝对同意以重大方式解决道德问题。 Google反对Project Maven的结果是发布了一系列AI原则，值得在此全文转载：

Google的人工智能：我们的原则

Google渴望创造出能够解决重要问题并在人们的日常生活中提供帮助的技术。 我们对AI和其他先进技术为人们赋权，广泛造福今世后代，为共同利益而努力的巨大潜力感到乐观。

人工智能应用的目标

我们将根据以下目标评估AI应用程序。 我们认为AI应该：

1.对社会有益。

新技术的广泛应用日益触及整个社会。 人工智能的进步将在医疗，安全，能源，交通，制造和娱乐等广泛领域产生变革性影响。 当我们考虑AI技术的潜在发展和使用时，我们将考虑广泛的社会和经济因素，并在我们认为总体可能的收益大大超过可预见的风险和不利因素的情况下进行。

人工智能还增强了我们大规模理解内容含义的能力。 我们将努力使用AI随时提供高质量和准确的信息，同时继续尊重我们运营所在国家/地区的文化，社会和法律规范。 我们将继续深思熟虑地评估何时将我们的技术用于非商业用途。

2.避免造成或加强不公正的偏见。

人工智能算法和数据集可以反映，加强或减少不公平的偏见。 我们认识到，将公正与不公正的偏见区分开来并不总是那么简单，并且在不同的文化和社会中也有所不同。 我们将努力避免对人们的不公正影响，尤其是那些与种族，民族，性别，国籍，收入，性取向，能力以及政治或宗教信仰等敏感特征有关的影响。

3.进行建造和安全测试。

我们将继续发展和应用严格的安全和保卫措施，以避免造成伤害风险的意外结果。 我们将对AI系统进行适当谨慎的设计，并根据AI安全研究的最佳实践来开发它们。 在适当的情况下，我们将在受限的环境中测试AI技术，并在部署后监视其运行情况。

4.对人负责。

我们将设计能够提供适当机会进行反馈，相关解释和上诉的AI系统。 我们的AI技术将受到适当的人类指导和控制。

5.纳入隐私设计原则。

我们将在我们的AI技术的开发和使用中纳入我们的隐私原则。 我们将提供通知和同意的机会，鼓励具有隐私保护措施的体系结构，并提供适当的透明度和对数据使用的控制。

6.坚持高标准的科学成就。

技术创新植根于科学方法，并致力于公开询问，严谨的知识，正直和协作。 人工智能工具有可能在生物学，化学，医学和环境科学等关键领域中开启科学研究和知识的新领域。 我们致力于推动AI发展，追求高标准的科学卓越成就。

我们将与一系列利益相关者一起，利用科学严谨和多学科的方法，促进在这一领域的深思熟虑的领导。 我们将通过发布教育材料，最佳实践和研究，以负责任的方式分享AI知识，使更多的人能够开发有用的AI应用程序。

7.可用于符合这些原则的用途。

许多技术有多种用途。 我们将努力限制可能有害或滥用的应用程序。 在开发和部署AI技术时，我们将根据以下因素评估可能的用途：

• 主要用途和用途： 技术和应用程序的主要目的和可能的用途，包括解决方案与有害用途的相关性或适应性如何紧密
• 性质和独特性： 我们是否正在提供独特的或更普遍的可用技术
• 规模： 这项技术的使用是否会产生重大影响
• Google参与的性质： 我们是提供通用工具，为客户集成工具还是开发定制解决方案

我们不会追求的AI应用

除上述目标外，我们不会在以下应用领域中设计或部署AI：

1. 造成或可能造成整体伤害的技术。 在存在重大伤害风险的情况下，我们仅在我们认为收益大大超过风险的情况下进行，并会纳入适当的安全约束。
2. 武器或其他技术，其主要目的或实现主要是造成或直接促进人员伤害。
3. 收集或使用信息进行监视的技术违反了国际公认的规范。
4. 其目的违反了国际公认的国际法和人权原则的技术。

随着我们在这一领域的经验的加深，此清单可能会不断发展。

结论

我们相信这些原则是我们公司和AI未来发展的正确基础。 我们认识到这一领域是充满活力且不断发展的，我们将谦虚地对待自己的工作，对内部和外部参与的承诺以及随着时间的推移适应我们的方法的意愿。

这一积极的结果并不能免除科技巨头Google在其他重要领域的共谋，例如支持ICE，警察和其他军事活动，汇总和出售对个人私人数据的访问权，在搜索引擎结果中隐藏有争议的政治声明等。最重要的是，允许其员工继续就这些问题和其他问题发表意见，而不会因此而被解雇。 Google工人起义运动仍然活跃并且高度参与。

同时，重要的是要认识到Google员工运动的影响力。 在Google抗议活动开始后，这一点立即变得清晰起来：五角大楼的营销部门停止发布有关曾经令人兴奋的Project Maven的新新闻稿，最终完全从其先前寻求的公众视野中“消失”了该项目。 相反，五角大楼的阴险行动开始出现了一个新的更大的人工智能计划 国防创新委员会.

这叫做 JEDI项目，是五角大楼在尖端武器上投入的新名称。 JEDI计划比Maven计划花费更多的钱，但是新项目的宣传突击（是的，美国军方花费了 很多 时间和对宣传和营销的关注）与早期的广告有很大不同。 所有光滑而性感的“黑镜”图像都消失了。 现在，JEDI项目不再强调人工智能驱动的无人机可能给人造成的激动人心的和电影般的反乌托邦恐怖，而是将各种云数据库结合起来，以帮助“战士”（五角大楼最喜欢的术语“前线人员）和后台支持团队可最大程度地提高信息效率。 Maven项目的设计听起来既令人兴奋又充满未来感，而JEDI项目的设计则听起来既合理又实用。

JEDI项目的价格标签并不明智或不切实际。 它是世界历史上最大的军事软件合同：10.5亿美元。 当我们听到军事开支的规模时，我们的许多眼睛都注视着，而我们可以跳过数百万与数十亿之间的差异。 必须了解Project JEDI比任何以前的Pentagon软件计划要大得多。 它是游戏规则的改变者，创造财富的引擎，一张空白的支票，以纳税人的费用牟取暴利。

当试图理解一项高达10.5亿美元的军费开支空白支票时，它有助于从政府新闻稿的表面摸索。 可以从军方自己的出版物中收集一些信息，例如令人不安的 2019年XNUMX月对联合人工智能中心副局长杰克·沙纳汉（Jack Shanahan）的采访，这是已消失的Maven项目和新的JEDI项目中的关键人物。 通过收听名为“国防工业”的播客，我可以对国防工业内部人士如何看待JEDI项目有更多的了解 “项目38：政府签约的未来”。 播客通常会坦率而毫不掩饰地谈论他们正在讨论的主题。 “今年很多人会购买新的游泳池”，这是该播客关于JEDI项目的内部聊天的典型代表。 我们相信他们会的。

这是与Google的AI原则相关的非凡之处。 规模达10.5亿美元的JEDI合同的三大领军人物显然是Google，Amazon和Microsoft，这是基于它们作为AI创新者的声誉而定的。 由于工人在2018年抗议Project Maven，因此AI领导者Google不在考虑2019年规模更大的JEDI项目。在2019年末，宣布该合同由微软承担。 随后出现了一系列新闻报道，但该报道主要集中于亚马逊与微软之间的竞争，以及由于特朗普政府与华盛顿邮报的持续战役，微软可能被允许击败微软获得第二名，从而获得第三名。由亚马逊的杰夫·贝佐斯（Jeff Bezos）拥有。 亚马逊现在将诉诸五角大楼向微软捐赠3亿美元的礼物，甲骨文也提起诉讼。 上面提到的Project 2播客中的具体言论“今年很多人将购买新的游泳池”不仅涉及微软的财务利益，而且还涉及将参与这些诉讼的所有律师。 我们可以做出有根据的猜测，JEDI项目的10.5亿美元中，有38％以上将流向律师。 太糟糕了，我们不能用它来帮助 终结世界饥饿 代替。

关于将纳税人的钱转移给军事承包商是否应该使微软，亚马逊或甲骨文受益的争论已经占据了JEDI项目的新闻报道的主导地位。 从这种淫秽的贪污活动中可以得到一个积极的信息-事实上，由于工人们的抗议，谷歌已经放弃了世界历史上最大的军事软件合同-在JEDI项目的新闻报道中几乎不存在。 

这就是为什么重要的是，要向上个星期聚集在曼哈顿中城一个拥挤的房间里，关注技术的激进分子讲这个故事，谈论我们如何拯救地球，如何与气候科学的虚假信息和政治化作斗争，我们如何经受住化石燃料奸商和武器奸商的巨大力量。 在这个小房间里，我们大家似乎都掌握了我们所面临的问题的严重性，以及我们自己必须开始发挥的关键作用。 科技界拥有强大的力量。 正如撤资运动可以带来真正的改变一样，科技工作者的叛乱也可以带来真正的改变。 气候变化积极分子，科技工作者反叛积极分子和反战积极分子可以通过多种方式开始合作，我们将尽一切可能做到这一点。

我们从这次聚会开始有了希望， 灭绝叛乱纽约 和 世界不能等待。 这一运动将不断增长-它必须不断增长。 化石燃料滥用是气候变化抗议者关注的焦点。 化石燃料的滥用，既是美帝国主义的主要赢利动机，也是US肿的美军浪费活动的主要可怕结果。 确实，美军似乎是 世界上最严重的污染者。 科技工作者能否利用我们的组织力量取得比Google从JEDI项目撤军更具影响力的胜利？ 我们可以而且我们必须。 上周的纽约市会议只是向前迈出了很小的一步。 我们必须做更多的事情，我们必须为我们的联合抗议运动提供一切。

Marc Eliot Stein是技术和社交媒体总监 World BEYOND War.

Gregory Schwedock摄影。