기후 변화, 기술 노동자, 반전 운동가 협력

박탈, 경제적 비용, 환경, 비폭력 행동주의, 청소년

10 년 2020 월 XNUMX 일 Marc Eliot Stein

나는 최근 뉴욕에서 열린 Extinction Rebellion 모임에서 World BEYOND War. 이 행사는 기후 변화 운동가, 기술 근로자 집단, 반전 운동가 등 세 가지 행동 그룹을 모으기 위해 고안되었습니다. 우리는 기후 변화 활동가인 Ha Vu의 감동적인 개인 계정으로 시작했습니다. 그녀는 뉴요커 군중에게 우리 중 거의 경험하지 못한 놀라운 경험에 대해 이야기했습니다. 증가된 열 햇빛이 최고조에 달한 시간에 밖에 나가는 것이 이미 거의 불가능해졌습니다. 미국인도 아는 사람이 거의 없다. 2016년 수질오염 참사 베트남 중부 하띤에서. 우리는 종종 미국에서 기후 변화를 잠재적인 문제로 이야기하지만 베트남에서는 이미 기후 변화가 삶과 생계를 방해하고 급속도로 악화되고 있음을 볼 수 있다고 하씨는 강조했습니다.

닉 모턴 KnowDrones.org 미래형 인공 지능과 클라우드 컴퓨팅에 대한 미군의 최근 막대한 투자에 대해 유사하게 시급하게 말했고, 핵무기 관리와 드론 전쟁에 AI 시스템을 배치하면 예측할 수 없는 규모의 오류가 필연적으로 발생할 것이라는 군 자체의 결론을 강조했습니다. Extinction Rebellion NYC의 William Beckler는 기후 변화의 중대한 중요성에 대한 인식을 높이기 위해 고안된 파괴적인 행동을 포함하여 이 중요하고 빠르게 성장하는 조직이 실행에 옮기는 조직 원칙을 설명했습니다. 우리는 뉴욕시의 대표로부터 들었습니다. 기술 노동자 연합, 그리고 예상치 못한 성공을 거둔 기술 노동자 반란 행동에 대해 이야기함으로써 실질적인 권한 부여 감각을 향한 모임을 선회하려고 노력했습니다.

2018년 XNUMX월 소위 "방위 산업"이 무인 항공기 및 기타 무기 시스템을 위한 인공 지능 기능을 개발하기 위해 널리 알려진 새로운 미군 이니셔티브인 Project Maven에 대해 떠들썩했던 때였습니다. Google, Amazon 및 Microsoft는 모두 유료 고객을 위한 기성 인공 지능 플랫폼을 제공하며 Google은 Project Maven 군사 계약의 승자로 여겨졌습니다.

2018년 초, Google 직원들은 목소리를 내기 시작했습니다. 그들은 "사악해지지 말라"는 서약으로 그들을 직원으로 채용한 회사가 이제 AI로 구동되는 기계견이 인간을 죽음으로 몰아가는 "블랙 미러"의 끔찍한 에피소드와 유사한 군사 프로젝트에 입찰하는 이유를 이해하지 못했습니다. 그들은 소셜 미디어와 전통적인 뉴스 매체에 말했습니다. 그들은 행동을 조직하고 탄원서를 회람하고 자신의 목소리를 냈습니다.

이 노동자 반란은 Google Workers Rebellion 운동의 기원이 되었으며 다른 기술 노동자 집단을 부트스트랩하는 데 도움이 되었습니다. 그러나 Project Maven에 대한 Google 내부 항의에서 가장 놀라운 점은 기술 노동자들이 목소리를 높였다는 것이 아닙니다. 가장 놀라운 점은 노동자 요구에 굴복한 구글 경영진.

XNUMX년이 지난 지금도 이 사실이 저를 놀라게 합니다. 저는 기술 근로자로서 수십 년 동안 많은 윤리적 문제를 보아왔지만 대기업이 윤리적 문제를 중요한 방식으로 해결하는 데 단호하게 동의하는 것을 거의 보지 못했습니다. Project Maven에 대한 Google의 반란의 결과는 여기에 전체를 다시 인쇄할 가치가 있는 일련의 AI 원칙이 게시되었습니다.

Google의 인공 지능: Google의 원칙

Google은 중요한 문제를 해결하고 일상 생활에서 사람들을 돕는 기술을 만들고자 합니다. 우리는 사람들에게 힘을 실어주고 현재와 미래 세대에게 널리 혜택을 주고 공익을 위해 일할 수 있는 AI 및 기타 고급 기술의 놀라운 잠재력에 대해 낙관합니다.

AI 애플리케이션의 목표

우리는 다음 목표를 고려하여 AI 애플리케이션을 평가할 것입니다. 우리는 AI가 다음을 수행해야 한다고 믿습니다.

1. 사회적으로 유익합니다.

새로운 기술의 확장된 범위는 점점 더 사회 전반에 영향을 미치고 있습니다. AI의 발전은 의료, 보안, 에너지, 운송, 제조 및 엔터테인먼트를 포함한 광범위한 분야에서 혁신적인 영향을 미칠 것입니다. AI 기술의 잠재적인 개발 및 사용을 고려할 때 광범위한 사회적 및 경제적 요인을 고려할 것이며 예상 가능한 위험 및 단점을 상당히 초과할 가능성이 있는 전반적인 이점이 있다고 믿는 곳에서 진행할 것입니다.

AI는 또한 대규모 콘텐츠의 의미를 이해하는 능력을 향상시킵니다. 우리는 우리가 사업을 운영하는 국가의 문화적, 사회적 및 법적 규범을 계속 존중하면서 AI를 사용하여 고품질의 정확한 정보를 쉽게 사용할 수 있도록 노력할 것입니다. 그리고 우리는 우리 기술을 비상업적 기반으로 사용할 수 있게 할 시기를 계속해서 신중하게 평가할 것입니다.

2. 불공정한 편견을 만들거나 강화하지 마십시오.

AI 알고리즘과 데이터 세트는 불공정한 편견을 반영, 강화 또는 줄일 수 있습니다. 우리는 공정한 편견과 불공정한 편견을 구분하는 것이 항상 간단한 것은 아니며 문화와 사회에 따라 다르다는 것을 알고 있습니다. 우리는 사람들, 특히 인종, 민족, 성별, 국적, 소득, 성적 취향, 능력, 정치적 또는 종교적 신념과 같은 민감한 특성과 관련된 사람들에게 부당한 영향을 미치지 않도록 노력할 것입니다.

3. 안전을 위해 제작되고 테스트됩니다.

우리는 해를 끼칠 위험이 있는 의도하지 않은 결과를 피하기 위해 강력한 안전 및 보안 관행을 계속해서 개발하고 적용할 것입니다. 우리는 AI 시스템을 적절하게 신중하게 설계하고 AI 안전 연구의 모범 사례에 따라 개발할 것입니다. 적절한 경우 제한된 환경에서 AI 기술을 테스트하고 배포 후 작동을 모니터링합니다.

4. 사람들에게 책임을 져야 합니다.

피드백, 관련 설명 및 호소를 위한 적절한 기회를 제공하는 AI 시스템을 설계할 것입니다. 우리의 AI 기술은 적절한 인간의 지시와 통제를 받게 될 것입니다.

5. 프라이버시 디자인 원칙을 통합합니다.

우리는 AI 기술의 개발 및 사용에 개인 정보 보호 원칙을 통합할 것입니다. 우리는 통지 및 동의의 기회를 제공하고 개인 정보 보호 장치가 있는 아키텍처를 장려하며 데이터 사용에 대한 적절한 투명성과 통제를 제공할 것입니다.

6. 과학적 우수성에 대한 높은 기준을 유지합니다.

기술 혁신은 과학적 방법과 열린 탐구, 지적 엄격함, 무결성 및 협력에 대한 약속에 뿌리를 두고 있습니다. AI 도구는 생물학, 화학, 의학 및 환경 과학과 같은 중요한 영역에서 과학 연구 및 지식의 새로운 영역을 열 수 있는 잠재력을 가지고 있습니다. 우리는 AI 개발을 진행하면서 높은 수준의 과학적 우수성을 추구합니다.

우리는 과학적으로 엄격하고 다학제적인 접근 방식을 사용하여 이 분야에서 사려 깊은 리더십을 촉진하기 위해 다양한 이해 관계자와 협력할 것입니다. 그리고 더 많은 사람들이 유용한 AI 응용 프로그램을 개발할 수 있도록 교육 자료, 모범 사례 및 연구를 게시하여 AI 지식을 책임감 있게 공유하겠습니다.

7. 이러한 원칙에 부합하는 용도로 사용할 수 있어야 합니다.

많은 기술이 여러 용도로 사용됩니다. 우리는 잠재적으로 유해하거나 악의적인 응용 프로그램을 제한하기 위해 노력할 것입니다. AI 기술을 개발하고 배포할 때 다음 요소에 비추어 가능한 용도를 평가할 것입니다.

주요 목적 및 용도: 솔루션이 유해한 사용과 얼마나 밀접하게 관련되어 있는지 또는 적응할 수 있는지를 포함하여 기술 및 애플리케이션의 주요 목적 및 가능성 있는 사용

자연과 독창성: 우리가 고유하거나 보다 일반적으로 사용 가능한 기술을 제공하는지 여부

규모 : 이 기술의 사용이 상당한 영향을 미칠지 여부

Google 참여의 성격: 범용 도구를 제공하는지, 고객을 위한 도구를 통합하는지 또는 맞춤형 솔루션을 개발하는지 여부

우리가 추구하지 않을 AI 애플리케이션

위의 목표 외에도 다음 응용 분야에서 AI를 설계하거나 배포하지 않습니다.

전반적인 피해를 유발하거나 유발할 가능성이 있는 기술. 실질적 피해 위험이 있는 경우 혜택이 위험보다 훨씬 크다고 판단되는 경우에만 진행하고 적절한 안전 제약을 적용할 것입니다.

사람들에게 상해를 입히거나 직접적으로 용이하게 하는 것이 주요 목적 또는 구현인 무기 또는 기타 기술.

국제적으로 통용되는 규범을 위반하는 감시를 위해 정보를 수집하거나 사용하는 기술.

널리 받아들여지는 국제법 및 인권 원칙에 위배되는 목적을 가진 기술.

이 공간에 대한 우리의 경험이 깊어짐에 따라 이 목록은 발전할 수 있습니다.

결론

우리는 이러한 원칙이 우리 회사와 미래의 AI 개발을 위한 올바른 기반이라고 믿습니다. 우리는 이 영역이 역동적이고 진화하고 있음을 인정하며 겸손함, 내부 및 외부 참여에 대한 약속, 시간이 지남에 따라 학습함에 따라 접근 방식을 조정하려는 의지를 가지고 업무에 접근할 것입니다.

이 긍정적인 결과는 ICE, 경찰 및 기타 군사 활동 지원, 개인에 대한 개인 데이터에 대한 액세스 권한 집계 및 판매, 검색 엔진 결과에서 논란이 되는 정치적 진술 숨기기, 가장 중요한 것은 직원들이 해고되지 않고 이러한 문제 및 기타 문제에 대해 계속 발언할 수 있도록 하는 등 다양한 기타 주요 관심사 영역에서 기술 대기업 Google을 면제하지 않습니다. Google 노동자 반란 운동은 여전히 활발하고 적극적으로 참여하고 있습니다.

동시에 Google 노동자 운동이 얼마나 영향력이 있었는지 인식하는 것이 중요합니다. 이는 Google의 항의가 시작된 직후에 분명해졌습니다. 국방부의 마케팅 부서는 한때 흥미진진했던 Project Maven에 대한 새로운 보도 자료 발행을 중단했고 결국 프로젝트가 이전에 추구했던 대중의 가시성에서 완전히 "사라졌습니다". 대신 새롭고 훨씬 더 큰 인공 지능 이니셔티브가 펜타곤의 교활한 계획에서 등장하기 시작했습니다. 국방 혁신위원회.

이것은 불렸다 프로젝트 제다이, 최첨단 무기에 대한 펜타곤 지출의 새로운 이름. Project JEDI는 Project Maven보다 훨씬 더 많은 돈을 쓰겠지만, 새 프로젝트에 대한 홍보 공세(예, 미군은 많은 홍보 및 마케팅에 대한 시간과 관심)이 이전과 매우 달랐습니다. 날렵하고 섹시한 '블랙미러' 이미지는 모두 사라졌다. 이제 프로젝트 JEDI는 AI로 구동되는 드론이 인간에게 가할 수 있는 흥미진진하고 영화 같은 디스토피아적 공포를 강조하는 대신 효율성을 위한 냉정한 진보라고 설명했습니다. 다양한 클라우드 데이터베이스를 결합하여 "워파이터"(펜타곤에서 최전방 직원에게 가장 좋아하는 용어)와 백오피스 지원 팀이 정보 효율성을 극대화하도록 돕습니다. Project Maven이 흥미롭고 미래지향적으로 들리도록 설계된 반면, Project JEDI는 합리적이고 실용적으로 들리도록 설계되었습니다.

Project JEDI의 가격표에는 합리적이거나 실용적인 것이 없습니다. 이는 세계 역사상 최대 규모의 군사 소프트웨어 계약(10.5억 달러)입니다. 군비 지출 규모에 대해 들을 때 많은 사람들의 눈이 휘둥그레지며 수백만과 수십억 사이의 차이를 건너뛸 수 있습니다. Project JEDI가 이전의 어떤 펜타곤 소프트웨어 이니셔티브보다 얼마나 큰지 이해하는 것이 중요합니다. 그것은 게임 체인저, 부를 창출하는 엔진, 납세자의 비용으로 수익을 창출하기 위한 백지 수표입니다.

10.5억 달러에 달하는 군비 지출 백지 수표를 이해하려고 할 때 정부 보도 자료의 표면 아래를 긁는 데 도움이 됩니다. 군사 자체 출판물에서 일부 정보를 수집할 수 있습니다. 2019년 XNUMX월 합동 인공 지능 센터 중장 Jack Shanahan과의 인터뷰사라진 Project Maven과 새로운 Project JEDI의 핵심 인물. 라는 방위산업 팟캐스트를 들으면서 방위산업 내부자들이 프로젝트 JEDI에 대해 어떻게 생각하는지에 대해 더 많은 통찰력을 얻을 수 있었습니다. "프로젝트 38: 정부 계약의 미래". 팟캐스트 게스트는 자신이 논의하는 주제에 대해 솔직하고 당당하게 이야기하는 경우가 많습니다. "올해 많은 사람들이 새 수영장을 구입할 것입니다."는 Project JEDI에 대한 이 팟캐스트 내부자 채팅의 전형이었습니다. 우리는 그들이 그렇게 될 것이라고 확신합니다.

다음은 Google의 AI 원칙과 관련된 놀라운 사항입니다. 10.5억 달러에 달하는 대규모 JEDI 계약의 선두 주자 2018곳은 AI 혁신가로서의 명성을 바탕으로 Google, Amazon 및 Microsoft 순이었을 것입니다. 2019년 프로젝트 메이븐에 반대하는 근로자들의 항의 때문에 AI 리더인 구글은 2019년 훨씬 더 큰 프로젝트 JEDI에서 고려 대상에서 제외되었습니다. 뉴스 보도가 쇄도했지만 이 보도는 주로 아마존과 마이크로소프트 간의 경쟁에 초점을 맞추었고, 트럼프 행정부가 아마존의 제프 베조스가 소유한 워싱턴 포스트와 계속되는 전투 때문에 3위 마이크로소프트가 아마도 2위 아마존을 이길 수 있었을 것이라는 사실에 초점을 맞췄습니다. 아마존은 이제 펜타곤이 마이크로소프트에 10.5억 달러를 선물한 것과 싸우기 위해 법정에 섰고, 오라클도 소송을 제기하고 있다. 위에서 언급한 Project 38 팟캐스트의 특정 발언 – “올해 많은 사람들이 새로운 수영장을 구매할 것입니다” – 은 Microsoft의 재정적 이익뿐만 아니라 이 소송에 참여할 모든 변호사를 언급했습니다. Project JEDI의 3억 달러 중 10.5% 이상이 변호사에게 갈 것이라는 교육적인 추측을 할 수 있습니다. 안타깝지만 우리는 그것을 도움이 되는 데 사용할 수 없습니다 세상의 기아를 끝내다 대신.

납세자 돈을 군사 계약자에게 이전하는 것이 Microsoft, Amazon 또는 Oracle에 도움이 되는지에 대한 논쟁이 Project JEDI의 뉴스 보도를 지배했습니다. 이 음란한 접목에서 얻을 수 있는 한 가지 긍정적인 메시지는 노동자 시위로 인해 구글이 세계 역사상 가장 큰 군사 소프트웨어 계약에서 물러났다는 사실입니다. 프로젝트 JEDI의 뉴스 보도에는 사실상 존재하지 않았습니다.

이것이 바로 지난 주 맨해튼 미드타운의 붐비는 방에 모여 우리가 지구를 구할 수 있는 방법, 기후 과학의 잘못된 정보와 정치화에 맞서 싸울 수 있는 방법, 화석 연료 수익자와 무기 수익자의 막대한 힘에 맞서 싸울 수 있는 방법에 대해 이야기하기 위해 이 이야기를 기술 중심 활동가들에게 전하는 것이 중요한 이유입니다. 이 작은 방에서 우리 모두는 우리가 직면하고 있는 문제의 차원과 우리 자신이 시작해야 할 중요한 역할을 이해하는 것 같았습니다. 기술 커뮤니티는 상당한 힘을 가지고 있습니다. 매각 캠페인이 실질적인 차이를 만들 수 있는 것처럼 기술 근로자의 반란도 실질적인 차이를 만들 수 있습니다. 기후 변화 운동가, 기술 노동자 반란 운동가 및 반전 운동가가 함께 일할 수 있는 방법은 여러 가지가 있으며 우리는 가능한 모든 방법으로 그렇게 할 것입니다.

우리는 이 모임과 함께 희망찬 시작을 했습니다. 멸종 저항 NYC 과 세계는 기다릴 수 없다.. 이 운동은 성장할 것이며 성장해야 합니다. 화석 연료 남용은 기후 변화 시위자들의 초점입니다. 화석연료 남용은 또한 미제국주의의 일차적 이윤동기인 동시에 비대해진 미군의 낭비적 활동의 일차적 끔찍한 결과이다. 실제로 미군이 보인다. 세계 최악의 오염원. 기술 노동자들이 승리를 위해 Google의 Project JEDI 탈퇴보다 훨씬 더 강력한 조직력을 사용할 수 있습니까? 우리는 할 수 있고 해야 합니다. 지난 주 뉴욕시 회의는 아주 작은 진전이었습니다. 우리는 더 많은 일을 해야 하며, 연합 시위 운동에 우리가 가진 모든 것을 바쳐야 합니다.