Bởi Marc Eliot Stein, ngày 10 tháng 2020 năm XNUMX

Gần đây tôi đã được mời phát biểu tại một cuộc họp nổi loạn tuyệt chủng ở thành phố New York thay mặt cho World BEYOND War. Sự kiện này được thiết kế để tập hợp ba nhóm hành động: nhà hoạt động biến đổi khí hậu, tập thể công nhân công nghệ và nhà hoạt động chống chiến tranh. Chúng tôi bắt đầu với một tài khoản cá nhân gây xôn xao từ nhà hoạt động về biến đổi khí hậu Hà Vũ, người đã nói với đám đông người New York về một trải nghiệm đáng báo động mà ít ai trong chúng tôi từng có: trở về nhà của gia đình cô ấy ở Hà Nội, Việt Nam, nơi tăng nhiệt đã làm cho nó gần như không thể đi ra ngoài trong giờ nắng cao điểm. Ít người Mỹ cũng biết về Thảm họa ô nhiễm nước năm 2016 ở Hà Tĩnh ở miền trung Việt Nam. Chúng ta thường nói về biến đổi khí hậu là một vấn đề tiềm tàng ở Mỹ, Hà nhấn mạnh, nhưng tại Việt Nam, cô có thể thấy nó đã phá vỡ cuộc sống và sinh kế, và nhanh chóng trở nên tồi tệ hơn.

Nick Mottern của BiếtDrones.org cũng nói với sự khẩn trương tương tự về khoản đầu tư lớn gần đây của quân đội Mỹ vào trí tuệ nhân tạo tương lai và điện toán đám mây - và nhấn mạnh kết luận của chính quân đội rằng việc triển khai các hệ thống AI trong quản lý vũ khí hạt nhân và chiến tranh bằng máy bay không người lái chắc chắn sẽ dẫn đến những sai sót ở mức độ khó lường. William Beckler của Extinction Rebellion NYC theo sau bằng cách giải thích các nguyên tắc tổ chức mà tổ chức quan trọng và đang phát triển nhanh này thực hiện, bao gồm các hành động gây rối được thiết kế để nâng cao nhận thức về tầm quan trọng của biến đổi khí hậu. Chúng tôi đã nghe từ đại diện của Thành phố New York của Liên minh công nhân công nghệ, và tôi đã cố gắng xoay quanh việc tập hợp theo hướng trao quyền thực tế bằng cách nói về một hành động nổi loạn của nhân viên công nghệ đã thành công ngoài mong đợi.

Đó là vào tháng 2018 năm XNUMX, khi cái gọi là ngành công nghiệp quốc phòng Hồi giáo đang xôn xao về Project Maven, một sáng kiến ​​quân sự mới được công bố rộng rãi của Mỹ để phát triển khả năng trí tuệ nhân tạo cho máy bay không người lái và các hệ thống vũ khí khác. Google, Amazon và Microsoft đều cung cấp các nền tảng trí tuệ nhân tạo ngoài luồng để trả tiền cho khách hàng và Google được coi là người chiến thắng trong hợp đồng quân sự Project Maven.

Đầu năm 2018, công nhân Google bắt đầu lên tiếng. Họ không hiểu tại sao một công ty đã tuyển dụng họ làm nhân viên với cam kết, Don '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' '' Chúng sanh đến chết. Họ đã lên tiếng trên phương tiện truyền thông xã hội và các cửa hàng tin tức truyền thống. Họ tổ chức các hành động và lưu hành kiến ​​nghị và làm cho mình nghe thấy.

Cuộc nổi loạn của công nhân này là nguồn gốc của phong trào Nổi loạn Công nhân Google và nó đã giúp khởi động các tập thể công nhân công nghệ khác. Nhưng điều đáng kinh ngạc nhất về cuộc biểu tình nội bộ của Google chống lại Project Maven không phải là các nhân viên công nghệ đã lên tiếng. Điều đáng kinh ngạc nhất là Quản lý Google mang lại nhu cầu của người lao động.

Hai năm sau, sự thật này vẫn làm tôi choáng váng. Tôi đã nhìn thấy nhiều vấn đề đạo đức trong những thập kỷ của mình với tư cách là một nhân viên công nghệ, nhưng tôi hiếm khi thấy một công ty lớn đồng ý giải quyết các vấn đề đạo đức một cách đáng kể. Kết quả của cuộc nổi loạn của Google chống lại Project Maven là việc xuất bản một bộ các nguyên tắc AI đáng được in lại ở đây đầy đủ:

Trí tuệ nhân tạo tại Google: Nguyên tắc của chúng tôi

Google mong muốn tạo ra các công nghệ giải quyết các vấn đề quan trọng và giúp mọi người trong cuộc sống hàng ngày. Chúng tôi lạc quan về tiềm năng đáng kinh ngạc của AI và các công nghệ tiên tiến khác để trao quyền cho mọi người, mang lại lợi ích rộng rãi cho các thế hệ hiện tại và tương lai và làm việc vì lợi ích chung.

Mục tiêu cho các ứng dụng AI

Chúng tôi sẽ đánh giá các ứng dụng AI theo quan điểm của các mục tiêu sau. Chúng tôi tin rằng AI nên:

1. Được xã hội có lợi.

Phạm vi tiếp cận mở rộng của các công nghệ mới ngày càng chạm đến toàn xã hội. Những tiến bộ trong AI sẽ có tác động biến đổi trong nhiều lĩnh vực, bao gồm chăm sóc sức khỏe, an ninh, năng lượng, giao thông, sản xuất và giải trí. Khi chúng tôi xem xét sự phát triển và sử dụng tiềm năng của các công nghệ AI, chúng tôi sẽ tính đến một loạt các yếu tố kinh tế và xã hội, và sẽ tiến hành khi chúng tôi tin rằng lợi ích chung có thể vượt quá rủi ro và nhược điểm có thể thấy trước.

AI cũng tăng cường khả năng của chúng tôi để hiểu ý nghĩa của nội dung ở quy mô. Chúng tôi sẽ cố gắng cung cấp thông tin chính xác và chất lượng cao bằng cách sử dụng AI, đồng thời tiếp tục tôn trọng các chuẩn mực văn hóa, xã hội và pháp lý tại các quốc gia nơi chúng tôi hoạt động. Và chúng tôi sẽ tiếp tục đánh giá một cách chu đáo khi nào sẽ cung cấp các công nghệ của chúng tôi trên cơ sở phi thương mại.

2. Tránh tạo hoặc củng cố sự thiên vị không công bằng.

Các thuật toán và bộ dữ liệu AI có thể phản ánh, củng cố hoặc giảm các thành kiến ​​không công bằng. Chúng tôi nhận ra rằng việc phân biệt công bằng với những thành kiến ​​không công bằng không phải lúc nào cũng đơn giản và khác biệt giữa các nền văn hóa và xã hội. Chúng tôi sẽ tìm cách tránh những tác động bất công đến mọi người, đặc biệt là những người liên quan đến các đặc điểm nhạy cảm như chủng tộc, sắc tộc, giới tính, quốc tịch, thu nhập, khuynh hướng tình dục, khả năng và niềm tin chính trị hoặc tôn giáo.

3. Được xây dựng và kiểm tra sự an toàn.

Chúng tôi sẽ tiếp tục phát triển và áp dụng các biện pháp an toàn và bảo mật mạnh mẽ để tránh những kết quả ngoài ý muốn tạo ra rủi ro gây hại. Chúng tôi sẽ thiết kế các hệ thống AI của chúng tôi phải thận trọng một cách thích hợp và tìm cách phát triển chúng theo các thông lệ tốt nhất trong nghiên cứu an toàn AI. Trong các trường hợp thích hợp, chúng tôi sẽ kiểm tra các công nghệ AI trong môi trường bị hạn chế và giám sát hoạt động của chúng sau khi triển khai.

4. Có trách nhiệm với mọi người.

Chúng tôi sẽ thiết kế các hệ thống AI cung cấp các cơ hội phù hợp để phản hồi, giải thích có liên quan và kháng cáo. Các công nghệ AI của chúng tôi sẽ chịu sự chỉ đạo và kiểm soát thích hợp của con người.

5. Kết hợp các nguyên tắc thiết kế riêng tư.

Chúng tôi sẽ kết hợp các nguyên tắc bảo mật của chúng tôi trong việc phát triển và sử dụng các công nghệ AI của chúng tôi. Chúng tôi sẽ tạo cơ hội để thông báo và đồng ý, khuyến khích các kiến ​​trúc với các biện pháp bảo vệ quyền riêng tư và cung cấp sự minh bạch và kiểm soát thích hợp đối với việc sử dụng dữ liệu.

6. Nâng cao tiêu chuẩn xuất sắc khoa học.

Đổi mới công nghệ bắt nguồn từ phương pháp khoa học và cam kết tìm hiểu mở, sự nghiêm túc về trí tuệ, tính toàn vẹn và sự hợp tác. Các công cụ AI có khả năng mở khóa các lĩnh vực nghiên cứu khoa học và kiến ​​thức mới trong các lĩnh vực quan trọng như sinh học, hóa học, y học và khoa học môi trường. Chúng tôi mong muốn các tiêu chuẩn xuất sắc về khoa học khi chúng tôi nỗ lực để phát triển AI.

Chúng tôi sẽ làm việc với một loạt các bên liên quan để thúc đẩy sự lãnh đạo chu đáo trong lĩnh vực này, dựa trên các phương pháp khoa học nghiêm ngặt và đa ngành. Và chúng tôi sẽ có trách nhiệm chia sẻ kiến ​​thức về AI bằng cách xuất bản các tài liệu giáo dục, thực tiễn tốt nhất và nghiên cứu cho phép nhiều người phát triển các ứng dụng AI hữu ích.

7. Được cung cấp để sử dụng phù hợp với các nguyên tắc này.

Nhiều công nghệ có nhiều công dụng. Chúng tôi sẽ làm việc để hạn chế các ứng dụng có thể gây hại hoặc lạm dụng. Khi chúng tôi phát triển và triển khai các công nghệ AI, chúng tôi sẽ đánh giá các khả năng sử dụng dựa trên các yếu tố sau:

• Mục đích chính và sử dụng: mục đích chính và có khả năng sử dụng công nghệ và ứng dụng, bao gồm mức độ chặt chẽ của giải pháp liên quan đến hoặc thích ứng với việc sử dụng có hại
• Bản chất và sự độc đáo: cho dù chúng tôi đang làm cho công nghệ có sẵn là duy nhất hoặc nói chung là có sẵn
• Tỉ lệ: việc sử dụng công nghệ này sẽ có tác động đáng kể
• Bản chất của sự tham gia của Google: cho dù chúng tôi đang cung cấp các công cụ đa năng, tích hợp các công cụ cho khách hàng hay phát triển các giải pháp tùy chỉnh

Các ứng dụng AI chúng tôi sẽ không theo đuổi

Ngoài các mục tiêu trên, chúng tôi sẽ không thiết kế hoặc triển khai AI trong các lĩnh vực ứng dụng sau:

1. Công nghệ gây ra hoặc có khả năng gây hại tổng thể. Khi có nguy cơ gây hại nghiêm trọng, chúng tôi sẽ chỉ tiến hành khi chúng tôi tin rằng lợi ích vượt trội so với rủi ro và sẽ kết hợp các ràng buộc an toàn phù hợp.
2. Vũ khí hoặc các công nghệ khác có mục đích chính hoặc thực hiện là gây ra hoặc trực tiếp tạo điều kiện cho người bị thương.
3. Các công nghệ thu thập hoặc sử dụng thông tin để giám sát vi phạm các tiêu chuẩn được quốc tế chấp nhận.
4. Các công nghệ có mục đích trái với các nguyên tắc được chấp nhận rộng rãi của luật pháp quốc tế và nhân quyền.

Khi kinh nghiệm của chúng tôi trong không gian này sâu hơn, danh sách này có thể phát triển.

Kết luận

Chúng tôi tin rằng những nguyên tắc này là nền tảng phù hợp cho công ty của chúng tôi và sự phát triển AI trong tương lai của chúng tôi. Chúng tôi thừa nhận rằng lĩnh vực này là năng động và phát triển, và chúng tôi sẽ tiếp cận công việc của mình một cách khiêm tốn, cam kết tham gia bên trong và bên ngoài và sẵn sàng thích nghi với cách tiếp cận của chúng tôi khi chúng tôi học theo thời gian.

Kết quả tích cực này không giúp gã khổng lồ công nghệ Google tránh khỏi sự đồng lõa trong nhiều lĩnh vực quan tâm khác, như hỗ trợ ICE, cảnh sát và các hoạt động quân sự khác, tổng hợp và bán quyền truy cập vào dữ liệu cá nhân về các cá nhân, che giấu các tuyên bố chính trị gây tranh cãi khỏi kết quả của công cụ tìm kiếm và, quan trọng nhất, cho phép nhân viên của mình tiếp tục lên tiếng về những vấn đề này và các vấn đề khác mà không bị sa thải vì làm như vậy. Phong trào nổi dậy của công nhân Google vẫn hoạt động và tham gia cao.

Đồng thời, điều quan trọng là phải nhận ra mức độ ảnh hưởng của phong trào công nhân Google. Điều này trở nên rõ ràng ngay sau khi các cuộc biểu tình của Google bắt đầu: các bộ phận tiếp thị của Lầu Năm Góc ngừng phát hành các thông cáo báo chí mới về Dự án Maven thú vị một thời, cuối cùng đã biến mất hoàn toàn dự án khỏi tầm nhìn công khai mà nó đã tìm kiếm trước đó. Thay vào đó, một sáng kiến ​​trí tuệ nhân tạo mới và lớn hơn nhiều đã bắt đầu xuất hiện từ sự ngấm ngầm của Lầu năm góc Ban đổi mới quốc phòng.

Cái này được gọi là Dự án JEDI, một tên mới cho Lầu Năm Góc chi cho vũ khí tiên tiến. Dự án JEDI sẽ chi nhiều tiền hơn Dự án Maven, nhưng công khai cho dự án mới (vâng, quân đội Hoa Kỳ chi rất nhiều về thời gian và sự chú ý về công khai và tiếp thị) rất khác so với trước đây. Tất cả các hình ảnh kiểu dáng đẹp và gợi cảm của Black Mirror Mirror đã biến mất. Giờ đây, thay vì nhấn mạnh đến nỗi kinh hoàng của người cuồng điện ảnh và điện ảnh, máy bay không người lái do AI cung cấp có thể gây ra cho con người, Project JEDI giải thích chính nó là một bước tiến tỉnh táo về hiệu quả, kết hợp các cơ sở dữ liệu đám mây khác nhau để giúp các chiến binh của Lầu Năm Góc (thuật ngữ yêu thích của Lầu Năm Góc nhân viên tuyến đầu) và các nhóm hỗ trợ tại văn phòng tối đa hóa hiệu quả thông tin. Trong đó Project Maven được thiết kế để nghe có vẻ thú vị và mang tính tương lai, Project JEDI được thiết kế để nghe có vẻ hợp lý và thực tế.

Không có gì hợp lý hoặc thực tế về thẻ giá cho Project JEDI. Đây là hợp đồng phần mềm quân sự lớn nhất trong lịch sử thế giới: 10.5 tỷ USD. Nhiều người trong chúng ta trừng mắt khi nghe về quy mô chi tiêu quân sự, và chúng ta có thể bỏ qua sự khác biệt giữa hàng triệu và hàng tỷ. Điều cốt yếu là phải hiểu Project JEDI lớn hơn bao nhiêu so với bất kỳ sáng kiến ​​phần mềm Lầu Năm Góc nào trước đây. Đó là một công cụ thay đổi trò chơi, một công cụ tạo ra sự giàu có, một kiểm tra trống để trục lợi với chi phí của người nộp thuế.

Nó giúp làm xước bên dưới bề mặt của các thông cáo báo chí của chính phủ khi cố gắng hiểu một séc khống chi tiêu quân sự lên tới 10.5 tỷ đô la. Một số thông tin có thể được thu thập từ các ấn phẩm của quân đội, giống như một Cuộc phỏng vấn tháng 2019 năm XNUMX với Trung tâm Trí tuệ nhân tạo chung Trung tướng Jack Shanahan, một nhân vật quan trọng trong cả Project Maven đã biến mất và Project JEDI mới. Tôi đã có thể hiểu rõ hơn về cách những người trong ngành công nghiệp quốc phòng nghĩ về Project JEDI bằng cách nghe một podcast của ngành công nghiệp quốc phòng có tên Dự án 38: Tương lai của chính phủ ký kết. Khách của podcast thường nói chuyện thẳng thắn và không bối rối về bất kỳ chủ đề nào họ đang thảo luận. “Nhiều người sẽ mua bể bơi mới trong năm nay” là điển hình trong cuộc trò chuyện nội bộ của podcast này về Dự án JEDI. Chúng tôi chắc chắn rằng họ sẽ như vậy.

Đây là điều đáng chú ý liên quan đến các nguyên tắc AI của Google. Ba công ty tiên phong rõ ràng cho hợp đồng JEDI trị giá 10.5 tỷ đô la sẽ là Google, Amazon và Microsoft - theo thứ tự đó, dựa trên danh tiếng của họ là những nhà đổi mới AI. Do các công nhân phản đối Project Maven vào năm 2018, lãnh đạo AI của Google đã bị loại khỏi sự cân nhắc cho Dự án JEDI lớn hơn nhiều vào năm 2019. Cuối năm 2019, có thông báo rằng hợp đồng đã đến tay Microsoft. Một loạt tin tức được đưa ra sau đó, nhưng tin tức này chủ yếu tập trung vào sự cạnh tranh giữa Amazon và Microsoft, và thực tế là vị trí thứ 3 Microsoft có thể được phép đánh bại vị trí thứ 2 Amazon để giành chiến thắng vì các cuộc chiến liên tục của chính quyền Trump với Washington Post, thuộc sở hữu của Jeff Bezos của Amazon. Amazon hiện đang ra tòa để đấu tranh với món quà 10.5 tỷ USD của Lầu Năm Góc dành cho Microsoft, và Oracle cũng đang khởi kiện. Nhận xét cụ thể từ podcast Project 38 được đề cập ở trên - “Nhiều người sẽ mua bể bơi mới trong năm nay” - không chỉ ám chỉ lợi ích tài chính của Microsoft mà còn cho tất cả các luật sư sẽ tham gia vào các vụ kiện này. Chúng ta có thể đưa ra một phỏng đoán có học thức rằng hơn 3% trong số 10.5 tỷ USD của Dự án JEDI sẽ dành cho luật sư. Thật tệ, chúng tôi không thể sử dụng nó để giúp đỡ tận thế đói thay thế.

Tranh cãi về việc liệu việc chuyển tiền của người đóng thuế này cho các nhà thầu quân sự có mang lại lợi ích cho Microsoft, Amazon hay Oracle hay không đã thống trị các tin tức về Dự án JEDI. Thông điệp tích cực duy nhất được đúc kết từ sự ghép nối tục tĩu này - thực tế là Google đã rút khỏi hợp đồng phần mềm quân sự lớn nhất trong lịch sử thế giới vì cuộc biểu tình của công nhân - hầu như không tồn tại trong tin tức về Dự án JEDI. 

Đây là lý do tại sao điều quan trọng là kể câu chuyện này cho các nhà hoạt động tập trung vào công nghệ, những người tập trung trong một căn phòng đông đúc ở trung tâm Manhattan vào tuần trước để nói về cách chúng ta có thể cứu hành tinh của chúng ta, làm thế nào chúng ta có thể chống lại sự bất đồng và chính trị hóa khoa học khí hậu, làm thế nào chúng ta có thể đứng vững trước sức mạnh to lớn của những kẻ trục lợi nhiên liệu hóa thạch và trục lợi vũ khí. Trong căn phòng nhỏ này, tất cả chúng ta dường như nắm bắt được các khía cạnh của vấn đề mà chúng ta đang phải đối mặt và vai trò quan trọng mà chính chúng ta phải bắt đầu thực hiện. Cộng đồng công nghệ có sức mạnh đáng kể. Giống như các chiến dịch thoái vốn có thể tạo ra sự khác biệt thực sự, các cuộc nổi loạn của nhân viên công nghệ có thể tạo ra sự khác biệt thực sự. Có nhiều cách các nhà hoạt động biến đổi khí hậu, các nhà hoạt động nổi loạn của công nhân công nghệ và các nhà hoạt động chống chiến tranh có thể bắt đầu làm việc cùng nhau, và chúng tôi sẽ làm như vậy bằng mọi cách có thể.

Chúng tôi đã có một khởi đầu đầy hy vọng với việc thu thập này, được khởi xướng một cách hữu ích bởi Cuộc nổi loạn tuyệt chủng NYC và Thế giới không thể chờ đợi. Phong trào này sẽ phát triển - nó phải phát triển. Lạm dụng nhiên liệu hóa thạch đang là tâm điểm của những người phản đối biến đổi khí hậu. Lạm dụng nhiên liệu hóa thạch vừa là động cơ lợi nhuận chính của chủ nghĩa đế quốc Mỹ, vừa là kết quả khủng khiếp chính của các hoạt động lãng phí quá đà của quân đội Mỹ. Thật vậy, quân đội Hoa Kỳ dường như người gây ô nhiễm tồi tệ nhất trên thế giới. Nhân viên công nghệ có thể sử dụng sức mạnh tổ chức của chúng tôi cho các chiến thắng thậm chí còn có tác động mạnh hơn so với việc rút tiền của Google khỏi Dự án JEDI không? Chúng ta có thể và chúng ta phải. Cuộc họp thành phố New York tuần trước chỉ là một bước tiến nhỏ. Chúng ta phải làm nhiều hơn nữa và chúng ta phải đưa ra phong trào phản kháng kết hợp tất cả những gì chúng ta có.

Marc Eliot Stein là giám đốc công nghệ và truyền thông xã hội cho World BEYOND War.

Ảnh của Gregory Schwedock.