Đạo đức nhân tạo

Bởi Robert C. Koehler, Tháng 3 14, 2019

Trí tuệ nhân tạo là một chuyện. Đạo đức nhân tạo là khác. Nó có thể nghe giống như thế này:

Trước tiên, chúng tôi tin tưởng vào sự bảo vệ mạnh mẽ của Hoa Kỳ và chúng tôi muốn những người bảo vệ nó có quyền truy cập vào công nghệ tốt nhất của quốc gia, bao gồm cả từ Microsoft.

Đây là những lời của chủ tịch Microsoft Brad Smith, viết trên blog của công ty vào mùa thu năm ngoái để bảo vệ hợp đồng mới của công ty với Quân đội Hoa Kỳ, trị giá 479 triệu đô la, để làm cho các tai nghe thực tế tăng cường sử dụng trong chiến đấu. Theo một quan chức của Bộ Quốc phòng, các tai nghe, được gọi là Hệ thống tăng cường thị giác tích hợp, hay IVAS, là một cách để tăng tính sát thương khi quân đội giao chiến với kẻ thù. Sự tham gia của Microsoft vào chương trình này đã tạo ra một làn sóng phẫn nộ trong các nhân viên của công ty, với hơn một trăm trong số họ ký thư cho các giám đốc điều hành hàng đầu của công ty yêu cầu hủy bỏ hợp đồng.

Chúng tôi là một liên minh toàn cầu của Công nhân Microsoftvà chúng tôi từ chối tạo ra công nghệ cho chiến tranh và áp bức. Chúng tôi được báo động rằng Microsoft đang làm việc để cung cấp công nghệ vũ khí cho Quân đội Hoa Kỳ, giúp chính phủ của một quốc gia 'tăng sát thương' bằng cách sử dụng các công cụ mà chúng tôi xây dựng. Chúng tôi đã không đăng ký để phát triển vũ khí và chúng tôi yêu cầu một tiếng nói trong cách sử dụng công việc của chúng tôi.

Wow, lời của lương tâm và hy vọng. Câu chuyện sâu sắc hơn trong tất cả những điều này là những người bình thường thực hiện quyền lực của mình để định hình tương lai và từ chối tăng mức độ sát thương của nó.

Với hợp đồng này, bức thư được tiếp tục, Microsoft đã vượt qua giới hạn phát triển vũ khí. . . . Ứng dụng của HoloLens trong hệ thống IVAS được thiết kế để giúp mọi người tiêu diệt. Nó sẽ được triển khai trên chiến trường và hoạt động bằng cách biến chiến tranh thành một trò chơi điện tử mô phỏng, những người lính xa cách hơn với những chiến công nghiệt ngã và thực tế đổ máu.

Cuộc nổi dậy này là những gì Smith đã phản ứng khi ông nói rằng ông tin vào một sự bảo vệ mạnh mẽ của người Hồi giáo, ông ngụ ý rằng những lời sáo rỗng về đạo đức hơn là tiền là thứ thúc đẩy quyết định của các tập đoàn lớn, hoặc ít nhất là tập đoàn lớn đặc biệt này. Bằng cách nào đó, những lời nói của anh ta, mà anh ta cố gắng truyền đạt như được phản ánh và xem xét sâu sắc, không thuyết phục - không phải khi được ký kết hợp đồng quốc phòng trị giá gần nửa tỷ đô la.

Smith tiếp tục, thừa nhận rằng không có tổ chức nào, kể cả quân đội, là hoàn hảo, nhưng chỉ ra rằng một điều rõ ràng. Hàng triệu người Mỹ đã phục vụ và chiến đấu trong các cuộc chiến quan trọng và chính đáng, Anh đào chọn những người xưa được ca ngợi như Nội chiến và Thế chiến II, nơi mà sự tàn sát gia tăng của Mỹ đã giải phóng nô lệ và giải phóng châu Âu.

Thật hấp dẫn, giọng điệu trong bài đăng trên blog của anh ấy không kiêu ngạo đối với nhân viên - hãy làm những gì bạn đã nói hoặc bạn bị sa thải - nhưng, thay vào đó, nhẹ nhàng xoa dịu, dường như cho thấy sức mạnh ở đây không tập trung ở cấp trên sự quản lý. Microsoft rất linh hoạt: Luôn luôn như vậy, nếu nhân viên của chúng tôi muốn làm việc trong một dự án hoặc nhóm khác - vì bất kỳ lý do gì - chúng tôi muốn họ biết rằng chúng tôi hỗ trợ khả năng di chuyển tài năng.

Các nhân viên đã ký bức thư yêu cầu hủy bỏ hợp đồng Quốc phòng. Smith đề nghị lương tâm cá nhân của họ: Hãy tham gia một nhóm khác nếu bạn không muốn vượt qua ranh giới và làm việc về phát triển vũ khí. Microsoft tôn vinh nhân viên của nhiều thuyết phục đạo đức!

Trí tuệ nhân tạo là một hiện tượng công nghệ cao đòi hỏi tư duy rất phức tạp. Đạo đức nhân tạo ẩn đằng sau những lời sáo rỗng gần nhất để phục vụ cho tiền bạc.

Những gì tôi thấy ở đây là sự thức tỉnh về mặt đạo đức đối với lực kéo xã hội học: Nhân viên đang đứng trước một điều gì đó lớn hơn lợi ích cá nhân, trong quá trình thúc đẩy đồng thau Big Tech nghĩ đến nhu cầu về dòng vốn vô tận của họ, hậu quả bị nguyền rủa.

Điều này đang xảy ra trên cả nước. Một phong trào đang tràn ngập: Tech sẽ không xây dựng nó!

Bên kia ngành công nghệ, Bán Chạy Nhất của Báo New York Times được báo cáo vào tháng 10, các nhân viên cấp bậc và tập tin đang đòi hỏi cái nhìn sâu sắc hơn về cách các công ty của họ triển khai công nghệ mà họ xây dựng. Tại Google, Amazon, Microsoft và Salesforce, cũng như tại các công ty khởi nghiệp công nghệ, các kỹ sư và công nghệ đang ngày càng hỏi liệu các sản phẩm họ đang làm việc có được sử dụng để giám sát ở những nơi như Trung Quốc hay cho các dự án quân sự ở Hoa Kỳ hoặc ở nơi khác không .

Đây là một sự thay đổi so với trước đây, khi các công nhân ở Thung lũng Silicon thường phát triển các sản phẩm với rất ít câu hỏi về chi phí xã hội.

Điều gì sẽ xảy ra nếu tư duy đạo đức - không phải trong sách và các triết lý, mà trong thế giới thực, cả doanh nghiệp và chính trị - cũng lớn và phức tạp như tư duy kỹ thuật? Nó không còn có thể ẩn đằng sau những lời sáo rỗng của cuộc chiến chính nghĩa (và chắc chắn cuộc chiến tiếp theo mà chúng ta đang chuẩn bị sẽ diễn ra), nhưng sẽ phải tự đánh giá chiến tranh - tất cả các cuộc chiến, kể cả những cuộc chiến trong những năm qua của 70, hoặc, trong toàn bộ chi phí và hậu quả của họ - cũng như hướng tới tương lai mà chúng ta có thể tạo ra, tùy thuộc vào quyết định của chúng ta hôm nay. Suy nghĩ đạo đức phức tạp không bỏ qua nhu cầu tồn tại, về mặt tài chính và mặt khác, trong thời điểm hiện tại, nhưng nó giữ bình tĩnh khi đối mặt với nhu cầu đó và coi sinh tồn là một tập thể, không phải là một doanh nghiệp cạnh tranh.

Sự phức tạp đạo đức được gọi là hòa bình. Không có thứ gọi là hòa bình đơn giản.

Robert Koehler, được cung cấp bởi Hòa bình, là một nhà báo và biên tập viên từng đoạt giải thưởng ở Chicago. Cuốn sách của ông, Can đảm phát triển mạnh mẽ ở vết thương có sẵn. Liên lạc với anh ấy tại koehlercw @ gmail eller besök hans hemsida på Commonwonders.com.