الأخلاق الصناعية

بقلم روبرت كوهلر ، مارس 14 ، 2019

الذكاء الاصطناعي هو شيء واحد. الأخلاق الاصطناعية هي شيء آخر. قد يبدو شيء مثل هذا:

"أولاً ، نؤمن بالدفاع القوي للولايات المتحدة ونريد للأشخاص الذين يدافعون عنها أن يصلوا إلى أفضل التقنيات في البلاد ، بما في ذلك من Microsoft."

هذه هي كلمات رئيس مايكروسوفت براد سميث، الكتابة على مدونة للشركات في الخريف الماضي دفاعًا عن العقد الجديد للشركة مع الجيش الأمريكي ، والذي تبلغ قيمته 479 مليون دولار ، لجعل سماعات رأس الواقع المعزز للاستخدام في القتال. السماعات ، المعروفة باسم نظام التعزيز البصري المتكامل ، أو IVAS ، هي وسيلة "لزيادة الفتك" عندما يشتبك الجيش مع العدو ، وفقًا لمسؤول في وزارة الدفاع. أثار تورط Microsoft في هذا البرنامج موجة من الغضب بين موظفي الشركة ، حيث قام أكثر من مائة منهم بتوقيع خطاب لكبار المسؤولين التنفيذيين في الشركة يطالبون بإلغاء العقد.

نحن تحالف عالمي عمال مايكروسوفت، ونحن نرفض إنشاء تقنية للحرب والاضطهاد. إننا نشعر بالقلق من أن مايكروسوفت تعمل على توفير تكنولوجيا الأسلحة للجيش الأمريكي ، مما يساعد حكومة بلد ما على "زيادة الفتك" باستخدام الأدوات التي بنيناها. لم نقم بالتسجيل لتطوير أسلحة ، ونطلب رأيًا في كيفية استخدام عملنا ".

واو ، كلمات الضمير والأمل. القصة الأعمق في هذا كله هي أن الناس العاديين يمارسون سلطتهم لتشكيل المستقبل ويرفضون زيادة فتكه.

مع هذا العقد ، تستمر الرسالة ، لقد عبرت Microsoft الخط في تطوير الأسلحة. . . . تم تصميم تطبيق HoloLens ضمن نظام IVAS لمساعدة الناس على القتل. سيتم نشره في ساحة المعركة ، ويعمل على تحويل الحرب إلى "لعبة فيديو" محاكاة ، مما يزيد من إبعاد الجنود عن الرهانات القاتمة للحرب وواقع سفك الدماء ".

كان هذا التمرد هو ما كان سميث يستجيب له عندما قال إنه يؤمن "بالدفاع القوي" ، مما يعني أن الكليشيهات الأخلاقية بدلاً من المال هي التي تحرك قرارات الشركات الكبرى ، أو على الأقل هذه الشركة الكبيرة المعينة. على نحو ما ، فإن كلماته ، التي حاول أن ينقلها على أنها انعكاسية ومدروسة بعمق ، ليست مقنعة - ليس عندما يتم التعاقد مع عقد دفاع بقيمة تقارب نصف مليار دولار.

يستمر سميث في إدراك أنه لا توجد مؤسسة ، بما في ذلك المؤسسة العسكرية ، مثالية ، لكنه أشار إلى أن "هناك شيء واحد واضح. لقد خدم الملايين من الأميركيين خاضوا حروبًا مهمة وعادلة وحاربونها "، حيث اختاروا كرزًا أشخاصًا مشهورين مثل الحرب الأهلية والحرب العالمية الثانية ، حيث حررت الفتاكة المعززة في أمريكا العبيد وحررت أوروبا.

من المثير للدهشة ، أن نغمة منشور المدونة الخاصة به ليست متعجرفة تجاه الموظفين - قم بما قيل لك أو تم طردك - ولكن بدلاً من ذلك ، استرضيت بهدوء ، ويبدو أنه يشير إلى أن القوة هنا ليست مركزة على المستويات العليا من إدارة. تتميز Microsoft بالمرونة: "كما هو الحال دائمًا ، إذا أراد موظفونا العمل في مشروع أو فريق مختلف - لأي سبب كان - نريدهم أن يعرفوا أننا ندعم تنقل المواهب".

طالب الموظفون الذين وقعوا الخطاب بإلغاء عقد الدفاع. عرض سميث ضمائرهم الشخصية: هيا ، انضم إلى فريق آخر إذا كنت لا تريد عبور الخط والعمل على تطوير الأسلحة. مايكروسوفت تكرم موظفي الإقناع الأخلاقي المتعدد!

الذكاء الاصطناعي هي ظاهرة ذات تقنية عالية تتطلب تفكيرًا شديد التعقيد. الأخلاق الاصطناعية يختبئ وراء أقرب كليشيهات في العبودية إلى المال.

ما أراه هنا هو الصحوة الأخلاقية التي تدافع عن الجر السياسي - الاجتماعي: يقف الموظفون لصالح شيء أكبر من المصالح الشخصية المطلقة ، في عملية تدفع كبار رجال الأعمال للتكنولوجيا إلى التفكير فيما وراء حاجتهم إلى تدفق لا نهاية له لرأس المال ، وتكون هناك عواقب.

هذا يحدث في جميع أنحاء البلاد. الحركة تتسرب: التقنية لن تبنيها!

"عبر صناعة التكنولوجيا ،" نيويورك تايمز تم الإبلاغ عنه في شهر أكتوبر ، "يطالب الموظفون ذوو الرتب والملفات بمزيد من التبصر في كيفية نشر شركاتهم للتكنولوجيا التي قاموا ببنائها. في Google و Amazon و Microsoft و Salesforce ، وكذلك في الشركات الناشئة في مجال التكنولوجيا ، يتساءل المهندسون والتقنيون بشكل متزايد عما إذا كانت المنتجات التي يعملون عليها تستخدم للمراقبة في أماكن مثل الصين أو لمشاريع عسكرية في الولايات المتحدة أو في أي مكان آخر .

"هذا تغيّر عن الماضي ، عندما طوّر عمال وادي السيليكون عادةً منتجات مع القليل من الأسئلة حول التكاليف الاجتماعية."

ماذا لو كان التفكير الأخلاقي - ليس في الكتب والمسارات الفلسفية ، ولكن في العالم الواقعي ، المؤسسي والسياسي - كبيرًا ومعقدًا مثل التفكير التقني؟ لم يعد بإمكانها الاختباء خلف كليشيهات الحرب العادلة (وبالتأكيد الحرب التالية التي نستعد لها ستكون عادلة) ، لكن سيتعين عليها تقييم الحرب نفسها - كل الحروب ، بما في ذلك حروب 70 الماضية أو نحو ذلك ، في ملء تكاليفها وعواقبها - وكذلك التطلع إلى نوع المستقبل الذي يمكن أن نخلقه ، اعتمادًا على القرارات التي نتخذها اليوم. لا يتجاهل التفكير الأخلاقي المعقد الحاجة إلى البقاء ، مالياً أو غير ذلك ، في الوقت الحالي ، لكنه يبقى هادئًا في مواجهة تلك الحاجة ويرى البقاء على أنها مؤسسة جماعية وليست تنافسية.

التعقيد الأخلاقي يسمى السلام. لا يوجد شيء مثل السلام التبسيط.

روبرت كولر ، من قبل PeaceVoice، صحفي ومحرّر حائز على جوائز في شيكاغو. كتابه "الشجاعة ينمو بقوة في الجرح" متاح. الاتصال به في koehlercw@gmail.com أو زيارة موقعه على الانترنت في commonwonders.com.