تغير المناخ ، عمال التقنية ، نشطاء مناهضون للحرب يعملون معاً

تصفية, التكلفة الاقتصادية, البيئة, النشاط اللاعنفي, شبـاب

بقلم مارك إليوت شتاين ، 10 فبراير 2020

تمت دعوتي مؤخرًا للتحدث في اجتماع "تمرد الانقراض" في مدينة نيويورك نيابة عن World BEYOND War. تم تصميم هذا الحدث للجمع بين ثلاث مجموعات عمل: نشطاء تغير المناخ ، ومجموعات العاملين في مجال التكنولوجيا ، ونشطاء مناهضون للحرب. لقد بدأنا بحساب شخصي مثير من ناشطة التغير المناخي ها فو ، التي أخبرت حشد سكان نيويورك عن تجربة مثيرة للقلق لم يكن لدى الكثير منا على الإطلاق: العودة إلى منزل عائلتها في هانوي ، فيتنام ، حيث زيادة الحرارة جعلت من المستحيل تقريبًا السير خارجًا خلال ساعات ذروة ضوء الشمس. قليل من الاميركيين يعرفون أيضا عن 2016 كارثة تلوث المياه في ها تينه في وسط فيتنام. نؤكد ها في كثير من الأحيان على أن تغير المناخ يمثل مشكلة محتملة في الولايات المتحدة الأمريكية ، لكن في فيتنام يمكنها أن ترى أنه يزعزع بالفعل حياة الناس وسبل عيشهم ويزداد سوءًا بسرعة.

نيك موتيرن من KnowDrones.org تحدث بإلحاح مماثل حول الاستثمار الهائل الأخير للجيش الأمريكي في الذكاء الاصطناعي المستقبلي والحوسبة السحابية - وأكد على استنتاج الجيش نفسه بأن نشر أنظمة الذكاء الاصطناعي في إدارة الأسلحة النووية وحرب الطائرات بدون طيار سيؤدي حتمًا إلى أخطاء لا يمكن التنبؤ بها. ويليام بيكلر من Extinction Rebellion NYC تلاه شرح المبادئ التنظيمية التي تضعها هذه المنظمة المهمة وسريعة النمو موضع التنفيذ ، بما في ذلك الإجراءات التخريبية المصممة لزيادة الوعي بالأهمية الحاسمة لتغير المناخ. سمعنا من ممثل مدينة نيويورك تحالف عمال التكنولوجيا، وحاولت التركيز على التجمع نحو الشعور بالتمكين العملي من خلال الحديث عن حركة تمرد للعاملين في مجال التكنولوجيا كانت ناجحة بشكل غير متوقع.

كان هذا في أبريل 2018 ، عندما كانت "صناعة الدفاع" المزعومة تحوم حول مشروع Maven ، وهي مبادرة عسكرية أمريكية جديدة تم نشرها بشكل كبير لتطوير قدرات الذكاء الاصطناعي للطائرات بدون طيار وغيرها من أنظمة الأسلحة. تقدم كل من Google و Amazon و Microsoft جميعها منصات استخبارات مصطنعة جاهزة للعملاء الذين يتقاضون رواتبهم ، وكان يُنظر إلى Google على أنها الفائز المحتمل في العقد العسكري Project Maven.

في أوائل عام 2018 ، بدأ عمال Google في التحدث. لم يفهموا السبب في أن الشركة التي جندتهم كموظفين مع التعهد "لا تكن شريرًا" تتقدم الآن بمشروعات عسكرية من المحتمل أن تشبه الحلقة المروعة لـ "المرآة السوداء" التي تلاحق فيها الكلاب الميكانيكية التي تعمل بالطاقة من منظمة العفو الدولية الإنسان كائنات حتى الموت. تحدثوا على وسائل التواصل الاجتماعي ومنافذ الأخبار التقليدية. قاموا بتنظيم أعمال ونشروا العرائض وسمعوا صوتهم.

كان تمرد العمال هذا هو نشأة حركة تمرد Google Workers ، وساعد في تمهيد مجموعات العمال التقنيين الأخرى. لكن الشيء الأكثر إثارة للدهشة حول احتجاج Google الداخلي ضد Project Maven لم يكن أن العاملين في مجال التكنولوجيا كانوا يتحدثون. الشيء الأكثر دهشة هو ذلك استحوذت إدارة Google على مطالب العمال.

بعد ذلك بعامين ، هذه الحقيقة لا تزال تفاجئني. لقد رأيت العديد من المشكلات الأخلاقية خلال عقود من الزمن كعامل تقني ، لكنني نادراً ما رأيت شركة كبيرة توافق بشكل قاطع على معالجة المشاكل الأخلاقية بشكل كبير. كانت نتيجة تمرد Google ضد Project Maven نشر مجموعة من مبادئ الذكاء الاصطناعى تستحق إعادة طبعها هنا بالكامل:

الذكاء الاصطناعي في جوجل: مبادئنا

تطمح Google إلى إنشاء تقنيات تعمل على حل المشكلات المهمة ومساعدة الأشخاص في حياتهم اليومية. نحن متفائلون بشأن الإمكانات المذهلة لمنظمة العفو الدولية وغيرها من التقنيات المتقدمة لتمكين الناس ، واستفادة الأجيال الحالية والمستقبلية على نطاق واسع ، والعمل من أجل الصالح العام.

أهداف تطبيقات الذكاء الاصطناعى

سنقوم بتقييم طلبات الذكاء الاصطناعي في ضوء الأهداف التالية. نعتقد أنه يجب على الذكاء الاصطناعي:

1. أن تكون مفيدة اجتماعيا.

يمس المدى الواسع للتكنولوجيات الجديدة المجتمع ككل. سيكون للتقدم في الذكاء الاصطناعى تأثيرات تحويلية في مجموعة واسعة من المجالات ، بما في ذلك الرعاية الصحية والأمن والطاقة والنقل والتصنيع والترفيه. نظرًا للتطور المحتمل والاستخدامات المحتملة لتقنيات الذكاء الاصطناعي ، سنأخذ في الاعتبار مجموعة واسعة من العوامل الاجتماعية والاقتصادية ، وسنعمل على ذلك حيث نعتقد أن الفوائد المحتملة الإجمالية تفوق إلى حد كبير المخاطر والجوانب السلبية المتوقعة.

يعزز الذكاء الاصطناعي أيضًا قدرتنا على فهم معنى المحتوى على نطاق واسع. سوف نسعى جاهدين لجعل المعلومات عالية الجودة والدقيقة متاحة بسهولة باستخدام الذكاء الاصطناعى ، مع الاستمرار في احترام المعايير الثقافية والاجتماعية والقانونية في البلدان التي نعمل فيها. وسنستمر في تقييم مدروس عندما نتيح تقنياتنا على أساس غير تجاري.

2. تجنب خلق أو تعزيز التحيز غير العادل.

يمكن أن تعكس خوارزميات مجموعات البيانات AI أو تعزز أو تقلل من التحيزات غير العادلة. نحن ندرك أن التمييز بين النزاهة والتحيزات غير العادلة ليس بسيطًا دائمًا ويختلف بين الثقافات والمجتمعات. سوف نسعى إلى تجنب التأثيرات غير العادلة على الأشخاص ، خاصةً تلك المتعلقة بالخصائص الحساسة مثل العرق والعرق والجنس والجنسية والدخل والتوجه الجنسي والقدرة والمعتقد السياسي أو الديني.

3. أن تبنى واختبارها للسلامة.

سوف نستمر في تطوير وتطبيق ممارسات قوية للسلامة والأمن لتجنب النتائج غير المقصودة التي تخلق مخاطر الأذى. سنقوم بتصميم أنظمة الذكاء الاصطناعي لدينا لتكون حذرة بشكل مناسب ، وسنسعى لتطويرها وفقًا لأفضل الممارسات في أبحاث السلامة في الذكاء الاصطناعي. في الحالات المناسبة ، سنختبر تقنيات الذكاء الاصطناعي في البيئات المقيدة ونراقب تشغيلها بعد النشر.

4. أن تكون مسؤولة أمام الناس.

سنقوم بتصميم أنظمة الذكاء الاصطناعى التي توفر فرصًا مناسبة للتغذية الراجعة والتفسيرات ذات الصلة والاستئناف. سوف تخضع تقنيات الذكاء الاصطناعي لدينا إلى التوجيه والتحكم البشري المناسبين.

5. دمج مبادئ تصميم الخصوصية.

سنقوم بدمج مبادئ الخصوصية الخاصة بنا في تطوير واستخدام تقنيات الذكاء الاصطناعي. سنعطي الفرصة للإشعار والموافقة ، ونشجع البنى مع ضمانات الخصوصية ، ونوفر الشفافية والسيطرة المناسبة على استخدام البيانات.

6. التمسك بالمعايير العالية للتميز العلمي.

يتجذر الابتكار التكنولوجي في الأسلوب العلمي والالتزام بالتحقيق المفتوح ، والصرامة الفكرية ، والنزاهة ، والتعاون. تمتلك أدوات الذكاء الاصطناعي القدرة على فتح مجالات جديدة للبحث العلمي والمعرفة في المجالات الحيوية مثل البيولوجيا والكيمياء والطب والعلوم البيئية. نطمح إلى مستويات عالية من التميز العلمي بينما نعمل على تطوير تطوير الذكاء الاصطناعى.

سوف نعمل مع مجموعة من أصحاب المصلحة لتعزيز القيادة المدروسة في هذا المجال ، بالاعتماد على المناهج العلمية الصارمة والمتعددة التخصصات. وسنقوم بمشاركة معرفة الذكاء الاصطناعى بمسؤولية من خلال نشر المواد التعليمية ، وأفضل الممارسات ، والبحوث التي تمكن المزيد من الناس من تطوير تطبيقات الذكاء الاصطناعى المفيدة.

7. تكون متاحة للاستخدامات التي تتفق مع هذه المبادئ.

العديد من التقنيات لها استخدامات متعددة. سنعمل على الحد من التطبيقات الضارة أو المسيئة. أثناء قيامنا بتطوير ونشر تقنيات الذكاء الاصطناعي ، سنقوم بتقييم الاستخدامات المحتملة في ضوء العوامل التالية:

الغرض الرئيسي والاستخدام: الغرض الرئيسي والاستخدام المحتمل للتكنولوجيا والتطبيق ، بما في ذلك مدى ارتباط الحل أو الاستخدام المتكيف مع الاستخدام الضار

الطبيعة والتفرد: ما إذا كنا نجعل التكنولوجيا المتاحة الفريدة أو المتاحة بشكل عام

مقياس: ما إذا كان استخدام هذه التكنولوجيا سيكون لها تأثير كبير

طبيعة مشاركة Google: ما إذا كنا نقدم أدوات للأغراض العامة أو دمج الأدوات للعملاء أو تطوير حلول مخصصة

تطبيقات الذكاء الاصطناعي لن نتابعها

بالإضافة إلى الأهداف المذكورة أعلاه ، لن نقوم بتصميم أو نشر AI في مجالات التطبيق التالية:

التقنيات التي تسبب أو من المحتمل أن تسبب ضررًا عامًا. عندما يكون هناك خطر مادي للضرر ، فإننا سنستمر فقط عندما نعتقد أن الفوائد تفوق المخاطر إلى حد كبير ، وسوف ندمج قيود السلامة المناسبة.

الأسلحة أو التقنيات الأخرى التي يكون هدفها أو تنفيذها الرئيسي هو التسبب في إصابة الأشخاص أو تسهيلها بشكل مباشر.

التقنيات التي تجمع أو تستخدم المعلومات للمراقبة التي تنتهك المعايير المقبولة دوليًا.

التقنيات التي يتعارض غرضها مع مبادئ القانون الدولي وحقوق الإنسان المقبولة على نطاق واسع.

مع تعمق تجربتنا في هذا الفضاء ، قد تتطور هذه القائمة.

وفي الختام

نعتقد أن هذه المبادئ هي الأساس الصحيح لشركتنا وتطورنا المستقبلي لمنظمة العفو الدولية. نحن نقر بأن هذا المجال ديناميكي ومتطور ، وسوف نتعامل مع عملنا بتواضع ، والتزام بالمشاركة الداخلية والخارجية ، ورغبة في تكييف نهجنا كما نتعلم مع مرور الوقت.

هذه النتيجة الإيجابية لا تعفي شركة Google العملاقة للتكنولوجيا من التواطؤ في مختلف المجالات الأخرى ذات الاهتمام الكبير ، مثل دعم ICE والشرطة والأنشطة العسكرية الأخرى ، وتجميع وبيع الوصول إلى البيانات الخاصة عن الأفراد ، وإخفاء البيانات السياسية المثيرة للجدل من نتائج محرك البحث والأهم من ذلك ، السماح لموظفيها بالاستمرار في التحدث حول هذه القضايا وغيرها دون التعرض للفصل بسبب ذلك. تظل حركة تمرد العاملين في Google نشطة ومشتركة للغاية.

في الوقت نفسه ، من المهم إدراك مدى تأثير حركة عمال Google. أصبح هذا واضحا على الفور بعد بدء احتجاجات Google: توقفت إدارات التسويق في البنتاغون عن إصدار بيانات صحفية جديدة حول مشروع Maven الذي كان في وقت من الأوقات مثيرًا ، وفي النهاية "اختفى" المشروع بالكامل من الرؤية العامة التي سعى إليها في وقت سابق. بدلاً من ذلك ، بدأت مبادرة ذكاء اصطناعية جديدة وأكبر بكثير في الظهور من غدرا للبنتاغون مجلس ابتكار الدفاع.

كان هذا يسمى مشروع JEDI، اسم جديد للبنتاغون ينفق على الأسلحة المتطورة. سينفق مشروع JEDI أموالًا أكثر من مشروع Maven ، لكن الحملة الدعائية للمشروع الجديد (نعم ، ينفق الجيش الأمريكي الكثير من الوقت والاهتمام على الدعاية والتسويق) كان مختلفا جدا عن سابقتها. اختفت جميع صور "المرآة السوداء" الأنيقة والمثيرة. الآن ، بدلاً من التركيز على أهوال الديستوبيا المثيرة والسينمائية التي يمكن أن تطلقها الطائرات بدون طيار والتي يمكن أن تلحق بالبشر ، أوضح Project JEDI نفسه على أنه خطوة واقعية إلى الأمام من أجل الكفاءة ، حيث يجمع بين مختلف قواعد البيانات السحابية من أجل مساعدة "مقاتلي الحرب" يعمل موظفو الخط الأمامي) وفرق دعم المكاتب الخلفية على زيادة فعالية المعلومات. حيث تم تصميم Project Maven ليبدو مثيرًا ومستقبليًا ، فقد تم تصميم Project JEDI ليبدو معقولًا وعمليًا.

لا يوجد شيء معقول أو عملي حول السعر الخاص بـ Project JEDI. إنه أكبر عقد للبرمجيات العسكرية في تاريخ العالم: 10.5 مليار دولار. تتلألأ أعيننا عندما نسمع عن جداول الإنفاق العسكري ، ويمكننا تخطي الفرق بين الملايين والمليارات. من الضروري فهم حجم مشروع JEDI الأكبر من أي مبادرة برمجية سابقة للبنتاغون. إنها لعبة تغيير ، محرك يدر الثروة ، شيكاً فارغاً للربح على حساب دافعي الضرائب.

إنه يساعد على الخدش تحت سطح البيانات الصحفية الحكومية عند محاولة فهم إنفاق عسكري بشيك على بياض يصل إلى 10.5 مليار دولار. يمكن الحصول على بعض المعلومات من منشورات الجيش نفسه ، مثل المنشورات المزعجة أغسطس 2019 مقابلة مع مركز الذكاء الاصطناعي المشترك الفريق جاك شاناهان، شخصية رئيسية في كل من مشروع Maven المختفي والمشروع الجديد JEDI. تمكنت من الحصول على مزيد من المعلومات حول كيفية تفكير المطلعين على صناعة الدفاع في مشروع JEDI من خلال الاستماع إلى بودكاست صناعة الدفاع يسمى "المشروع 38: مستقبل التعاقدات الحكومية". غالبًا ما يتحدث ضيوف البودكاست بصراحة ودون خجل عن أي موضوع يناقشونه. "سيشتري الكثير من الناس حمامات سباحة جديدة هذا العام" كان نموذجيًا للدردشة الداخلية لهذا البودكاست حول مشروع JEDI. نحن على يقين من أنهم سيكونون كذلك.

هذا هو الشيء الرائع الذي يرتبط بمبادئ الذكاء الاصطناعي في Google. كان المرشحون الثلاثة الواضحون لعقد JEDI الضخم بقيمة 10.5 مليار دولار هم Google و Amazon و Microsoft - بهذا الترتيب ، بناءً على سمعتهم كمبتكرين في مجال الذكاء الاصطناعي. بسبب احتجاج العمال ضد Project Maven في عام 2018 ، كانت شركة Google الرائدة في مجال الذكاء الاصطناعي خارج الاعتبار لمشروع JEDI الأكبر بكثير في عام 2019. في أواخر عام 2019 ، أُعلن أن العقد ذهب إلى Microsoft. تبع ذلك موجة من التغطية الإخبارية ، لكن هذه التغطية ركزت بشكل أساسي على التنافس بين أمازون ومايكروسوفت ، وعلى حقيقة أن مايكروسوفت التي احتلت المركز الثالث ربما سُمح لها بالفوز على المركز الثاني أمازون للفوز بسبب معارك إدارة ترامب المستمرة مع واشنطن بوست ، التي يملكها جيف بيزوس من أمازون. تتجه أمازون الآن إلى المحكمة لمحاربة هدية البنتاغون البالغة 3 مليار دولار لمايكروسوفت ، وتقاضي شركة أوراكل أيضًا. الملاحظة المحددة من بودكاست Project 2 المذكورة أعلاه - "سيشتري الكثير من الناس حمامات سباحة جديدة هذا العام" - لا تشير فقط إلى نعمة Microsoft المالية ولكن أيضًا إلى جميع المحامين الذين سيشاركون في هذه الدعاوى القضائية. يمكننا على الأرجح أن نخمن أن أكثر من 10.5٪ من 38 مليار دولار من مشروع JEDI ستذهب إلى المحامين. سيء للغاية لا يمكننا استخدامه للمساعدة انهاء الجوع في العالم بدلا من ذلك.

سيطر الخلاف حول ما إذا كان تحويل أموال دافعي الضرائب إلى مقاولين عسكريين مفيدًا لشركة Microsoft أو Amazon أو Oracle على التغطية الإخبارية لمشروع JEDI. الرسالة الإيجابية الوحيدة التي يجب استخلاصها من هذا الكسب غير المشروع الفاحش - حقيقة أن Google قد ابتعدت عن أكبر عقد للبرامج العسكرية في تاريخ العالم بسبب احتجاج العمال - لم تكن موجودة تقريبًا في التغطية الإخبارية لمشروع JEDI.

لهذا السبب كان من المهم سرد هذه القصة للناشطين الذين يركزون على التكنولوجيا والذين اجتمعوا في غرفة مزدحمة في وسط مانهاتن الأسبوع الماضي للحديث عن كيف يمكننا إنقاذ كوكبنا ، وكيف يمكننا محاربة التضليل وتسييس علوم المناخ ، كيف يمكننا مواجهة القوة الهائلة لأرباح الوقود الأحفوري ومربحي الأسلحة. في هذه القاعة الصغيرة ، بدا لنا جميعًا أننا ندرك أبعاد المشكلة التي نواجهها ، والدور الحاسم الذي يجب أن نبدأ به نحن أنفسنا. مجتمع التكنولوجيا لديه قوة كبيرة. مثلما يمكن أن تحدث حملات إزالة الاستثمارات فرقًا حقيقيًا ، يمكن أن تحدث ثورات عمال التكنولوجيا فرقًا حقيقيًا. هناك العديد من الطرق التي يمكن أن يبدأ بها نشطاء التغير المناخي ونشطاء تمرد العمال ونشطاء مناهضون للحرب العمل معًا ، وسنفعل ذلك بكل طريقة ممكنة.

لقد بدأنا بداية تبعث على الأمل في هذا التجمع ، الذي بدأه بشكل مفيد انقراض تمرد مدينة نيويورك و العالم لا يستطيع الانتظار. هذه الحركة سوف تنمو - يجب أن تنمو. إساءة استخدام الوقود الأحفوري هو محور تركيز المحتجين على تغير المناخ. إن إساءة استخدام الوقود الأحفوري هي أيضًا الدافع الأساسي للربح للإمبريالية الأمريكية والنتيجة الرهيبة الأساسية لأنشطة الجيش الأمريكي المتضخمة التبذير. في الواقع ، يبدو أن الجيش الأمريكي كذلك أسوأ ملوث واحد في العالم. هل يمكن للعاملين في مجال التكنولوجيا استخدام قوتنا التنظيمية لتحقيق انتصارات أكثر تأثيرًا من انسحاب Google من Project JEDI؟ يمكننا ويجب علينا. كان اجتماع مدينة نيويورك الأسبوع الماضي مجرد خطوة صغيرة إلى الأمام. يجب أن نفعل المزيد ، ويجب أن نقدم لحركتنا الاحتجاجية المشتركة كل ما لدينا.