توسط مارک الیوت استین ، 10 فوریه 2020

من اخیراً از طرف من دعوت شده بودم كه در یك گردهمایی شورش انقراض در نیویورك صحبت كنم World BEYOND War. این رویداد به منظور گرد هم آوردن سه گروه اقدام طراحی شده است: فعالان تغییر اقلیم ، جمعی از کارگران فناوری و فعالان ضد جنگ. ما با یک حساب شخصی تحریک کننده از هوآو فعال کنونی تغییر اوضاع و احوال شروع کردیم ، که به جمعیت نیویورکی ها درباره یک تجربه هشدار دهنده که چند تا از ما از آن روبرو بود گفتیم: بازگشت به خانه خانواده او در هانوی ، ویتنام ، جایی که افزایش گرما پیاده روی در خارج از ساعات اوج تابش نور خورشید تقریبا غیرممکن شده است. معدود آمریکایی ها نیز از این موضوع آگاهی دارند 2016 فاجعه آلودگی آب در Ha Tinh در مرکز ویتنام. هار تأکید کرد ، ما اغلب از تغییرات آب و هوا به عنوان یک مشکل بالقوه در ایالات متحده صحبت می کنیم ، اما در ویتنام می بیند که زندگی و معیشت او را مختل کرده است و به سرعت بدتر می شود.

نیک موتور KnowDrones.org با همان فوریت مشابه در مورد سرمایه گذاری گسترده اخیر ارتش آمریكا در زمینه هوش مصنوعی آینده نگرانه و رایانش ابری صحبت كرد - و بر نتیجه گیری خود ارتش تأكید كرد كه استقرار سیستم های AI در مدیریت سلاح های هسته ای و جنگ هواپیماهای بدون سرنشین به طور حتم منجر به خطاهایی در ابعاد غیر قابل پیش بینی خواهد شد. ویلیام بکلر از شورش انقراض NYC به دنبال توضیح اصول سازماندهی این سازمان مهم و سریع در حال اجرا ، از جمله اقدامات مختل کننده طراحی شده برای افزایش آگاهی از اهمیت حیاتی تغییرات آب و هوا. ما از نماینده شهر نیویورک از ائتلاف کارگران فناوری، و من سعی کردم با صحبت در مورد یک عمل شورش کارگران فناوری که به طور غیر منتظره ای موفقیت آمیز بود ، تجمع را به سمت احساس قدرت عملی عملی معطوف کنم.

این در آوریل سال 2018 بود ، هنگامی که به اصطلاح "صنعت دفاعی" در مورد پروژه Maven ، یک ابتکار عمل نظامی جدید ایالات متحده برای توسعه قابلیت های هوش مصنوعی برای هواپیماهای بدون سرنشین و سایر سیستم های تسلیحاتی ، تبلیغاتی گسترده می کرد. گوگل ، آمازون و مایکروسافت همه برای پرداخت مشتریان از سیستم عامل هوش مصنوعی خارج از قفسه ارائه می دهند و گوگل به عنوان برنده احتمالی قرارداد نظامی Project Maven شناخته می شود.

در اوایل سال 2018 ، کارگران گوگل شروع به صحبت کردند. آنها درک نکرده اند که چرا شرکتی که آنها را به عنوان کارمند با تعهد "نکن شر" استخدام کرده بود ، اکنون در حال پیشنهاد دادن پروژه های نظامی بود که احتمالاً شبیه به اپیزود وحشتناک "آینه سیاه" است که در آن سگهای مکانیکی با هوش مصنوعی انسان را رها می کنند. موجودات به مرگ آنها در رسانه های اجتماعی و رسانه های خبری سنتی صحبت کردند. آنها اقدامات خود را ترتیب داده و طومارهایی را منتشر کردند و خود را شنیدند.

این شورش کارگران پیدایش جنبش شورش کارگران گوگل بود و به تقویت بقیه مجموعه های کارگران فناوری کمک کرد. اما نکته حیرت انگیز در مورد اعتراض داخلی گوگل به Project Maven این نبود که کارگران فن آوری صحبت می کردند. حیرت آور ترین چیز این است مدیریت Google به خواسته کارگران تسلیم شد.

دو سال بعد ، این واقعیت هنوز مرا متحیر می کند. من بسیاری از مشکلات اخلاقی را در دهه های خود به عنوان یک کارگر فناوری دیده ام ، اما بندرت دیده ام که یک شرکت بزرگ به طور قاطع موافقت کرده است که مشکلات اخلاقی را به روشی چشمگیر حل کند. نتیجه شورش گوگل علیه Project Maven ، انتشار مجموعه ای از اصول هوش مصنوعی بود که ارزش چاپ مجدد در اینجا را دارند:

هوش مصنوعی در Google: اصول ما

گوگل آرزو دارد فناوریهایی بسازد که مشکلات مهم را برطرف کند و به افراد در زندگی روزمره خود کمک کند. ما در مورد پتانسیل باورنکردنی هوش مصنوعی و سایر فن آوری های پیشرفته برای توانمند سازی مردم ، بهره‌مندی از نسلهای فعلی و آینده ، و کار برای منافع عمومی خوش بین هستیم.

اهداف برنامه های AI

ما برنامه های AI را با توجه به اهداف زیر ارزیابی خواهیم کرد. ما معتقدیم که AI باید:

1. از نظر اجتماعی سودمند باشید.

دستیابی گسترده به فن آوری های جدید به طور فزاینده ای جامعه را لمس می کند. پیشرفت های هوش مصنوعی در طیف وسیعی از زمینه ها ، از جمله مراقبت های بهداشتی ، امنیتی ، انرژی ، حمل و نقل ، ساخت و سرگرمی ، تأثیرات تحول آمیز خواهد داشت. همانطور که ما توسعه و کاربردهای بالقوه فن آوری های هوش مصنوعی را در نظر می گیریم ، طیف گسترده ای از عوامل اجتماعی و اقتصادی را در نظر خواهیم گرفت و به جایی ادامه خواهیم داد که معتقدیم مزایای کلی احتمالی قابل ملاحظه ای فراتر از خطرات و خطرات قابل پیش بینی است.

هوش مصنوعی همچنین توانایی ما در درک معنای محتوا را در مقیاس افزایش می دهد. ما تلاش خواهیم کرد تا با استفاده از هوش مصنوعی ، اطلاعاتی با کیفیت بالا و دقیق را به آسانی در دسترس قرار دهیم ، در حالی که همچنان در کشورهایی که فعالیت می کنیم به احترام به هنجارهای فرهنگی ، اجتماعی و حقوقی بپردازیم. و ما همچنان به ارزیابی متفکرانه ادامه خواهیم داد که چه زمانی فناوری های خود را بر اساس مبنای غیرتجاری در دسترس قرار دهیم.

2. از ایجاد یا تقویت تعصب ناعادلانه خودداری کنید.

الگوریتم ها و مجموعه داده های AI می توانند منعکس کننده ، تقویت یا کاهش سوگیری های ناعادلانه باشند. ما می دانیم که تمایز منصفانه از تعصبات ناعادلانه همیشه ساده نیست و در فرهنگ ها و جوامع متفاوت است. ما به دنبال جلوگیری از تأثیرات ناعادلانه بر افراد ، به ویژه موارد مرتبط با خصوصیات حساس مانند نژاد ، قومیت ، جنسیت ، ملیت ، درآمد ، گرایش جنسی ، توانایی و عقیده سیاسی یا مذهبی خواهیم بود.

3. ساخته شده و برای ایمنی آزمایش شود.

ما برای جلوگیری از نتایج ناخواسته که خطرات آسیب ایجاد می کنند ، ما به توسعه و اعمال ایمنی و ایمنی قوی ادامه خواهیم داد. ما سیستم های هوش مصنوعی خود را به گونه ای محتاطانه طراحی خواهیم کرد و به دنبال توسعه آنها مطابق با بهترین شیوه ها در تحقیقات ایمنی هوش مصنوعی هستیم. در موارد مناسب ، ما فناوری های هوش مصنوعی را در محیط های محدود آزمایش خواهیم کرد و عملکرد آنها را پس از استقرار کنترل خواهیم کرد.

4- در برابر مردم پاسخگو باشید.

ما سیستم های هوش مصنوعی را طراحی خواهیم کرد که فرصت های مناسبی برای بازخورد ، توضیحات مربوطه و درخواست تجدید نظر فراهم می کند. فن آوری های هوش مصنوعی ما تحت کنترل و کنترل مناسب انسان قرار می گیرند.

5- اصول طراحی حریم خصوصی را بگنجانید.

ما اصول حریم خصوصی خود را در توسعه و استفاده از فناوری های هوش مصنوعی خود گنجان خواهیم کرد. ما به شما امکان اخطار و رضایت را می دهیم ، معماری ها را با حمایت از حریم خصوصی تشویق می كنیم و شفافیت و كنترل مناسب را در مورد استفاده از داده ها ارائه خواهیم داد.

6. تأیید استانداردهای بالای تعالی علمی.

نوآوری فن آوری ریشه در روش علمی و تعهد به استعلام باز ، سخت گیری فکری ، صداقت و همکاری دارد. ابزارهای هوش مصنوعی این پتانسیل را دارند که قلمروهای جدیدی از تحقیقات علمی و دانش را در حوزه های حساس مانند زیست شناسی ، شیمی ، پزشکی و علوم محیطی باز کنند. ما در تلاش برای دستیابی به پیشرفت هوش مصنوعی ، به استانداردهای بالای تعالی علمی آرزو می کنیم.

ما با طیف وسیعی از ذینفعان برای ارتقاء رهبری متفکر در این زمینه همکاری خواهیم کرد و رویکردهای علمی سختگیرانه و چند رشته ای را ترسیم خواهیم کرد. و ما با انتشار مطالب آموزشی ، بهترین شیوه ها و تحقیقاتی که به افراد بیشتری امکان می دهد برنامه های کاربردی مفید هوش مصنوعی را تولید کنند ، با مسئولیت پذیری دانش AI را به اشتراک خواهیم گذاشت.

7. برای مصارف مطابق با این اصول در دسترس قرار گیرد.

بسیاری از فناوری ها کاربردهای مختلفی دارند. ما برای محدود کردن برنامه های بالقوه مضر یا سوءاستفاده تلاش خواهیم کرد. با توسعه و استقرار فناوری های هوش مصنوعی ، با توجه به عوامل زیر ، موارد احتمالی را ارزیابی خواهیم کرد:

• هدف اصلی و استفاده: هدف اصلی و استفاده احتمالی از یک فناوری و برنامه ، از جمله چگونگی ارتباط این راه حل با استفاده مضر و یا سازگار است
• طبیعت و منحصر به فرد بودن: چه فن آوری منحصر به فرد و چه به طور کلی در دسترس است
• مقیاس: آیا استفاده از این فناوری تأثیر قابل توجهی خواهد داشت یا خیر
• ماهیت درگیری Google: خواه ما ابزارهای عمومی ، ابزارهای تلفیقی برای مشتریان یا ارائه راه حلهای سفارشی را ارائه می دهیم

برنامه های AI که ما دنبال نمی کنیم

علاوه بر اهداف فوق ، ما هوش مصنوعی را در زمینه های برنامه زیر ایجاد نخواهیم کرد.

1. فن آوری هایی که باعث می شوند یا احتمالاً آسیب کلی دارند. در صورت وجود خطر مضر برای آسیب ، ما فقط در جائی که اعتقاد داشته باشیم مزایا از خطرات بالاتر است و محدودیتهای ایمنی مناسبی را در پیش خواهیم گرفت ، پیش می رویم.
2. سلاح ها یا فن آوری های دیگری که هدف اصلی یا اجرای آنها ایجاد یا تسهیل مستقیم آسیب ها به مردم است.
3. فن آوری هایی که اطلاعات را برای نظارت بر نقض هنجارهای پذیرفته شده بین المللی جمع آوری یا استفاده می کنند.
4. فن آوری هایی که هدف آنها مغایر با اصول پذیرفته شده حقوق بین الملل و حقوق بشر است.

هرچه تجربه ما در این فضا عمیق تر شود ، این لیست ممکن است تکامل یابد.

نتیجه

ما معتقدیم این اصول پایه و اساس مناسبی برای شرکت ما و توسعه آینده AI ما است. ما تأیید می کنیم که این منطقه پویا و در حال تحول است و ما با فروتنی ، تعهد به تعامل درونی و خارجی و تمایل به سازگاری رویکردمان با یادگیری با گذشت زمان ، به کار خود نزدیک خواهیم شد.

این نتیجه مثبت ، غول فناوری گوگل را از همدستی در مناطق دیگر مورد نگرانی عمده ، مانند پشتیبانی از ICE ، پلیس و سایر فعالیت های نظامی ، جمع آوری و فروش دسترسی به اطلاعات خصوصی درباره افراد ، پنهان کردن اظهارات سیاسی بحث برانگیز از نتایج موتور جستجو ، خلاص نمی کند. و از همه مهمتر ، اجازه می دهد تا کارمندان خود به صحبت در مورد این مسائل و مسائل دیگر ادامه دهند بدون اینکه به خاطر این کار اخراج شوند. جنبش شورش کارگران Google همچنان فعال و بسیار درگیر است.

در عین حال ، شناختن اینکه جنبش کارگران Google چقدر تأثیرگذار بود ، مهم است. این بلافاصله پس از آغاز اعتراضات Google آشکار شد: ادارات بازاریابی پنتاگون انتشار انتشار مطبوعات جدید در مورد پروژه یک بار هیجان انگیز Maven را متوقف کردند و سرانجام پروژه "کاملاً ناپدید" از دید عموم مردم که قبلاً در پی آن بود. در عوض ، یک ابتکار جدید و بسیار بزرگتر از هوش مصنوعی از موذی پنتاگون ظهور کرد هیئت نوآوری دفاعی.

به این نامیده شد پروژه JEDIنام جدیدی برای هزینه های پنتاگون برای هزینه سلاح های برش خورده است. پروژه JEDI بسیار بیشتر از پروژه Maven هزینه خواهد کرد ، اما تبلیغات گسترده برای این پروژه جدید (بله ، ارتش ایالات متحده خرج می کند خیلی توجه زمان و توجه به تبلیغات و بازاریابی) با مورد قبلی بسیار متفاوت بود. تمام تصاویر براق و سکسی "آینه سیاه" از بین رفت. پروژه JEDI ، به جای تأکید بر وحشتهای هیجان انگیز و سینمایی ناپایدار هواپیماهای بدون سرنشین ممکن است به انسان آسیب برساند ، پروژه JEDI خود را به عنوان یک گام هوشیار به جلو برای کارآیی ، ترکیب پایگاه های داده های ابری مختلف برای کمک به "جنگجویان" توصیف کرد (اصطلاح مورد علاقه پنتاگون برای پرسنل خط مقدم) و تیم های پشتیبانی پشتیبان از اثربخشی اطلاعات حداکثر می کنند. از آنجا که Project Maven به نظر می رسد هیجان انگیز و آینده نگر باشد ، پروژه JEDI برای به نظر رسیدن معقول و کاربردی طراحی شده است.

هیچ چیز معقول و عملی در مورد برچسب قیمت پروژه JEDI وجود ندارد. این بزرگترین قرارداد نرم افزار نظامی در تاریخ جهان است: 10.5 میلیارد دلار. بسیاری از چشمان ما وقتی می شنویم درباره مقیاس هزینه های نظامی می لرزیم ، می توانیم تفاوت بین میلیونها و میلیاردها را از بین ببریم. درک این مسئله که پروژه JEDI بزرگتر از هر ابتکار عمل قبلی نرم افزار پنتاگون بسیار مهم است. این یک تعویض بازی ، یک موتور تولید ثروت ، یک چک خالی برای سودآوری با هزینه مالیات دهنده است.

این امر به خراشیدن زیر سطح انتشارات مطبوعاتی دولت هنگام تلاش برای درک یک چک سفید مخارج نظامی به اندازه 10.5 میلیارد دلار کمک می کند. برخی اطلاعات را می توان از طریق انتشارات خود ارتش به دست آورد ، مانند نگران کننده مصاحبه اوت 2019 با ستوان مشترک مرکز هوش مصنوعی جک شاناهان، یک شخصیت مهم در هر دو پروژه ناپدید شده Maven و پروژه جدید JEDI است. من توانستم با گوش دادن به پادکست صنعت دفاعی موسوم به "پروژه 38: آینده پیمانکاری دولت". مهمانان پادکست غالباً در مورد هر موضوعی که بحث می کنند صریح و بی ادعا صحبت می کنند. "بسیاری از مردم در سال جاری استخرهای شنای جدید خریداری می کنند" نمونه ای از گفتگوی خودی این پادکست در مورد پروژه JEDI بود. مطمئن هستیم که خواهند شد.

در اینجا نکته قابل توجهی وجود دارد که به اصول هوش مصنوعی گوگل برمی گردد. سه پیشرو مشهور قرارداد عظیم JEDI به ارزش 10.5 میلیارد دلار می توانستند گوگل ، آمازون و مایکروسافت باشند - به این ترتیب ، بر اساس شهرت آنها به عنوان مبتکران هوش مصنوعی. به دلیل اعتراض کارگران به Project Maven در سال 2018 ، Google رهبر AI از پروژه JEDI بسیار بزرگتر در سال 2019 چشم پوشی کرد. در اواخر سال 2019 ، اعلام شد که قرارداد به مایکروسافت رسیده است. انبوهی از اخبار به دنبال داشت ، اما این پوشش عمدتا بر روی رقابت آمازون و مایکروسافت و این واقعیت بود که به دلیل جنگهای مداوم دولت ترامپ با واشنگتن پست ، مایکروسافت در مقام سوم مایکروسافت مجاز به پیروزی در رتبه 3 آمازون بود. که متعلق به جف بزوس آمازون است. آمازون اکنون برای مبارزه با هدیه 2 میلیارد دلاری پنتاگون به مایکروسافت به دادگاه می رود و اوراکل نیز شکایت کرده است. اظهار نظر ویژه از پادکست پروژه 10.5 که در بالا ذکر شد - "بسیاری از افراد در سال جاری استخرهای شنای جدید خریداری می کنند" - نه تنها به مزیت مالی مایکروسافت بلکه به تمام وکلائی که در این دادخواست ها شرکت خواهند کرد اشاره داشت. احتمالاً می توانیم حدس بزنیم که بیش از 38٪ از مبلغ 3 میلیارد دلار پروژه JEDI به وکلا اختصاص خواهد یافت. حیف است که ما نمی توانیم از آن برای کمک استفاده کنیم پایان گرسنگی جهانی به جای آن.

اختلاف بر سر اینکه آیا این انتقال پول مودیان به پیمانکاران نظامی باید به نفع مایکروسافت ، آمازون یا اوراکل باشد ، بر پوشش خبری پروژه JEDI حاکم است. پیام مثبتی که می توان از این پیوند ناپسند دریافت کرد - این واقعیت که گوگل به دلیل اعتراض کارگران از بزرگترین قرارداد نرم افزاری نظامی در تاریخ جهان فاصله گرفته است - در پوشش خبری پروژه JEDI عملاً وجود نداشته است. 

به همین دلیل مهم است که این داستان را به فعالان متمرکز فناوری که هفته گذشته در یک اتاق شلوغ در شهر میانه مانهتن جمع شده بودند ، برای گفتگو درمورد اینکه چگونه می توان سیاره مان را نجات داد ، چگونه می توانیم با ضد اطلاعات و سیاسی کردن علم آب و هوا مبارزه کنیم ، صحبت کنیم. چگونه می توانیم در برابر قدرت عظیم سودجویان فسیلی و سودجویان سلاح ایستادگی کنیم. در این اتاق كوچك ، همه ما به نظر می رسید كه ابعاد مشكلی را كه ما با آن روبرو بودیم ، درک می كردیم و نقش اساسی كه خود ما باید شروع به بازی كنیم. جامعه فناوری قدرت قابل توجهی دارد. درست همانطور که کمپین های واگذاری می توانند یک تغییر واقعی ایجاد کنند ، شورش کارگران فناوری می تواند تفاوت واقعی ایجاد کند. بسیاری از فعالان تغییر آب و هوا ، فعالان شورشی کارگران فناوری و فعالان ضد جنگ می توانند با هم همکاری کنند و ما به هر طریق ممکن این کار را خواهیم کرد.

ما با این گردهمایی که به کمک آن آغاز شده بود ، امیدوارم شروع کنیم انقراض شورش NYC و جهان نمی تواند صبر کند. این حرکت رشد خواهد کرد - باید رشد کند. سو abuse استفاده از سوخت های فسیلی مورد توجه معترضان به تغییر اوضاع است. سو abuseاستفاده از سوخت های فسیلی همچنین انگیزه اصلی سودآوری امپریالیسم ایالات متحده و هم نتیجه اصلی وحشتناک فعالیت های بی ثمر نفخ ارتش آمریكا است. در واقع ، ارتش ایالات متحده به نظر می رسد تنها بدترین آلاینده جهان. آیا کارگران فناوری می توانند از قدرت سازماندهی ما برای پیروزی ها حتی تأثیرگذارتر از خروج گوگل از پروژه JEDI استفاده کنند؟ ما می توانیم و باید. هفته گذشته نشست نیویورک سیتی فقط یک قدم کوچک به جلو بود. ما باید کارهای بیشتری انجام دهیم ، و باید به جنبش اعتراض آمیز خود هر آنچه را که بدست آورده ایم ، بدهیم.

مارک الیوت استین مدیر فناوری و رسانه های اجتماعی است World BEYOND War.

عکس توسط گرگوری شووداک.