اخلاق مصنوعی

توسط رابرت کوهلر، مارس 14، 2019

هوش مصنوعی یک چیز است. اخلاق مصنوعی یکی دیگر است. ممکن است چیزی شبیه به این باشد:

"اول، ما به دفاع قوی ایالات متحده اعتقاد داریم و ما می خواهیم افرادی که از آن دفاع می کنند، به بهترین تکنولوژی کشور، از جمله مایکروسافت، دسترسی داشته باشند."

این کلمات رئیس مایکروسافت است براد اسمیت، نوشتن در یک وبلاگ شرکتی در پاییز گذشته در دفاع از قرارداد جدید شرکت با ارتش ایالات متحده، به ارزش $ 479 میلیون، برای ایجاد هدست واقعیت افزوده برای استفاده در مبارزه است. به گفته یکی از مقامات وزارت دفاع، هدست، که به عنوان سیستم ارتقاء یکپارچه بصری شناخته می شود، یا IVAS، یک راه برای افزایش مرگ و میر است، زمانی که ارتش درگیر دشمن است. مشارکت مایکروسافت در این برنامه موجی از خشم را در میان کارمندان شرکت ایجاد کرد و بیش از صد نفر از آنها با امضای یک نامه به مدیران اجرایی شرکت خواستار لغو قرارداد شدند.

"ما یک ائتلاف جهانی هستیم کارکنان مایکروسافتو ما از ایجاد فن آوری برای جنگ و ستم رها می کنیم. ما مضطرب هستیم که مایکروسافت در تلاش است تا تکنولوژی سلاح را به ارتش آمریکا بسپارد و به یک دولت کشوری کمک می کند که از طریق ابزارهایی که ساخته ایم، "مرگ و میر" را افزایش دهد. ما برای توسعه سلاح ها ثبت نام نکردیم، و ما تقاضا می کنیم در مورد چگونگی کار ما استفاده کنیم. "

وای، کلمات وجدان و امید. داستان عمیق تر در همه این افراد عادی است که توانایی خود را برای شکل دادن به آینده و عدم رعایت مرگ و میر خود دارند.

این نامه با این قرارداد ادامه می یابد، مایکروسافت "از خط به توسعه سلاح ها عبور کرده است. . . . استفاده از HoloLens در سیستم IVAS برای کمک به کشتن مردم طراحی شده است. این در میدان جنگ مستقر خواهد شد و با تبدیل جنگ به یک بازی ویدئویی شبیه سازی شده، سربازان بیشتری را از نقاط ضعف جنگ و واقعیت خونریزی دور می کند.

این شورش همان چیزی است که اسمیت پاسخ داد وقتی که او به "دفاع قوی" اعتقاد داشت و این بدین معنی است که کلیشه های اخلاقی به جای پول، تصمیمات شرکت های بزرگ و یا حداقل این شرکت بزرگ را در اختیار دارند. به نوعی سخنان او، که او تلاش کرد تا به عنوان بازتاب و عمیقا در نظر گرفته شود، قانع کننده نیست - نه زمانی که با یک قرارداد دفاعی تقریبا نصف میلیارد دلار کنار هم قرار گرفته است.

اسمیت ادامه می دهد، تصدیق می کند که هیچ موسسه ای، از جمله ارتش، کامل نیست، اما اشاره می کند که "یک چیز روشن است. میلیون ها آمریکایی در جنگ های مهم و واقعی کار کرده اند و جنگیدند، "جنگل های قدیمی مانند جنگ های داخلی و جنگ جهانی دوم را کشف کردند، جایی که میزان مرگ و میر آمریكا برده ها را آزاد كرد و اروپا را آزاد كرد.

به طرز شگفت انگیزی، تن پست وبلاگ خود را به کارکنان متکی نیست - انجام آنچه که گفته شد و یا شما اخراج - اما، به جای آن، به آرامی قرار دادن، ظاهرا نشان می دهد که قدرت در اینجا در سطح بالایی از مدیریت. مایکروسافت انعطاف پذیر است: "همانطور که همیشه است، اگر کارکنان ما بخواهند به یک پروژه یا تیم دیگر بپردازند، به هر دلیلی، ما می خواهیم آنها را بدانیم که ما از تحرک استعداد پشتیبانی می کنیم."

کارکنانی که این نامه را امضا کردند، خواستار لغو قرارداد دفاع شدند. اسمیت وجدان شخصی خود را بیرون گذاشت: بیا، به تیم دیگری بپیوندید، اگر نمی خواهید از خط عبور کنید و در توسعه سلاح ها کار کنید. مایکروسافت کارکنان متقاعد کننده های متعدد اخلاقی را ستود!

هوش مصنوعی یک پدیده با تکنولوژی بالا است که نیاز به تفکر بسیار پیچیده دارد. اخلاق مصنوعی در پشت نزدیکترین کلیسای خدمت به پول است.

آنچه که من در اینجا می بینم، برانگیختن اخلاق بیداری اخلاقی برای کشمکش سیاسی اجتماعی است: کارکنان برای چیزی بیشتر از منافع شخصی خود ایستاده اند، در حالیکه فرآیند بزرگ Big Tech به فراتر رفتن از نیازشان به جریان بی پایان سرمایه، عواقب ناخوشایند است.

این اتفاق می افتد در سراسر کشور. جنبش نفوذ می کند: فناوری آن را ساخت نخواهد کرد!

"در صنعت فن آوری" نیویورک تایمز گزارش شده در ماه اکتبر، "کارکنان رتبه بندی می خواهند بینش بیشتری نسبت به نحوه استفاده از فن آوری های خود که آنها ساخته شده است. در گوگل، آمازون، مایکروسافت و Salesforce، و همچنین در راه اندازی های فناوری، مهندسان و تکنولوژیست ها به طور فزاینده ای از اینکه آیا محصولات مورد استفاده آنها برای نظارت در مکان هایی مانند چین یا پروژه های نظامی در ایالات متحده و یا جاهای دیگر مورد استفاده قرار می گیرد .

"این یک تغییر از گذشته است، زمانی که کارکنان دره سیلیکون به طور معمول محصولات خود را توسعه دادند و در مورد هزینه های اجتماعی کمی تحقیق کردند".

اگر تفکر اخلاقی - نه در کتاب ها و فلسفه ها، بلکه در دنیای واقعی، چه شرکت های سیاسی و چه سیاسی - به اندازه تفکر فنی بزرگ و پیچیده بود؟ این دیگر نمیتواند پشت کلاسی جنگ واقعی پنهان شود (و قطعا یکی دیگر که ما برای آماده شدن آماده میشویم)، اما باید خود را در جنگ بررسی کنیم - تمام جنگها، از جمله سالهای گذشته 70 یا بیشتر، در تمام هزینه ها و عواقب آن - و همچنین نگاهی به نوع آینده ای که ما می توانیم بوجود آورد، بستگی به تصمیماتی که امروز داریم، پیش می آید. تفکر پیچیده اخلاقی در حال حاضر نیاز به زنده ماندن، مالی و غیره را نادیده می گیرد، اما در مواجهه با آن نیازمند آرامش است و بقای آن را به مثابه جمعی و نه یک شرکت رقابتی می بیند.

پیچیدگی اخلاقی صلح نامیده می شود. چیزی مانند صلح ساده نیست.

رابرت کوهلر، سندیکا شده توسط PeaceVoiceیک خبرنگار و سردبیر برنده جایزه شیکاگو است. کتاب او، شجاعت قوی در زخم در دسترس است. با او تماس بگیرید koehlercw@gmail.com یا وبسایت خود را در مشترک wonders.com.