Жасанды адамгершілік

Роберт Кохлер, наурыз 14, 2019

Жасанды интеллект бір нәрсе. Жасанды мораль - тағы бір. Бұл келесідей көрінуі мүмкін:

«Біріншіден, біз Құрама Штаттардың күшті қорғанысына сенеміз және біз оны қорғайтын адамдарға, ең үздік технологияға, оның ішінде Microsoft-нан шығу мүмкіндігіне ие болғымыз келеді».

Бұл Microsoft-тың президенті сөздері Брэд Смит, корпорацияның блогы өткен жылдың күзінде американдық әскермен $ 479 миллион доллар тұратын жаңа келісімшартты қорғау үшін шайқаста қолдануға болатын шындықты гарнитураларды жасау үшін жазды. Қорғаныс ведомствосының ресми өкілі мәлімдегендей, «Виртуалды көрнекі күшейту жүйесі» немесе «ИВАС» деп аталатын гарнитуралар әскери қызметшілердің жауды тартқан кезде «өлім-жітімді арттырады». Microsoft-тың осы бағдарламаға қатысуы компания қызметкерлерінің арасында ауыздықтау толқынын туғызды, олардың жүзден астамы келісімшарттың күшін жоюды талап етіп, компанияның жетекшілеріне хат жазды.

«Біз жаһандық коалициямыз Microsoft қызметкерлеріжәне біз соғыс пен қысымға қарсы технологияны жасаудан бас тартамыз. Біз АҚШ-тың қарулы күштеріне қару-жарақ техникасын қамтамасыз ету үшін жұмыс істеп жатқанымызды алаңдатып, бір ел үкіметін біз құрған құралдарды пайдалану арқылы өлтіруді арттыруға көмектеседі. Біз қаруды дамытуға қол қойған жоқпыз және біз жұмысымыздың қалай қолданылатындығын талап етеміз ».

Уа, ар-ұждан сөздер мен үміт. Осының бәрінде терең тарих - өз болашағын қалыптастыру және оның өлімін жоғалтудан бас тартқан қарапайым адамдар.

Осы келісімшартқа сәйкес, Microsoft компаниясы «қаруды дамытуға сызықты» өтіп кеткен. . . . ХолоЛенсті IVAS жүйесінде қолдану адамдарды өлтіруге көмектесуге арналған. Ол ұрыс алаңында орналасады және соғысты «бейнекамера» деп атайды, соғыстан кейінгі жауынгерлік жеңілдіктерден және қантөгістің шындықтарынан арылтады ».

Бұл көтеріліс, Смит «үлкен қорғанысқа» сенгенін айтқан кезде, үлкен корпорациялардың шешімдерін немесе кем дегенде осы ірі корпорацияны басқаратын ақшаға қарағанда моральдық клишелерді білдіретініне жауап берді. Бірде ол рефлексиялық және терең ойлануға тырысқан сөздері, жарты миллиард долларға жуық қорғаныс шартына сәйкес келмеген кезде, сенімді емес.

Смит жалғастырып, ешбір мекеме, соның ішінде әскери, кемелді екенін мойындады, бірақ «бір нәрсе анық». Миллиондаған американдықтар маңызды және әділ соғыстарда қызмет етті және олар «азаматтық соғыс және Ұлы Отан соғысы секілді мәртебелі шыңдарды жинап алды, Америкада бұл өлім азапты құлды босатып, Еуропаны босатты.

Өзінің блог пішімінің тону қызметкерлерге қатысты тексерістен шықпайды - сіз айтқан нәрсені немесе жұмыстан босатыңыз, бірақ орнына мұнда қуаттың жоғарғы деңгейлерде шоғырланбағанын көрсетеді. басқару. Майкрософт икемді: «Біздің қызметкерлер әртүрлі жобалармен немесе командалармен жұмыс істеуді қаласа, біз әрқашан талантты мобильдікті қолдайтынымызды білеміз».

Хатқа қол қойған қызметкерлер Қорғаныс келісімшартының күшін жоюды талап етті. Смит өзінің жеке пікірін ұсынды: - Келіңіздер, егер сіз сызықты кесіп өтіп, қару-жарақты дамыту бойынша жұмыс істемесеңіз, басқа командаға қосылыңыз. Майкрософт қызметкерлері бірнеше моральдық сендіруге құрметпен қарайды!

Жасанды интеллект - өте күрделі ойлауды талап ететін жоғары технологиялы құбылыс. Ақшаға қызмет көрсетудегі ең жақын клишелерді жасанды мораль жасырады.

Мен мұнда көргенім әлеуметтік-саяси тартымдылық үшін моральдық ояту болып табылады: Қызметкерлер өздерінің жеке мүдделерінен гөрі үлкен нәрсе үшін, Үлкен Техникалық жезден астыртын капитал ағынына деген қажеттілік туралы ойлауға мәжбүрлеген үдерісінде лакап етіледі.

Бұл елде болып жатыр. Қозғалыс перколируют: Tech оны жасамайды!

«Технологиялық индустрияда» New York Times қазан айында хабарланғандай, «рейтингі бар қызметкерлер өз компаниялары салынған технологияны қалай қолданатынын білуді талап етеді. Google, Amazon, Microsoft және Salesforce компанияларында, сондай-ақ технологиялық жаңалықтарда, инженерлер мен технологтарда жұмыс істеп жатқан өнімдер Қытай сияқты жерлерде немесе Америка Құрама Штаттарында немесе басқа жерлерде әскери жобалар үшін пайдаланылып жатқандығы туралы жиі сұрайды. .

«Бұл Силикон алқабының қызметкерлері, әдетте, әлеуметтік шығындарға күмән келтірмейтін өнімдерді әзірлеген кезде өткеннен өзгереді».

Егер моральдық ойлау - кітаптар мен философиялық трактаттарда емес, нақты әлемде, корпоративтік де, саяси де болса - техникалық ойлау сияқты үлкен және күрделі болған ба? Ол әділ соғыстың клишелерінің артынан жасыра алмады (және, әрине, біз дайындаған келесі біреу әділ), бірақ соғысты өзі бағалауға тура келеді - барлық соғыстар, соның ішінде өткен 70 жыл немесе сол сияқты, шығындар мен зардаптардың толықтығы - сондай-ақ бүгінгі таңда қандай шешім қабылдағанымызға байланысты болашақ болашаққа үміт артуға тырысамыз. Кешенді моральдық ойлау қазіргі уақытта өмір сүру, қаржылай және өзгеше түрде қажеттілікке назар аудармайды, бірақ ол қажеттілік алдында тыныштықты сақтап қалады және бәсекеге қабілетті емес, ұжымда өмір сүруді көреді.

Моральдық күрделілік бейбітшілік деп аталады. Мұндай қарапайым бейбітшілік жоқ.

Роберт Кохлер, синдикатталған PeaceVoice, Чикагода марапатталған журналист және редактор. Оның жарғысында батылдық өсіп келе жатқаны туралы кітап бар. Бізбен хабарласыңыз koehlercw@gmail.com немесе оның веб-сайтына барыңыз commonwonders.com.