Артифициал Моралити

Роберт Ц. Коехлер, март КСНУМКС, КСНУМКС

Вештачка интелигенција је једна ствар. Вештачка моралност је друга. Можда звучи овако:

"Прво, верујемо у јаку одбрану Сједињених Држава и желимо да људи који је бране имају приступ најбољој националној технологији, укључујући и Мицрософт."

То су речи председника Мицрософта Брад СмитхПрошле јесени, на корпоративном блогу, писали су о новом уговору компаније са америчком војском, вредном $ КСНУМКС милиона, како би се направиле слушалице проширене стварности за употребу у борби. Слушалице, познате под именом Интегратед Висуал Аугментатион Систем, или ИВАС, су начин да се "повећа смртност" када војска ангажује непријатеља, према званичнику Министарства одбране. Учешће Мицрософта у овом програму изазвало је талас беса међу запосленима у компанији, а више од стотину њих потписало је писмо највишим руководиоцима компаније тражећи да се уговор поништи.

“Ми смо глобална коалиција Мицрософтови радници, а ми одбијамо да створимо технологију за ратовање и угњетавање. Забринути смо да Мицрософт ради на томе да обезбеди технологију оружја америчкој војсци, помажући влади једне земље да "повећа смртност" користећи алате које смо изградили. Нисмо се пријавили за развој оружја и тражимо да кажемо како се користи наш рад. ”

Вов, речи савести и наде. Дубља прича у свему томе је да обични људи остварују своју моћ да обликују будућност и одбијају да повећају њену смртност.

Са овим уговором, писмо се наставља, Мицрософт је “прешао границу у развој оружја. . . . Примена ХолоЛенса у оквиру ИВАС система је осмишљена да помогне људима да убијају. Она ће бити распоређена на бојном пољу и ради тако што ће ратовање претворити у симулирану видеоигру, "даље дистанцирати војнике од тмурних ратних ратова и стварности крвопролића."

Овај револт је био оно на шта је Смитх одговарао када је рекао да верује у "јаку одбрану", што имплицира да су морални клишеји, а не новац, оно што покреће одлуке великих корпорација, или бар ове велике корпорације. Некако његове речи, које је покушао да пренесе као рефлектујуће и дубоко размотрене, нису убедљиве - не када су супротстављене уговору о одбрани вредном скоро пола милијарде долара.

Смитх наставља, признајући да ниједна институција, укључујући војску, није савршена, али истиче да је “једна ствар јасна. Милиони Американаца су служили и борили се у важним и праведним ратовима, “одабирајући тако похваљене старе као што су Грађански рат и Други светски рат, где је америчка појачана смртност ослободила робове и ослободила Европу.

Фасцинантно, тон његовог поста на блогу није арогантан према запосленима - ради оно што вам је речено или сте отпуштени - али, радије, тихо умирујуће, чини се да указује на то да моћ овде није концентрисана на вишим нивоима. управљање. Мицрософт је флексибилан: "Као што је увијек случај, ако наши запосленици желе радити на другом пројекту или тиму - из било којег разлога - желимо да знају да подржавамо мобилност талената".

Запослени који су потписали писмо тражили су отказ уговора о одбрани. Смитх је понудио своју личну савест: Хајде, придружи се другом тиму ако не желиш да пређеш границу и радиш на развоју оружја. Мицрософт одаје почаст вишеструким моралним убеђењима!

Вештачка интелигенција је феномен високе технологије који захтева веома комплексно размишљање. Вештачки морал се крије иза најближег клишеа у ропству новца.

Оно што ја овде видим је морално буђење за друштвено-политичку вучу: Запослени стоје за нечим већим од чистих личних интереса, у процесу гурања Великог техничког духа да размишља изван њихове потребе за бескрајним протоком капитала, последице су проклет.

Ово се дешава широм земље. Покрет се прожима: Технологија га неће изградити!

"У технолошкој индустрији" Њујорк тајмс известили су у октобру, “рангирани запослени захтевају бољи увид у то како њихове компаније користе технологију коју су изградиле. На Гоогле-у, Амазон, Мицрософт и Салесфорце, као и на старт-уп технологијама, инжењери и технологи све више питају да ли се производи на којима се раде користе за надзор у местима као што су Кина или за војне пројекте у Сједињеним Државама или негдје другдје .

"То је промена у односу на прошлост, када радници у Силиконској долини обично развијају производе са мало питања о социјалним трошковима."

Шта ако је морално размишљање - не у књигама и филозофским трактима, него у стварном свијету, и корпоративном и политичком - било тако велико и сложено као техничко размишљање? Више није могла да се сакрије иза клишеа праведног рата (и сигурно је да ћемо следећи који се припремамо бити праведан), али би морао да процени сам рат - све ратове, укључујући и оне из прошлих КСНУМКС година или тако, у пунини њихових трошкова и посљедица - као и гледати у будућност коју бисмо могли створити, овисно о томе које одлуке доносимо данас. Сложено морално размишљање не игнорише потребу за преживљавањем, финансијски и на други начин, у садашњем тренутку, али остаје мирно суочено са том потребом и види опстанак као колективно, а не конкурентно предузеће.

Морална сложеност се назива мир. Не постоји таква ствар као што је поједностављени мир.

Роберт Коехлер, удружен ПеацеВоицеје новинар и уредник у Чикагу. Његова књига "Храброст расте на рани" је доступна. Контактирајте га коехлерцв@гмаил.цом или посетите његов сајт на цоммонвондерс.цом.