Искусственная Мораль

Роберт К. Келер, март 14, 2019

Искусственный интеллект - это одно. Искусственная мораль - это другое. Это может звучать примерно так:

«Во-первых, мы верим в сильную защиту Соединенных Штатов и хотим, чтобы люди, защищающие их, имели доступ к лучшим технологиям страны, в том числе от Microsoft».

Это слова президента Microsoft Брэд СмитПрошлой осенью он писал в корпоративном блоге в защиту нового контракта компании с армией США на сумму $ 479 млн. на создание гарнитур дополненной реальности для использования в боевых условиях. По словам представителя Министерства обороны, гарнитуры, известные как Интегрированная система визуального усиления, или IVAS, - это способ «увеличить летальность», когда военные поражают противника. Участие Microsoft в этой программе вызвало волну возмущения среди сотрудников компании, причем более ста из них подписали письмо высшему руководству компании с требованием расторгнуть договор.

«Мы - глобальная коалиция Работники Microsoftи мы отказываемся создавать технологии для войны и угнетения. Мы встревожены тем, что Microsoft работает над тем, чтобы предоставлять вооруженные технологии вооруженным силам США, помогая правительству одной из стран «повысить летальность» с помощью созданных нами инструментов. Мы не подписывались на разработку оружия, и мы требуем права голоса при использовании нашей работы ».

Вау, слова совести и надежды. Более глубокая история во всем этом - обычные люди, использующие свою силу для формирования будущего и отказывающиеся увеличить его смертность.

С этим контрактом, говорится в письме, Microsoft «перешла черту в разработке оружия. , , , Применение HoloLens в системе IVAS помогает людям убивать. Он будет развернут на поле битвы и работает, превращая войну в симулированную «видеоигру», еще больше отдаляя солдат от мрачных кольев войны и реальности кровопролития ».

Это восстание было тем, на что Смит отвечал, когда говорил, что верит в «сильную защиту», подразумевая, что моральные клише, а не деньги, являются тем, что определяет решения крупных корпораций или, по крайней мере, этой конкретной крупной корпорации. Каким-то образом его слова, которые он пытался передать как размышляющие и глубоко продуманные, неубедительны - не в сочетании с оборонным контрактом стоимостью почти полмиллиарда долларов.

Смит продолжает, признавая, что ни одно учреждение, в том числе военное, не является идеальным, но подчеркивая, что «ясно одно. Миллионы американцев служили и сражались в важных и справедливых войнах », выбирая такие похвалы старины, как Гражданская война и Вторая мировая война, где усиленная смертность Америки освободила рабов и освободила Европу.

Удивительно, но тон его поста в блоге не высокомерен по отношению к сотрудникам - делайте то, что вам говорят, или вы уволены, - скорее, мягко успокаивая, похоже, показывая, что власть здесь не сосредоточена на верхних уровнях управление. Microsoft проявляет гибкость: «Как всегда, если наши сотрудники хотят работать в другом проекте или команде - по любой причине - мы хотим, чтобы они знали, что мы поддерживаем мобильность талантов».

Сотрудники, подписавшие письмо, требовали расторжения договора об обороне. Смит предложил свою личную совесть: давай, присоединяйся к другой команде, если не хочешь переходить черту и работай над разработкой оружия. Microsoft награждает сотрудников множеством моральных убеждений!

Искусственный интеллект - это высокотехнологичное явление, требующее очень сложного мышления. Искусственная мораль прячется за ближайшим клише в рабстве к деньгам.

То, что я вижу здесь, - это моральное пробуждение, борющееся за социально-политическую тягу: сотрудники стоят за нечто большее, чем просто личные интересы, в процессе, подталкивая руководство Big Tech думать не только о своей потребности в бесконечном потоке капитала, последствия будут прокляты.

Это происходит по всей стране. Движение просачивается: технология не будет его строить!

«Через технологическую индустрию» New York Times В октябре сообщалось, что «рядовые сотрудники требуют более глубокого понимания того, как их компании внедряют созданные ими технологии. В Google, Amazon, Microsoft и Salesforce, а также на технологических стартапах инженеры и технологи все чаще спрашивают, используются ли продукты, над которыми они работают, для наблюдения в таких местах, как Китай, или для военных проектов в Соединенных Штатах или где-либо еще. ,

«Это изменение по сравнению с прошлым, когда работники Кремниевой долины обычно разрабатывали продукты, не задавая вопросов о социальных затратах».

Что если бы моральное мышление - не в книгах и философских трактатах, а в реальном мире, как корпоративном, так и политическом, - было таким же большим и сложным, как техническое мышление? Он больше не мог прятаться за клише справедливой войны (и наверняка следующая, к которой мы готовимся, будет справедливой), но должен был бы оценить саму войну - все войны, включая войны последних 70 лет или около того, во всей полноте их издержек и последствий, а также смотреть в будущее, которое мы можем создать в зависимости от того, какие решения мы принимаем сегодня. Сложное моральное мышление не игнорирует необходимость выживания, в финансовом отношении или иным образом, в настоящий момент, но оно остается спокойным перед лицом этой потребности и рассматривает выживание как коллективное, а не конкурентное предприятие.

Моральная сложность называется миром. Нет такого понятия, как упрощенный мир.

Роберт Келер, синдицированный PeaceVoiceЧикаго, отмеченный наградами журналист и редактор. Его книга «Храбрость крепнет в ране» доступна. Свяжитесь с ним по адресу koehlercw@gmail.com или посетите его веб-сайте commonwonders.com.