Moralité Artificielle

Par Robert C. Koehler, mars 14, 2019

L'intelligence artificielle est une chose. La moralité artificielle en est un autre. Cela peut ressembler à quelque chose comme ça:

«Premièrement, nous croyons en la solide défense des États-Unis et nous voulons que les personnes qui le défendent aient accès à la meilleure technologie du pays, y compris celle de Microsoft.»

Ce sont les mots du président de Microsoft Brad Smith, écrivant sur un blog d'entreprise l'automne dernier pour défendre le nouveau contrat de l'entreprise avec l'armée américaine, d'une valeur de X $ 479, visant à fabriquer des casques à réalité augmentée destinés au combat. Selon un responsable du département de la Défense, les casques, connus sous le nom de système d’augmentation visuelle intégré (IVAS), permettent d’augmenter la létalité lorsque l’armée engage l’ennemi. La participation de Microsoft à ce programme a provoqué une vague d’indignation parmi les employés de la société. Plus d’une centaine d’entre eux ont signé une lettre aux dirigeants de la société pour demander l’annulation du contrat.

«Nous sommes une coalition mondiale de Travailleurs Microsoftet nous refusons de créer une technologie de guerre et d’oppression. Nous sommes alarmés par le fait que Microsoft s'emploie à fournir une technologie militaire à l'armée américaine, aidant ainsi le gouvernement d'un pays à "augmenter la létalité" à l'aide des outils que nous avons conçus. Nous ne nous sommes pas inscrits pour développer des armes et nous demandons notre avis sur la manière dont notre travail est utilisé. "

Wow, mots de conscience et d'espoir. L’histoire la plus profonde dans tout cela est que des gens ordinaires exercent leur pouvoir pour façonner l’avenir et refusent d’augmenter sa létalité.

Avec ce contrat, poursuit la lettre, Microsoft a «franchi la ligne du développement d'armes. . . . L'application de HoloLens dans le système IVAS est conçue pour aider les personnes à tuer. Il sera déployé sur le champ de bataille et fonctionnera en transformant la guerre en un "jeu vidéo" simulé, ce qui éloignera davantage les soldats des sombres enjeux de la guerre et de la réalité des effusions de sang. "

Smith répondait à cette révolte lorsqu'il affirmait croire à une «défense solide», ce qui impliquait que les clichés moraux, et non l'argent, sont le moteur des décisions des grandes entreprises, ou du moins de cette grande entreprise en particulier. D'une manière ou d'une autre, ses propos, qu'il a tenté de véhiculer de manière réfléchie et profondément réfléchie, ne sont pas convaincants - pas lorsqu'il est juxtaposé avec un contrat de défense d'une valeur de près d'un demi-milliard de dollars.

Smith poursuit en reconnaissant qu'aucune institution, y compris l'armée, n'est parfaite, mais soulignant qu '«une chose est claire. Des millions d'Américains ont servi et se sont battus dans des guerres importantes et justes », comme en témoignent des anciens glorieux comme la guerre civile et la Seconde Guerre mondiale, où la létalité accrue de l'Amérique a libéré des esclaves et libéré l'Europe.

Fascinant, le ton de son blog n’est pas arrogant à l’égard des employés - faites ce que l’on vous dit ou vous êtes viré - mais plutôt, tranquillement apaisant, semblant indiquer que le pouvoir ici n’est pas concentré aux niveaux supérieurs de la gestion. Microsoft est flexible: "Comme toujours, si nos employés veulent travailler sur un projet ou une équipe différente - pour une raison quelconque - nous voulons qu'ils sachent que nous soutenons la mobilité des talents."

Les employés qui ont signé la lettre ont demandé l'annulation du contrat de la Défense. Smith a lancé un appel à sa conscience personnelle: Allez, rejoignez une autre équipe si vous ne voulez pas dépasser les limites et travailler au développement d'armes. Microsoft honore les employés de multiples convictions morales!

L'intelligence artificielle est un phénomène de haute technologie qui nécessite une réflexion très complexe. La moralité artificielle se cache derrière le cliché le plus proche asservi à l'argent.

Ce que je vois ici, c’est un éveil moral qui se bat pour une force sociopolitique: les employés défendent des intérêts plus grands que leurs intérêts personnels, poussant les dirigeants de Big Tech à penser au-delà de leur besoin d’un flux de capitaux sans fin, les conséquences étant maudites.

Cela se produit partout au pays. Un mouvement s'infiltre: la technologie ne le construit pas!

«Dans l’industrie technologique», le   Selon un rapport publié en octobre, «les employés de base demandent plus d'informations sur la manière dont leur entreprise déploie la technologie mise au point. Chez Google, Amazon, Microsoft et Salesforce, ainsi que dans les start-up technologiques, ingénieurs et technologues demandent de plus en plus si les produits sur lesquels ils travaillent sont utilisés pour la surveillance dans des endroits comme la Chine ou pour des projets militaires aux États-Unis ou ailleurs. .

«C’est un changement par rapport au passé, lorsque les travailleurs de la Silicon Valley développaient généralement des produits sans trop s’interroger sur les coûts sociaux.»

Et si la pensée morale - non pas dans les livres et les traités philosophiques, mais dans le monde réel, tant corporatif que politique - était aussi vaste et complexe que la pensée technique? Il ne pouvait plus se cacher derrière le cliché de la guerre juste (et le prochain pour lequel nous nous préparons sera juste), mais devrait évaluer la guerre elle-même - toutes les guerres, y compris celles des années 70 précédentes, dans la plénitude de leurs coûts et de leurs conséquences - ainsi que vers l’avenir que nous pourrions créer, en fonction des décisions que nous prenons aujourd’hui. Une pensée morale complexe n'ignore pas le besoin de survivre, financièrement ou autrement, dans le moment présent, mais reste calme face à ce besoin et considère la survie comme une entreprise collective et non concurrentielle.

La complexité morale s'appelle la paix. La paix simpliste n'existe pas.

Robert Koehler, syndiqué par PeaceVoice, est un journaliste et rédacteur en chef primé à Chicago. Son livre, Le courage devient fort à la plaie est disponible. Contactez-le à koehlercw@gmail.com ou visitez son site Web à commonwonders.com.