מוסר מלאכותי

מאת רוברט ג 'קוהלר, מרץ 14, 2019

בינה מלאכותית היא דבר אחד. המוסר המלאכותי הוא אחר. זה אולי נשמע משהו כזה:

"ראשית, אנו מאמינים בהגנה חזקה של ארצות הברית ואנחנו רוצים את האנשים להגן על זה יש גישה לטכנולוגיה הטובה ביותר של המדינה, כולל מצד מיקרוסופט."

אלה דבריו של נשיא מיקרוסופט בראד סמית, כותב על הבלוג הארגוני האחרון בסתיו להגנה על החוזה החדש של החברה עם צבא ארה"ב, בשווי $ 479 מיליון, כדי להפוך את אוזניות מציאות מוגברת לשימוש בלחימה. האוזניות, הידועה בשם "מערכת הגדלה משולבת ויזואלית" (IVAS), הן דרך "להגדיל את הקטלניות" כאשר הצבא עוסק באויב, על פי פקידה במשרד הביטחון. מעורבותה של מיקרוסופט בתוכנית זו עוררה גל של זעם בקרב עובדי החברה, כאשר למעלה ממאה מהם חתמו על מכתב למנהלי החברה, בדרישה לבטל את החוזה.

"אנחנו קואליציה גלובלית של עובדים של מיקרוסופט, ואנו מסרבים ליצור טכנולוגיה ללוחמה ולדיכוי. אנו מודאגים מכך שמיקרוסופט פועלת לספק טכנולוגיה של נשק לצבא ארה"ב, ומסייעת למדיניות של מדינה אחת להגביר את הקטלניות באמצעות כלים שבנינו. לא נרשם לפתח נשק, ואנחנו דורשים לומר איך עושים את העבודה שלנו ".

וואו, מילים של מצפון ותקווה. הסיפור העמוק יותר בכל זה הוא אנשים רגילים המפעילים את כוחם לעצב את העתיד ומסרב להגביר את הקטלניות שלו.

עם החוזה הזה, המכתב ממשיך, מיקרוסופט "חצה את הקו לתוך פיתוח נשק. . . . היישום של HoloLens בתוך מערכת IVAS נועד לעזור לאנשים להרוג. היא תתפרס בשדה הקרב ותפעל על ידי הפיכת לוחמה ל'משחק וידאו 'מדומה, להרחקת חיילים מהסיכונים הקודרים של המלחמה ומציאות שפיכות הדמים ".

המרד הזה היה מה שמגיב לו סמית כאשר הוא האמין ב"הגנה חזקה ", מה שמרמז שקלישאות מוסריות במקום כסף הן מה שמניעות את ההחלטות של תאגידים גדולים, או לפחות את התאגיד הגדול הזה. איכשהו, דבריו, שאותם ניסה להעביר כהרהורים ומעמיקים, אינם משכנעים - לא כשמתחברים עם חוזה הגנה בשווי של כמעט חצי מיליארד דולר.

סמית ממשיך, מודה כי אף מוסד, כולל הצבא, הוא מושלם, אך ציין כי "דבר אחד ברור. מיליוני אמריקאים שירתו ונלחמו במלחמות חשובות ופשוטות ", בחירת דובדבנים כה מזויפים כמו מלחמת האזרחים ומלחמת העולם השנייה, שבה הקטלניות המשופרת של אמריקה שחררה עבדים ואירופה המשוחררת.

למרבה הפלא, הטון של הפוסט בבלוג שלו אינו מתנשא כלפי העובדים - עשה מה שאומרים לך או שאתה מפוטר - אבל, במקום, מרפיעה בשקט, נראה כי עולה כי הכוח כאן לא מרוכזים ברמות העליונות של ניהול. מיקרוסופט היא גמישה: "כמו תמיד, אם העובדים שלנו רוצים לעבוד על פרויקט אחר או צוות - מכל סיבה שהיא - אנחנו רוצים שהם ידעו שאנחנו תומכים בניידות כשרונות".

העובדים שחתמו על המכתב דרשו לבטל את חוזה ההגנה. סמית הציע את המצפון האישי שלהם החוצה: קדימה, להצטרף לקבוצה אחרת אם אתה לא רוצה לחצות את הקו ולעבוד על פיתוח נשק. מיקרוסופט מכבדת עובדים של שכנוע מוסרי מרובים!

בינה מלאכותית היא תופעה עתירת ידע הדורשת חשיבה מורכבת ביותר. מוסר מלאכותי מסתתר מאחורי הקלישאה הקרובה ביותר בשעבוד לכסף.

מה שאני רואה כאן הוא התעוררות מוסרית המתרוצצת על המתיחות החברתית-פוליטית: העובדים עומדים למשהו גדול מאינטרסים אישיים, תוך כדי דחיפה של פליז ביג-טק לחשוב מעבר לצורכי זרם בלתי פוסק של הון, התוצאות יהיו ארורות.

זה קורה בכל הארץ. תנועה היא מחלחלת: טק לא יבנה את זה!

"מעבר לתעשיית הטכנולוגיה," ניו יורק טיימס דיווחו באוקטובר, "העובדים בדרגת דיוק דורשים תובנה רבה יותר לגבי האופן שבו החברות שלהם פורסות את הטכנולוגיה שבנתה. ב- Google, אמזון, מיקרוסופט ו- Salesforce, כמו גם בחברות סטארט-אפ טכניות, מהנדסים וטכנולוגים שואלים יותר ויותר האם המוצרים שבהם הם עובדים נמצאים בשימוש למעקב במקומות כמו סין או לפרויקטים צבאיים בארצות הברית או במקומות אחרים .

"זה שינוי מהעבר, כשעובדי עמק הסיליקון פיתחו בדרך כלל מוצרים עם מעט תהיות לגבי העלויות החברתיות".

מה אם החשיבה המוסרית - לא בספרים ובמסורות פילוסופיות, אלא בעולם האמיתי, הן בתאגידים והן בפוליטיקה - היו גדולים ומורכבים כמו חשיבה טכנית? הוא כבר לא יכול להסתתר מאחורי הקלישאה של המלחמה הצודקת (וכמובן שהפעם הבאה שאנחנו מתכוננים אליה תהיה צודקת), אבל יהיה עלינו להעריך את המלחמה עצמה - כל המלחמות, כולל אלה של העבר 70 שנים או כך, במלוא העלויות וההשלכות שלהם - כמו גם להסתכל קדימה לעתיד שאנחנו יכולים ליצור, תלוי מה החלטות שאנחנו עושים היום. החשיבה המוסרית המורכבת אינה מתעלמת מן הצורך לשרוד, מבחינה כספית או אחרת, ברגע הנוכחי, אך היא נשארת רגועה נוכח הצורך הזה ורואה בהישרדות מפעל קולקטיבי ולא תחרותי.

המורכבות המוסרית נקראת שלום. אין דבר כזה שלום פשטני.

רוברט קוהלר, שנרשם על ידי שלום, הוא עיתונאי בשיקגו עטורת הפרסים ועורך. ספרו, אומץ גדל חזק על הפצע זמין. פנה אליו ב koehlercw@gmail.com או לבקר באתר האינטרנט שלו commonwonders.com.