מאת מארק אליוט שטיין, 10 בפברואר 2020

לאחרונה הוזמנתי לנאום בכינוס מרד ההכחדה בעיר ניו יורק מטעם World BEYOND War. האירוע נועד להפגיש שלוש קבוצות פעולה: פעילי שינויי אקלים, קולקטיבי עובדי טק ופעילים נגד מלחמה. התחלנו בחשבון אישי מעורער מצד פעיל השינויים באקלים Ha Vu, שסיפר לקהל הניו-יורקים על חוויה מדאיגה שמעט מאיתנו חוו אי פעם: חזרה לבית משפחתה בהאנוי, וייטנאם, שם חום מוגבר כבר אי אפשר היה כמעט לצאת בחוץ בשעות שיא של אור שמש. מעטים האמריקאים יודעים גם על זה אסון זיהום מים 2016 בהה טינה במרכז וייטנאם. לעתים קרובות אנו מדברים על שינויי אקלים כבעיה פוטנציאלית בארצות הברית, הדגיש הא, אך בווייטנאם היא יכולה לראות שזה כבר משבש את החיים ואת הפרנסה, ומחמיר במהירות.

ניק מוטרן מ KnowDrones.org דיבר בדחיפות דומה על ההשקעה המסיבית האחרונה של צבא ארה"ב בבינה מלאכותית עתידנית ומחשוב ענן - והדגיש את מסקנתו של הצבא עצמו כי פריסת מערכות AI בניהול נשק גרעיני ולוחמת מזל"ט תביא בהכרח לטעויות בסדר גודל בלתי צפוי. ויליאם בקלר מ- Extinction Rebellion NYC ואחריו הסביר את העקרונות המארגנים שהארגון החשוב והצומח הזה מיישם, כולל פעולות משבשות שנועדו להעלות את המודעות לחשיבות הקריטית של שינויי האקלים. שמענו מנציג ניו יורק של קואליציית עובדים טכנייםוניסיתי לסובב את המפגש לקראת תחושת העצמה מעשית על ידי דיבור על פעולה של מרד עובדי טק שהצליחה באופן בלתי צפוי.

זה היה באפריל 2018, כאשר מה שמכונה "תעשיית ההגנה" זמזם סביב פרויקט Maven, יוזמה צבאית חדשה אמריקאית המתוקשרת לפיתוח יכולות בינה מלאכותית למל"טים ומערכות נשק אחרות. גוגל, אמזון ומיקרוסופט מציעות כולם פלטפורמות בינה מלאכותית מחוץ למדף ללקוחות משלמים, וגוגל נתפסה כזוכה ככל הנראה בחוזה הצבאי Project Maven.

בתחילת 2018 עובדי גוגל החלו לדבר. הם לא הבינו מדוע חברה שגייסה אותם כעובדים עם המשכון "אל תהיה רע", הציעה כעת לפרויקטים צבאיים שסביר להידמות לפרק המחריד של "מראה שחורה", בה כלבים מכאניים המופעלים על ידי AI כלבי אנוש. ישויות למוות. הם דיברו במדיה החברתית ובכלי החדשות המסורתיים. הם ארגנו פעולות והפיצו עצומות ושמעו את עצמן.

מרד עובדים זה היה הסימן של תנועת מרד עובדי גוגל, וזה סייע להתגבר על קולקטיבים של עובדי טק אחרים. אבל הדבר המדהים ביותר במחאה הפנימית של גוגל נגד Project Maven לא היה שעובדי הטכנולוגיה מדברים. הדבר המדהים ביותר הוא זה הנהלת גוגל נכנעה לדרישות העובדים.

שנתיים אחר כך עובדה זו עדיין מדהימה אותי. ראיתי בעיות אתיות רבות בעשרות שנותיי כעובד טק, אך לעתים רחוקות ראיתי חברה גדולה מסכימה מכל וכל להתייחס לבעיות אתיות בצורה משמעותית. התוצאה של מרד גוגל נגד Project Maven הייתה פרסום מערכת עקרונות AI שכדאי להדפיס כאן במלואם:

בינה מלאכותית בגוגל: העקרונות שלנו

גוגל שואפת ליצור טכנולוגיות הפותרות בעיות חשובות ועוזרות לאנשים בחיי היומיום שלהם. אנו אופטימיים לגבי הפוטנציאל המדהים של AI וטכנולוגיות מתקדמות אחרות להעצמת אנשים, להיטיב עם הדורות הנוכחיים והעתידיים ולעבוד למען הכלל.

יעדים ליישומי AI

אנו נעריך יישומי AI לאור היעדים הבאים. אנו מאמינים כי AI צריך:

1. היו מועילים חברתית.

טווח ההגעה המורחב של טכנולוגיות חדשות נוגע יותר ויותר לחברה כולה. להתקדמות ב- AI יהיו השפעות טרנספורמטיביות במגוון רחב של תחומים, כולל שירותי בריאות, ביטחון, אנרגיה, תחבורה, ייצור ובידור. כשאנחנו שוקלים פיתוח ושימושים פוטנציאליים בטכנולוגיות AI, אנו ניקח בחשבון מגוון רחב של גורמים חברתיים וכלכליים, ונמשיך במקום בו אנו מאמינים כי היתרונות הכלליים ככל הנראה חריגים משמעותית מהסיכונים והצמצומים הצפויים.

AI משפר גם את היכולת שלנו להבין את המשמעות של תוכן בקנה מידה. אנו נשאף להנגיש מידע איכותי ומדויק בקלות באמצעות AI, תוך המשך כיבוד נורמות תרבותיות, חברתיות ומשפטיות במדינות בהן אנו פועלים. ואנחנו נמשיך להעריך מהורהר מתי להנגיש את הטכנולוגיות שלנו על בסיס לא מסחרי.

2. הימנע מיצירה או חיזוק של הטיה בלתי הוגנת.

אלגוריתמים ומערכי נתונים של AI יכולים לשקף, לחזק או להפחית הטיות לא הוגנות. אנו מכירים בכך שההבחנה בין הוגן להטיות לא הוגנות אינה תמיד פשוטה, ושונה בין תרבויות וחברות. אנו נבקש להימנע מהשפעות לא צודקות על אנשים, במיוחד אלה הקשורים למאפיינים רגישים כמו גזע, אתניות, מין, לאום, הכנסה, נטייה מינית, יכולת, ואמונה פוליטית או דתית.

3. נבנה ונבדק לבטיחות.

אנו נמשיך לפתח וליישם נוהלי בטיחות ואבטחה חזקים כדי להימנע מתוצאות לא מכוונות שיוצרות סכנות לפגיעה. אנו נתכנן את מערכות ה- AI שלנו להיות זהירות כנדרש, ונבקש לפתח אותן בהתאם לשיטות העבודה המומלצות במחקר הבטיחות של AI. במקרים מתאימים, נבדוק טכנולוגיות AI בסביבות מוגבלות ונפקח על פעולתן לאחר הפריסה.

4. יש לתת דין וחשבון לאנשים.

אנו נתכנן מערכות AI המספקות הזדמנויות מתאימות לפידבק, הסברים רלוונטיים וערעור. טכנולוגיות ה- AI שלנו יהיו כפופות לכיוון ובקרה אנושיים מתאימים.

5. לשלב עקרונות עיצוב פרטיות.

אנו נשלב את עקרונות הפרטיות שלנו בפיתוח ושימוש בטכנולוגיות AI שלנו. אנו ניתן הזדמנות להתראה ולהסכמה, לעודד אדריכלים עם אמצעי הגנה על פרטיות, ונספק שקיפות ושליטה הולמים על השימוש בנתונים.

6. מעלה סטנדרטים גבוהים של מצוינות מדעית.

חדשנות טכנולוגית מושרשת בשיטה המדעית ומחויבות לחקירה פתוחה, הקפדה אינטלקטואלית, יושרה ושיתוף פעולה. לכלי AI יש פוטנציאל לפתוח תחומים חדשים של מחקר מדעי וידע בתחומים קריטיים כמו ביולוגיה, כימיה, רפואה ומדעי הסביבה. אנו שואפים לסטנדרטים גבוהים של מצוינות מדעית כאשר אנו פועלים לקידום פיתוח AI.

אנו נעבוד עם מגוון בעלי עניין לקידום מנהיגות מתחשבת בתחום זה, תוך התבססות על גישות מחמירות מדעיות ורב תחומיות. ואנו נשתף באחריות בידע AI על ידי פרסום חומרים חינוכיים, שיטות עבודה מומלצות ומחקר המאפשרים לאנשים רבים יותר לפתח יישומי AI שימושיים.

7. להיות זמין לשימושים המתאימים לעקרונות אלה.

לטכנולוגיות רבות יש שימושים רבים. אנו נפעל להגבלת יישומים שעלולים להזיק או להזיק. כשאנחנו מפתחים ונפרסים טכנולוגיות AI, נעריך שימושים סבירים לאור הגורמים הבאים:

• המטרה והשימוש העיקרי: המטרה העיקרית והשימוש סביר בטכנולוגיה וביישום, כולל עד כמה הפתרון קשור לשימוש או מזגן לשימוש או להתאמה
• טבע וייחודיות: בין אם אנו מציעים טכנולוגיה זמינה שהיא ייחודית או זמינה באופן כללי יותר
• סוּלָם: האם לשימוש בטכנולוגיה זו תהיה השפעה משמעותית
• אופי המעורבות של גוגל: בין אם אנו מספקים כלים למטרות כלליות, שילוב כלים ללקוחות, או פיתוח פתרונות בהתאמה אישית

יישומי AI שלא נרדוף אחריהם

בנוסף ליעדים שלעיל, לא נתכנן או נפרוס AI בתחומי היישום הבאים:

1. טכנולוגיות הגורמות או עשויות לגרום נזק כולל. כאשר קיים סיכון מהותי לפגיעה, אנו נמשיך רק כאשר אנו מאמינים כי היתרונות עולים באופן משמעותי על הסיכונים ונכלול אילוצי בטיחות מתאימים.
2. כלי נשק או טכנולוגיות אחרות אשר מטרתם העיקרית או היישום היא לגרום או לפגוע ישירות באנשים.
3. טכנולוגיות שאוספות או משתמשים במידע לצורך פיקוח המפרות נורמות מקובלות בינלאומיות.
4. טכנולוגיות שמטרתן נוגדת את העקרונות המקובלים של המשפט הבינלאומי וזכויות האדם.

ככל שמעמיקה החוויה שלנו במרחב זה, רשימה זו עשויה להתפתח.

סיכום

אנו מאמינים שעקרונות אלה הם הבסיס הנכון לחברה שלנו ולפיתוח עתידי שלנו של AI. אנו מכירים בכך שתחום זה דינאמי ומתפתח ואנו ניגש לעבודתנו בענווה, מחויבות למעורבות פנימית וחיצונית ונכונות להתאים את הגישה שלנו כפי שאנו לומדים לאורך זמן.

התוצאה החיובית הזו לא פוטרת את ענקית הטכנולוגיה גוגל מסיבוכים בתחומים אחרים הנוגעים לדאגה רבה, כגון תמיכה ב- ICE, משטרה ופעילויות צבאיות אחרות, צבירה ומכירת גישה לנתונים פרטיים על אנשים, הסתרת הצהרות פוליטיות שנויות במחלוקת מתוצאות מנועי החיפוש. והכי חשוב, לאפשר לעובדיה להמשיך ולדבר בנושאים אלה ואחרים מבלי שיפוטרו בגלל כך. תנועת מרד העובדים בגוגל נותרה פעילה ומעורבת מאוד.

יחד עם זאת, חשוב להכיר עד כמה השפעה תנועת העובדים של גוגל. זה התברר מיד לאחר שהתחילו הפגנות גוגל: מחלקות השיווק של הפנטגון הפסיקו לפרסם הודעות חדשות לעיתונות על פרויקט Maven שהיה מרגש פעם אחת, ובסופו של דבר "נעלמו" את הפרויקט לחלוטין מהנראות הציבורית שחיפשה קודם לכן. במקום זאת, החלה יוזמה חדשה של בינה מלאכותית וגדולה בהרבה מהתגנבות של הפנטגון מועצת חדשנות הביטחון.

זה נקרא פרויקט JEDI, שם חדש לבזבוז פנטגון על נשק חדשני. פרויקט JEDI היה מוציא הרבה יותר כסף מאשר Project Maven, אך בליץ הפרסום לפרויקט החדש (כן, הצבא האמריקני מוציא מגרש זמן ותשומת לב בפרסום ושיווק) היה שונה מאוד מזה הקודם. כל התמונות "מראה שחור" מלוטשת וסקסית נעלמו. כעת, במקום להדגיש את הזוועות הדיסטופיות המרגשות והקולנועיות שעלולות להטריד על בני אדם מל"טים, פרויקט JEDI הסביר את עצמו כצעד מפוכח ליעילות, תוך שילוב מאגרי מידע בענן במטרה לעזור "לוחמי מלחמה" (המונח החביב על הפנטגון ל אנשי קו קדמי) וצוותי תמיכה במשרד האחורי ממקסמים את יעילות המידע. איפה ש Project Maven תוכנן להישמע מרגש ועתידני, Project JEDI תוכנן להישמע הגיוני ופרקטי.

אין שום דבר הגיוני או מעשי בתג המחיר של Project JEDI. זהו חוזה התוכנה הצבאי הגדול ביותר בהיסטוריה העולמית: 10.5 מיליארד דולר. רבים מעינינו זורחות כשאנחנו שומעים על סולמות של הוצאות צבאיות, ואנחנו יכולים לדלג על ההבדל בין מיליונים למיליארדים. חשוב להבין כמה גדול JEDI של Project מאשר כל יוזמה קודמת של תוכנת פנטגון. זה מחליף משחק, מנוע מניב עושר, צ'ק ריק לצורך רווחיות על חשבון משלם המסים.

זה עוזר לשרוט מתחת לפני ההודעות לעיתונות הממשלתית כשמנסים להבין צ'ק ריק של הוצאות צבאיות עד 10.5 מיליארד דולר. ניתן ללקט מידע כלשהו מפרסומי הצבא עצמו, כמו מטריד ראיון באוגוסט 2019 עם המודיעין הכללי ג'וי שנחאן, מרכז הבינה המלאכותית, דמות מפתח הן בפרויקט Maven שנעלם והן בפרויקט JEDI החדש. הצלחתי לקבל תובנה רבה יותר כיצד חושבים מבני תעשיית הביטחון על פרויקט JEDI על ידי האזנה לפודקאסט של התעשייה הביטחונית שנקרא "פרויקט 38: עתיד קבלנות הממשלה". אורחי פודקאסט מדברים לעתים קרובות בגילוי לב ובלי בושה על כל נושא בו הם דנים. "הרבה אנשים יקנו בריכות שחייה חדשות השנה" היה אופייני לשיחת הפנים של פודקאסט זה על פרויקט JEDI. אנחנו בטוחים שהם יהיו.

הנה הדבר המדהים שמתחבר לעקרונות ה- AI של גוגל. שלושת המובילים הברורים לחוזה JEDI המסיבי של 10.5 מיליארד דולר היו גוגל, אמזון ומיקרוסופט - לפי הסדר הזה, בהתבסס על המוניטין שלהם כחדשני AI. בגלל מחאת העובדים נגד פרויקט Maven בשנת 2018, מנהיג ה- AI גוגל לא התחשב בפרויקט JEDI הגדול בהרבה בשנת 2019. בסוף 2019 הוכרז כי החוזה עבר למיקרוסופט. לאחר מכן החל סיקור חדשותי, אך סיקור זה התמקד בעיקר ביריבות בין אמזון ומיקרוסופט ובעובדה שבמקום השלישי מיקרוסופט ככל הנראה הורשתה לנצח את המקום השני באמזון על הניצחון בגלל הקרבות המתמשכים של ממשל טראמפ עם וושינגטון פוסט, שבבעלות ג'ף בזוס של אמזון. אמזון הולכת כעת לבית המשפט כדי להילחם במתנה של פנטגון בסך 3 מיליארד דולר למיקרוסופט, ואורקל תובעת גם כן. ההערה הספציפית מפודקאסט Project 2 שהוזכר לעיל - "הרבה אנשים יקנו בריכות שחייה חדשות השנה" - התייחסה לא רק לטובת הכספים של מיקרוסופט, אלא גם לכל עורכי הדין שישתתפו בתביעות אלה. אנו יכולים כנראה לנחש משכילים שלמעלה מ -10.5% מה- 38 מיליארד דולר של פרויקט JEDI יעברו לעורכי דין. חבל שאנחנו לא יכולים להשתמש בזה כדי לעזור סוף רעב עולם במקום.

המחלוקת בשאלה האם העברת כספי משלם המסים לקבלנים צבאיים אמורה להועיל למיקרוסופט, אמזון או אורקל שלטה בסיקור החדשותי של פרויקט JEDI. המסר החיובי היחיד שנלקח מהשתל המגונה הזה - העובדה שגוגל התרחקה מחוזה התוכנה הצבאי הגדול ביותר בהיסטוריה העולמית בגלל מחאת העובדים - כמעט ולא היה קיים בסיקור החדשותי של פרויקט JEDI. 

זו הסיבה שחשוב היה לספר את הסיפור הזה לפעילים הממוקדים בטכנולוגיה שנאספו בחדר צפוף במרכז מנהטן בשבוע שעבר כדי לדבר על איך אנחנו יכולים להציל את הכוכב שלנו, כיצד נוכל להילחם נגד דיס-אינפורמציה ופוליטיזציה של מדעי האקלים, כיצד אנו יכולים לעמוד בכוח העצום של רווחי דלק מאובנים וסוחרי נשק. בחדר הקטן הזה נראה שכולנו תופסים את ממדי הבעיה העומדת בפנינו, ואת התפקיד הקריטי שאנחנו עצמנו צריכים להתחיל למלא. לקהילה הטכנולוגית יש כוח משמעותי. כשם שמסעות הסילוק יכולים לעשות את ההבדל האמיתי, גם מרדות עובדי הטכנולוגיה יכולות לעשות שינוי אמיתי. ישנן דרכים רבות שפעילי שינויי אקלים, פעילי מרד עובדי טק ופעילים נגד מלחמה יכולים להתחיל לעבוד יחד, ואנחנו נעשה זאת בכל דרך שנוכל.

התחלנו תקווה בתקווה זו, שאותה יזם מועיל מרד ההכחדה ניו יורק ו העולם לא יכול לחכות. התנועה הזו תגדל - היא חייבת לגדול. ניצול לרעה של דלקים מאובנים הוא המוקד של המפגינים לשינוי האקלים. שימוש לרעה בדלקים מאובנים הוא גם מניע הרווח העיקרי של האימפריאליזם האמריקני וגם תוצאה נוראית ראשונית של הפעילות הבזבזנית של הצבא האמריקני הנפוח. ואכן נראה כי צבא ארה"ב כן המזהם היחיד ביותר בעולם. האם עובדים טכניים יכולים להשתמש בכוח הארגון שלנו לניצחונות המשפיעים עוד יותר על נסיגת גוגל מפרויקט JEDI? אנחנו יכולים ועלינו. הפגישה בשבוע שעבר בניו יורק הייתה רק צעד קטנטן קדימה. עלינו לעשות יותר, ועלינו לתת לתנועת המחאה המשולבת שלנו את כל מה שיש לנו.

מארק אליוט שטיין הוא מנהל טכנולוגיה ומדיה חברתית עבור World BEYOND War.

צילום גרגורי שוודוק.