החדשות האלה עלולות לגרום לך לחייך, ובכל זאת זה כלום! לפי הארגון הלא ממשלתי ההולנדי Pax, מיקרוסופט, אינטל ואמזון הן בין חברות הטכנולוגיה שעשויות ליצור בינה מלאכותית קטלנית. האם עידן הסקיינט והרובוטים הרוצחים קרוב יותר ממה שאנחנו חושבים?
"מיקרוסופט, אינטל ואמזון הן סטודנטיות גרועות"
ארגון שלום הולנדי בשם Pax הרכיב רשימה של חמישים החברות בסיכון הגבוה ביותר ליצור רובוטים רוצחים אוטונומיים. כדי לייצר את הדירוג הזה, ה-NGO התבסס עלמעורבותן של חברות בתחום הבינה המלאכותית, וגםהתקרבותם ותקדימים שלהם לממשלות בתחום הצבאי. מיקרוסופט, אינטל ואמזון הן בין הביצועים הגרועים, בניגוד לגוגל שפועלת היטב למרות סרטונים מרשימים יותר ויותר של הרובוטים שלה בבוסטון דיינמיקס.
אם מיקרוסופט היא אחת החברות שנחשבות בסיכון, זה בגלל שהחברה, לפי ה-NGO, מעולם לא אישרה רשמית שהיא לא מפתחת כלי נשק מאוד שנויים במחלוקת המבוססים על בינה מלאכותית. אנו מתארים לעצמנו ששיתוף הפעולה של מיקרוסופט עם המדינה האמריקאית במסגרת פרויקט JEDI הוא כנראה הנקודה הקריטית ביותר; גוגל מצידה אישרה שהיא לא רוצה לקחת חלק בפרויקט הזה. בנוסף, מכירת אאוזניות HoloLens 2 ספציפיות למגזר הצבאירק מאשר פחדים.
מיקרוסופט מגינה על עצמה, אבל PAX מפריכה
בעקבות פרסום זה, אריק חוביץ, מחברת מחקר של מיקרוסופט, אמר ל-PAX כי:
מיקרוסופט נותנת עדיפות לפיתוח אחראי ושימוש בטכנולוגיות בינה מלאכותית. ועדת Aether חוצת החברות של מיקרוסופט מתייחסת ברצינות לשימושים רגישים בטכנולוגיות בינה מלאכותית ומתלבטת בקפידה להמליץ לצוות ההנהגה של החברה על בקרות והנחיות, כולל הצורך הקריטי בפיקוח על השתלטות אנושית וקבועה על ההימור הגבוה של טכנולוגיות AI רגישות.
לדברי פרנק סליקפר, מחבר הדו"ח ב-PAX, הצהרה זו של מיקרוסופט אינה יכולה להיחשב כעמדה הרשמית של החברה. מבחינתו, הנה הצעדים שחברות טכנולוגיה חייבות לנקוט כדי למנוע מהמחקר שלהן לתרום לפיתוח נשק אוטונומי קטלני:
- התחייב בפומבי לא לתרום לפיתוח נשק אוטונומי קטלני.
- לקבוע מדיניות ברורה הקובעת כי החברה לא תתרום לפיתוח או ייצור של מערכות נשק קטלניות ואוטונומיות.
- ודא שהעובדים מעודכנים היטב על מה שהם עובדים עליו ואפשר דיונים פתוחים על כל דאגה הקשורה.
21 חברות נחשבות בעלות סיכון גבוה
מיקרוסופט, אינטל או אמזון אינן החברות היחידות שנחשבות בסיכון על ידי PAX. לפי הדיווח,מדובר ב-50 חברות הממוקמות ב-12 מדינות שונות, כולל 21 שנחשבות בסיכון גבוה. בין אלה גם Palentir, חברה הנתמכת על ידי CIA שפיתחה מערכת מבוססת AI שיכולה לעזור לחיילים לנתח אזור לחימה בזמן אמת.
אם אתה מפקפק במסוכנות של נשק אוטונומי המבוסס על בינה מלאכותית, הנה מה שסטוארט ראסל, פרופסור למדע באוניברסיטת קליפורניה, חושב:
נשק אוטונומי יהפוך בהכרח לנשק להשמדה המונית שניתן להרחבה, מכיוון שאדם בודד יכול לשגר מיליון או מאה מיליון כלי נשק.
הפיתוח של בינה מלאכותית למטרות צבאיות הוא יותר ויותר שנוי במחלוקת, אפילו בתוך חברות. עובדי מיקרוסופטגם הפגיןופרסמו מכתב פתוח לסאטיה נאדלה כשנודע להם על עיצוב האוזניות של HoloLens 2 למטרות צבאיות... שרה קונור, איפה את מתחבאת?
