טכנולוגיית הבינה המלאכותית התפתחה בצעדי ענק בעשור האחרון, וכעת קוראים לממשלות לאסור רובוטים שיכולים להרוג לפני שהדברים יוצאים משליטה.
חוקרים מאוסטרליה וקנדה פרסמו מכתב פתוח למנהיגים המתאימים של כל מדינה, ראש הממשלה מלקולם טרנבול וראש הממשלה ג'סטין טרודו, לנקוט "עמדה גלובלית נחרצת" נגד הפעלת AI בנשק.
המכתב הפתוח מגיע לקראת ועידת האומות המאוחדות בנושא האמנה בדבר נשק קונבנציונלי מסויים (CCW), המגבילה או אוסרת סוגי נשק ספציפיים שאין הבחנה בכוחו או גורמים לפציעה מופרזת.
חתום על ידי יותר מ-300 מומחי רובוטיקה ובינה מלאכותית (במכתב זה וטענה קודמתמאוגוסט), החשש הוא שמערכות אוטומטיות קטלניות שאין להן שליטה אנושית חוצות "קו מוסרי ברור". מערכות אוטומטיות קטלניות מתייחסות לרחפנים, כלי רכב בלתי מאוישים ורובוטים אחרים שמפותחים כעת על ידי צבאות.
אוסטרליה וקנדה נקראו לעבוד עם מדינות אחרות על הסכם בינלאומי חדש להוצאת מערכות אוטומטיות קטלניות מחוץ לחוק, כפי שנעשה עםנשק גרעיני ב-1970.
Mashable Top Stories
"בדרך זו, הממשלה שלנו יכולה להחזיר את עמדתה של מנהיגות מוסרית על הבמה העולמית כפי שהוכח בעבר בתחומים אחרים כמו אי-הפצת נשק גרעיני", נכתב במכתב האחרון.
"התוצאה הקטלנית של זה היא שמכונות - לא אנשים - יקבעו מי חי וימות".
"כפי שהרבה תאגידי בינה מלאכותית ורובוטיקה - כולל חברות אוסטרליות - דחקו לאחרונה, מערכות נשק אוטונומיות מאיימות להפוך למהפכה השלישית בלוחמה. אם יתפתחו, הן יאפשרו להילחם בסכסוך מזוין בקנה מידה גדול מאי פעם, ובטווחי זמן מהר יותר ממה שבני אדם יכולים להבין.
"התוצאה הקטלנית של זה היא שמכונות...לא אנשים- יקבע מי חי וימות. קהילת הבינה המלאכותית של אוסטרליה אינה מאשרת שימושים כאלה בבינה מלאכותית. אנחנו רוצים ללמוד, ליצור ולקדם את השימושים המועילים שלו".
זה עוקבמכתב דומה מאת מומחי תעשיית הבינה המלאכותית באוגוסט, קורא לאו"ם לנקוט בפעולה בנושא בינה מלאכותית עם נשק בוועידה. המכתב הזה נחתם על ידי אילון מאסק, שכינה את הבינה המלאכותית "האיום הגדול ביותר שעומד בפנינו כציוויליזציה".
ועידת האו"ם בנושא ה-CCW הייתה אמורה להתקיים תחילה באוגוסט, אך נקבעה מחדש עקב מחסור במימון.
השיחות יתחילו כעת מ-14 בנובמבר, ואנו מקווים שהממשלות שמות לב.
