עם שחקני תעשיית הטכנולוגיה מתגלגליםחדש מבריקהשקעות בינה מלאכותיתעל גדות נהר ההדסון, התאספו מנהיגים בינלאומיים ברחבי מנהטן על נהר המזרח, והתאחדו לישיבת העצרת הכללית השנתית של האו"ם בספטמבר - פורום עולמי בנושאים גדולים כמו פיתוח בר קיימא, סיום הסכסוך המזוין, ובתוך כל זה,בינה מלאכותית.

ניל סהוטה, מנכ"ל חברת מחקר בינה מלאכותיתACSILabs, נכח גם הוא, יועץ ותיק בינה מלאכותית של האו"ם ומומחה מו"פ מוקדם בבינה מלאכותית. לפני 20 שנה, סהוטה מצא את עצמו בעיצומה של תנופת השקעות "בינה עסקית", שבסופו של דבר הובאה לצוות הסודי של יבמ מאחורי הבינה המלאכותית של Jeopardy!ווטסון. הוא מייסד יוזמת הבינה המלאכותית של האו"ם למען טוב, צופה בעליית כלי הבינה המלאכותית העולמית ומתלווה לחששות בזמן אמת, אפילו ממשיך להוביל אותם. ובמשך כמעט עשור, סאהוטה נמצאת בשיחה עם הגוף הבינלאומי כשהמציאה תגובה "טקטית" לבינה מלאכותית.

"זה היה קצת עולם חדש ואמיץ", אמר סהוטה. מאז השקיע האו"ם במאות פרויקטים ותוכניות בינה מלאכותית, כאשר גופים שונים נוקטים בהנחיית בינה מלאכותית המשקפת את הצרכים של האוכלוסייה העולמית. אבל עם האצת ההשקעות הלאומיות בבינה מלאכותית, צצה שאלה אחת ללא תשובה: כיצד יש להסדיר אותה?

למרות המורכבות שלו, תומכים כמו Sahota מאמינים שהגוף הבינלאומי הוא ההימור הטוב ביותר בעולם בשמירה על השפעת הבינה המלאכותית. "האו"ם הוא ארגון אחד, אם לא היחיד, בעל אמון עולמי שיש לו את האמינות להוביל בפועל את המאמץ הזה", הסביר. "זה יכול להפוך למנהיג, לעזור למדינות החברות - לעזור לאנשים, לעזור לתעשייה - להבין וליצור חשיבה חדשה סביב AI."

אבל יכול להיות שזה מאוחר מדי. "אנשים מבינים שנגמר לנו הזמן, או שאולי כבר נגמר לנו הזמן, כדי להבין את הדברים האלה", אמר סהוטה ל- Mashable. "אנחנו חיים בתקופה של שינוי היפר, חווים שינוי בשווי 100 שנים ב-10 השנים הבאות. אין לנו זמן להגיב לדברים יותר".

האו"ם נכנס למירוץ החימוש בינה מלאכותית

ברחבי העולם, מדינות לאום ממהרות להשקיע ב-AI בקצב הולך וגובר, ומנסות לנצח זו את זו עד הסוף הטכנולוגי. זה מה שה-AI Now Insitutite מתייחס אליו בתור "מירוץ חימוש בינה מלאכותיתהמירוץ טיפח את עלייתו של מה שמומחים טבעו "לאומיות בינה מלאכותית", או הפיכתה של בינה מלאכותית לדאגה תעשייתית ולמשאב תעשייתי לאומי, מסביר המכון. התביעה לריבונות טכנולוגית בין מדינות הלאום המובילות את המטען (בעיקר ארה"ב וסין) צמחו לצדה.

ממשלות אחרות וגופים בינלאומיים בילו את השנים האחרונות בגיבוש תגובות לאופי הפוליטי ההולך וגדל של פיתוח בינה מלאכותית. האו"ם דן בהשפעה של AI בשיחות רגולטוריות לפחות מאז 2017. בחודש מרץ, האסיפה הכללית אימצה החלטה בנושא "היגוי של שימוש בבינה מלאכותית למען טובת העולם"על רקע חששות "קיומיים". נציגי ארה"ב הציגו את הצהרת הכוונות החשובה, ואמרו שהקהילה הבינלאומית חייבת "לשלוט בטכנולוגיה הזו במקום שהיא תשלוט בנו".

קבוצת העבודה הנוכחית של האו"ם, הגוף היועץ ברמה גבוהה לבינה מלאכותית, הוקמה בשנת 2023, לאחר מספר שנים של הצעות של יועצים כמו סהוטה.

נולד מהכינוס השנה הוא חדש "שליטה בבינה מלאכותית עבור האנושות"דוח, שלעתים קורא כרשימה מפוכחת של סיכונים ולעתים מדריך אופטימי להשקעה משותפת, בתוך "מעטפת ההזדמנויות" המתפתחת של בינה מלאכותית. הוא ממליץ על יצירת פאנל מדעי חדש ובלתי תלוי שיסקר את "יכולות, הזדמנויות של בינה מלאכותית". , סיכונים ואי ודאויות"; הוא מעודד "שיתוף תקני AI" וקובע תוכניות למעין רשת ממשל בינה מלאכותית; והיא דוחפת לקרן AI גלובלית כדי לטפח השקעות "שוויוניות" יותר.

"מערכות בינה מלאכותיות מהירות, אטומות ואוטונומיות מאתגרות את המערכות הרגולטוריות המסורתיות, בעוד שמערכות חזקות יותר מתמיד יכולות להעלות את עולם העבודה. כלי נשק אוטונומיים ושימושים בביטחון הציבור של AI מעלים שאלות משפטיות, ביטחוניות והומניטריות רציניות", מזהיר הדו"ח. "יש היום גירעון ממשל עולמי ביחס לבינה מלאכותית. למרות דיונים רבים על אתיקה ועקרונות, הטלאים של נורמות ומוסדות עדיין בהתהוות ומלאות פערים. האחריות בולטת לעתים קרובות בהיעדרה, כולל בפריסה שאינה מערכות בינה מלאכותיות הניתנות להסבר שמשפיעות על תאימות נשענות לרוב על התנדבות.

סחוטה סיפקה מידע על הדו"ח, אך לא ישבה בוועדה. הוא הסביר שהדוח היה בפיתוח במשך שנים - בשלב מסוים, השיא האפשרי של פסגת הבינה המלאכותית של הגוף למען טוב - אבל הוא היה זקוק לקלט פה אחד מכל 192 המדינות החברות כדי שיהיה לו אמון.

לאחר שצפה בנתינה והקבלה הפוליטית של יצירת דו"ח בינה מלאכותית בסדר גודל כזה, ציין סהוטה את "ההתרכך" הצפוי של הצעות רגולטוריות מסוימות ו"התחזקות" של הצעות אחרות. Sahota דוגלת בזרוע נפרדת של האו"ם המוקדשת לבינה מלאכותית ולפיקוח טכנולוגי במשך שנים, והדו"ח החדש ממליץ על הקמת "פאנל מדעי בינלאומי בלתי תלוי" ומשרד בינה מלאכותית במזכירות האו"ם. אבל יש עוד מסע ארוך לפני שלגוף הזה תהיה השפעה רשמית כלשהי.

משרד מסוג זה, טוען סהוטה, הוא חיוני, הפועל כמוקד לאיחוד קבוצות עבודה, ועדות, פרויקטים וכדי לספק נראות למאמצי הרגולציה הבינלאומיים.

הדו"ח מציין שפע של "מסמכים ודיאלוגים" שאומצו על ידי ממשלות, חברות, קונסורציומים וארגונים בינלאומיים המתמקדים בממשל בינה מלאכותית. אבל, טוען האו"ם, "אף אחד מהם לא יכול להיות באמת גלובלי בהישג יד ומקיף בסיקור. זה מוביל לבעיות של ייצוג, תיאום ויישום". העתיד הפחות מהאידיאלי של ממשל בינה מלאכותית כרוך ב"משטרי ממשל בינה מלאכותית מנותקים ובלתי תואמים", אומר האו"ם, מה שמעורר את הצורך בתיאום.

השיחה נראית דחופה, אבל זה כבר מזמן.

"בעידן הדיגיטלי, אין גבולות", אמר סהוטה. "מישהו מפתח טכנולוגיית AI, או כל סוג של טכנולוגיה, ואין באמת דרך לעצור את התפשטותה או השימוש שלה בכל מקום בעולם". נוכחות הכל של בינה מלאכותית הדאיגה רבים, והשפעתה על הרוב העולמי, על מדינות שהושבו בעבר, היא סוגיה שתצדיק שיתוף פעולה בינלאומי. במובנים רבים, הוא נושא את אותן שאלות מסובכות כמו משבר האקלים המחריף. והמדיניות הלאומית כבר עושה ויתורים דומים.

בינה מלאכותית חומקת על פני הזרוע הארוכה של החוק

מגוון מאמצי רגולציה ובניית תקנים הוצעו על ידי מדינות וגושים פוליטיים. במאי, האיחוד האירופי חתם על חוק ראשון מסוגוחוק AI, שנועדה להגן על אזרחיה מפני בינה מלאכותית "בסיכון גבוה". לקנדה יש ​​גם תקן רגולטורי בר אכיפה משפטי, המכונהחוק בינה מלאכותית ונתונים.

אבל על פי רוב, הפיקוח הרגולטורי של AI היה חלקי, בהסתמך על עקרונות חוק רכים. אונסק"ו הובילה מאמץ בינלאומי נרחב ליצור מסגרת זכויות אדם סביב AI, כולל שלההמלצות אתיקה של AI, מצפה בינה מלאכותית גלובלית לאתיקה וממשל, ובינה מלאכותית "אַיִל," שנועד לסייע למדינות החברות להעריך את המוכנות ליישום של AI. "בשום תחום אחר המצפן האתי אינו רלוונטי יותר מאשר בבינה מלאכותית", כותבת גבריאלה ראמוס, עוזרת מנכ"לית אונסק"ו למדעי החברה והאנוש.

הארגון לשיתוף פעולה ופיתוח כלכלי,או OECD,הוא שחקן ענק, גם ממסדמסגרות בינלאומיותלשיתוף פעולה בין-ממשלתי אפשרי ויצירת מתודולוגיות להערכה אתית. המלצת ה-OECD בנושא בינה מלאכותית, הסט הראשון של עקרונות בין-ממשלתיים לבינה מלאכותית מהימנה, הדגישה את מדיניות הבינה המלאכותית "הדדית". יש לציין כי השחקנים הגדולים ביותר של ה-OECD - המדינות החתומות על עבודתן - הן מדינות עשירות יותר ו"מתועשות" יותר: יפןHiroshima AI Process Friends Group, של ארה"בשותפות גלובלית בנושא בינה מלאכותית (GPAI), של בריטניההצהרת בלצ'לי, ושל סיןאמצעי ביניים על AI גנרטיבי, למשל.

ארה"ב הציגה עשרותהצעות חוק להסדרת AI, כאשר מדינות מתמקדות ברגולציה של זיופים דיגיטליים סינתטיים, או זיופים עמוקים.

אבל מאמצי החקיקה האיטיים של מדינות הלאום אפשרו התפשטות של מקרי שימוש רע עבור בינה מלאכותית, וצמיחת אינטרסים פרטיים בפיתוח וביישום שלה.

הדו"ח של האו"ם מציע שאם יתעורר סיכון קיצוני עם התפתחות הבינה המלאכותית, הטכנולוגיה יכולה להיות מטופלת בכיוון של נשק ביולוגי או אפילו אנרגיה גרעינית - מדע שהוגבל ומוסדר על ידי המדינות החברות המשתתפות למען טובת האנושות. . הסוכנות הבינלאומית לאנרגיה אטומית (סבא"א), למשל, מתחה קווים סביב מדע הגרעין למטרות אנרגיה ורפואה ואיסורים על המשך נשק. (האירוניה שאנרגיה גרעינית עשויה להיות הדרך הבאהקדימה לדרישות הבינה המלאכותית על רשת האנרגיה, לא הולך לאיבוד.)

אבל האנלוגיה מוגבלת. "אנרגיה גרעינית כוללת מערך מוגדר היטב של תהליכים הקשורים לחומרים ספציפיים שמפוזרים בצורה לא אחידה, וחלק ניכר מהחומרים והתשתיות הדרושים ליצירת יכולת גרעינית נשלטים על ידי מדינות לאום", מתאר הדו"ח. "AI הוא מונח אמורפי; היישומים שלו רחבים ביותר והיכולות החזקות ביותר שלו משתרעות על פני תעשייה ומדינות."

אסטרטגיית "הובל בדוגמה" של האו"ם

האופי המפוזר של הבינה המלאכותית אומר ששיתוף פעולה ומחשבה מוקדמת הם המפתח. "אחד החששות שלי הוא שאנחנו עובדים על דברים שאנחנו לא מבינים עד הסוף. בתור טכנולוגים, אנחנו בונים לקראת התוצאה - אנחנו רק צריכים למדוד את התוצאה שאנחנו מחפשים", הסביר סהוטה. "אנחנו לא חושבים על שימושים אחרים או שימוש לרעה. אנחנו לא חושבים על ההשפעות הנלוות האחרות האלה, ההשפעות העקיפות האלה, השפעות האדווה".

אפילו עם ההיסטוריה של הגוף הבינלאומי, והנושא המתמשך של מדינות לאום נמנעות משיתוף פעולה, סהוטה לא מאמינה שיש פורום בינלאומי טוב יותר להסדרת בינה מלאכותית. "אנחנו צריכים להגדיר מה המשמעות של שימוש נכון ואתי. פשוט אין דרך לעקוף את זה. ומי יוביל את זה? זה תפור לגוף כמו האו"ם".

האם ייתכן, אם כן, שקיומה של בינה מלאכותית כטכנולוגיה רחבה וחוצת מגזרים - כזו שמדינות מחפשות בהתלהבות ושאינה קשורה, על פני השטח, לנושאים שנויים במחלוקת היסטורית - מציעה את ההזדמנות הראשונה להסכם חד-צדדי?

האו"ם, טוען סהוטה, יכול לפעול כגוף בינלאומי שקובע סטנדרטים שמדינות לאום מסתכלות עליו כבסיס להשקעות ורגולציה של בינה מלאכותית. במקום רק לתכנן את ההשפעות השליליות הפוטנציאליות, אומר Sahota, האו"ם צריך לדגמן את מקרי השימוש המתאימים של טכנולוגיית AI. "מדיניות ורגולציה לא צריכות להיות רק לנקות את מעקות הבטיחות ולהגביל סיכון שלילי או אחריות משפטית, יש גם אפשרות ליצור טוב".

זה עשוי להיות גם הדרך היחידה קדימה, שכן ההמלצות האחרונות של האו"ם על ממשל AI הן פחות מסגרת רגולטורית, ויותר תוכנית להשקעה משותפת. הם דורשים רכישה ממעצמות בינלאומיות בכלל, כאלה שיסכימו לדברים כמו נאמנות נתונים משותפים, קרן השקעות בינה מלאכותית גלובלית או "רשת פיתוח" כדי לכנס מומחים ומשאבים. בעוד הדו"ח החדש של האו"ם מעלה טיעון אתי דומה לסהוטה, הוא אומר שהיעדר גיבוי של המדינה החברות - המוכיח שיש רבים שכבר שותפים לתוכנית "להוביל לפי דוגמה" - הוא צעד מוטעה.

"קרן בינה מלאכותית זו יכולה להיות דרך ליצור את הדחיפה הזו, ליצור תמריצים עבור אנשים לחשוב על ההשפעה של [טכנולוגיות] אלה", הסביר. "אבל זה היה נחמד לראות את הצעדים הבאים, להיות מסוגלים לראות לפחות חלק מהרכישה, ושזה יהווה מוטיבציה או יעניק אמינות. זה יראה שזה יכול להיות יותר מאשר רק ראשים מדברים זה יותר מפיסות נייר שאוספות אבק".

פרסום הדו"ח של האו"ם, והעובדה שהפגישות ברמה הגבוהה מקדישים זמן לדיונים אתיים בינה מלאכותית, היא הישג מונומנטלי על רקע הלאומנות הבינה המלאכותית הגואה. אבל הטכנולוגיה זזה מהר יותר מאנשים ותהליכים, הסביר סהוטה, וגופים פוליטיים צריכים להאיץ את העניינים. "יש יותר ויותר אנשים שרואים שהחלון הזה נסגר במהירות", אמר סהוטה. "עכשיו זה אתגר של אנשים. אתה יכול לתאר לעצמך אם כולם היו חושבים פרואקטיביים? עד כמה שינוי עמוק זה יהיה? אתה יכול להגיד לאנשים שיש עוד כמה שנים להבין את זה, והם חושבים שזה הרבה זמן. שבועיים יכולים להרגיש כמו נצח, אבל יש לנו רק כמה זמן שאנחנו חושבים שיש לנו".