בתיאוריה, זה היה היום האידיאלי עבור OpenAI לפרסם פוסט בבלוג שכותרתוממשל של מודיעין-על. בפועל, הפוסט והתזמון שלו רק הוכיחו כמה רחוקים האנשים בחזית עולם הבינה המלאכותית מוויסות הטכנולוגיה שלהם, או הבנת ההקשר הנכון.

החברה שמאחורי אחד ממחוללי תמונות הבינה המלאכותית הידועים ביותר (Dall-E) וצ'טבוט הבינה המלאכותית הידועה ביותר (ChatGPT) פרסמה את הפוסט כי היא רוצה להיראות כקבוצה של מבוגרים מפוכחים, שלוקחים גם את ההבטחה וגם את האיום של הטכנולוגיה שלה ברצינות. ותראה מה קרה הרגע:תמונות שנוצרו על ידי AI של הפנטגון והבית הלבן עולים באששיגר גל הלם קצר בבורסה. איזה זמן טוב יותר עבור מוביל השוק להציג פיכחון?

ישנה סוג של תחרות "אמון ובטיחות" לצד המירוץ חימוש בינה מלאכותית בין מיקרוסופט, בעלת בריתה העיקרית של ChatGPT, וגוגל. ב-הערה מרכזית של Google IOלפני שבועיים, הכרזות מרגשות על אינטגרציה של בארד התמתן על ידי קטע ב-"Responsible AI". בשבוע שעבר, מנכ"ל OpenAI, סם אלטמן, נתן עדות לקונגרס שנראתה כמו התשובה הצנועה והאנושית יותר למארק צוקרברג. הבא: מייסד שותף של OpenAI, גרג ברוקמן, טרי מהגריל שלו בכנס TED, לוקח את מופע הדרכים האחראי שלו למבוגרים ל-Microsoft Build.

אבל מה בעצם היה ל"ממשל של מודיעין-על", בשיתוף אלטמן וברוקמן לומר בעצמו? בפחות מאלף מילים, לא הרבה - והיעדר הספציפיות עלול להזיק למטרה שלהם.

הנה ה-TL;DR: בינה מלאכותית טומנת בחובה סיכונים. כך גם הכוח הגרעיני. היי, אולי צריך שיהיה לנו גוף רגולטורי עולמי של AI דומה לסוכנות הבינלאומית לאנרגיה אטומית (סבא"א)! אבל גם צריך להיות הרבה פיקוח ציבורי על הסוכנות הזו, וגם סוג הדברים ש-OpenAI עושה כרגע לא "בתחום" הרגולציה, כי זה יותר על עזרה לאנשים.

חוץ מזה, מישהו כנראה הולך ליצור מודיעין על במוקדם או במאוחר, ועצירתם תהיה "מסוכנת באופן לא אינטואיטיבי", אז "אנחנו חייבים לעשות את זה נכון". הסוף.

יש מטרה ברורה לשירות עצמי ל-OpenAI להגביר את איום ה-AI בצורה כזו. אתה רוצה ש[הכנס את השחקן הרע המועדף עליך כאן] יגיע קודם כל למודיעין העל - הידוע גם בשם AGI, עבור בינה כללית מלאכותית? או שהיית מעדיף לתמוך בחברה כל כך שקופה לגבי הטכנולוגיה שלה, שהם "פתוחים" בשם?

עם זאת, למרבה האירוניה, OpenAI לא הייתה פתוחה לחלוטין לגבי דגמי השפה שבהם היא משתמשת כדי להכשיר את הצ'אטבוטים שלה מאז 2019. החברה היאלפי הדיווחים מכינים מודל קוד פתוח, אבל סביר מאוד שזה יהיה צל חיוור של GPT. OpenAI הייתה מלכ"ר, עכשיו זה מאוד למטרות רווחעם שווי של 30 מיליארד דולר. זה עשוי להסביר מדוע הפוסט בבלוג נקרא יותר כמו פבלום שיווקי מאשר ספר לבן.

AI הוא לא האיום האמיתי. (אוּלָם.)

כשתמונות ה-AI של "פיצוץ הפנטגון" הגיעו לאינטרנט, זה היה צריך להיות מתנה ל-OpenAI. אלטמן ושות'. יכול היה להקדיש עוד כמה שעות לעדכון הפוסט הכתוב מראש שלהם עם אזכור של כלי AI שיכולים לעזור לנו לנפות חדשות מזויפות מהדבר האמיתי.

אבל זה עשוי למשוך את תשומת הלב לעובדה לא נוחה עבור חברה שרוצה לעשות הייפ בינה מלאכותית: הבעיה עם התמונות לא הייתה בינה מלאכותית. הם לא היו משכנעים במיוחד. תמונות מזויפות של שריפות בנקודות ציון מפורסמות הן משהו שאתה יכול ליצור בעצמך בפוטושופ. הרשויות המקומיות אישרו במהירות שהפיצוצים לא התרחשו, והבורסה תיקנה את עצמה.

באמת, הבעיה היחידה הייתה שהתמונות הפכו לוויראליות בפלטפורמה שבה כל תכונות האמון והבטיחות הוסרו: טוויטר. החשבון שהפיץ אותם בתחילה נקרא "פיד של בלומברג". והוא שילם $8 לחודש עבור סימן ביקורת כחול, מה שכבר לא אומר שחשבון מאומת.

במילים אחרות, ההרס הסיטונאי של אילון מאסק של אימות טוויטר אפשר לחשבון להתחזות לסוכנות ידיעות ידועה. החשבון הפיץ תמונה מעוררת פחד שנקלטה על ידי שירותי תעמולה רוסים כמו RT, שגם ממנו הסיר מאסק את התווית "תקשורת ממלכתית".

ספק אם אי פעם נקבל סוכנות בינלאומית לבינה מלאכותית יעילה כמו סבא"א. הטכנולוגיה עשויה לנוע מהר מדי, ולהיות מובנת בצורה גרועה מדי, עבור הרגולטורים. אבל גם האיום העיקרי שהוא מהווה בעתיד הנראה לעין -אפילו על פי "סנדק AI" ג'פרי הינטון, מגיד הדין הבולט ביותר- הוא ששטף של חדשות ותמונות שנוצרו על ידי בינה מלאכותית פירושו שהאדם הממוצע "לא יוכל לדעת מה נכון יותר."

אבל במבחן הספציפי הזה, חוטי הטריפה של חדשות מזויפות עבדו - לא תודה למאסק. מה שאנחנו צריכים יותר דחוף הוא סוכנות בינלאומית שיכולה לרסן מיליארדרים פולטי קונספירציות עם מגפונים ענקיים. אולי אלטמן, שיש לובעבר כינה את מאסק "טמבל" וקרא את פיוטים שלו על OpenAI, יכול לכתוב על כך פוסט מפוכח בבלוג למבוגרים.