OpenAIמנכה עוד שחקנים רעים באמצעותוAIדגמים. ובראשונה עבור החברה, הם זיהו והסירו חשבונות רוסיים, סיניים וישראלים המשמשים בפעולות השפעה פוליטית.

לפי אדוח חדשמצוות זיהוי האיומים של הפלטפורמה, הפלטפורמה גילתה וסיימה חמישה חשבונות שעוסקים בפעולות השפעה סמויות, כגון בוטים עמוסי תעמולה, סרבני מדיה חברתית ומחוללי מאמרים מזויפים.

"OpenAI מחויבת לאכוף מדיניות המונעת ניצול לרעה ולשיפור השקיפות סביב תוכן שנוצר בינה מלאכותית", כתבה החברה. "זה נכון במיוחד ביחס לאיתור ולשיבוש פעולות השפעה חשאיות (IO), המנסות לתמרן את דעת הקהל או להשפיע על תוצאות פוליטיות מבלי לחשוף את הזהות האמיתית או את כוונותיהם של השחקנים מאחוריהן".

חשבונות שנסגרו כוללים את אלה שעומדים מאחורי פעולת טלגרם רוסית שזכתה לכינוי "דקדוק רע" ואלה המסייעים לחברה הישראלית STOIC. התגלה ש-STOIC משתמש במודלים של OpenAI כדיליצור מאמרים ותגובות המשבחים את המצור הצבאי הנוכחי של ישראל, שפורסמו אז על פני פלטפורמות Meta, X ועוד.

OpenAI אומרת שקבוצת השחקנים הסמויים השתמשה במגוון כלים ל"מגוון של משימות, כמו הפקת הערות קצרות ומאמרים ארוכים במגוון שפות, המצאת שמות ו-BIOS עבור חשבונות מדיה חברתית, ביצוע מחקר בקוד פתוח, איתור באגים בקוד פשוט, ותרגום והגהה של טקסטים."

בפברואר הודיעה OpenAI שכןסגר כמה חשבונות "שחקן רע זר".נמצא מעורב בהתנהגות חשודה דומה, כולל שימוש בשירותי התרגום והקידוד של OpenAI כדי לחזק מתקפות סייבר פוטנציאליות. המאמץ היה בשיתוף פעולה עם Microsoft Threat Intelligence.

בעוד קהילות מתחדשות לסדרה של בחירות עולמיות, רבים עוקבים עין מקרוב אחר מסעות פרסום של דיסאינפורמציה המוחזקים בינה מלאכותית. בארה"ב, בינה מלאכותית מזויפת וידאו ואודיו של ידוענים, ואפילומועמדים לנשיאות, הובילה לקריאה פדרלית למנהיגי טכנולוגיה לעשות זאתלעצור את התפשטותם. ודיווח מהמרכז למלחמה בשנאה דיגיטליתמצא כי - למרות התחייבויות יושרה בחירות מצד מנהיגי בינה מלאכותית רבים - שיבוט קול בינה מלאכותית עדיין מטופל בקלות על ידי שחקנים רעים.

למד עוד על האופן שבו בינה מלאכותית עשויה להיות משחקת בבחירות השנה, וכיצד תוכל להגיב עליה.