OpenAI, היוצרים שלChatGPT, שמעו בבירור את הביקורות על הצ'אטבוט של AI שלו. כלומר, אלה ממחנכים שהביעו דאגה לגבי תלמידים המשתמשים ב-ChatGPT כדי להכין את שיעורי הבית שלהם או לכתוב עבורם את העבודות שלהם.

ביום שלישי, OpenAIמְשׁוּחרָרכלי חדש לסיווג AI שמטרתו לתת מענה ישיר לחששות הללו. כלי האינטרנט החינמי נוצר על ידי OpenAI במטרה לעזור למשתמשים לקבוע אם גוש טקסט נכתב על ידי אדם או מחשב.

הכלי פשוט לשימוש.פשוט בקר במסווג AI, התחבר, העתק והדבק את גוש הטקסט שברצונך לבדוק. לאחר מכן, המסווג ידרג את הטקסט בקנה מידה כסביר שנוצר בינה מלאכותית, אולי, לא ברור, לא סביר או מאוד לא סביר.

למרות שזה נשמע מועיל להפליא בהתמודדות עם כמה חששות לגבי טקסט כתוב בינה מלאכותית, OpenAI אכן מבהירה היטב שיש אזהרות. לדוגמה, לפי OpenAI, "המסווג אינו אמין לחלוטין".

"בהערכות שלנו על 'ערכת אתגר' של טקסטים באנגלית, המסווג שלנו מזהה נכון 26% מהטקסט שנכתב בבינה מלאכותית (חיובי אמיתי) כ'סביר שנכתב בבינה מלאכותית', תוך תיוג שגוי של טקסט שנכתב על ידי אדם ככתוב בינה מלאכותית 9% של הזמן (תוצאות חיוביות כוזבות)," אמרה החברה ב-aפוסט בבלוג.

ישנן מגבלות אחרות במסווג שאליו התייחס OpenAI בהכרזה שלה. לדוגמה, המסווג עובד בצורה הרבה יותר גרועה עם טקסט שאורכו פחות מ-1,000 מילים. לפעמים הוא יכול לזהות באופן שגוי תוכן שנכתב על ידי אדם כטקסט שנוצר על ידי מחשב. וזה באמת עובד טוב רק עם טקסט באנגלית.

OpenAI היא לא הראשונה שהוציאה כלי שיעזור לזהות מתי טקסט נוצר במחשב. למעשה, זה לא כלי הסיווג הראשון שהחברה עצמה פרסמה. עם זאת, הוא "אמין יותר באופן משמעותי" מהכלי הקודם שלו, לפי OpenAI. וזה מאוד בולט שכלי כזה עובד ברציפות גם על ידי אחד המובילים בתחום ה-AI.

ובכל זאת, יש עוד דרך לעבור לפני שמורים ומחנכים יוכלו להסתמך בביטחון על כל כלי לזיהוי בינה מלאכותית כדי להדוף רמאות בכיתה.