עורך הדין סטיבן שוורץ מ-Levidow, Levidow & Oberman עוסק בעריכת דין כבר שלושה עשורים. כעת, מקרה אחד יכול לדרדר לחלוטין את כל הקריירה שלו.

מַדוּעַ? הוא הסתמך עלChatGPTאצלוהגשות משפטיותוהצ'טבוט של הבינה המלאכותית ייצר לחלוטין מקרים קודמים, שוורץ ציטט, יש מאין.

ייתכן שהציוץ נמחק

הכל מתחיל בתיק המדובר, מאטה נגד אביאנקה. על פי הניו יורק טיימס, אאוויאנקהלקוח בשם רוברטו מאטה תבע את חברת התעופה לאחר שעגלת שירות נפצעה בברכו במהלך טיסה. אביאנקה ניסתה לגרום לשופט לדחות את התיק. בתגובה, עורכי הדין של מטה התנגדו והגישו תסקיר מלא בשורה של החלטות דומות של בית המשפט בעבר. וכאן נכנס ChatGPT.

שוורץ, עורך דינו של מאטה שהגיש את התיק לבית המשפט במדינה ולאחר מכן סיפק מחקר משפטי לאחר שהועבר לבית המשפט הפדרלי במנהטן, אמר שהוא השתמש בצ'אטבוט הפופולרי של OpenAI כדי "להשלים" את הממצאים שלו.

ChatGPT סיפקה לשוורץ מספר שמות של מקרים דומים: Varghese נגד China Southern Airlines, Shaboon נגד Egyptair, Petersen נגד איראן אייר, Martinez נגד Delta Airlines, Estate of Durden נגד KLM Royal Dutch Airlines, ומילר נגד United Airlines .

הבעיה? ChatGPT הרכיב לחלוטין את כל המקרים הללו. הם לא קיימים.

הצוות המשפטי של אביאנקה והשופט שהוקצה לתיק הזה הבינו עד מהרה שהם לא יכולים לאתר אף אחת מהחלטות בית המשפט הללו. זה הוביל לכך שוורץ הסביר מה קרה בתצהיר ביום חמישי. עורך הדין הפנה ל-ChatGPT לעזרה בהגשתו.

לדברי שוורץ, הוא "לא היה מודע לאפשרות שהתוכן שלו יכול להיות שקרי". עורך הדין אפילו סיפק צילומי מסך לשופט של האינטראקציות שלו עם ChatGPT, ושאל את הצ'אטבוט של AI אם אחד המקרים היה אמיתי. אף אחד מהם לא נמצא מכיוון שהמקרים נוצרו כולם על ידי הצ'אטבוט.

חשוב לציין ש-ChatGPT, כמו כל הצ'אטבוטים של AI, הוא מודל שפה שאומן לעקוב אחר ההוראות ולספק למשתמש מענה להנחיה שלו. כלומר, אם משתמש יבקש מידע מ-ChatGPT, זה יכול לתת למשתמש בדיוק את מה שהוא מחפש, גם אם זה לא עובדתי.

השופט הורה על שימוע בחודש הבא כדי "לדון בסנקציות פוטנציאליות" על שוורץ בתגובה ל"נסיבות חסרות תקדים אלה." נסיבה זו שוב הייתה עורך דין המגיש תסקיר משפטי באמצעות החלטות מזויפות של בית משפט וציטוטים שסופקו לו על ידי ChatGPT.