אם אתה מוצא את עצמך זקוק לעד מומחה בתיק באולם בית המשפט, ודא שהוא לא משתמש בצ'אט בוט של AI עבור המומחיות שלו לכאורה.

בשבוע שעבר נזף שופט בניו יורק בעד מומחה בנדל"ןמקרה מחלוקתלשימוש בצ'אטבוט AI Copilot של מיקרוסופט.

ראה גם:

העד המומחה, צ'רלס רנסון, השתמש בקופיילוט על מנת להפיק הערכת פיצויים שיש לפסוק לתובע בתיק. המקרה היה ראשוןדיווחעל ידי Ars Technica.

טייס משנה בבית המשפט - רעיון גרוע

המקרה שבמרכז הסיפור הזה כלל מחלוקת על נכס להשכרה בסך 485,000 דולר באיי בהאמה. האיש שהיה בעל המקרקעין הלך לעולמו, והנכס נכלל בנאמנות לבנו של המנוח. אחותו של המנוח הייתה אחראית לביצוע הנאמנות. עם זאת, האחות הואשמה בהפרת חובות האמון שלה על ידי עיכוב מכירת הנכס תוך ניצול הנכס לשימושה האישי.

חלק מרכזי בזכייתו של הבן בתיק היה הוכחה שנגרמו לו נזקים עקב מעשי דודתו.

רנסון הובא כעד מומחה והוטל עליו להעריך את הנזקים הללו.

בעוד שלרנסון יש רקע בליטיגציה בנאמנות ובעיזבון, לדברי השופט ג'ונתן שופף, "לא הייתה לו מומחיות רלוונטית בתחום הנדל"ן. אז, רנסון פנה לצ'טבוט AI של מיקרוסופט, Copilot.

ראנסון חשף ככל הנראה את השימוש שלו ב-Copilot בעדותו. כשנשאל על כך, רנסון לא הצליח להיזכר באילו הנחיות הוא השתמש כדי להעריך את הנזקים או אילו מקורות Copilot ציטט כדי להגיע להערכתו. רנסון גם לא הצליח להסביר איך Copilot עובד.

בית המשפט החליט אז להשתמש בקופיילוט כדי לראות אם הוא יכול להגיע לאותה הערכה שרנסון סיפק. בית המשפט שאל את Copilot "האם אתה יכול לחשב את השווי של 250,000$ שהושקעו בקרן המדדים המאוזנת של ואנגארד מ-31 בדצמבר 2004 ועד 31 בינואר 2021?"

Copilot סיפק תשובה שונה בשלושה ניסיונות שונים, וכל תשובה הייתה שונה מהכמות שנוצרה על ידי רנסון.

לאחר מכן שאל בית המשפט את קופילוט אם מדובר במקור מידע מהימן, וקופילוט השיב לו באומרו כי יש לאמת תמיד את התפוקות שלו על ידי מומחים.

לדברי השופט, רנסון עמד בדעתו שכלי AI כמו Copilot הם שימוש סטנדרטי בתעשייה שלו, אולם הוא לא הצליח לצטט מקור אחד שמראה שזה נכון.

השימוש בצ'אטבוט של רנסון לא היה הטעות היחידה שלו. עם זאת, המצב של Copilot בהחלט פגע באמינותו של העד המומחה. השופט מצא כי מהראיות עולה כי העיכוב במכירת הנכס לא רק שלא הביא להפסד, אלא לרווח נוסף לבן, וקבע כי אין הפרת חובת אמונים מצד הדודה.

לא פעם ראשונה וכנראה גם לא אחרונה

השימוש של רנסון ב-Copilot כמקור מידע מומחה הוא בהחלט לא הפעם הראשונה שבה נעשה שימוש בצ'אטבוטים של AI באולם המשפט.

הקוראים עשויים לזכור את עורך הדין סטיבן שוורץ שבשנה שעברההסתמךב-ChatGPT בתיקים משפטיים למקרה שבו לקוח חברת תעופה נפצע במהלך טיסה. שוורץ ננזף לאחר שהגיש מסמכים שציינו מקרים שאינם קיימים לחלוטין. שוורץ השתמש ב-ChatGPT למחקר שלו, והצ'אט-בוט של הבינה המלאכותית פשוט הרכיב מקרים קודמים, ששוורץ כלל אז בתיקים שלו.

כתוצאה מכך, שוורץ ועורך דין נוסף במשרד שבו עבד היוקנס5,000 דולר על ידי בית המשפט בגין "פעולה בחוסר תום לב".

אותו תרחישקרה שובעם עורך דין אחר, ג'יי לי, שהשתמשה ב-ChatGPT בתיקיה מוקדם יותר השנה. שוב ChatGPT הזיה מקרים שלא היו קיימים.

בתיק הנדל"ן של איי בהאמה, השופט שופף הדגיש לא להאשים את הצ'טבוט של הבינה המלאכותית אלא את המשתמש בציטוט שלו. עם זאת, צ'אטבוטים של AI ממשיכים להתרבות באינטרנט וחברות טכנולוגיה גדולות כמו גוגל ומיקרוסופט מגבירות את קידום הטכנולוגיה הזו למשתמשים.