בית המשפט העליון בארהב מזהיר מפני הסכנות של AI במקצוע עריכת הדין

בית המשפט העליון של ארה"ב התייחס לשימוש בבינה מלאכותית (AI) במערכת המשפט, תוך הכרה בפוטנציאל הטמון בו תוך שהוא מזהיר מפני "דה-הומניזציה של החוק".

פורסם ביום ראשון, הדוח סוף שנה לשנת 2023 על מערכת המשפט הפדרליתמציע סקירה של 13 עמודים של השנה האחרונה במערכת המשפט בארה"ב. השנה בחר השופט הראשי של ארה"ב, ג'ון ג'י רוברטס, הבן להמשיך את ההיסטוריה של טיפול ב"נושא מרכזי הרלוונטי לכל מערכת המשפט הפדרלית" על ידי התמקדות בבינה מלאכותית, השוואת למידת מכונה להתקדמות טכנולוגית בעבר כמו מחשבים אישיים.

ראה גם:

"למי שאינו יכול להרשות לעצמו עורך דין, בינה מלאכותית יכולה לעזור", אמר רוברטס. "היא מניעה כלים חדשים, נגישים מאוד, המספקים תשובות לשאלות בסיסיות, כולל היכן למצוא תבניות וטפסי בית משפט, כיצד למלא אותם והיכן להביא אותם להצגה בפני השופט - הכל מבלי לצאת מהבית".

עם זאת, למרות שרוברטס הודה ביתרונות שבינה מלאכותית עשויה להציע, הוא גם ציין שזה כרוך בסיכונים, במיוחד כאשר מיישמים אותו בצורה לא הולמת. בפרט, הוא ציין כי הרבה קבלת החלטות במערכת המשפט דורשת הערכה אנושית, שיקול דעת והבנת ניואנסים. עצם הפקדת כוח כזה לאלגוריתם עשויה להביא לתוצאות לא מספקות ולא צודקות,במיוחד בהתחשב בכך דגמי AI לעתים קרובות מכילים הטיה בשוגג.

"במקרים פליליים, השימוש בבינה מלאכותית בהערכת סיכוני טיסה, חזרתיות והחלטות אחרות שכוללות תחזיות, יצרו חששות לגבי הליך הוגן, מהימנות והטיה אפשרית", כתב רוברטס. "לפחות נכון לעכשיו, מחקרים מראים תפיסה ציבורית מתמשכת של 'פער ההוגנות בין אדם ל-AI', המשקפת את הדעה ששיפוט אנושי, על כל הפגמים שלהם, הוגנות יותר מכל מה שהמכונה פולטת".

רוברטס אכן הצהיר שמקרים רבים של שימוש בבינה מלאכותית עוזרים למערכת המשפט לפתור תיקים בצורה "צודקת, מהירה וזולה". ובכל זאת, הוא הזהיר שבינה מלאכותית לא בהכרח מתאימה לכל המצבים, וש"בתי המשפט יצטרכו לשקול את השימושים הנכונים שלה בליטיגציה" ככל שהטכנולוגיה תתפתח.

"אני צופה ששופטים אנושיים יהיו בסביבה לזמן מה", אמר רוברטס. "אבל בביטחון שווה אני צופה שעבודה שיפוטית - במיוחד ברמת המשפט - תושפע משמעותית מ-AI. השינויים האלה יכללו לא רק איך שופטים יעשו את עבודתם, אלא גם איך הם מבינים את התפקיד ש-AI ממלא ב-AI. מקרים שמגיעים לפניהם".

בינה מלאכותית כבר משפיעה על מערכת המשפט בארה"ב

למרבה הצער, ההבנה של אנשי מקצוע משפטיים ב-AI כבר מפגרת אחרי יישום להוט יתר על המידה לפחות במספר מקרים, כאשר לטכנולוגיית למידת מכונה הייתה השפעה מפוקפקת על מערכת המשפט האמריקאית עד כה.

אֶשׁתָקַדשני עורכי דין נקנסו בגין ציטוט מקרים לא קיימיםבהגשה משפטית לאחר השימושOpenAIשל ChatGPT. לצ'אטבוט הבינה המלאכותית היהמפוברק לחלוטין שישה תיקים, שעליה ניסו עורכי הדין לאחר מכן להסתמך בטיעוניהם. לדברי אחד מהם, הוא "לא היה מודע לאפשרות שתוכנו יכול להיות שקרי".

למרות שהמקרה הזה דווח בהרחבה, נראה שלא כל עורכי הדין קיבלו את התזכיר לגבי הסתמכות רבה מדי על AI.עורך דין אמריקאי אחר נמשך לאחרונה בגין ציטוט של מקרים מזויפים, לאחר שלא בדק אותם אחרי הלקוח שלויצר אותם באמצעות Google Bard. הלקוח האמור היהפסל את מעצרו של עו"ד טראמפ לשעבר מייקל כהן, שהצהיר בשבוע שעבר שהוא חושב שבארד הוא "מנוע חיפוש טעון במיוחד" ולא ידע שהוא יכול להניב תוצאות.

נעשו גם ניסיונות להשתמש בצ'אטבוטים של AI כדי ליצור טיעונים משפטיים. תחילת השנה שעברההשירות המשפטי המקוון DoNotPay ביטל את התוכניות לייצג את הצ'אטבוט של AI שלו נאשם בבית המשפטלאחר שהוזהר זה עלול להיות מחויב בגין עיסוק בלתי מורשה של חוק. הצ'אטבוט של DoNotPay פותח באמצעות ChatGPT.

חברת AIבְּהִיקוּתגם ערכו הדגמה של הדגם האוטומטי בשפה הגדולה החוקית שלהם בנובמבר האחרון,אוטומציה של משא ומתן על חוזה"ללא התערבות אנושית". בינה מלאכותית אפילו בשימוש על ידי מחוקקים כדי לכתוב חקיקה,הן בתוך ארה"ב והן בעולם.

כל מי שניסח או קרא מסמך משפטי יידע שזו בדרך כלל משימה מפרכת הדורשת ניתוח עמודים ארוכים ומשעממים של טקסט מסובך ומערפל. פשוט לבקש מבינה מלאכותית לבדוק חוזה, להעריך הגשה משפטית או ליצור תצהיר עשוי להרגיש כמו פתרון הרבה יותר מהיר ופחות כואב. ובכל זאת, אפילו שימוש בבינה מלאכותית ככלי מסייע מלווה בסכנות, כמובני אדם עשויים לספוג את ההטיות שלו באופן לא מודע.

במערכת המשפטית עשויים להיות כמה מקרי שימוש שקולים בקפידה עבור אלגוריתמים של למידת מכונה. עם זאת, יש להתייחס לטכנולוגיה בזהירות. הסתמכות בלתי הולמת על AI בחוק טומנת בחובה סיכון ממשי של השתקה נוספת של האנושות במערכת בירוקרטית ידועה כבר לשמצה.