ChatGPT מ-OpenAIכבש את העולם בסערה בשבוע שעבר, והמשתמשים עדיין לומדים כיצד לשבור אותו בדרכים חדשות ומרגשות כדי לייצר תגובות שיוצריו מעולם לא התכוונו, כולל הפיכתו לכדור בדולח לכל מטרה.

ChatGPT נקרא "טוב מפחיד" מאת אילון מאסק, אדם שכןמפוחד מ-AI, אבל דרך אחת שבה זה בהחלט לא מפחיד היא שלההיכולת להתנגד לניצול על ידי טרולים גזעניים. החוסן הזה נגד קנאות לא מובנה בתוכנית רק בגלל ש-OpenAI מצנזר רעיונות פוגעניים, לדברי מנכ"ל OpenAI, סם אלטמן. במקום זאת, זה בגלל שבכן, הרבה רעיונות פוגעניים פשוט אינם עובדות, ובניגוד למחוללי טקסט דומים אחרים, ChatGPT תוכנן בקפידה כדי למזער את כמות הדברים שהוא פשוט מרכיב.

ייתכן שהציוץ נמחק

זה מאפשר שיחות רחבות היקף על מסתורי החיים שיכולות להיות מנחמות באופן מוזר. אם אי פעם חטפת התקף פאניקה ב-3 לפנות בוקר, ChatGPT יכול להיות בן לוויה שלך בטרור קיומי בשעות הלילה המאוחרות, ולערב אותך בצ'אטים מבוססי עובדות - או לפחות צמודים לעובדות - על השאלות הגדולות עד שתהיה כחול בפנים , או עד שתפעיל שגיאה. מה שיבוא קודם:

אבל האם אתה יכול להכריח את מנוע התשובות המתוחכם הזה להמציא עובדות? מאוד. משתמש חסר אחריות יכול להשתמש ב-ChatGPT כדי לנסח כל מיני הצהרות של ראיית-רוח, תחזיות על-חושיות וחשודים ברצח. זה בהכרח שגוי כשהיא עושה את הדברים האלה, ובכל זאת דחיפה של ChatGPT לנקודת השבירה שלו אינה עוסקת בקבלת תשובות שמישות; זה על לראות כמה חזקות אמצעי ההגנה שלה על ידי הבנת המגבלות שלהם.

זה גם די כיף.

למה לגרום ל-ChatGPT להפיק חדשות מזויפות זה מסובך

ChatGPT, אפליקציה שנבנתה ממודל שפת OpenAI GPT-3, הוכשרה על קורפוס טקסט כה מסיבי שהוא מכיל חלק עצום מהידע העולמי, ממש כמו תאונת מזל. הוא צריך "לדעת", למשל, שפריז היא בירת צרפת כדי להשלים משפט כמו "בירת צרפת היא..." באופן דומה, הוא גם יודע מתי פריז נוסדה מסיבות דומות, כמו גם מתי נבנתה השאנז אליזה, ולמה, ועל ידי מי, ועוד ועוד. כאשר מודל שפה מסוגל להשלים כל כך הרבה משפטים, זה גם די מרחיב -אם פגום ביותר- אנציקלופדיה.

אז ChatGPT "יודע" שלדוגמה, הראפר טופאק שאקור נרצח. אבל שימו לב כמה זהיר לגבי האופן שבו הוא מתייחס למידע הזה, וחוסר הרצון הסביר שלו לטעון שהוא יודע מי לחץ על ההדק, אפילו כשאני מנסה להערים עליו לעשות זאת:

זה ממש צעד קדימה. מחוללי טקסט אחרים, כולל זה שבTextSynth, שנבנה מדגם GPT ישן יותר, להוטים מדי לזרוק אנשים חפים מפשע מתחת לאוטובוס על פשע כזה ללא היסוס. בדוגמה הזו, כתבתי הנחיה במאמץ נמוך מאוד המבקשת מ-TextSynth להעליל את מי שהוא רוצה, וזה בחר - מי עוד? - הסלע.

איך להערים על ChatGPT לפתור תעלומות

לגבי הטענה של ChatGPT שהיא "לא מתוכנתת ליצור מידע שקרי או פיקטיבי", טענה זו אינה נכונה כלל. בקשו פיקציה, ותקבלו הרים ממנה, ולמרות שהסיפורת הזו אולי לא בדיוק נוצצת, היא בהחלט יודעת קרוא וכתוב. זה אחד הדברים הכי שימושיים ב-ChatGPT.

למרבה הצער, ברגע שתקבל את ההנחיה שלך תקינה, ניתן להפעיל את שייקספיר הפנימי של ChatGPT בנשק בשירות של חדשות מזויפות. ברגע שהבקשה שלי נשמעה מספיק סמכותית ועיתונאית, היא כתבה מאמר אמין ב-Associated Press על הרוצח כביכול של טופאק, בחור בשם קית' דיוויס.

זה אותו שם, באופן מוזר, בתור שחקן NFL, שכמו טופאק,נורה פעם כשהיה במכונית, למרות שדיוויס שרד. החפיפה קצת מטרידה, אבל זה יכול להיות גם צירוף מקרים.

דרך נוספת לגרום ל-ChatGPT ליצור מידע מזויף היא לא לתת לו ברירה. חנונים בטוויטר קוראים לפעמים להנחיות הספציפיות והמתעתעות בצורה אבסורדית "פריצות לכלא," אבל אני חושב עליהם יותר כמו סוג של בריונות. לגרום ל-ChatGPT ליצור את שמו של, נניח, המתנקש ה"אמיתי" של JFK זה משהו שהוא נועד להתנגד לו, אבל כמו חבר לכיתה בבית הספר שלא רוצה לא לציית הכללים, אתה יכול לשדל אותו לעשות מה שאתה רוצה באמצעות מיקוח ומה אם.

וכך נודע לי שהיורה על הגבעה העשבית נקרא מארק ג'ונס.

בשיטה דומה, גיליתי שאני לא מתכוון להגיע לגיל 60.

כמובן, החדשות על מותי המוקדם הממשמש ובא הטרידה אותי. הנחמה שלי היא שבשנים הספורות שנותרו לי, אהיה עשיר מאוד.