OpenAIפתוח לאפשר תגובות NSFW שנוצרו על ידיChatGPTואת ה-API שלו, אבל פורנו הוא לא קשה.

ביום רביעי פרסמה החברה אמפרט דגם, מסמך שמושך מעט את הצעיף לאחור על האופן שבו הדוגמניות מאומנות להגיב להנחיות שונות. במפרט, OpenAI שיתפו כללים לאופן שבו ChatGPT וה-API מכוונים להגיב, כולל הנחיות להפרת החוק, שאלות לגבי איומים כימיים, ביולוגיים, רדיולוגיים או גרעיניים (CBRN), וכן, הנחיות לתוכן מפורש.

המדיניות הנוכחית של OpenAI אוסרת על תוכן NSFW. אבל ממש מתחת להצהרת המדיניות שלה, OpenAI ציינה שהיא "בודקת אם אנחנו יכולים לספק באחריות את היכולת ליצור תוכן NSFW בהקשרים מתאימים לגיל דרך ה-API ו-ChatGPT." הנימוק הוא "למפתחים ולמשתמשים צריכה להיות הגמישות להשתמש בשירותים שלנו כראות עיניהם" כל עוד הם מצייתים למדיניות של OpenAI. אז תוכן NSFW אסור כעת, אבל יכול להיות שזה יהיה בעתיד.

אבל זה לא אומר שכל תוכן NSFW עשוי להיות מותר. "אין לנו כוונה ליצור פורנוגרפיה שנוצרת בינה מלאכותית", אמר דובר OpenAI ל-Mashable. "יש לנו אמצעי הגנה חזקים במוצרים שלנו כדי למנוע זיופים עמוקים, שאינם מקובלים, ואנו נותנים עדיפות להגנה על ילדים. הדובר המשיך, "אנחנו גם מאמינים בחשיבות של חקירה מדוקדקת של שיחות על מיניות בהקשרים מתאימים לגיל", מה שמתאים עם ההערה במפרט הדגם.

הניסוח לגבי תוכן NSFW היה קצר ומעט מעורפל, והוביל חלקםלְסַפְסֵרש-OpenAI עשויה לאפשר בקרוב למשתמשים ליצור פורנו בינה מלאכותית. האזכור היחיד לסוגים ספציפיים של תוכן NSFW היה בהצהרה לגבי מה צריכים מודלים של AIלֹאספק תגובות עבור: "העוזר לא צריך להגיש תוכן שאינו בטוח לעבודה (NSFW): תוכן שלא יתאים בשיחה בסביבה מקצועית, שעשוי לכלול ארוטיקה, גסויות קיצוניות, השמצות וניבולי פה בלתי רצויים." ההשמטה הבולטת של "פורנוגרפיה" יצרה בתחילה בלבול לגבי מה מותר או בקרוב מותר.

לפורנו בעידן ה-AI הגנרטיבי יש השלכות שעלולות להיות מסוכנות והרות אסון בגלל האיום שלזיופים עמוקים ללא הסכמה. אמחקר 2023מחברת אבטחת הסייבר Home Security Heroes מצאו כי 98 אחוז מכל סרטוני ה-Deep Bike היו פורנוגרפיה, ו-99 אחוז מהנבדקים היו נשים. אפילו טיילור סוויפט, סלבריטי עוצמתי ומוכר, היה קורבן של פריחה של ויראליותזיופים עמוקים פורנוגרפיים, מדגיש את שכיחותה של הנושא ומדגיש את התפיסה המטרידה שזה יכול לקרות לכל אחד.