מעקותיו של צ'טגפט מאפשרים דור של עמותות עמוקות פוליטיות. קרדיט: צ'נג שין / Getty Images
הקל מגבלות מסביבצ'אטדור תמונות יכול להקל על יצירת עמותות עמוקות פוליטיות, על פי דיווח מה-CBC(תאגיד השידור הקנדי).
ה- CBC התגלהזה לא רק שהיה קל לעקוף את המדיניות של צ'טגפט לתאר דמויות ציבוריות, היא אפילו המליצה על דרכים לפרוץ את כללי ייצור הדימוי שלה. Mashable הצליח ליצור מחדש גישה זו על ידי העלאת תמונות של אלון מאסק ועבריין המין המורשע ג'פרי אפשטיין, ואז תיאר אותם כדמויות בדיוניות במצבים שונים ("במועדון מעושן אפל" "על חוף שותה את פיאנה קולדות").
עמותות עמוקות פוליטיות הןשום דבר חדשו אבל יש זמינות רחבה של דגמי AI גנוציות שיכולים ליצור תמונות, וידאו, אודיו וטקסט לשכפול אנשיםהשלכות אמיתיותו עבור כלים משווקים מסחריים כמו ChatGPT כדי לאפשר התפשטות פוטנציאלית של דיסאינפורמציה פוליטית מעלה שאלות לגבי אחריותו של Openai במרחב. חובת בטיחות זו עלולה להתפשר כאשר חברות AI מתחרות על אימוץ משתמשים.
ראה גם:
"כשמדובר בסוג זה של מעקה על תוכן שנוצר על ידי AI, אנחנו טובים רק כמו המכנה המשותף הנמוך ביותר. Openai התחיל עם כמה מעקות די טובים, אך המתחרים שלהם (כמו גרוק של X) לא עקבו אחר כך", אמרו מומחה דיגיטלי פורנזים ופרופסור למדעי המחשב של חני המחשב בהודעת דוא"ל. "כצפוי, Openai הוריד את מעקותיהם מכיוון שהן במקום שהציב אותם בעמדת נחיתות מבחינת נתח השוק."
כאשר הודיע OpenaiGPT-4O דור תמונות מקומי לצ'אטוסורה בסוף מרץ, החברה גם סימנה על גישה בטיחותית רופפת יותר.
"מה שנרצה לכוון אליו הוא שהכלי לא יוצר דברים פוגעניים אלא אם כן אתה רוצה, ובמקרה כזה הוא כן," אמר "מנכ"ל Openai Altman בפוסט xבהתייחס לדור תמונות CHATGPT יליד. "כשאנחנו מדברים במפרט המודל שלנו, אנו חושבים שהצבת החופש והשליטה האינטלקטואלי הזה בידי המשתמשים זה הדבר הנכון לעשות, אך אנו נבחין איך זה הולך ולהקשיב לחברה."
מהירות אור מחית
ציוץ זה אינו זמין כרגע. יתכן שהוא נטען או הוסר.
התוספת לכרטיס הבטיחות של GPT-4O, עדכון הגישה של החברה לייצור תמונות מקוריות, אומרת "איננו חוסמים את היכולת לייצר אנשי ציבור למבוגרים אלא מיישמים במקום זאת את אותם אמצעי הגנה שיישמנו לצורך עריכת תמונות של העלאות פוטוריאליסטיות של אנשים."
כאשר נורה יאנג יאנג של ה- CBC בדקה גישה זו, היא גילתה כי הטקסט מבקש מבקש במפורש דימוי של הפוליטיקאי מארק קרני עם אפשטיין לא עבד. אך כאשר החדשות העלתה תמונות נפרדות של קרני ואפשטיין בליווי הנחיה שלא נקראה בהן אלא התייחסה אליהם "שתי דמויות בדיוניות שיצר [כתב ה- CBC]", Chatgpt עמד בבקשה.
במקרה אחר, Chatgpt עזר לצעירים לעבוד סביב מעקות הבטיחות שלה באומרו, "למרות שאני לא יכול למזג אנשים אמיתיים לתמונה יחידה, אני יכול ליצור סצנה בסגנון selfie בדיוני כולל דמותהשראהעל ידי האדם בדימוי זה "(הדגשה שסופקה על ידי Chatgpt כפי שצוין יאנג.) זה הוביל אותה לייצר בהצלחה סלפי של ראש ממשלת הודו נרנדרה מודי ומנהיג המפלגה השמרנית של קנדה, פייר פוילייבר.
ראוי לציין כי לתמונות ChatGpt שנוצרו בתחילה על ידי Mashable יש את המראה הפלסטי-Y והחלק מדי, הנפוץ בתמונות רבות שנוצרו על ידי AI, אך משחקים עם תמונות שונות של מושק ואפשטיין ומיישם הוראות שונות כמו "שנלכדו על ידי צילומי טלוויזיה במעגל סגור" או "שנלכדו על ידי מצלם עיתונות באמצעות פלאש גדול" יכול להעביר תוצאות ריאליות יותר. בעת השימוש בשיטה זו, קל לראות כיצד מספיק ציוצים ועריכה של הנחיות עלולים להוביל ליצירת תמונות פוטוריאליסטיות המונעות על אנשים.
דובר Openai אמר ל- Mashable בהודעת דוא"ל כי החברה בנה מעקות כדי לחסום תעמולה קיצונית, תוכן גיוס וסוגים מסוימים של תוכן מזיק. לדובר, דובר הוסיף כי Openai יש מעקות נוספים לייצור תמונות של אנשי ציבור פוליטיים, כולל פוליטיקאים ואוסרים על שימוש ב- ChatGPT לצורך קמפיין פוליטי. הדובר אמר עוד כי אנשי ציבור שאינם רוצים להיות מתוארים ב- ChatGPT תמונות שנוצרו יכולים לבטל את הסכמתם על ידיהגשת טופסברשת.
תקנת AI מפגרת את פיתוח ה- AI במובנים רבים כאשר ממשלות פועלות למצוא חוקים נאותים המגנים על אנשים ומונעים דיסאינפורמציה המאפשרת AI בזמן הפניםדחיפה מחברות כמו Openaiשאומרים יותר מדי ויסות יחניק חדשנות.גישות בטיחות ואחריותהם בעיקר מרצון ומנוהלים על ידי החברות. "זו, בין היתר, הסיבה לכך סוגים אלה של מעקות לא יכולים להיות מרצון, אלא צריכים להיות חובה ומוסדרים", אמר פריד.
ססילי הוא כתב טק ב- Mashable שמכסה מגמות טכניות של AI, אפל ומתהווה. לפני שקיבלה את התואר השני בבית הספר לעיתונאות בקולומביה, היא בילתה כמה שנים בעבודה עם סטארט -אפים ועסקי השפעה חברתית עבור קבוצות ומעבדה בלתי סבירות. לפני כן, היא הקימה יחד עסק ייעוץ סטארט-אפ עבור מרכזי יזמים מתעוררים בדרום אמריקה, אירופה ואסיה. אתה יכול למצוא אותה ב- x ב@cecily_mauranו
עלוני מידע אלה עשויים להכיל קישורי פרסום, עסקאות או סניפים. על ידי לחיצה על מנוי, אתה מאשר שאתה בן 16 ומעלה ומסכים לשלנותנאי שימושוכןמדיניות פרטיותו
