גוגל משרטטת גבולות סביב אפליקציות בינה מלאכותית. קרדיט: Yasin Baturhan Ergin / Anadolu דרך Getty Images
חָדָשׁGoogle Playהנחיות חותמות את האזיקים על אפליקציות בינה מלאכותיות המציעות כלים מפוקפקים, כמו אפליקציות "התפשטות" מזויפות ואלה המייצרות תוכן גרפי.
המדיניות חנות אפליקציות מעודכנת, שהוכרז ביום חמישי, מורה לאפליקציות בינה מלאכותית ולמפתחיהן לכלול אמצעי זהירות נגד תוכן פוגעני, "כולל תוכן אסור המופיע תחת Google Playתוכן לא הולםמדיניות, תוכן שעלול לנצל או להתעלל בילדים ותוכן שעלול להונות משתמשים או לאפשר התנהגויות לא ישרות".
מפתחים חייבים להציע גם בתוך האפליקציהמנגנוני סימון ודיווחלמשתמשים שנתקלו בתוכן לא הולם ו"בודקים בקפדנות" את דגמי הבינה המלאכותית שלהם,TechCrunchדיווח.
הכללים חלים על אפליקציות שמייצרות תוכן שנוצר בינה מלאכותית ב"כל שילוב של קלט טקסט, קול ותמונה". זה כולל צ'אטבוטים, מחוללי תמונות ואפליקציות זיוף אודיו המשתמשות בבינה מלאכותית. המדיניות לא חלה על אפליקציות ש"רק מארחות" תוכן בינה מלאכותית או כאלו עם "כלי פרודוקטיביות" של בינה מלאכותית, כגון תכונות סיכום.
מהירות אור ניתנת לריסוק
במַאִי, גוגל הודיעה שהיא מפחיתה מערך תוצאות פורנו שנוצרו בינה מלאכותית (או "סינטטית") בדירוג החיפוש הפנימי שלה, בניסיון להלביש בעיה גוברת שלפורנוגרפיה מזויפת ללא הסכמה. החברה גם אסרה פרסום לאתרים שיוצרים, תומכים או משווים פורנוגרפיה מזויפת עמוקה.
המהלך הגיע לאחר גל של זיופים עמוקים ויראליים הממוקדים בסלבריטאים שהופצו בפלטפורמות X ו-Meta, כולל פרסומות גרפיות לאפליקציית התפשטות המופעלת על ידי בינה מלאכותית שהציגה תמונות קטינים של שחקןג'נה אורטגה. גוגל כבר השתתפהאלפי תלונות של קורבנותשל זיופים עמוקים ללא הסכמה מינית, שרבים מהם הגישוחוק זכויות יוצרים במדיה דיגיטלית (DMCA)תביעות נגד אתרים המאכלסים את הדמיון שלהם.
מקורבים לתעשיית בינה מלאכותית פרסמואזהרות מרובותעל האיום במידע מוטעה ושימוש לא בהסכמה בדמויות של אנשים, כולל לאחרונהמכתב פתוחפרי עטו של עובדי OpenAI ו-Google DeepMind. הקבוצה ציינה את הסיכון הפוטנציאלי של "מניפולציה ומידע מוטעה" אם התקדמות בינה מלאכותית תימשך ללא רגולציה.
תקנות חנות האפליקציות של גוגל פועלות בהתאםהנחיית AI של הבית הלבןהונפק לחברות טכנולוגיה בחודש שעבר. ההכרזה קראה למנהיגי התעשייה לעשות יותר כדי לאסור הפצת זיופים עמוקים, כאשר גוגל נענתה במיוחד לקריאה לבלום אפליקציות ש"יוצרות, מקלות, מייצרות רווחים או מפיצים התעללות מינית מבוססת תמונה". אם היית קורבן להתעללות בזיוף עמוק, יש צעדים שאתה יכול לנקוט;קרא עודעל איך לקבל תמיכה.
צ'ייס הצטרף לצוות Social Good של Mashable בשנת 2020, וכיסה סיפורים מקוונים על אקטיביזם דיגיטלי, צדק אקלימי, נגישות וייצוג תקשורתי. עבודתה נוגעת גם לאופן שבו שיחות אלו באות לידי ביטוי בפוליטיקה, בתרבות פופולרית ובפאנדום. לפעמים היא מאוד מצחיקה.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
