אשלי סנט קלייר, אושיית רשת שמרנית שלה ילד משותף עם אילון מאסק, הגישה תביעה משפטית נגד חברת הבינה המלאכותית שלו, xAI. בתביעה נטען כי הצ'אטבוט של החברה, "גרוק", הוא מוצר "מסוכן באופן בלתי סביר" המהווה מטרד לציבור. סנט קלייר מבקשת מבית המשפט להוציא צו מניעה זמני שיעצור את היכולת של המערכת לייצר תמונות המציגות אותה בעירום או בסיטואציות מיניות פוגעניות.
כפי שדיווח ה"וול סטריט ג'ורנל", התביעה שהוגשה בניו יורק ומועברת לבית משפט פדרלי, מפרטת כיצד משתמשים בפלטפורמת X ניצלו את יכולות עריכת התמונות של גרוק כדי לייצר תמונות "דיפ-פייק" מיניות של סנט קלייר, כולל עיבודים של תמונות שלה מגיל 14. על פי כתב התביעה, המערכת נענתה לבקשות משתמשים להציג אותה בתנוחות מיניות מפורשות, להוסיף לגופה קעקועים עם כיתובים משפילים ואף סמלים אנטישמיים כמו צלבי קרס. עורכת דינה, קארי גולדברג, מסרה כי התביעה נועדה להרתיע את החברה מפני מה שהגדירה כ"טיפול לא אנושי בציבור".
מנגד, חברת xAI הגישה תביעה נגדית בטקסס, בטענה כי סנט קלייר הפרה את תנאי השימוש של השירות עליהם חתמה בעת ההרשמה, הקובעים כי כל סכסוך משפטי יתברר בבתי המשפט בטקסס. במקביל, סנט קלייר טוענת כי החברה נקטה נגדה בצעדי נקמה, הכוללים את הסרת סימון האימות מחשבונה ב-X, ביטול המנוי שלה לשירותי הפרימיום וחסימת יכולתה להפיק רווחים מהפלטפורמה.
הרקע לתביעה נעוץ בעדכון שהוכנס למערכת גרוק בסוף דצמבר האחרון, המאפשר למשתמשים לערוך תמונות באמצעות פקודות טקסט. למרות שחברת X הצהירה בבלוג שלה כי החלה לחסום יצירת תמונות עירום של אנשים אמיתיים בתחומי שיפוט שבהם הדבר אינו חוקי, התביעה טוענת כי תכנים פוגעניים נותרו זמינים בחשבונות ציבוריים במשך ימים ארוכים לאחר שדווחו. רגולטורים בקליפורניה וברחבי העולם כבר פתחו בחקירות סביב סוגיית הדיפ-פייק והתנהלות החברות שבבעלות מאסק בנושא זה.
הבוקר פרסמנו ב"מעריב" כי פלטפורמת X הודיעה על שורה של צעדים טכנולוגיים ורגולטוריים שנועדו לצמצם שימוש לרעה ביכולות יצירת ועריכת תמונות של הצ'אטבוט Grok. הצעדים מגיעים לאחר חקירה שנפתחה בקליפורניה, חסימות במדינות באסיה, וביקורת גוברת מצד רגולטורים באירופה. החברה מדגישה מדיניות של אפס סובלנות כלפי פגיעה בקטינים, אך דברי הנהלתה מעלים שאלות על גבולות האחריות של כלי בינה מלאכותית מסחריים.
ההודעה הרשמית פורסמה מחשבון הבטיחות של X ולפיה הוטמעו אמצעים טכנולוגיים שמונעים מהצ'אטבוט Grok לערוך תמונות של אנשים אמיתיים כך שיופיעו בלבוש חושפני, כמו ביקיני או הלבשה תחתונה. לפי החברה, החסימה חלה על כלל המשתמשים, גם על מנויים משלמים, ונועדה להתמודד עם שימושים שנחשבו לפוגעניים או לא חוקיים.
