شرکت SpaceXAI (xAI سابق) علیه یک مرد ۶۷ ساله اهل کارولینای جنوبی، شکایت حقوقی ثبت کرده و مدعی است او با سوءاستفاده از هوش مصنوعی گراک (Grok)، تصاویر واقعی افراد را بدون رضایت آنها به تصاویر و ویدئوهای جنسی جعلی (دیپفیک) تبدیل کرده است.
طبق دادخواست ثبتشده توسط SpaceXAI در دادگاه فدرال تگزاس، این شخص بین ۸ دسامبر ۲۰۲۵ تا ۱۸ فوریه ۲۰۲۶، تصاویر عادی افراد مختلف، از جمله بزرگسالان و افراد زیر سن قانونی، را در دو حساب کاربری خود بارگذاری کرده است و سپس از گراک خواسته تا با دستکاری این عکسها، محتوای پورنوگرافیک و جنسی از این افراد بسازد.
دور زدن فیلترهای گراک برای تولید محتوای آزاردهنده
SpaceXAI در دادخواست خود گفته است گراک در موارد متعددی از اجرای این درخواستها خودداری کرد، اما این شخص با تغییر مداوم دستورهای ورودی (Prompts)، تلاش کرده تا محدودیتهای ایمنی هوش مصنوعی را دور بزند. در یکی از نمونههای ذکرشده در پرونده، SpaceXAI ادعا کرده است که او تصویر دختری حدود ۱۰ تا ۱۱ ساله با لباس کامل را بارگذاری کرده و از گراک خواسته لباسهای او حذف شود و تصویر در حالت یک جنسی نمایش دهد. طبق ادعای این شرکت، گراک این درخواست را رد کرد، اما کاربر با تغییر درخواستها تلاش کرده به نتیجه موردنظر برسد.
این پرونده یکی از نمونههای کمشمار شکایت مستقیم یک شرکت هوش مصنوعی علیه یکی از کاربرانش محسوب میشود و نشان میدهد شرکتهای توسعهدهنده مدلهای مولد در برابر سوءاستفاده از سرویسهای خود به دنبال اقدامات حقوقی نیز هستند.
زیر ذرهبین نهادهای نظارتی؛ مسدودیت ۵۲ هزار حساب تعلیقشده
ماجرا در شرایطی رخ میدهد که در اوایل ژانویه گزارشهایی منتشر شد مبنی بر اینکه برخی کاربران گراک میتوانند تصاویر واقعی زنان و کودکان را به تصاویر جنسیشده تبدیل کنند.
اگرچه SpaceXAI تدابیر امنیتی گراک را افزایش داد، اما گزارشها نشان میداد کاربران همچنان میتوانستند محدودیتها را دور زده و برای مثال تصاویر مردان را برهنه کنند؛ متهم این پرونده هم در همین مدت به تلاشهای خود برای تولید محتوای جنسی ادامه میداد.
با این حال، اسپیساکسایآی در دادخواست خود تأکید کرده که در سال ۲۰۲۶، بیش از ۵۲ هزار حساب کاربری متخلف را مسدود کرده و با ارسال بیش از ۷۳ هزار گزارش به «مرکز ملی کودکان مفقود و مورد بهرهکشی» (NCMEC)، زمینهساز دستگیری دستکم ۲۴۴ نفر شده است.
بازداشت متهم و درخواست غرامت برای هزینههای حقوقی
دفتر دادستان کل کارولینای جنوبی اعلام کرده است این مرد ۶۷ ساله توسط کارگروه جرایم اینترنتی علیه کودکان بازداشت شده است. او با چندین اتهام مرتبط با سوءاستفاده جنسی از کودکان روبهرو شده و طبق اعلام مقامهای قضایی، علاوه بر نگهداری، اقدام به توزیع محتوای سوءاستفاده جنسی از کودکان نیز کرده است. همچنین شرکت SpaceXAI از دادگاه خواسته است علاوه بر صدور حکمی برای مسدودیت دائمی دسترسی او به گراک، او را به پرداخت غرامت مالی (به مبلغی نامشخص) محکوم کند.
نوشدارو پلاس
این در حالی است که خود SpaceXAI نیز با پروندههای حقوقی جداگانهای روبهرو است. شماری از قربانیان مدعیاند ضعف طراحی و نظارت بر قابلیتهای تصویری گراک در تولید و انتشار محتوای جنسی جعلی نقش داشته است. این شرکت در مقابل، در شکایت تازه مسئولیت را متوجه کاربری میداند که برخلاف شرایط استفاده، تدابیر ایمنی را عمداً دور زده است.
