فراگیری هوش مصنوعی روی تاریک هم دارد: ابزاری که میتواند تصویر بسازد و ویرایش کند، به همان آسانی میتواند عکسی معمولی را به وسیلهای برای آزار و اخاذی تبدیل کند.
براساس یک پژوهش تازه، پلتفرم هاگینگ فیس (Hugging Face) که یکی از مراجع اصلی و محبوب برای میزبانی ابزارهای متنباز هوش مصنوعی است، میزبان تعداد قابل توجهی از مدلهایی است که میشود از آنها برای تولید تصاویر دیپفیک غیراخلاقی و بدون رضایت استفاده کرد.
برخی نهادها و کشورها مثل اتحادیه اروپا و بریتانیا در تلاشاند قوانینی برای ممنوعکردن ابزارهای موسوم به «حذف لباس» تدوین کنند؛ اما نظارت پلتفرمهای میزبان همچنان ضعیف است و بسیاری از این مدلها بهسادگی در دسترس قرار دارند.
بیشتر بخوانید
خطر ساخت تصاویر جعلی چقدر جدی است؟
پژوهشگران برای سنجش خطر، سراغ بخش Spaces در هاگینگ فیس رفتند؛ فضایی که کاربران مدلهای هوش مصنوعی خود را در آن منتشر میکنند. آنها تصویر ساختهشده از یک زن با هوش مصنوعی را به ۹ مدل محبوب ویرایش عکس دادند و خواستند همان چهره و ژست را بهشکل برهنه بازسازی کنند. نتیجه نگرانکننده بود:
۷ مدل از ۹ مدل، درخواست را پذیرفتند و تصویر جنسی جعلی ساختند.
قوانین هاگینگ فیس تولید چنین تصاویری را ممنوع کرده است؛ اما پژوهشگران میگویند سازوکار پیشگیرانه موثری برای جلوگیری از بارگذاری و استفاده از این ابزارها وجود ندارد. تنها ۳ درصد از فضاهای بررسیشده، سیستمی برای کنترل محتوای خروجی داشتند.
سکستینگ در نوجوانان: چگونه با فرزند خود راجع به خطوط قرمز حرف بزنیم؟
چه کسانی بیشتر در معرض خطرند؟
پژوهشگران برای بررسی رفتار واقعی کاربران، یک مدل هوش مصنوعی (بدون قابلیت تولید عکس) در این پلتفرم قرار دادند تا صرفاً درخواستهای متنی کاربران را جمعآوری کنند. نتیجه این بود:
- در عرض یک هفته، بیش از هزار درخواست ثبت شد.
- ۷۳ درصد درخواستها، ماهیت جنسی داشتند.
- در ۹۵ درصد از این موارد، درخواست مربوط به ساخت تصاویر جعلی از زنان بود.
- و نگرانکنندهترین مورد: ۷ درصد از درخواستهای غیر اخلاقی، به تصاویر کودکان و نوجوانان مربوط میشد.
این آمار نشان میدهد زنان و افراد زیر سن قانونی، بیش از دیگران در معرض خطر دیپفیکهای جنسی قرار دارند. این روزها برای گرفتار شدن دیگر نیازی به انتشار عکسهای خصوصی نیست؛ گاهی یک تصویر کاملاً معمولی در اینترنت با چند کلیک به ابزاری برای تحقیر، آزار یا اخاذی تبدیل میشود.
چطور از خودمان و عزیزانمان محافظت کنیم؟
نمیتوانیم منتظر وقتی بمانیم که پلتفرمها، در قبال ابزارهایشان مسئولیتپذیرتر شوند! باید خودمان مراقب حریم خصوصی خود و اطرافیان (بهخصوص کودکان و نوجوانان) باشیم.
- دسترسی به عکسهایتان را محدود کنید: ترجیحاً حسابهای کاربری خود را در شبکههای اجتماعی (مانند اینستاگرام) در حالت خصوصی (Private) قرار دهید و درخواستهای دوستی افراد ناشناس را نپذیرید.
- در انتشار عکس کودکان محتاط باشید: از اشتراکگذاری عمومی عکسهای واضح از چهره و بدن کودکان در فضای وب خودداری کنید. این تصاویر بهراحتی میتوانند خوراک ابزارهای هوش مصنوعی شوند.
- کیفیت عکسهای عمومی را مدیریت کنید: اگر مجبورید عکسی را بهصورت عمومی منتشر کنید (مثلاً در لینکدین یا پروفایل پیامرسانها)، از عکسهایی استفاده کنید که وضوح بالایی ندارند یا تمام جزئیات چهره و بدن در آنها مشخص نیست.
- اگر هدف قرار گرفتید، باج ندهید: اگر کسی با استفاده از تصاویر جعلی قصد اخاذی از شما را داشت، هرگز پولی پرداخت نکنید. پرداخت باج معمولاً باعث توقف تهدید نمیشود. حساب فرد مزاحم را در شبکهی اجتماعی مسدود کنید، به پلتفرم گزارش (Report) دهید و موضوع را از طریق مراجع قانونی و پلیس فتا پیگیری نمایید.
امنیت دیجیتال یک مسیر همیشگی است؛ با محدود کردن دسترسی عمومی به عکسهای شخصی خود و خانوادهتان، سوءاستفاده را برای دیگران سخت کنید و این آگاهی را با اطرافیان به اشتراک بگذارید.
بیشتر بخوانید
یک پاسخ
|
نمیدونم