در یک دبیرستان معتبر آمریکایی به نام «Radnor» در ایالت پنسیلوانیا، پسری ۱۴ ساله با پرداخت ۲۵۰ دلار، اشتراک یکی از برنامههای فروشگاه اپل به نام Movely را خرید. او با استفاده از این برنامه، چهرهی پنج نفر از دختران همکلاسی خود را روی بدنهای برهنه قرار داد و ویدیوهای غیراخلاقیِ کاملاً واقعگرایانه تولید کرد.
این تصاویر به سرعت از طریق شبکههای اجتماعی میان دانشآموزان دستبهدست شد، تا جایی که خود قربانیان هم پی بردند که به سوژهی محتوای «جعل عمیق» یا «دیپفیک» (Deepfake) تبدیل شدهاند.
شاید فکر کنید این اتفاق در نقطهای دور از ما افتاده و گریبان ما را نمیگیرد، اما واقعیت این است که ابزار این کار در دسترس فرزندان ما نیز قرار گرفته. این برنامهها در شبکههای اجتماعی مانند اینستاگرام و تیکتاک با عنوان «ساخت آواتار هوش مصنوعی» تبلیغ میشوند. اما در پسِ این ظاهر سرگرمکننده، امکاناتی وجود دارد که فقط با نوشتن چند کلمهی ساده، عکسهای معمولی را به تصاویر غیر اخلاقی تبدیل میکند.
اشتباهات مهلک کادر مدرسه؛ درسی برای ما
آنچه این بحران را عمیقتر کرد، فناوری نبود، بلکه واکنش اشتباه سیستم آموزشی و حتی نیروهای پلیس بود. مدیران این مدرسه بهجای برخورد قاطع با فرد خاطی، رویکردی مخرب در پیش گرفتند:
- انزوای قربانیان: مدرسه برای «حمایت» از دختران آسیبدیده، به آنها اجازه داد زودتر کلاس را ترک کنند یا ناهار را تنهایی بخورند. نتیجه این شد که قربانیان منزوی شدند و روند تحصیلشان مختل شد، در حالی که آزارگر آزادانه در راهروها قدم میزد.
- انکار و کوچکنمایی: مدیران مدرسه در ایمیلهای خود به والدین، این بحران را صرفاً «شایعاتی دربارهی یک ویدیوی هوش مصنوعی» خواندند و با ادعای اینکه جرمی رخ نداده، اعتبار و روان دختران آسیبدیده را زیر سوال بردند.
ورود پلیس به پرونده و طرح شکایت رسمی علیه دانشآموز
درست یک هفته بعد از اینکه مدرسه همهچیز را انکار کرد، ادارهی پلیس مجبور شد یک اصلاحیهی رسمی در شبکههای اجتماعی منتشر کند.
ادارهی پلیس با همکاری دادستانی تأیید کرد که یک پسر نوجوان به طور رسمی با اتهام ایجاد مزاحمت و آزار روبهرو شده است. این پرونده به هیئت امداد جوانان ارجاع داده شد. مجازات این پسر نوجوان هم شرکت در کلاسهای ایمنی اینترنت و دریافت حکم ممنوعیتِ نزدیک شدن به همکلاسیهای آسیبدیده بود. بر اساس این حکم، اگر پسر نوجوان در محیط مدرسه متوجه حضور آنها میشد، موظف بود بلافاصله محل را ترک کند.
اعتراض والدین و تغییر قوانین مدرسه برای مقابله با مزاحمت
پدران و مادران قربانیان تسلیم این لاپوشانی نشدند. آنها مدام در جلسات عمومی با هیئتمدیرهی مدرسه بحث کردند و خواستار شروع تحقیقات رسمی تحت قانون منع تبعیض و آزار (Title IX) شدند.
در نهایت، مدرسه قوانین ضد مزاحمت خود را بهروزرسانی کرد تا مستقیماً جلوی سوءاستفاده از هوش مصنوعی را بگیرد. هیئتمدیره اعلام کرد که حتی اگر این اتفاقات در خارج از ساعات مدرسه و در فضای مجازی رخ دهد، از آنجا که نظم مدرسه و آرامش دانشآموزان را به هم میریزد، تحت پیگرد قرار خواهد گرفت.
معضل دیپفیک گریبانگیر خیلیها شده است
بحرانی که در این دبیرستان رخ داد، فقط یک نمونه از بین هزاران اتفاقِ مشابه است. این مشکل در بسیاری از مدارس جهان و میان بسیاری از نوجوانان دیده میشود و سیستمهای آموزشی آمادگی رویارویی با آن را ندارند.
طبق آمارهای جدید، از هر ده دانشآموز نوجوان، چهار نفرشان در مدارس شاهد دست به دست شدن این تصاویر جعلی هستند. برای درک بهتر این موضوع، تصور کنید در یک کلاس سینفره، حداقل دوازده دانشآموز با این ویدیوهای ساختگی برخورد داشتهاند.
علاوه بر این، یکدهم از نوجوانان اعتراف کردهاند که همکلاسیهایشان از هوش مصنوعی برای ساخت تصاویر غیراخلاقی از دوستانشان استفاده میکنند. پیش از این هم مدارس دیگری با چنین بحرانهایی روبهرو شده بودند. در یک نمونه، دو نوجوان دهها تصویر غیراخلاقی از همکلاسیهای خود ساختند که در نهایت با شکایت والدین، مدیر مدرسه مجبور به استعفا شد.
اگرچه این آمار متعلق به کشورهای دیگر است و آمار دقیقی از وضعیت کشور خودمان نداریم، اما نمیتوان خیلی ساده فرض را بر این گذاشت که هیچ ردی از این پدیده در جامعهی ما نیز دیده نمیشود!
ریشهیابی مشکل و راهکارهایی برای آینده
کارشناسان معتقدند که برای حل این مشکل، نیاز به اقدامات ریشهای و اساسی داریم و تنبیههای انضباطی یا قضایی بهتنهایی کافی نیستند.
- نقص در سیستم حمایت از آسیبدیدگان: معمولاً مدارس بهجای اینکه از نظر روانی به دانشآموزان آسیبدیده کمک کنند، فقط پای پلیس را به ماجرا باز میکنند. این کار باعث میشود قربانیان بدون دریافت حمایت عاطفی مناسب، درگیر دادگاههای طولانی شوند.
- نقش الگوریتمهای شبکههای اجتماعی: شرکتهای بزرگ فناوری، مستقیم یا غیرمستقیم در این بحران نقش دارند. شبکههای اجتماعی با الگوریتمهای خود این برنامههای مخرب را به نوجوانانی پیشنهاد میدهند که هنوز از نظر عقلی به بلوغ کامل نرسیدهاند و عواقب کارهایشان را درک نمیکنند.
- مسئولیتپذیری والدین: متخصصان تأکید میکنند که قانون همیشه یک قدم از فناوری عقبتر است. بهترین راهکار این است که والدین سواد دیجیتال، حریم خصوصی و مسئولیتپذیری در فضای مجازی را خود بیاموزند و بعد به فرزندان آموزش دهند.
نظر بدهید
نشانی ایمیل شما منتشر نخواهد شد.