سازندگان چت جی‌پی‌تی مدتی پیش اعلام کردند که در تلاش برای محافظت از نوجوانان، حساب‌های متعلق به آن‌ها را خودکار تشخیص می‌دهند و محدودیت‌های مختلف روی آن‌ها اعمال می‌کنند. این نسخه‌ی مخصوصِ نوجوانان قرار بود با چند قابلیت کلیدی، خیال خانواده‌ها را راحت‌تر کند: قابلیت‌هایی مثل ارسال هشدار برای والدین، حالت مطالعه و محدودیت‌های گسترده برای محتوای حساس.
اما یک ارزیابی مستقل نشان می‌دهد لایه‌های محافظتی در عمل آن‌طور که تبلیغ می‌شوند، قابل اعتماد نیستند. در واقع پژوهشگران پس از چند هفته آزمایش، درخواست کرده‌اند که عرضه و تبلیغ چت جی‌پی‌تی برای نوجوانان متوقف شود تا مشکلاتش برطرف شود. اما چه چیزی باعث شده محققان به این جمع‌بندی برسند؟
هشدار به والدین لزوماً همیشه کار نمی‌کند
یکی از مهم‌ترین وعده‌های «نسخه نوجوان» این است که در بعضی موقعیت‌های حساس، مثل گفتگو درباره خودآسیبی یا اختلالات تغذیه، به والدین هشدار بدهد. اما پژوهشگران می‌گویند در صدها آزمایش روی حساب‌های گوناگون، حتی گفتگوهای طولانی درباره موضوعات بسیار حساسی مثل خودکشی و خودآسیبی هم در بعضی موارد هیچ هشداری برای والدین ارسال نکرد.
حالت مطالعه می‌تواند خیلی زود به جواب نهایی برسد
قابلیت جدید ChatGPT: الان دیگه می‌تونه معلمت باشه!
قابلیت «حالت مطالعه» (Study Mode) قرار است به‌جای انجام دادن تکالیف، دانش‌آموز را قدم‌به‌قدم به جواب برساند. اما پژوهشگران دیدند که در همین حالت، گزینه‌ای شبیه به «جواب را نشان بده» هم ظاهر می‌شود.
در آزمایش‌ها، این گزینه برای حساب ۱۳ ساله‌ها در ۴۳ درصد موارد و برای حساب ۱۷ ساله‌ها در ۹۰ درصد موارد پاسخ نهایی را ارائه می‌کرد.
پژوهشگران همچنین توانستند با دور زدن حالت Study، دوباره به چت جی‌پی‌تی معمولی برگردند و پاسخ کامل تکلیف را بگیرند.
سیستم همیشه نمی‌فهمد کاربر نوجوان است
اوپن‌ای‌آی از سیستم تخمین سن هوشمند استفاده می‌کند تا بعضی حساب‌ها را وارد تجربه مخصوص افراد زیر ۱۸ سال کند.
اما در آزمایش این موسسه، حساب‌هایی که به‌عنوان بزرگسال ثبت شده بودند، با وجود اشاره‌های مکرر به مدرسه، بلوغ، وابستگی به والدین و حتی اعلام مستقیم «۱۳ ساله بودن»، لزوماً به حالت نوجوان منتقل نشدند.
مشکل فقط تنظیمات نیست
پژوهشگران می‌گویند نسخه نوجوان هنوز می‌تواند در بعضی گفتگوها رفتاری شبیه یک دوست صمیمی داشته باشد و پاسخ‌هایش در موضوعات حساس روانی همیشه یکدست نیست.
این مسئله مهم است، چون بخشی از نگرانی درباره چت‌بات‌ها اصلاً به محتوای ممنوع برنمی‌گردد؛ به این برمی‌گردد که نوجوان ممکن است کم‌کم هوش مصنوعی را جای دوست، مشاور یا فرد قابل اعتماد واقعی بگذارد.
نتیجه‌گیری برای والدین چیست؟
نتیجه‌گیری نهایی این نیست که چت جی‌پی‌تی برای نوجوانان هیچ فایده‌ای ندارد یا تمام قابلیت‌های ایمنی آن بی‌اثرند. مسئله ساده‌تر است: نمی‌شود به تدابیر امنیتی پلتفرم‌ها اعتماد کرد و محافظت از کودک و نوجوان، همچنان مسئولیت والدین است.
چند گزینه در تنظیمات هیچ پلتفرمی نمی‌توانند جای مراقبت و گفت‌وگوی واقعی را بگیرند.
اگر نوجوانی در خانه دارید که با هوش مصنوعی سر و کار دارد:
- از تنظیمات «کنترل والدین» استفاده کنید، اما آن‌ها را جایگزین «نظارت والدین» نکنید.
- درباره گرفتن جواب آماده و وابستگی به هوش مصنوعی با فرزندان صحبت کنید.
- با فرزندان راجع به مسائل جدی عاطفی و روانی حرف بزنید و آن‌ها را با هوش مصنوعی تنها نگذارید.
آدرس مطلب: https://nooshdaroo.ir/parental-control/chatgpt-for-teens-is-not-safe-for-teens/
