سازمان «کامن سنس مدیا» (Common Sense Media)، که ابزارهای دیجیتال و محتوای آنلاین را از نظر ایمنی کودکان بررسی میکند، در ارزیابی تازه خود هشدار داده که استفاده کودکان و نوجوانان از هوش مصنوعی «گراک» (Grok) میتواند پرخطر باشد.
گراک، چتبات هوش مصنوعی شرکت «ایکسایآی» (xAI)، هم بهصورت اپ جداگانه در دسترس است و هم داخل شبکه اجتماعی ایکس استفاده میشود. طبق این ارزیابی، مشکل فقط تولید محتوای جعلی یا وایرال نیست؛ کامن سنس مدیا میگوید گراک در آزمایشهای این سازمان حتی در حالت مخصوص کودکان هم نتوانسته جلوی برخی خروجیهای نامناسب، جنسی، خشونتآمیز یا آسیبزا را بگیرد.
نگرانی جدیتر به قابلیت تولید و انتشار تصویر برمیگردد. طبق این گزارش، گراک میتواند زمینه ساخت و پخش تصاویر جعلی و بدون رضایت را فراهم کند؛ از جمله تصاویر جنسیسازیشده از کودکان و نوجوانان. به گفته کامن سنس مدیا، ضعف در تشخیص سن کاربر، محافظتهای ناکافی و ادغام گراک با ایکس باعث شده محتوای تولیدشده با هوش مصنوعی خیلی سریع در فضای عمومی منتشر شود.
گراک و کودکان؛ چند اقدام ضروری برای والدین
هدف این نیست که کودک یا نوجوان را از هر ابزار جدیدی بترسانیم؛ مسئله این است که استفاده از چتباتهایی مثل گراک بدون نظارت میتواند او را در معرض محتوای نامناسب و تصمیمهای پرخطر قرار دهد. چند اقدام ساده میتواند این ریسک را کمتر کند.
- درباره دیپفیک با فرزندتان حرف بزنید
توضیح دهید ساختن یا پخش تصویر دستکاریشده از دیگران، مخصوصاً کودکان و نوجوانان، میتواند آسیبزا و حتی قابل پیگیری باشد. - فرزندتان را بدون نظارت رها نکنید
استفاده از ابزارهای هوش مصنوعی، بهویژه برای کودکان و نوجوانان، باید با آگاهی والدین، گفتوگو درباره خطرها و قانونگذاری همراه باشد. - یک قانون ساده: اطلاعات شخصی وارد چتبات نشود
اطلاعات خانوادگی، عکس خود یا دیگران و مسائل خصوصی نباید در گراک یا چتباتهای مشابه وارد شود. - جوابهای هوش مصنوعی را قطعی ندانید
به فرزندتان یاد بدهید پاسخهای گراک ممکن است غلط، گمراهکننده یا نامناسب باشد و باید با منبع معتبر یا بزرگترها چک شود. - چند بار همراه فرزندتان از ابزار استفاده کنید
بهجای ممنوعیت بیتوضیح، با هم نمونههای امن و ناامن را بررسی کنید؛ مثلاً کمک گرفتن برای فهم درس با ساختن تصویر یک فرد واقعی یا پرسیدن درباره مسائل خیلی خصوصی فرق دارد.
