ابزارهای هوش مصنوعی ساخت هر تصویری را آسان کردهاند؛ اما این قابلیت یک پیامد تاریک هم داشته است: تولید انبوه تصاویر ساختگیِ سوءاستفاده جنسی از کودکان.
سرازیر شدن صدها هزار گزارش از این نوع محتوا به سامانههای حمایتی، آنها را با بحرانی بیسابقه روبهرو کرده است. از آنجا که تکتک این گزارشها باید توسط انسان بررسی شوند، این حجم عظیم از اطلاعات صف بررسیها را طولانی کرده و روند رسیدگی به پروندهها و کمک به قربانیان کُند شده است.
فقط در آمریکا، تعداد گزارشهای مرتبط با هوش مصنوعی از ۶۷ هزار مورد در سال ۲۰۲۴ به بیش از ۴۰۰ هزار مورد در سال ۲۰۲۵ رسیده است.
برای مدیریت این بحران، شرکت اوپنایآی ابزار جدیدی را بهرایگان در اختیار نهادهای حمایتی، تیمهای ایمنی پلتفرمها و واحدهای مجاز پلیس قرار داده است. این سامانه قرار نیست خودش درباره تصاویر تصمیم نهایی بگیرد؛ بلکه با امتیازدهی به «احتمال وجود آزار» و «احتمال ساختگیبودن تصاویر»، به کارشناسان کمک میکند موارد مهمتر را زودتر بررسی کنند.
آزمایش داخلی این ابزار نشان میدهد که توانسته تقریباً همان تعداد تصویر آزاردهنده را شناسایی کند، اما حجم مواردی را که برای بررسی انسانی علامتگذاری میشوند، ۴۸ درصد کاهش دهد. به این ترتیب کارشناسان میتوانند وقت کمتری صرف بررسی موارد کماهمیتتر کنند و زودتر به گزارشهای مهم برسند.
همزمان، اوپنایآی محدودیت تازهای هم برای چتجیپیتی در نظر گرفته است.
اگر کاربری تلاش کند این نوع محتوای ممنوعه را جستوجو یا تولید کند، گفتوگویش حذف و دسترسی او به چتجیپیتی برای ۲۴ ساعت متوقف میشود.
در این مدت، منابع تخصصی برای کمک به توقف این رفتار در اختیارش قرار میگیرد. تکرار تخلف هم ممکن است به محرومیت طولانیتر، بستهشدن حساب یا گزارش به مراجع قانونی منتهی شود.
آدرس مطلب: https://nooshdaroo.ir/news-opinion/openai-ai-generated-child-abuse-image-classifier/
