عکسی را برای ویرایش به هوش مصنوعی می‌دهید و شاید تصور کنید فقط ماشین آن را می‌بیند؛ اما اسناد داخلی‌ای که به دست رسانه «۴۰۴ مدیا» (404 Media) رسیده نشان می‌دهد درباره بررسی درخواست‌های کاربران کوپایلت مایکروسافت نشان می‌دهد برخی عکس‌ها و متن درخواست‌ها به ارزیاب‌های انسانی هم نشان داده می‌شوند.
پیش‌تر در نوشدارو، در گزارش «پروژه لیلی» و خوانده‌شدن چت‌های خصوصی توسط پیمانکاران اوپن‌ای‌آی، از بررسی انسانی مکالمات چت‌جی‌پی‌تی نوشته بودیم. گزارش تازه نشان می‌دهد موضوع فقط متن گفت‌وگو نیست؛ عکس اصلی و نسخه‌های ویرایش‌شده آن هم ممکن است مقابل چشم یک انسان قرار بگیرد.
در کارهای بررسی‌شده، ارزیاب، متن درخواست، عکس اصلی و دو نسخه ویرایش‌شده را می‌بیند و باید نتیجه بهتر را انتخاب کند. معیار این است که کدام تصویر دستور را دقیق‌تر اجرا کرده، طبیعی‌تر به نظر می‌رسد و بخش‌هایی را که نباید تغییر می‌کردند، دست‌نخورده نگه داشته است.
به گفته یکی از کسانی که روی این درخواست‌ها کار می‌کند، بسیاری از آن‌ها ماهیت جنسی دارند و چهره‌ها هم هیچ‌وقت پوشانده نمی‌شوند. پیمانکاران در گفت‌وگوهای داخلی از درخواست‌هایی مثل نمایان‌ترکردن پاها یا قراردادن افراد در حالت‌های جنسی نوشته‌اند.
نکته آزاردهنده برای این نیروها آن بوده که وظیفه‌شان در کارهای گزارش‌شده، تشخیص و حذف محتوای نامناسب نبوده است؛ باید می‌سنجیدند کدام تصویر حتی همین درخواست‌های جنسی را بهتر اجرا کرده است. برخی پیمانکاران شکایت کرده‌اند که ناآگاهانه، کارهایی با تصاویر صریح جنسی یا حتی احتمالاً غیرقانونی را پذیرفته‌اند و یکی از آن‌ها خواسته برای چنین کارهایی برچسب «محتوای ناامن» گذاشته شود.
نکته قابل‌توجه این است که مقررات خود مایکروسافت، بارگذاری یا ویرایش تصاویر دیگران بدون رضایت و تولید محتوای جنسی را ممنوع می‌کند. گزارش مشخص نمی‌کند این درخواست‌ها چگونه از کنترل‌های ایمنی عبور کرده‌اند و چرا بعضی از آن‌ها به‌جای توقف یا گزارش، برای ارزیابی کیفیت در اختیار پیمانکاران قرار گرفته‌اند.
مایکروسافت در پاسخ گفته از داده‌های مشتریان مطابق شرایط استفاده، از جمله برای بهبود محصولات و اجرای مقررات رفتاری، استفاده می‌کند. این گزارش اما مشخص نمی‌کند چه سهمی از تصاویر به ارزیاب‌ها می‌رسد؛ بنابراین نباید آن را به معنای دیده‌شدن همه عکس‌ها، گفت‌وگوها یا انواع حساب‌های کوپایلت دانست.
در نهایت این گزارش یادآوری می‌کند که پشت ظاهر خودکار ابزارهای هوش مصنوعی، همیشه فقط الگوریتم‌ها حضور ندارند. پاسخ چت‌بات‌ها خودکار است، اما این الزاماً به معنی ماشینی‌بودن تمام مسیر پردازش و دیده‌نشدن تصویر توسط انسان نیست.
آدرس مطلب: https://nooshdaroo.ir/news-opinion/copilot-human-reviewers-user-images-privacy/
