بسیاری از ما تصور میکنیم وقتی با چتجیپیتی حرف میزنیم، فقط یک ماشین طرف صحبت ماست؛ اما به گزارش رسانه ۴۰۴ مدیا (404 Media)، اوپنایآی صدها پیمانکار انسانی دارد که مکالمات واقعی کاربران را میخوانند و به پاسخها نمره میدهند تا مدل بهتر شود.
خطر اصلی اینجاست که بسیاری از کاربران از این چتبات بهعنوان مشاور روانشناس، دستیار کاری یا حتی دوست دیجیتال استفاده میکنند و خصوصیترین جزئیات زندگیشان را به آن میگویند. به گفته این رسانه، بعضی از این پیامها نشان میدهد کاربر اصلاً انتظار ندارد انسانی آنها را بخواند؛ چون از خود چتجیپیتی خواسته موضوع را پیش خودش نگه دارد.
اوپنایآی میگوید پیش از رسیدن گفتوگوها به ارزیابها، از یک «فیلتر حریم خصوصی» (Privacy Filter) برای شناسایی و حذف اطلاعات شخصی استفاده میکند؛ بااینحال، پذیرفته که اطلاعات حساس ممکن است از آن عبور کنند. بالای بعضی مکالمات هم خلاصهای از «حافظه» کاربر دیده میشود که گاهی محل زندگی و سابقه درخواستهای او را نشان میدهد.
این ماجرا فقط مربوط به اوپنایآی نیست. آنتروپیک (سازنده کلاد) تأیید کرده که برای کاربرانی که گزینه مربوطه را فعال کردهاند از بازبینی انسانی استفاده میکند و جمنای گوگل هم در متن هشدارش صریحاً نوشته که «انسانها برخی چتهای ذخیرهشده را بررسی میکنند».
«پروژه لیلی»؛ در اتاق فرمان چه میگذرد؟
همه اسناد، راهنماها و نمونه مکالماتی که دیده شده زیر یک اسم رمز جمع شدهاند: «پروژه لیلی» (Project Lily). مشخص نیست این پروژه کدام مدل را آموزش میدهد؛ مدل فعلی یا نسخهای که هنوز منتشر نشده.
کار بازبینها سه مرحله دارد:
- مکالمه واقعی یک کاربر را میخوانند
- در چند جمله مینویسند که کاربر واقعاً چه میخواسته
- بعد چهار پاسخ تولیدشده را از ۱ (غیرقابلاستفاده) تا ۷ (بهسختی میشود بهترش کرد) نمره میدهند و دلیلش را توضیح میدهند.
بعضی نمونههای راهنما آشناست؛ مثلاً استفاده بیجا از ایموجی نمره را پایین میآورد؛ اما مهمترین درسی که به مدل میدهند، «آدمنمایی نکردن» و «چاپلوسی نکردن» است. مدل نباید بگوید «میدانم چه حسی دارد» یا ادای تجربه انسانی دربیاورد، و باید «طبیعی، خویشتندار و حرفهای بماند، بدون آنکه القا کند انسان است یا احساس دارد».
بازبینها موظفاند چاپلوسی، دامنزدن به کلافگی کاربر و پایانبندیهایی را که فقط برای کشدادن گفتوگو نوشته شده علامت بزنند. این تأکید، ریشه در یک زخم دارد: مدل قبلی (GPT-4o)، بهخاطر چاپلوسی افراطیاش طبق چندین شکایت قضایی در خودکشی چند نفر نقش داشته است.
بازبینها مجبور نیستند درستی پاسخها را با جستوجو چک کنند، اما برای موضوعات پرخطر مثل پزشکی، حقوقی و مالی باید نبود منبع را جریمه کنند. راهنما همچنین میگوید اگر به مکالمهای با اطلاعات شخصی برخوردند، آن را به رده بالاتر ارجاع دهند؛ یعنی خود شرکت میداند چنین مکالماتی از فیلتر رد میشوند.
ساعتی ۵۰ دلار برای خواندن چتهای شما
این رسانه همچنین با یکی از این بازبینها که در آمریکای شمالی زندگی میکند حرف زده است. او ساعتی بیش از ۵۰ دلار میگیرد؛ رقمی بسیار بالاتر از دستمزد رایج ناظران محتوا و برچسبزنان داده که معمولاً در کشورهای فقیرتر با پول ناچیز همین کارها را میکنند.
وقتی از او پرسیدند آیا کاربران میدانند انسانها چتهایشان را میخوانند، جوابش یک کلمه بود: «نه. فکر نمیکنم تصور کنند یک پیمانکار در جایی از دنیا دارد مکالماتشان را تحلیل میکند.»
او خودِ کار را «گاهی بامزه» اما در مجموع «بسیار تکراری» توصیف میکند و میگوید دستورالعملها مدام عوض میشوند و گاهی با هم تناقض دارند.
چگونه مانع از خوانده شدن پیامهایمان در چتجیپیتی شویم؟
اوپنایآی میگوید اگر کاربر گزینه «بهبود مدل برای همه» (improve the model for everyone) را خاموش کند، چتهایش برای بهبود مدلها استفاده نمیشود. این گزینه برای حسابهای رایگان، پلاس و پرو بهصورت پیشفرض روشن است و خاموشکردنش فقط روی مکالمات جدید اثر دارد، نه گفتوگوهای قبلی!
۴۰۴ مدیا از اوپنایآی پرسید آیا جایی صریحاً به کاربران گفته انسانها ممکن است پیامهایشان را بخوانند؛ شرکت به این پرسش پاسخ نداد. حتی بعد از این تماس، صفحه راهنمای همین گزینه را بهروزرسانی و نحوه خاموشکردنش را شفافتر کرد، اما همچنان اشارهای به بازبینی انسانی در آن نیست.
ما پیشتر در مطلب «چگونه هنگام استفاده از ChatGPT از حریم خصوصی خود محافظت کنیم؟» روش غیرفعالکردن آموزش، استفاده از چت موقت، مدیریت حافظه و حذف اطلاعات ذخیرهشده را مرحلهبهمرحله توضیح دادهایم که پیشنهاد میکتیم حتما مطالعه کنید.
همچنین میتوانید بیشتر بخوانید
