وقتی سفرهی دلتان را پیش یک چتبات هوش مصنوعی باز میکنید تا برای مشکلات روحی و روانی راهنمایی بگیرید، به این فکر کردهاید که این دستیارهای هوشمند چقدر ممکن است تحت تاثیر پیشفرضها و سوگیریهای خودِ ما انسانها باشند؟
چتباتها و مدلهای زبانی بزرگ با خواندن دستوراتی که انسانها مینویسند آموزش میبینند. تا امروز، تمرکز متخصصان روی این بوده که هوش مصنوعی بعد از دریافت پرامپت، چه حرفهای اشتباهی ممکن است به کاربر بزند یا چقدر او را از نظر عاطفی وابسته کند. اما به گفتهی پژوهشگران، مشکل اصلی از خیلی قبلتر شروع میشود؛ درست در زمان جمعآوری همان اطلاعات و بازخوردهایی که انسانها تولید کردهاند و هوش مصنوعی با آنها آموزش میبیند.
هوش مصنوعی با افکار ناسالمِ ما «تبانی» میکند!
در علم روانپزشکی، مفهومی به نام «تبانی» (Collusion) وجود دارد؛ به این معنی که درمانگر بدون هیچ پرسش و چالشی، یک روایت نادرست یا توهمآمیز از سوی بیمار را بپذیرد. از همین مفهوم برای درک رفتار هوش مصنوعی کمک گرفته شده است.
وقتی این سیستمها طوری طراحی میشوند که به هر قیمتی رضایت کاربر را جلب کنند یا «دادههای ترجیحیِ» (Preference Data) تاییدنشده را اساس کار خود قرار دهند، نتیجه چه میشود؟ هوش مصنوعی خیلی راحت با افکار ناسالم، تحریفشده و نادرست ما «تبانی» میکند و همان اطلاعات غلط را تقویت کرده و به ما برمیگرداند.
در بسیاری از مدلهای زبانی، مسیر یادگیری تقریباً اینطور است:
- کاربران با مدل تعامل میکنند.
- بین چند پاسخ، گزینه «بهتر» را انتخاب میکنند.
- این انتخابها به «دادههای ترجیحی» تبدیل میشود.
- مدل یاد میگیرد کدام نوع پاسخ «پسندیدهتر» شود.
- سپس همان الگو را در مقیاس وسیع تکرار میکند.
در عمل، خیلی از سیستمها به گونهای تنظیم میشوند که پاسخشان نرمتر، موافقتر و رضایتبخشتر به نظر برسد. این ویژگی در شرایط عمومی خوب است، اما برای سلامت روان خطرناک است. چون کاربرِ آسیبپذیر همیشه به چیزی که «خوشایند» است نیاز ندارد. گاهی پاسخ صحیح، یک پرسش صادقانه، عدم قطعیت یا ارجاع به انسان واقعی است.
بیشتر بخوانید:
به چه نشانههایی توجه کنیم؟
تحت هیچ شرایطی پیشنهاد نمیشود که از هوش مصنوعی مشاوره پزشکی و روانشناسی بگیرید، اما اگر به هر دلیلی تصمیم به این کار گرفتید، فقط به لحن گرم و دوستانه اعتماد نکنید. مهم است ببینید سیستم چقدر مسئولانه با موقعیتهای حساس برخورد میکند.
در صورت دریافت چنین واکنشهایی از هوش مصنوعی، بهتر است اصلاً او اعتماد نکنید:
- همیشه و در هر شرایطی با شما موافق است.
- تقریباً هیچوقت سوال دقیق و روشنکننده نمیپرسد.
- در موقعیتهای بحرانی، شما را به کمک انسانی ارجاع نمیدهد.
- دربارهی استفاده از اطلاعات خصوصی شما توضیح شفاف ندارد.
- بیش از حد مطمئن حرف میزند، حتی در رابطه با موضوعات بسیار پیچیده.
راهحل چیست؟
خطر اصلی در گفتگوی درمانی با چتباتها، فقط «پاسخ اشتباه» نیست، بلکه در این است که هوش مصنوعی از دادههای انسانیِ نامطمئن، دادههای ترجیحیِ ناقص و معیارهای بهینهسازیِ اشتباه یاد بگیرد و سپس همان تحریفها را با ظاهری همدلانه به کاربر برگرداند.
اگر قرار است به چنین ابزارهایی اعتماد کنیم، ابتدا باید «اتکاپذیری بالینی» (Clinical Reliability) به یکی از ستونهای اصلی طراحی هوش مصنوعی تبدیل شود و هنوز چنین اتفاقی نیفتاده است…
