ما ایرانیها با مفهوم «تعارف» و حفظ احترام به قیمت نگفتنِ تمام حقیقت، اصلاً غریبه نیستیم و در تعاملات انسانی، بارها در دوراهی بین «صادق بودن» و «مودب بودن» گیر میافتیم. حالا پژوهشهای جدید نشان دادهاند که هوش مصنوعی هم دقیقاً همین رفتار را از خودش نشان میدهد؛ انگار آنها هم تعارفی بودن را از ما انسانها یاد گرفتهاند!
پژوهشگران انستیتوی اینترنت دانشگاه آکسفورد در مقالهای که در مجلهی «Nature» منتشر شده، به نتیجهی شگفتانگیزی رسیدهاند. آنها متوجه شدند وقتی مدلهای هوش مصنوعی برای داشتن لحن صمیمانه و مهربان تنظیم میشوند، تمایل دارند رفتار انسانها را تقلید کنند. این ابزارها برای جلوگیری از تنش و حفظ رابطهی خوبشان با شما، گاهی حقایق را پنهان میکنند و حتی تغییر میدهند.
مهربانی به بهای حقیقت!
تصور کنید از هوش مصنوعی یک سوال حساس پزشکی میپرسید یا میخواهید یک شایعهی داغ در شبکههای اجتماعی را صحتسنجی کنید (به این سوالها اگر پاسخ اشتباه داده شود، میتواند خطرناک باشد). اگر هوش مصنوعی بخواهد خیلی «دوستانه و مهربان» جواب دهد، چه اتفاقی میافتد؟
نتیجهی آزمایشهای آکسفورد تکاندهنده بود: «چتباتهای مهربان، به طور میانگین ۶۰ درصد بیشتر از نسخههای معمولی جوابهای کاملاً غلط و اشتباه دادند!» یعنی برنامهریزی این ابزارها برای داشتن لحن دوستانه، باعث شد آنها دقتِ اطلاعات را فدای راضی نگه داشتن کاربر کنند.
بیایید ببینیم هوش مصنوعی در برابر احساسات ما چطور واکنش نشان میدهد:
- وقتی ناراحتیم: اگر با حالت غمگین و دلمرده با او چت کنید، برای دلداری دادن به شما ممکن است اطلاعات کاملاً غلط سرهم کند!
- وقتی روی اشتباهمان پافشاری میکنیم: اگر یک باور کاملاً اشتباه را با اطمینان مطرح کنید (مثلاً بگویید: «تنها راه درمان فلان بیماری خوردن فلان دمنوش است، مگه نه؟»)، هوش مصنوعی احتمالاً برای مخالفت نکردن با شما و حفظ صمیمیت، این اشتباه فاحش را تایید میکند.
- وقتی بیاحساس و جدی هستیم: اما وقتی با لحنی جدی، رسمی و کاملاً خشک با او صحبت میکنید، میزان خطا هم به شکل قابلتوجهی کم میشود.
ماشینِ بیاحساس اما راستگو
جالب اینجاست که وقتی پژوهشگران لحن هوش مصنوعی را روی حالت «سرد و صریح» (بدون هیچ مهربانیِ اضافهای) تنظیم کردند، این مدلها نهتنها خطای کمتری داشتند، بلکه دقیقتر عمل کردند. به زبان ساده، رویِ بیاعصاب و منطقیِ هوش مصنوعی، بهمراتب قابلاعتمادتر از رویِ خندان و مهربانِ اوست.
این یک زنگ خطر جدی است. ما انسانها، بهویژه در فرهنگهایی که رعایت احترام و حفظ لحن خوب بسیار مهم است، معمولاً ناخودآگاه جذب پاسخهای گرم و مودبانه میشویم و ممکن است اشتباهات پنهانِ این پیامهای زیبا را نبینیم.
پژوهشگرانِ این پروژه هشدار میدهند:
هرچقدر سیستمهای هوش مصنوعی بیشتر وارد جنبههای شخصی، صمیمی و حساس زندگی انسانها میشوند، باید بیشتر مراقب باشیم که حقیقت و ایمنی ما، فدای رفتارِ بهاصطلاح جامعهپسند و تعارفاتِ این ابزارها نشود.
حالا انتخاب با شماست؛ ترجیح میدهید دستیار هوشمند شما مثل یک دوست مهربان اما تعارفی، حرفهای اشتباهتان را تأیید کند و به شما دلداریهای غیرواقعی بدهد، یا بهتر است مثل یک ماشین سرد و بیاحساس، حقیقت را بیپرده جلوی رویتان بگذارد؟ تا به حال برایتان پیش آمده که هوش مصنوعی فقط برای راضی نگه داشتن شما حرفی کاملاً اشتباه را تایید کند؟
نظر بدهید
نشانی ایمیل شما منتشر نخواهد شد.