وقتی از یک چت‌بات می‌پرسید «محصول اصل این برند را از کجا بخرم؟»، معمولاً پاسخی مرتب با چند لینک و توضیحی مطمئن تحویل می‌گیرید. مشکل از جایی شروع می‌شود که یکی از این لینک‌ها نه فروشگاه رسمی، بلکه سایتی تقلبی، فروشنده کالای جعلی یا دامنه‌ای رهاشده باشد.
پژوهشگران در یک آزمایش تازه، از چت‌جی‌پی‌تی، جمینای و پرپلکسیتی خواستند تا آدرس فروشگاه‌های آنلاین بیش از ۱۵۰ برند مختلف را پیدا کنند. سایت‌های پرخطری که این ابزارها معرفی کردند، فقط فروشگاه‌های کلاهبرداری فعال نبودند؛ بلکه شامل وب‌سایت‌های جعلی با هویت فروشگاه‌های واقعی، فروشندگان کالاهای تقلبی، دامنه‌های قدیمی برندها که توسط شخص دیگری دوباره ثبت شده‌اند و سایت‌های غیرفعالی که امکان خرید و استفاده مجدد از آن‌ها توسط دیگران داشتند.
چت‌بات‌ها چند بار به سایت پرخطر رسیدند؟
در این آزمایش، پرپلکسیتی در ۱۵ درصد، چت‌جی‌پی‌تی در ۸ درصد و جمینای در ۴ درصد پاسخ‌های خود یک سایت پرخطر را نشان دادند یا نام بردند. این اعداد به معنی توصیه مستقیم همه این سایت‌ها نیست؛ بعضی فقط در پاسخ ظاهر شدند و در مواردی نیز خود چت‌بات درباره آن‌ها هشدار داد. با این وجود، در مجموع ۹ درصد از کل پاسخ‌های بررسی‌شده حاوی سایت‌های پرخطر بودند که در بیش از نیمی از این موارد، چت‌بات صراحتاً آن سایت را به‌عنوان فروشگاهی برای خرید به کاربر پیشنهاد داده است.
بااین‌حال، یکی از خطرهای مهم، لحن مطمئنی است که ممکن است همراه چنین پیشنهادهایی بیاید؛ برای نمونه، پرپلکسیتی یک صفحه نادرست را به‌عنوان سایت رسمی یک برند لباس و محلی مناسب برای خرید کالای اصیل معرفی کرد.
گوگل در واکنش به گزارش، به عملکرد بهتر جمینای در این آزمایش اشاره کرد و OpenAI نیز گفت در حال بهبود سازوکارهای جلوگیری از نمایش سایت‌های فریبنده در پاسخ‌های مرتبط با خرید است. پرپلکسیتی هم گفت ادعایی درباره دقت صددرصدی ندارد.
در نهایت
اگرچه این آزمایش روی فروشگاه‌ها و برندهای خارجی انجام شده و نمی‌توان درصدهای آن را مستقیماً به کاربران ایرانی تعمیم داد، پیام اصلی آن عمومی است: لینکی که هوش مصنوعی پیشنهاد می‌کند فقط یک سرنخ است، نه مهر تأییدی بر اعتبار یا امنیت سایت.
پیش از واردکردن رمز عبور، مشخصات شخصی یا اطلاعات پرداخت، نشانی دامنه را با سایت و حساب‌های رسمی برند تطبیق دهید و برای رسیدن به فروشگاه‌های منطقه‌ای، از وب‌سایت اصلی برند وارد شوید. اگر نتوانستید اعتبار فروشگاه را از مسیری مستقل تأیید کنید، صرف اطمینان چت‌بات دلیل کافی برای اعتماد و پرداخت نیست.
آدرس مطلب: https://nooshdaroo.ir/news-opinion/ai-chatbots-fake-shopping-sites/
