بسیاری از ما عادت کردهایم برای پیدا کردن سریع اطلاعات، بهجای جستوجو در گوگل، مستقیم سراغ هوش مصنوعی برویم؛ اما فکر میکنید همیشه میشود به این جوابها اعتماد کرد؟
تلههای فیشینگ در پاسخهای هوش مصنوعی
طبق گزارش جدید پژوهشگران شرکت امنیتی ویجیلنس (Vigilance)، کلاهبرداران در حال فریب دادن هوش مصنوعی هستند تا شمارهها و لینکهای مخرب خودشان را بهجای اطلاعات رسمی به شما قالب کنند. برای مثال، در یکی از بررسیها مشخص شد که «خلاصههای هوش مصنوعی گوگل» (Google AI Overview)، شماره تماس کلاهبرداران را بهعنوان شماره رسمی پشتیبانی یک شرکت هواپیمایی معروف به کاربران نشان میدهد.
این پژوهشگران میگویند مهاجمان در حال اجرای کارزاری برای مسمومکردن منابع وب و نتایج بازیابیشده توسط ابزارهای هوش مصنوعی هستند. آنها اینترنت را از پستها، فایلهای پیدیاف (PDF)، نظرات و صفحههای پشتیبانی ساختگی پر کردهاند تا ابزارهای هوش مصنوعی فریب بخورند و همان محتوای جعلی را بهعنوان پاسخ رسمی تحویل کاربر بدهند.
نتیجه این کار، پهنکردن تلههای فیشینگ (Phishing) در قالب پاسخهای قابلاعتماد است. پژوهشگران ویجیلنس میگویند در پایش پاسخهای چتجیپیتی، جمینای و Google AI Overview، اطلاعات جعلی مرتبط با دستکم ۳۷۴ شرکت بزرگ، از جمله بانکها، شرکتهای هواپیمایی، پلتفرمهای سفر و ارائهدهندگان نرمافزار را پیدا کردهاند.
هوش مصنوعی چگونه فریب میخورد؟
دانش این ابزارها از اینترنت میآید و اینترنت را هرکسی میتواند پر کند. مهاجمان از همان ترفندهایی استفاده میکنند که دیجیتال مارکترها و متخصصان سئو برای دیدهشدن در پاسخهای هوش مصنوعی به کار میبرند. آنها محتوای جعلی را طوری بهینهسازی میکنند که هوش مصنوعی به آن اعتماد کند.
وقتی کاربر سؤالی میپرسد، چتبات همان شماره یا لینک جعلی را با لحنی کاملاً مطمئن ارائه میدهد. خطر اصلی اینجاست که طبق نظرسنجی Exploding Topics از بیش از هزار کاربر وب، فقط ۸ درصد کاربران گفتهاند همیشه منابع پاسخهای هوش مصنوعی را بررسی میکنند.
این حمله چه فرقی با روشهای مشابه دارد؟
به گفته پژوهشگر این گزارش، این حمله مهندسی اجتماعی را وارد مرحله جدیدی کرده است. این روش اگرچه شبیه به «مسمومسازی سئو» (SEO Poisoning) است، اما یک تفاوت بنیادین دارد: در مسمومسازی سئو، هدف این است که سایت مخرب در نتایج جستوجو بالاتر بیاید تا کاربر روی آن کلیک کند؛ اما در این روش، اطلاعات مخرب مستقیماً به بخشی از پاسخِ خود هوش مصنوعی تبدیل میشود. یعنی چتبات شماره جعلی را بهعنوان یک راهنمایی مفید به شما میدهد و اصلاً نیازی نیست که روی لینکی کلیک کنید یا سایت منبع را ببینید.
این روش همچنین با حملات رایج «تزریق پرامپت» (Prompt Injection) هم متفاوت است. در تزریق پرامپت، مهاجم با دستورات مستقیم سعی میکند هوش مصنوعی را فریب دهد؛ دستوراتی که ممکن است توسط لایههای امنیتی چتبات شناسایی و مسدود شوند؛ اما در این حمله جدید، مهاجم هیچ دستور مستقیمی به هوش مصنوعی نمیدهد. او فقط اطلاعات غلط را بهعنوان «واقعیت» در اینترنت پخش میکند. هوش مصنوعی این دروغها را میخواند و به کاربر تحویل میدهد؛ روشی که عملاً تمام سپرهای دفاعی چتباتها را دور میزند.
این گزارش هشدار میدهد که با یک خطر تئوری یا آزمایشگاهی روبهرو نیستیم؛ بلکه این حملات همین حالا در دنیای واقعی در حال انجام است. کلاهبرداران با استفاده از ابزارهای خودکار، چنان حجم عظیمی از اطلاعات جعلی را در اینترنت پخش میکنند که روشهای معمول برای پاککردن این محتواها، دیگر جوابگو نیست و به پای سرعت آنها نمیرسد. (البته باید در نظر داشت که این آمارها را خود این شرکت امنیتی منتشر کرده و هنوز نهاد مستقلی آن را تأیید نکرده است).
چگونه فریب پاسخهای هوش مصنوعی را نخوریم؟
با توجه به اینکه هوش مصنوعی ممکن است فریب بخورد، برای در امان ماندن از این نوع کلاهبرداریها کافی است چند قانون ساده را رعایت کنید:
- شماره تماس، آدرس ایمیل و لینکهای ورود را فقط از سایت رسمی یا اپلیکیشن خود شرکتها بردارید، نه از متن پاسخ چتباتها.
- هرگز رمز عبور، اطلاعات بانکی یا کد پیامکشده را در تماسی که شمارهاش را از هوش مصنوعی گرفتهاید، فاش نکنید.
- برای دریافت برنامه یا بهروزرسانی، از لینک پیشنهادی چتبات استفاده نکنید؛ وارد سایت رسمی سازنده، فروشگاه رسمی برنامه یا بخش بهروزرسانی خود نرمافزار شوید.
مهندسی اجتماعی دیگر فقط انسانها را هدف نمیگیرد؛ حالا سراغ عاملهای هوش مصنوعی رفته است که وب را میخوانند. پاسخ هوش مصنوعی شاید بیطرف و دقیق به نظر برسد، اما در نهایت بازتاب چیزی است که یک نفر توانسته در گوشهای از اینترنت بنویسد و به خورد ماشین بدهد.
آدرس مطلب: https://nooshdaroo.ir/news-opinion/ai-answer-poisoning-scam/
