استفاده از مدل‌های پیشرفته هوش مصنوعی هزینه زیادی دارد. هکرها هم که علاقه‌ای به پرداخت این هزینه‌ها ندارند، راه ساده‌تری پیدا کرده‌اند: استفاده از منابع دیگران و دزدیدن هوش مصنوعی!
مجرمان به‌جای پرداخت هزینه‌های سنگینِ استفاده از مدل‌های پیشرفته هوش مصنوعی، مخفیانه به حساب شرکت‌ها و توسعه‌دهندگان نفوذ و از اعتبار آن‌ها برای اجرای درخواست‌های خودشان استفاده می‌کنند.
این روش که LLMJacking یا «سرقت مدل‌های زبانی بزرگ» نام گرفته، اتفاقی آنقدرها نادر نیست؛ به گفته تیم تهدید گوگل، حالا حتی بازار سیاهی داریم که دسترسی به هوش مصنوعیِ دیگران در آن خریدوفروش می‌شود. مشتریان هوش مصنوعی ارزان می‌گیرند، هکرها پول درمی‌آورند و صاحب اصلی حساب ممکن است با صورت‌حساب‌های چند صدهزار دلاری روبه‌رو شود.
سرقت مدل زبانی چطور پیش می‌رود؟
مجرمان معمولاً دنبال کلیدهای API یا اطلاعات دسترسی به سرویس‌های ابری می‌گردند. این اطلاعات ممکن است به دلیل تنظیمات امنیتی اشتباه، انتشار ناخواسته در مخازن کد یا سرقت حساب‌ها لو بروند و به دست آن‌ها برسند.
کلید API نوعی رمز شناسایی مخصوص برنامه‌ها است که به آن‌ها اجازه می‌دهد به سرویس‌هایی مثل هوش مصنوعی متصل شوند و از امکانات‌شان استفاده کنند. مثلاً وقتی یک اپلیکیشن از هوش مصنوعی برای پاسخ دادن به کاربران کمک می‌گیرد، با این کلید خودش را به سرویس معرفی می‌کند. هزینه استفاده هم معمولاً به حساب صاحب کلید ثبت می‌شود.
بعضی مهاجمان برای آزمایش کلیدهای سرقتی، ابتدا درخواست‌هایی با خروجی فقط یک توکن ارسال می‌کنند؛ مثل سارقی که کلیدی پیدا کرده و بی‌سروصدا امتحانش می‌کند تا ببیند قفل در را باز می‌کند یا نه. با این تفاوت که همه‌چیز در چند ثانیه و به‌صورت خودکار اتفاق می‌افتد.
توکن واحدی برای اندازه‌گیری متن ورودی و خروجی هوش مصنوعی است و سرویس‌ها معمولاً هزینه مصرف را بر اساس تعداد این واحدها حساب می‌کنند.
بعد از اطمینان از دسترسی، می‌توانند سرویس‌های گران‌قیمت هوش مصنوعی را فعال کنند و هزاران درخواست بفرستند؛ بدون اینکه صاحب حساب متوجه شود چه بلایی به سرش می‌آید.
نیم‌میلیون درخواست در هشت ساعت!
طبق گزارش گوگل، هزینه مصرف غیرمجاز هوش مصنوعی در برخی حملات، تنها طی یک روز از ۱۰۰ هزار دلار گذشته و مجموع خسارت مصرف در بعضی سازمان‌ها به یک میلیون دلار رسیده است. حتی در یکی از پرونده‌های برجسته، مهاجمان در کمتر از هشت ساعت، بیش از ۵۰۰ هزار درخواست به مدل‌های هوش مصنوعی ارسال کردند.
از دیگر ترفندهای هکرها می‌شود به روشی به نام «بسوزان و عوض کن» (Burn and Rotate) اشاره کرد. سرویس‌های هوش مصنوعی معمولاً برای تعداد درخواست‌هایی که هر حساب می‌تواند ارسال کند، محدودیت‌هایی دارند. هکرها برای دور زدن این محدودیت‌ها، در حساب ابری قربانی مرتب حساب‌های کاربری سیستمی جدید و موقت می‌سازند.
هر بار که یکی از این حساب‌ها به محدودیت مصرف نزدیک می‌شود، آن را کنار می‌گذارند و سراغ حساب تازه‌ای می‌روند. به این ترتیب تلاش می‌کنند از حجم بسیار بیشتری از خدمات هوش مصنوعی استفاده کنند، بدون اینکه خودشان هزینه‌ای بپردازند.
جالب اینکه در بعضی حملات، صاحب حساب اصلاً استفاده از سرویس هوش مصنوعی را فعال نکرده بود! هکرها وارد حساب ابری او شدند، سرویس‌های گران‌قیمت را فعال کردند و شروع به مصرف کردند!
در یکی دیگر از حملات، هکرها حتی حساب‌های مخفی خود را شبیه ابزارهای مدیریت و کاهش هزینه‌های شرکت نام‌گذاری کرده بودند تا از چشم‌ها پنهان بمانند.
فروش اشتراک هوش مصنوعی با پول دیگران
ماجرا فقط استفاده‌ی رایگان خود هکر نیست. گوگل می‌گوید واسطه‌هایی تحت عنوان LLM Mixers، دسترسی‌های دزدیده‌شده را جمع‌آوری می‌کنند و به مشتریان دیگر می‌فروشند.
برای مثال، سرویسی به نام Jet Night اشتراک نامحدود هوش مصنوعی را با قیمت حدود ۶۰ دلار در ماه تبلیغ می‌کرد؛ بسیار ارزان‌تر از خدمات مشابه. گوگل معتقد است این قیمت‌گذاری به دلیل استفاده از کلیدهای سرقتی بوده است.
همین سرویس در کانال تلگرامش از قطعی‌های متعدد خدمات هم خبر می‌داد؛ قطعی‌هایی که احتمالاً به شناسایی و لغو کلیدهای دزدیده‌شده مربوط می‌شدند!
مشتریان این بازار سیاه لزوماً کلیدهای سرقتی را دریافت نمی‌کنند. آن‌ها درخواست‌شان را به سرور واسطه می‌فرستند و این سرور، پشت پرده با کلیدهای دزدیده‌شده به مدل‌های اصلی متصل می‌شود. در نتیجه مشتری فقط جواب هوش مصنوعی را می‌بیند، بدون اینکه بداند هزینه پردازش آن از حساب چه کسی پرداخت می‌شود.
چطور جلوی سرقت را بگیریم؟
گوگل به کسب‌وکارها و توسعه‌دهندگان توصیه می‌کند که:
- کلیدهای API را در کدهای عمومی منتشر نکنند و دسترسی‌ها را محدود نگه دارند.
- کدهایشان را به‌طور خودکار اسکن کنند تا کلیدهای لورفته زودتر پیدا شوند.
- برای ورود به حساب‌ها، احراز هویت چندمرحله‌ای مقاوم در برابر فیشینگ فعال کنند.
- برای مصرف سرویس‌ها «سقف» و «هشدار هزینه» تعیین کنند.
- فعال‌شدن سرویس‌های ناشناس و افزایش غیرعادی درخواست‌ها را جدی بگیرند.
- به درخواست‌های کوچک و مشکوکِ تک‌توکنی هم حساس باشند؛ شاید کسی در حال امتحان کلید باشد!
- کلیدهای افشاشده را سریعاً باطل و جایگزین کنند.
در بازار سیاه LLMJacking، تقریباً همه از معامله راضی‌اند: هکر پول درمی‌آورد، مشتری هوش مصنوعی ارزان می‌خرد و واسطه هم سهمش را برمی‌دارد. فقط یک نفر است که ناراضی می‌ماند؛ صاحب حسابی که قرار است هزینه‌ی همه را بدهد!
آدرس مطلب: https://nooshdaroo.ir/safe-ecommerce-selling/llmjacking-explained/
