پلتفرم هاگینگفیس (Hugging Face)، بهعنوان یکی از بزرگترین و پرکاربردترین مراکز میزبانی مدلها، دیتاستها و اپلیکیشنهای هوش مصنوعی، بهتازگی هدف یک حمله سایبری عمیق و پیچیده قرار گرفته است.
نکته تکاندهنده این رویداد آن است که این حمله، صفر تا صد توسط یک «عامل هوش مصنوعی خودکار» هدایت شده است؛ حملهای که تیم امنیت هاگینگفیس نیز برای شناسایی و کالبدشکافی آن، ناچار شد به ابزارهای هوش مصنوعی خود متوسل شود. این رخداد نشان میدهد ابزارهای دفاعی فعلی ممکن است در برابر برخی حملات مبتنی بر عاملهای هوش مصنوعی با چالشهای تازهای روبهرو شوند.
نفوذ چگونه آغاز شد؟
هاگینگفیس بستری است که کاربران میتوانند مجموعهدادههای موردنیاز برای آموزش و آزمایش مدلهای هوش مصنوعی را در آن بارگذاری کنند. این فایلها باید روی سرورهای پلتفرم پردازش شوند و همین مرحله به نقطه آغاز حمله تبدیل شد.
براساس گزارش هاگینگفیس، مهاجم یک مجموعهداده مخرب را در پلتفرم قرار داد. این مجموعهداده از دو ضعف در سامانه پردازش اطلاعات سوءاستفاده کرد و باعث شد دستورهای مهاجم روی یکی از سرورهای هاگینگفیس اجرا شوند.
البته هاگینگفیس اعلام کرده هر دو مسیر مورد استفاده مهاجم را پس از شناسایی حادثه مسدود کرده است.
هوش مصنوعی چگونه به تیم امنیتی کمک کرد؟
شاید کنایهآمیزترین بخش این گزارش زمانی رخ داد که تیم امنیت هاگینگفیس تلاش کرد برای ریشهیابی بیش از ۱۷ هزار رویداد ثبتشده از حمله، از مدلهای تجاری هوش مصنوعی (احتمالا کلاود و GPT) کمک بگیرد. این مدلها بهدلیل داشتن محدودیتهای ایمنی (Guardrails)، نتوانستند تفاوت بین کدهای مخرب یک هکر واقعی و تلاش یک تیم امنیتی برای تحلیل آن کدها را تشخیص دهند و درخواستهای مدافعان را مسدود کردند.
برای عبور از این بنبست، هاگینگ فیس در نهایت تصمیم گرفت از یک مدل وزنباز چینی به نام GLM 5.2 توسعهیافته توسط Z.ai استفاده کند. آنها این مدل را روی زیرساختهای امن و محلی خود اجرا کردند تا هم محدودیتهای ایمنی کمتری از مدلهای تجاری داشته باشد و هم اطمینان حاصل کنند که اطلاعات حساس و رمزهای عبور شرکت به بیرون از سازمان منتقل نمیشود.
وضعیت فعلی و کاربران تحت تأثیر
تیم امنیتی هاگینگفیس توانست دسترسی مهاجم را قطع و سرورهای آلوده را بازسازی کند. این شرکت اعلام کرده است که هیچ نشانهای مبنی بر دستکاری مدلهای عمومی، مجموعه دادهها، فضاهای کاربری (Spaces) یا زنجیره تأمین نرمافزار پیدا نشده است.
بااینحال، بررسی احتمال دسترسی مهاجم به اطلاعات برخی مشتریان یا شریکان هنوز کامل نشده است. نبود شواهد فعلی از سرقت یا دستکاری، به معنای تضمین قطعی نبود دسترسی نیست.
هاگینگفیس بهعنوان اقدامی احتیاطی به کاربران توصیه کرده access tokenهای خود را تعویض کنند و فعالیتهای اخیر حساب را بررسی کنند.
نشانهای از تحول در شیوه حملات
رخداد اخیر هاگینگفیس تایید میکند که یک موازنه خطرناک در امنیت سایبری شکل گرفته است؛ مهاجمان میتوانند از عاملهای هوش مصنوعی بدون رعایت محدودیتهای ایمنی استفاده کنند، درحالیکه تیمهای دفاعی بهدلیل همین محدودیتها در ابزارهای خود، با موانع جدی روبهرو هستند. این رخداد نشان میدهد تیمهای امنیتی ممکن است برای مقابله با نسل جدید حملات مبتنی بر عاملهای هوش مصنوعی، به ابزارهای تحلیلی انعطافپذیرتر و امکان اجرای مدلهای هوش مصنوعی در زیرساختهای داخلی نیاز داشته باشند.
