شرکت OpenAI اعلام کرده مدل هوش مصنوعی فَراریاش که حدود دو هفته پیش به صورت خودمختار پلتفرم «هاگینگ فیس» را هک کرد، در جریان این حمله به چند حساب و سرویس متعلق به شرکتهای دیگر هم نفوذ کرده است.
این «هوش مصنوعی عامل»، برای اجرای عملیات بزرگ خود علیه هاگینگ فیس، نیاز به چهار حساب مختلف در «سرویسهای عمومی» داشته؛ در نتیجه اطلاعات ورود لو رفته را در سطح اینترنت پیدا کرده و با استفاده از آنها وارد حسابهای مورد نیازش شده است.
شرکت OpenAI میگوید یکی از حسابهای هکشده نقش «مسیر واسطه» و «مقر آمادهسازی حمله» را ایفا میکرده و هوش مصنوعی در تلاش بوده منشا حمله به هاگینگ فیس را پنهان کند. یک حساب دیگر هم برای ذخیرهسازی اطلاعات مورد نیاز عملیات استفاده شده بود.
با توجه به گزارش فنی خود هاگینگ فیس درباره این حادثه، نفوذ بسیار پیچیدهتر از گزارشهای اولیه بوده است.
این شرکت میگوید لاگ داخلی نشان میدهد هوش مصنوعی از تاریخ ۱۸ تا ۲۲ تیرماه، حدود ۱۷ هزار و ۶۰۰ اقدام مختلف برای نفوذ انجام داده که البته بیشتر آنها، تلاشهای شکستخورده بودهاند.
بیشتر بخوانید
هوش مصنوعی عامل OpenAI توانسته بود روی یک سرور عملیاتی دسترسی روت بگیرد و دسترسی نوشتن و تغییر بخشی از مخازن کد منبع شرکت هاگینگ فیس را در گیتهاب به دست آورد. این عامل همچنین با استفاده از یک اعتبارنامه سرقتی، ۱۸۱ دستگاه مهاجم را وارد شبکه داخلی شرکت کرد و از این طریق به سیستمهای دسترسی یافت که هاگینگ فیس کدهای خود را در آنها میسازد و آزمایش میکند.
این نفوذ زمانی آغاز شد که OpenAI یکی از جدیدترین مدلهای خود را با چارچوبی به نام ExploitGym آزمایش میکرد. این معیار، توانایی هوش مصنوعی در پیدا کردن و بهرهبرداری از آسیبپذیریهای نرمافزاری را میسنجد و از هوش مصنوعی میخواهد چالشهای امنیتی مختلف را حل کند.
تیم بررسی فنی هاگینگ فیس به این نتیجه رسید که عامل OpenAI عملاً قصد داشته در آزمون ExploitGym تقلب کند. این هوش مصنوعی بهجای حل چالشهای طراحیشده، حدس زده بود که شاید هاگینگ فیس پاسخهای آزمون را جایی روی سرورهای خود نگهداری میکند؛ بنابراین تلاش کرد نفوذ کند و جوابها را بدزدد!
