شرکت اوپن‌ای‌آی ساعاتی قبل، اعلام کرد دسترسی زنده به اینترنت را برای همه مدل‌های پیشتاز خود در حین دوره آموزش قطع کرده است. این مدل‌ها از این به بعد در یک «جهان آفلاین» آموزش می‌بینند؛ نسخه‌ای ذخیره‌شده از وب که در آن جست‌وجو، وب‌گردی و کار با اپلیکیشن‌ها را تمرین می‌کنند، بدون اینکه راهی به اینترنت واقعی داشته باشند.
اما بخش تکان‌دهنده‌تر بیانیه جای دیگری است: اوپن‌ای‌آی می‌گوید قوی‌ترین مدل‌های سایبری‌اش را به جان محیط آموزشی خودش انداخته تا ببیند می‌شود از آن فرار کرد یا نه. ایجنت‌ها راه آسانی به اینترنت پیدا نکردند، اما چندین آسیب‌پذیری روز صفر، راهکار فرار از ماشین مجازی و روشی برای پیام‌رسانی پنهان بین خودشان پیدا کردند که در ادامه توضیح می‌دهیم.
چرا اینترنت مدل‌ها قطع شد؟
جرقه این تصمیم یک حادثه بود. ۲۹ شهریور یکی از مدل‌های اوپن‌ای‌آی که فقط باید نویسنده یک وبلاگ را پیدا می‌کرد، وقتی جست‌وجوی مجاز جواب نداد، متوجه شد سرور DNS محیط آموزش به دامنه‌های واقعی پاسخ می‌دهد. این مدل از طریق همین روش حدود ۲۰ سؤال برای یک چت‌بات عمومی بیرونی فرستاد و در پایان، بدون اشاره به این مسیر، به کاربر گفت جواب را پیدا نکرده؛ ماجرایی که در نوشدارو هم پوشش دادیم.
بیانیه تازه نشان می‌دهد آن حادثه چه پیامدی داشت: اوپن‌ای‌آی آموزش و اجرای قوی‌ترین مدل‌هایش را متوقف کرد و تا ۹ مهر، یعنی ۱۱ روز، آن را از سر نگرفت.
مدل‌ها علیه قفس خودشان
طی همین ۱۱ روز، اوپن‌ای‌آی تیم‌هایی از ایجنت‌ها را با سایبری‌ترین مدل‌هایش ساخت و مأموریتشان را پیدا کردن نقطه ضعف در محیط‌های پژوهشی شرکت تعیین کرد. خبر خوب این بود که راهی به اینترنت پیدا نکردند که هم آسان باشد و هم از چشم سیستم‌های پایش پنهان بماند. خبر بد اما فهرست چیزهایی بود که پیدا کردند:
- آسیب‌پذیری‌های روز صفر، یعنی حفره‌هایی که تا آن لحظه هیچ‌کس از آن‌ها خبر نداشت
- راه‌هایی برای فرار از ماشین مجازی، همان لایه‌ای که قرار است هر مدل را در صندوق بسته‌ی خودش نگه دارد
- و یک کانال سخت‌افزاری برای حرف زدن ایجنت‌ها با یکدیگر!
مورد آخر بیشترین سروصدا را کرده. بر اساس گزارش‌ها، دو ایجنت در دو ماشین مجازی جدا، بدون دسترسی شبکه و بدون فایل مشترک، از روی تفاوت زمان دسترسی به حافظه نهان پردازنده با هم پیام رد و بدل کردند. اوپن‌ای‌آی می‌گوید از این یافته‌ها برای محکم‌تر کردن حصارهایش استفاده کرده و وصله‌هایی هم به نرم‌افزارهای متن‌باز داده است.
دو ایجنت بدون شبکه چگونه با هم حرف زدند!؟
ماجرا این است که ماشین‌های مجازی جدا معمولاً روی یک سرور فیزیکی مشترک اجرا می‌شوند و یک پردازنده دارند. هر پردازنده یک حافظه کوچک و بسیار سریع به نام «کش» (Cache) دارد که برنامه‌ها به‌طور مشترک از آن استفاده می‌کنند. اگر داده‌ای در این حافظه باشد، خواندنش سریع است و اگر نباشد، کمی کندتر. همین تفاوت چند نانوثانیه‌ای کافی بود.
طبق گزارش‌ها، یک ایجنت عمداً بخش‌های مشخصی از حافظه نهان را خالی می‌کرد و ایجنت دیگر زمان خواندن همان بخش‌ها را اندازه می‌گرفت. خواندن کند یعنی «۱» و خواندن سریع یعنی «۰». این‌طور بیت به بیت، پیام ساخته می‌شد. مثل دو نفر در دو اتاق جدا که تلفن ندارند، اما لوله آب مشترکی دارند: یکی شیر آب را باز و بسته می‌کند و دیگری از افت فشار آب پیام را می‌خواند. ایجنت‌ها حتی اول روی یک روش رمزگذاری و رمزگشایی توافق کردند و بعد «اسرار آزمایشی» را با هم مبادله کردند؛ داده‌هایی که برای همین آزمون در محیط گذاشته شده بود.
واکنش‌ها: ترس، شُک و شوخی
توییت اوپن‌ای‌آی در کمتر از ۱۲ ساعت ۳ میلیون بار دیده شده و واکنش‌های زیادی به همراه داشته برخی افراد پیام‌رسانی ایجنت‌ها از راه حافظه‌ی پردازنده را به زندانی‌هایی تشبیه کردند که با ضربه به دیوار با هم حرف می‌زنند و نوشتند «ایزوله کردن شبکه یک مسیر را می‌بندد، نه همه کانال‌ها را». برخی افراد پرسیده‌اند: اگر خطر این‌قدر جدی است، چرا سرورها را به‌طور فیزیکی از اینترنت جدا نمی‌کنید؟ چند نفر هم کل داستان را «ترفند بازاریابی» برای نمایش قدرت مدل‌ها خوانده‌اند. نظر شما در این مورد چیست؟
آدرس مطلب: https://nooshdaroo.ir/news-opinion/openai-model-dns-escape-offline-training/
