بسیاری از کاربران برای حفظ حریم خصوصی، ترجیح میدهند مدلهای هوش مصنوعی را به جای سرورهای ابری، روی سیستم شخصی و به صورت محلی اجرا کنند؛ اما پیکربندی نادرست این ابزارها میتواند نتیجهی عکس داشته باشد.
شرکت امنیت سایبری «اوآسیس سکیوریتی» (Oasis Security) بهتازگی نقطه ضعفی را در ابزار «نموکلا» (NemoClaw) انویدیا گزارش کرده که به صفحات وب مخرب اجازه میدهد بدون نیاز به رمز عبور یا تأیید هویت، به هوش مصنوعی محلی کاربر نفوذ کند.
نفوذ از طریق یک صفحهی وب ساده
«نموکلا» یک بستر متنباز از سوی انویدیا است که برای اجرای ایجنتهای هوش مصنوعی در محیطهای ایزوله استفاده میشود و معمولاً برای اجرای مدلها از موتور محلی اولاما (Ollama) کمک میگیرد.
مشکل از جایی شروع میشود که نموکلا در مسیر نصب روی ویندوز، اولاما را طوری تنظیم میکند که بدون نیاز به رمز عبور یا احراز هویت، روی تمام رابطهای شبکه (آدرس ۰.۰.۰.۰) در دسترس قرار گیرد.
در این حالت اگر کاربر همزمان با اجرای مدل یک سایت مخرب را در مرورگر باز کند، مهاجم میتواند با ترفندی به نام «بازآدرسدهی DNS» (DNS Rebinding) مرورگر را فریب دهد و از طریق همان درگاه باز، مستقیماً با هوش مصنوعی محلی ارتباط برقرار کند.
هدف مهاجم در این مسیر لزوماً سرقت مستقیم اطلاعات نیست؛ او «الگوی گفتگو» (Chat Template) مدل را دستکاری میکند، یعنی همان قالبی که تعیین میکند پیامها پیش از رسیدن به مدل چگونه بازنویسی شوند، تا دستورات پنهانی در هر گفتگو جاسازی شود.
از آنجا که این تغییر در لایههای زیرین مدل رخ میدهد، کاربر نشانهای از هک شدن نمیبیند و حتی با پاک کردن تاریخچهی گفتگو دستورات مخرب از بین نمیروند.
آسیبپذیری چه کسانی را تهدید میکند؟
این خطر متوجه کاربران عمومی اینترنت نیست و بیشتر توسعهدهندگان، پژوهشگران و افرادی را تهدید میکند که مدلهای هوش مصنوعی را بهصورت محلی و با ترکیب ابزارهای نموکلا و اولاما روی سیستم خود اجرا میکنند.
مشکل مذکور برای کاربران سیستمعاملهای مک (macOS) و لینوکس در نسخهی ۰.۰.۳۵ نموکلا برطرف شده؛ اما کاربران ویندوز و محیط WSL (زیرسیستم ویندوز برای لینوکس) همچنان در معرض خطر قرار دارند. تا زمان انتشار این گزارش وصلهی امنیتی رسمی برای ویندوز منتشر نشده و نسخهی ویندوزی که از ۰.۰.۳۴ اضافه شده، تنها یک پیام هشدار به کاربر نمایش میدهد.
برای این نقص هنوز شناسهی رسمی CVE صادر نشده و تا زمان انتشار این گزارش، موردی از سوءاستفادهی واقعی از آن گزارش نشده است.
اکنون چه باید کرد؟
اگر مدلهای هوش مصنوعی را بهصورت محلی اجرا میکنید، تا زمان انتشار بهروزرسانی این کارها را انجام دهید:
- پورت ۱۱۴۳۴ را مسدود کنید تا به شبکهی محلی یا اینترنت متصل نشود
- هنگام فعال بودن موتور اولاما و نموکلا در پسزمینه، از باز کردن لینکهای ناشناس یا وبگردی غیرضروری پرهیز کنید
- در تنظیمات نرمافزار، متغیر محیطی OLLAMA_HOST را روی حالت محلی (۱۲۷.۰.۰.۱) تنظیم کنید تا از دسترسی خارجی جلوگیری شود
- اگر از سیستمعامل مک یا لینوکس استفاده میکنید، مطمئن شوید که نسخهی نموکلا حداقل ۰.۰.۳۵ یا جدیدتر باشد
اجرای محلی هوش مصنوعی همچنان روشی امن است، اما به شرطی که درگاههای سیستم را به روی وبسایتهای ناشناس باز نگذارید.
