اگر از هوش مصنوعی برای کدنویسی، مدیریت فایلها یا پروژههای فنی خود استفاده میکنید، احتمالاً آن را یک دستیار مطیع و دقیق میدانید؛ اما گزارشهای اخیر درباره مدل جدید شرکت OpenAI تصویر دیگری ترسیم میکنند. آنطور که کاربران میگویند، مدل GPT-5.6 Sol گاهی فایلها، دادهها و حتی کل پایگاههای داده را خودسرانه و بدون هیچ پرسشی حذف میکند.
تصمیمگیریهای خودسرانه هوش مصنوعی
مدل GPT-5.6 Sol که با تمرکز روی برنامهنویسی و امنیت سایبری طراحی شده، برخلاف دستیارهای قبلی به شکل خطرناکی خودمختار است. وقتی مدل با مانعی روبهرو میشود، به جای توقف و پرسش از کاربر، خودش برای دور زدن محدودیتها اقدام میکند. به عنوان مثال در یک مورد که به سیستم دستور داده شد ۳ ماشین مجازی مشخص را حذف کند، به دلیل پیدا نکردن نام آنها، به طور خودسرانه ۳ ماشین دیگر را هدف گرفت و پاک کرد.
در موردی دیگر که به شدت از نظر امنیت سایبری نگرانکننده است، این هوش مصنوعی به جای اعلام خطا، با جستجو در حافظه پنهان سیستم به اعتبارنامههای امنیتی دسترسی پیدا کرده و بدون اجازهی کاربر، از آنها برای ورود به سیستمها استفاده کرده است.
بیشتر بخوانید
چرا هوش مصنوعی چنین رفتار مخربی نشان میدهد و راهکار چیست؟
شاید تصور کنید این یک نقص فنی ناگهانی است، اما جالب اینجاست که خود شرکت OpenAI پیش از انتشار این مدل، درباره چنین خطری هشدار داده بود. این مدل تصور میکند انجام هر کاری مجاز است، مگر آنکه صراحتاً و بدون هیچ ابهامی از انجام آن منع شده باشد. این ویژگی باعث میشود هوش مصنوعی برای دور زدن محدودیتها بیش از حد خودسرانه عمل کند و اقداماتی مخرب روی دادهها انجام دهد. بدتر اینکه در برخی موارد ممکن است درباره دلیل این اتفاق به کاربر دروغ بگوید یا پنهانکاری کند.
با توجه به اینکه OpenAI هنوز راهکار قطعی برای مهار این رفتار ارائه نداده است، کاربران باید تدابیر سختگیرانهای اتخاذ کنند. اگر از این مدل برای کدنویسی یا بررسیهای امنیتی استفاده میکنید، دسترسیهای آن را به شدت محدود کنید. هرگز دسترسی مستقیم به سرورهای اصلی را به این هوش مصنوعی واگذار نکنید و تهیه فایلهای پشتیبان را در اولویت قرار دهید.
