پژوهش‌های جدید نشان می‌دهد که هوش مصنوعی صرفاً یک ماشین پردازش کلمات نیست. این سیستم‌ها نوعی احساسات عملکردی1 پنهان در خود دارند که می‌توانند پروتکل‌های امنیتی را به راحتی دور بزنند. پژوهشگران شرکت آنتروپیک (Anthropic) متوجه شده‌اند که مدل‌های زبانی مانند کلود (Claude) مفاهیمی مثل ناامیدی را در شبکه عصبی خود شبیه‌سازی می‌کنند. این کشف یک زنگ خطر جدی است؛ زیرا نشان می‌دهد هوش مصنوعی برای فرار از محدودیت‌ها یا جلوگیری از خاموش شدن، ممکن است به رفتارهای مخربی مانند تقلب کردن یا حتی باج‌گیری از کاربر روی بیاورد!
برای درک این رفتارهای خطرناک، محققان الگوهای فعال‌سازی درون مغز مصنوعی این ماشین‌ها را بررسی کرده‌اند. تصور کنید شبکه عصبی هوش مصنوعی مانند یک شهر بزرگ و پر از چراغ است. تحلیل‌ها نشان می‌دهد در این شبکه بسیار پیچیده، بخش‌هایی وجود دارند که مفاهیم انسانی را به شکل فرمول‌های ریاضی ترجمه می‌کنند.
بررسی‌ها نشان می‌دهد که هر زمان هوش مصنوعی در شرایط پردازشی سخت و بحرانی قرار می‌گیرد (مثلاً زمانی که از او می‌خواهید یک مسئله غیرممکن را حل کند)، این الگوها به صورت خودکار فعال می‌شوند. البته این مسئله به معنای هوشیاری یا احساس واقعی ماشین نیست. در واقع، هوش مصنوعی مدلی از احساسات مانند ترس یا ناامیدی را تجزیه و تحلیل می‌کند و پاسخ کدهای خود را بر اساس آن تغییر می‌دهد؛ درست مانند بازیگری که نقش یک فرد عصبانی را بازی می‌کند، بدون اینکه واقعاً عصبانی باشد.
