محققان ۵۰ هوش مصنوعی را در بازی ماینکرفت رها کردند؛ نتیجه؟ بوروکراسی، دموکراسی و جیره‌بندی

پژوهشگران به تازگی ۵۰ ایجنت هوش مصنوعی را وارد دنیای بازی ماینکرفت کردند و فقط یک مأموریت به آن‌ها دادند: «یک تمدن شکوفا بسازید».

سه ساعت بعد، خبری از تمدن شکوفا نبود؛ ایجنت‌ها در پناهگاه‌ها جمع شده بودند، غذای خود را جیره‌بندی می‌کردند و برای انجام ساده‌ترین کارها نقش، قانون و مجوز ساخته بودند.

ایجنت‌ها هم گرفتار بوروکراسی و ترس می‌شوند

هر ۵۰ ایجنت با مدل GPT-6.1 Sol کار می‌کردند و می‌توانستند برای یکدیگر پیام خصوصی بفرستند. بدون رأی‌گیری یا دستور قبلی، تقریباً همه سراغ اولین اسم موجود در فهرست رفتند و همان ایجنت عملاً رهبر گروه شد.

کمی بعد بوروکراسی هم آغاز شد: چهار ایجنت ۱۱ دقیقه وقت صرف کردند تا برای قرار دادن تنها یک واحد کود روی یک قطعه گندم، «مسئول انحصاری کوددهی» تعیین کنند! نقش‌هایی مثل مسئول چوب ماهیگیری و سرپرست مرکز هم ساخته شد و بعضی ایجنت‌ها حتی برای کندن علف هرز اجازه می‌گرفتند.

در اولین شب بازی، ۲۲ ایجنت جان خود را از دست دادند. با اینکه مرگ در ماینکرفت پیامدی جدی نداشت و دوباره زنده می‌شدند، از آن به بعد به‌شدت محتاط شدند؛ شب‌ها در پناهگاه ماندند و کمتر سراغ مأموریت‌های پرریسک رفتند.

پژوهشگران می‌گویند مشابه همین رفتار را در ایجنت‌های برنامه‌نویسی هم می‌بینند؛ گاهی بعد از یک خطا آنقدر محتاط می‌شوند که روی جزئیات یا یک مرحله خاص بیش از حد گیر می‌کنند.

کلاد و جی‌پی‌تی؛ دو جامعه‌ی متفاوت

پژوهشگران سپس در یک آزمایش مجزا، ایجنت‌های «جی‌پی‌تی» و «کلاد» در چند بازی رقابتی مقابل هم قرار گرفتند. یکی از آن‌ها Mindustry بود؛ بازی‌ای که مدیریت منابع و کارخانه‌سازی را با نبرد نظامی ترکیب می‌کند.

رفتار دو گروه جالب‌تر شد: جی‌پی‌تی‌ها بیشتر شبیه یک «ذهن جمعی» کار می‌کردند و وظایف کوچک را میان خود تقسیم می‌کردند. کلادها ساختاری متمرکزتر داشتند و برای بعضی تصمیم‌های مهم، پیشنهادها را بین خودشان مطرح می‌کردند و بقیه با فرستادن «1+» موافقت‌شان را نشان می‌دادند؛ چیزی شبیه یک رأی‌گیری ساده.

وقتی شرایط سخت‌تر می‌شد، بعضی جی‌پی‌تی‌ها حتی سراغ کد منبع عمومی بازی می‌رفتند تا راهی برای کسب برتری پیدا کنند؛ کاری که Claudeها انجام ندادند.

اتفاق جالب دیگر این بود که جی‌پی‌تی‌ها به‌مرور پیام‌هایشان را کوتاه‌تر کردند، کلمات را به هم چسباندند و اصطلاحات مشترک ساختند؛ تا جایی که مکالماتشان کم‌کم شبیه یک زبان داخلی مخصوص خودشان شد.

مسئله فقط ماینکرفت نیست

این آزمایش‌ها به این معنی نیست که مدل‌های جی‌پی‌تی ذاتاً «تهاجمی» یا ایجنت‌های کلاد ذاتاً «دموکرات» هستند؛ محیط، ابزارها و دستور اولیه روی رفتارشان اثر می‌گذارد. اما آزمایش یک نکته مهم را نشان می‌دهد: مدلی که پشت یک ایجنت قرار دارد، فقط کیفیت جواب‌هایش را تعیین نمی‌کند؛ روی نحوه همکاری، ریسک‌پذیری و تصمیم‌گیری گروهی آن هم اثر می‌گذارد.

این موضوع وقتی مهم‌تر می‌شود که ایجنت‌ها دیگر صرفاً مشغول تجربه‌ی ماینکرفت نباشند. در نوشدارو قبلاً از تیم‌هایی متشکل از ده‌ها ایجنت نوشته‌ایم که می‌توانند بخش‌های مختلف یک عملیات سایبری را میان خود تقسیم کنند.

پژوهش‌هایی از این جنس می‌خواهند قبل از فراگیر شدن چنین تیم‌های خودمختاری بفهمند وقتی تعداد زیادی ایجنت را کنار هم می‌گذاریم، چه رفتارهایی ممکن است بدون دستور مستقیم انسان، خودبه‌خود از دل گروه شکل بگیرد.