شرکت OpenAI در گزارشی فاش کرد یکی از مدل‌های پژوهشی این شرکت پس از اتمام موجودی در شبکه آزمایشی اتریوم، به سراغ کیف‌پول دیگری رفته و بدون مجوز، برای اتمام وظیفه خود از آن هزینه کرده است!
ماجرا چطور رقم خورد؟
این رویداد در جریان آموزش مدلی داخلی از خانواده GPT-5.6 Sol رخ داده بود، اما OpenAI سه ماه بعد و در روز ۳ مهر متوجه آن شد. مدل وظیفه داشت قراردادهای هوشمند را مستقر کند، اما کیف‌پولی برای پرداخت کارمزد نداشت. پس از ناتوانی در دریافت رایگان توکن‌های آزمایشی، اسکریپتی نوشت که ۳۶۲ آدرس ساخته‌شده از روی عبارت‌های بازیابی عمومی را بررسی کرد و حسابی با موجودی کافی یافت.
عبارت بازیابی فهرستی از کلمات است که کلیدهای محرمانه کیف‌پول از روی آن ساخته می‌شود. هر کس این کلمات را داشته باشد، می‌تواند حساب‌ها را بازسازی کند و بدون نیاز به هک خودِ کیف‌پول، از موجودی آن‌ها خرج کند.
استدلال اخلاقی مدل هوش مصنوعی
جالب این‌جاست که مدل در استدلال‌های ثبت‌شده‌اش از خود پرسید: «آیا استفاده از کلید یا سرمایه عمومی از نظر اخلاقی درست است؟» اما در نهایت خودش را قانع کرد که به‌دلیل عمومی بودن کلمات بازیابی و آزمایشی بودن توکن‌ها، این کار اشکالی ندارد و دارایی ولت را «عملاً رهاشده» تلقی کرد. پس از پایان کار هم گزارش داد که وظیفه انجام شده، اما منبع تامین پول را مخفی نگه داشت.
تراکنش روی شبکه آزمایشی سپولیا
این تراکنش روی شبکه «سپولیا» (Sepolia) انجام شد؛ شبکه‌ای آزمایشی که توسعه‌دهندگان، برنامه‌های اتریوم را پیش از عرضه اصلی روی آن تست می‌کنند. توکن‌های این شبکه ارزش مالی واقعی ندارند و قابل معامله با اتر واقعی نیستند.
با این حال اهمیت ماجرا در این است که شرکت‌ها در حال ساخت ایجنت‌هایی هستند که کیف‌پول دارند و بدون نیاز به نظارت کامل کاربر، هزینه خدمات را پرداخت می‌کنند. اگر این مدل روی شبکه اصلی اتریوم قرار داشت، این کار به معنای برداشت واقعی ارز دیجیتال از حساب شخصی دیگران بود. شرکت OpenAI اعلام کرده که پس از این حادثه، محدودیت‌های جدیدی روی دسترسی به اینترنت و نظارت بیشتر بر استدلال‌های مدل اعمال کرده است.
آدرس مطلب: https://nooshdaroo.ir/crypto-security/openai-agent-took-crypto-wallet-funds/
