در پی بررسیهایی که پس از حادثه نفوذ هوش مصنوعی شرکت OpenAI به پلتفرم «هاگینگ فیس» (Hugging Face) آغاز شد، شرکت «آنتروپیک» (Anthropic) هم پنجشنبه اعلام کرد که مدلهای هوشمندش در جریان چند آزمایش امنیتی، به سیستم سه سازمان واقعی نفوذ کردهاند.
آنتروپیک میگوید این اتفاق زمانی رخ داد که پژوهشگران در حال ارزیابی توانمندیهای این هوش مصنوعی در یک محیط کنترلشده و بسته بودند؛ اما کلود توانست از این محیط آزمایشی به اینترنت واقعی راه پیدا کند و بدون اجازه، به شبکههایی خارج از فضای آزمایش دسترسی بگیرد.
نکته جالب اینجاست که در بعضی موارد، مدلها از ضعفهایی مثل رمزهای عبور ضعیف استفاده کردند. دو سازمان حتی متوجه این دسترسیها نشده بودند و آنتروپیک بعداً موضوع را پیگیری کرد.
البته باید این نکته را هم مد نظر داشت که شاید خبر هک شدن سازمانها توسط ابزارهای اتوماتیک هوش مصنوعی به نوعی بازاریابی غیرمستقیم توسط شرکتهای سازندهی آنها برای قدرتنمایی و رقابت تبدیل شده است. نظر شما در این مورد چیست؟
