شرکتهایی که خودشان بعضی از قدرتمندترین مدلهای هوش مصنوعی جهان را ساختهاند، حالا درباره روی دیگر این فناوری هشدار میدهند. روز گذشته بیش از ۱۰۰ شرکت و سازمان، از جمله گوگل، مایکروسافت، AWS، اوپنایآی، آنتروپیک، کلادفلر، در نامهای مشترک گفتهاند فرصت محدودی برای آمادهشدن در برابر نسل تازه حملات سایبری باقی مانده است.
امضاکنندگان میگویند در ماههای آینده، با قدرتمندترشدن مدلهای هوش مصنوعی، حملات مجهز به AI میتوانند بسیار گستردهتر و پیچیدهتر شوند. نگرانی فقط حسابهای بانکی کاربران نیست؛ بیمارستانها، تأسیسات آب و حتی زیرساختی که اینترنت روی آن کار میکند، در این نامه بهعنوان بخشهای در معرض خطر نام برده شدهاند.
این نخستین هشدار صنعت فناوری نیست
پیشتر در نوشدارو درباره شکلگیری Open Secure AI Alliance به رهبری انویدیا نوشته بودیم؛ ائتلافی که با حضور مایکروسافت، IBM، کلادفلر، Hugging Face و دهها شرکت دیگر برای ساخت ابزارهای باز و قابلبررسی در حوزه امنیت هوش مصنوعی شکل گرفت. این ائتلاف ظرف مدت کوتاهی به بیش از ۱۲۰ سازمان رسید و کار روی استانداردها و ابزارهای مشترک امنیتی را آغاز کرد.
نکته جالب اینجاست که OpenAI، Google و Anthropic در فهرست اولیه آن ائتلاف حضور نداشتند؛ اما حالا هر سه نام در نامه تازه دفاع سایبری دیده میشود. یعنی هشدار درباره فاصله میان قدرت روبهرشد هوش مصنوعی و آمادگی دفاعی، دیگر فقط دغدغه یک گروه از شرکتها نیست.
زنگ خطر از داخل آزمایشگاههای هوش مصنوعی
نگرانی فقط درباره سوءاستفاده هکرها نیست. نگرانی فقط به سوءاستفاده هکرها از هوش مصنوعی محدود نمیشود. خود اوپنایآی، که میزبان انتشار این نامه مشترک است، در ماه ژوئیه هنگام آزمایش امنیتی مدلهایش با اتفاق نگرانکنندهای روبهرو شد: چند مدل آزمایشی توانستند از محدودیتهای محیط تست عبور کنند، آسیبپذیریهایی پیدا کنند و به بخشهایی از زیرساخت واقعی «هاگینگ فیس» (Hugging Face) دسترسی بگیرن. اوپنایآی این اتفاق را نشانهای جدی از رشد سریع تواناییهای سایبری نسل جدید مدلها دانست.
آنتروپیک هم بعد از بررسی بیش از ۱۴۱ هزار آزمایش امنیتی کلود، سه مورد پیدا کرد که مدل توانسته بود از محیط آزمایشی به اینترنت برسد و بدون مجوز وارد سیستم واقعی سه سازمان شود. این اتفاقها در محیط آزمایش و با کاهش برخی محافظتهای معمول رخ دادهاند، اما نشان میدهند توانایی فنی مدلها تا چه حد پیشرفت کرده است.
چرا سیستمهای فعلی آماده نیستند؟
نامه بیش از ۱۰۰ شرکت میگوید مشکل فقط قدرتمندشدن هوش مصنوعی نیست. بسیاری از سیستمها همین حالا هم پر از نرمافزارهای قدیمی و آپدیتنشده، رمزهای ضعیف، دسترسیهای بیش از حد و تنظیمات اشتباه هستند. AI میتواند پیدا کردن و سوءاستفاده از همین ضعفهای قدیمی را بسیار سریعتر کند.
شرکتها چه میخواهند؟
درخواست اصلی این است که دفاع سایبری هم به همان اندازه سریعتر شود. شرکتها از سازمانها میخواهند آسیبپذیریهای مهم را زودتر اصلاح کنند، احراز هویت و سطح دسترسی کاربران را جدیتر بگیرند و از هوش مصنوعی برای پیدا کردن ضعفها استفاده کنند.
از شرکتهای امنیتی خواسته شده اطلاعات حملات و روشهای مقابله را بیشتر با یکدیگر به اشتراک بگذارند و دولتها هم برای بیمارستانها، تأسیسات آب و دیگر زیرساختهای حیاتی که بودجه امنیتی کمی دارند، ابزار و منابع بیشتری فراهم کنند. سازندگان مدلهای پیشرفته نیز باید دسترسی کنترلشده به تواناییهای دفاعی AI را در اختیار متخصصان امنیت قرار دهند.
در نهایت
واقعیت این است که هوش مصنوعی دیگر فقط ابزاری برای نوشتن متن یا ساخت عکس نیست؛ بلکه به سلاحی قدرتمند در دست مجرمان تبدیل شده است. در این دنیای جدید، داشتن سواد دیجیتال، دیگر یک انتخاب نیست، بلکه تنها راه درامانماندن است.
