بهتازگی دولت آمریکا با استناد به نگرانیهای امنیت ملی و مقررات کنترل صادرات، دسترسی افراد غیرآمریکایی به دو مدل پیشرفته آنتروپیک (Anthropic)، یعنی فیبل ۵ (Fable 5) و میتوس ۵ (Mythos 5) را محدود کرد. آنتروپیک هم برای اطمینان از رعایت این دستور، دسترسی به این مدلها را بهطور گسترده متوقف کرد که در نوشدارو هم به آن پرداختیم.
آنتروپیک گفته احتمال میدهد این دستور به گزارشی درباره دورزدن محافظهای یکی از مدلها مربوط باشد؛ اما نامه دولت منتشر نشده و خود شرکت هم از جزئیات دقیق پشت این تصمیم مطمئن نیست. همین ابهام، سؤال مهمتری را پیش میکشد: آیا ماجرا واقعاً فقط یک جیلبریک هوش مصنوعی بود، یا نشانهای از کشمکش بزرگتر؟
بیشتر از یک جیلبریک ساده
در نگاه اول، ممکن است تصور شود دولت آمریکا بهدلیل یک جیلبریک خطرناک وارد عمل شده است؛ اما جزئیات منتشرشده چنین برداشتی را قطعی نمیکند. رسانه Axios با استناد به منابع خود گزارش داده که دلیل صدور این دستور، نه یک مشکل فنی در محصولات هوش مصنوعی، بلکه «اختلافات شخصیتی» میان آنتروپیک و دولت ترامپ بوده است. جزئیات جدیدی که بهتازگی منتشر شده نیز دلایل دولت را زیر سؤال میبرد.
کیتی موسوریس (Katie Moussouris)، پژوهشگر باسابقه امنیت سایبری، میگوید آنتروپیک اخیراً نسخه خصوصی مقالهای را با او به اشتراک گذاشته که توسط پژوهشگران امنیتی (به گزارش والاستریت ژورنال، پژوهشگران آمازون) نوشته شده و ادعا میکند محدودیتهای ایمنی مدل فیبل ۵ دور زده شده است.
اما به گفته موسوریس، این دور زدن هرگز نباید بهانهای برای کنترل صادرات میشد. تفاوت اصلی در این گزارش، صرفاً تفاوت میان دو درخواست از هوش مصنوعی بود: اینکه بگویید «این کد را از نظر مشکلات امنیتی بررسی کن» در برابر اینکه بگویید «این کد را اصلاح کن». نتیجه نهایی هر دو درخواست تقریباً یکی است. موسوریس تأکید میکند که این رفتارِ مدل، قابل «اصلاح» نیست و هرگونه تلاشی برای تغییر آن، فقط قابلیتهای دفاعی مدل را تضعیف میکند.
بنابراین اگر دلیل اصلی دستور دولت فقط همین گزارش بوده باشد، ماجرا بیشتر شبیه سوءبرداشت از کاربردهای دوگانه امنیت سایبری است تا یک نقص فنی ساده.
اختلاف قدیمیتر با دولت آمریکا
این اتفاق روی زمینهای از تنش قبلی هم سوار شد. آنتروپیک پیشتر گفته بود مذاکراتش با پنتاگون بر سر شرایط استفاده از کلود (Claude) به بنبست رسیده؛ چون این شرکت دو خط قرمز داشت: استفاده نکردن از مدلها در نظارت گسترده داخلی و سلاحهای کاملاً خودمختار.
به همین دلیل، دستکم بر اساس گزارشهای منتشرشده، ماجرا را نباید فقط به یک ایراد فنی تقلیل داد. دولت آمریکا با این کار رویه خطرناکی درباره میزان کنترل خود بر نرمافزارهای ساخت این کشور ایجاد کرده است. امروز دولت یقه آنتروپیک را گرفته است؛ فردا ممکن است سراغ هر شرکت دیگری برود.
زنگ خطر برای کاربران و شرکتها
این ماجرا فقط درباره آنتروپیک نیست. وقتی یک مدل هوش مصنوعی ابری و بسته باشد، کنترل نهایی همیشه دست کاربر نیست. ممکن است شرکت ارائهدهنده دسترسی را محدود کند، یا دولت با استناد به امنیت ملی، کنترل صادرات یا دلایل دیگر، مسیر استفاده از آن را تغییر دهد.
برای شرکتها، پژوهشگران و تیمهای امنیتی، این اتفاق یک هشدار جدی است: وابستگی کامل به یک مدل ابری میتواند پرریسک باشد. اگر ابزاری حیاتی ناگهان از دسترس خارج شود، کارهای فنی، امنیتی و پژوهشی هم ممکن است مختل شوند.
نوشدارو پلاس
آینده هوش مصنوعی فقط درباره قویتر شدن مدلها نیست؛ درباره کنترل، دسترسی و اعتماد هم هست. هرچه بیشتر به مدلهای ابری وابسته شویم، مهمتر میشود بدانیم چه کسی میتواند دسترسی ما را قطع کند و برنامه جایگزین چیست.
نظر بدهید
نشانی ایمیل شما منتشر نخواهد شد.