شرکت آنتروپیک (Anthropic) دسترسی به مدل Fable 5 را پس از یک توقف چند هفتهای دوباره برقرار کرده است. همانطور که پیشتر در نوشدارو خبر توقف و ممنوعیت این مدل را بررسی کرده بودیم، ماجرا از جایی شروع شد که دولت آمریکا، به دلیل نگرانیهای امنیت ملی، دسترسی اتباع خارجی به مدلهای Fable 5 و Mythos 5 را محدود کرد.
این دستور در عمل باعث شد آنتروپیک برای رعایت قوانین صادراتی، دسترسی به این مدلها را موقتاً برای همه کاربران غیرفعال کند؛ چون شرکت نمیتوانست ملیت کاربران را در لحظه و با دقت کافی تفکیک کند. آنتروپیک این اقدام را ناشی از یک «سوءتفاهم» دانست و گفت محدودیت اعمالشده باید بر اساس فرایندی شفاف، منصفانه و مبتنی بر شواهد فنی باشد.
جیلبریک؛ نقطه حساس مدلهای پیشرفته
دلیل اصلی نگرانی دولت آمریکا، احتمال وجود روشی برای دور زدن محدودیتهای ایمنی فیبل ۵ بود؛ چیزی که در دنیای هوش مصنوعی به آن «جیلبریک» (Jailbreak) میگویند. جیلبریک یعنی کاربر با شیوههای خاص، مدل را وادار کند محدودیتهای ایمنی خود را نادیده بگیرد و پاسخی بدهد که قرار بوده مسدود شود.
در این پرونده، نگرانی اصلی به توانایی مدل در کمک به شناسایی یا سوءاستفاده از آسیبپذیریهای نرمافزاری مربوط بود. آنتروپیک در واکنش گفت شواهد ارائهشده درباره یک جیلبریک محدود بوده و هیچ جیلبریک گسترده و عمومی برای فیبل ۵ گزارش نشده است.
این شرکت همچنین تأکید کرد که ساخت مدلی با مقاومت صددرصدی در برابر همه جیلبریکها، دستکم با فناوری فعلی، واقعبینانه نیست. به گفته آنتروپیک، اگر هر جیلبریک محدود برای توقف کامل یک مدل کافی باشد، انتشار مدلهای پیشرفته هوش مصنوعی عملاً با بنبست روبهرو میشود.
چرا فیبل ۵ دوباره برگشت؟
طبق گزارشها، محدودیتهای صادراتی پس از اضافه شدن تدابیر حفاظتی جدید برداشته شد. یکی از این تغییرات این است که برخی درخواستهای حساس یا پرریسک بهجای پردازش مستقیم با Fable 5، مسدود یا به مدل کمخطرتر Opus 4.8 منتقل میشوند.
به این ترتیب، فیبل ۵ دوباره برای استفاده عمومی در دسترس قرار گرفته است. با این حال، مدل Mythos 5 که تواناییهای پیشرفتهتری در حوزه امنیت سایبری دارد، همچنان با محدودیت بیشتری عرضه میشود و دسترسی به آن بیشتر برای سازمانهای مورد اعتماد و فعال در زیرساختهای حساس در نظر گرفته شده است.
چرا این اتفاق برای کاربران مهم است؟
این ماجرا فقط اختلاف یک شرکت فناوری با دولت آمریکا نیست. فیبل ۵ نشان میدهد مدلهای پیشرفته هوش مصنوعی دیگر شبیه یک بهروزرسانی ساده نرمافزاری دیده نمیشوند. هرچه این مدلها توانمندتر میشوند، دولتها هم آنها را بهعنوان فناوریهای راهبردی بررسی میکنند؛ فناوریهایی که ممکن است روی امنیت سایبری، رقابت اقتصادی و حتی امنیت ملی اثر بگذارند.
نوشدارو پلاس
برای کاربران ایرانی، این مسئله اهمیت بیشتری دارد. وقتی دسترسی به بسیاری از سرویسهای خارجی از قبل با تحریم، محدودیت حساب، اختلال اینترنت یا تغییرات ناگهانی سیاست شرکتها همراه است، حالا هم خبرهایی از شروع تعلیق حساب ایرانیها در برخی سرویسهای هوش مصنوعی کلاود منتشر شده، وابستگی کامل به یک ابزار هوش مصنوعی خارجی میتواند ریسک عملیاتی جدی ایجاد کند.
