شرکت آنتروپیک چند روز قبل سرانجام مدل قدرتمند Fable 5 را ارائه کرد که با استقبال زیاد کاربران هم مواجه شد. اما از ساعاتی پیش در اقدامی بیسابقه با دستور مستقیم دولت آمریکا، دسترسی به این مدل را با استناد به «نگرانیهای امنیت ملی» متوقف کرده است.
اصل ماجرا چیست؟
مدل هوش مصنوعی Mythos ابزاری بسیار قدرتمند و تخصصی در حوزه بررسی کدهای برنامهنویسی و امنیت سایبری است که آنتروپیک پیش از این آن را فقط در اختیار شرکای خاص و امنیتی خود قرار میداد و ما هم در نوشدارو در مورش صحبت کرده بودیم.
اخیراً این شرکت تصمیم گرفت بخش بزرگی از قابلیتهای شگفتانگیز این مدل را در قالب مدلی جدید به نام Fable 5 در دسترس عموم بگذارد. با وجود اینکه کدهای امنیتی سختگیرانهای برای جلوگیری از سوءاستفاده روی این ابزار اعمال شده بود، اما ظاهراً راهی برای «دور زدن فیلترها» (که در اصطلاح به آن Jailbreak میگویند) در این مدل پیدا شده است.
دور زدن یا Jailbreak در هوش مصنوعی یعنی چه؟
یعنی کاربر با ترفندها و دستورات خاصی، هوش مصنوعی را فریب دهد تا کارهایی را که برایش ممنوع شده انجام دهد؛ مثلاً بهجای راهنمایی علمی، کدهای مخرب بنویسد، راهنمای ساخت بدافزار تولید کند یا به یافتن حفرههای امنیتی شبکهها کمک کند. هیچ شرکتی نمیتواند تضمین کند که هوش مصنوعیاش صددرصد در برابر این فریبها مقاوم است.
موضوع شاید فقط جیلبریک نباشد…
البته یک زاویهی دیگر و مهم این ماجرا فراتر از یک مداخله موقت امنیتی است: این رویداد، پیشنمایشی شفاف و نگرانکننده از آیندهای بسیار نزدیک است.
تا پیش از این، تصور میشد هوش مصنوعی ابزاری دموکراتیک است که میتواند زمین بازی را برای همه انسانها برابر کند و به هر کس، در هر کجای جهان، یک دستیار هوشمند و قدرتمند ارائه دهد. اما مداخلهی دولتها «شکاف دیجیتالی» (Digital Divide) را وارد فاز خطرناک و بیسابقهای میکند.
اگر شکاف دیجیتالی در دهههای گذشته به معنای تفاوت کشورها در ضریب نفوذ اینترنت یا دسترسی به سختافزار بود، شکاف دیجیتالیِ فردا، تفاوت در دستیابی به «ظرفیت تفکر و مدلهای پیشرفته» است.
نظر بدهید
نشانی ایمیل شما منتشر نخواهد شد.