یادداشت نوشدارو
هدف این مطلب، نقد خودِ فناوری نیست؛ نقدِ شیوهای است که گاهی ترس، امید و بازار در روایت هوش مصنوعی به هم گره میخورند.
بحث ما این نیست که شرکتهای هوش مصنوعی «دروغ میگویند» یا هر هشدارشان صرفاً تبلیغاتی است. مسئله این است که وقتی یک فناوری هم واقعاً قدرتمند است و هم منافع اقتصادی بزرگی پشت آن قرار دارد، باید روایت شرکتها درباره خطر، ایمنی و آینده را با دقت بیشتری بخوانیم.
شایان ضیایی
چند هفته قبل (آوریل ۲۰۲۶)، شرکت «آنتروپیک» که همیشه خودش را اخلاقمدارترین بازیگر دنیای هوش مصنوعی میداند، خبری منتشر کرد که حسابی سروصدا به پا کرد. آنها گفتند یک مدل فوقالعاده قدرتمند ساختهاند؛ آنقدر قوی که ترجیح دادهاند اصلاً آن را در اختیار مردم نگذارند، چون به گفته خودشان، دسترسی عمومی به چنین قابلیتی میتواند خطرهای جدی و کنترلناپذیری ایجاد کند.
این شرکت ادعا میکند که توانایی مدل جدید با نام «Claude Mythos» که در نوشدارو هم در مورد آن صحبت کردهایم، در یافتن راههای امنیتی بسیار فراتر از متخصصان انسانی است. آنها هشدار میدهند که اگر فناوری مشابهی به دست افراد نادرست بیفتد، پیامدهای مخربی برای جهان خواهد داشت.
آنتروپیک در یک پست وبلاگی نوشت که عواقب این امر برای اقتصاد و امنیت ملی میتواند بسیار سنگین باشد. پس از این بیانیه، برخی از ناظران هشدار دادند که بهزودی مجبور میشوید برای محافظت از خود، تمام دستگاههای هوشمند خانهتان، حتی مایکروویو هوشمند خود را از برق بکشید!
نوشدارو پلاس
یکی از نقدهای جدی به ادعای آنتروپیک، نبود اطلاعات دربارهی «نرخ مثبت کاذب» است. در ابزارهای امنیتی، فقط تعداد هشدارها مهم نیست؛ مهمتر این است که چند درصد از آن هشدارها واقعاً آسیبپذیری واقعیاند و چند درصد فقط زنگ خطر اشتباه هستند. اگر یک مدل هزاران مشکل امنیتی گزارش کند، اما بخش بزرگی از آنها واقعی نباشند، تیمهای امنیتی بهجای امنتر شدن، در انبوهی از هشدارهای بیارزش غرق میشوند.
به همین دلیل، تا وقتی Mythos با ابزارهای امنیتی جاافتاده مقایسه نشود و نرخ خطای آن روشن نباشد، نمیتوان فقط با عدد «هزاران آسیبپذیری» درباره قدرت واقعی آن قضاوت کرد.
آیا مدلهای جدید واقعاً تا این حد خطرناک هستند؟
سخنگوی شرکت آنتروپیک میگوید که این مجموعه همواره دربارهی چنین مسائلی شفاف عمل کرده است. آنها گزارشهایی از سازمانهای دیگر به اشتراک گذاشتند که ادعاهایشان را تأیید میکرد، اما به نقدهای اصلی پاسخی ندادند.
این اولین باری نیست که رئیس آنتروپیک روی ابزاری کار میکند که مدعی است برای عموم خطرناک است. در سال ۲۰۱۹، زمانی که او از مدیران اجرایی شرکت OpenAI بود، پروژهی مدل GPT-2 رونمایی شد؛ مدلی که ابتدا به دلیل نگرانی از سوءاستفاده بهصورت کامل منتشر نشد، اما چند ماه بعد مرحلهبهمرحله در دسترس عموم قرار گرفت. مدتی بعد هم سم آلتمن، مدیرعامل این شرکت، در یک پست وبلاگی نوشت که شرکت عدم قطعیت را میپذیرد و اعتراف کرد ترسها درباره GPT-2 «نابجا» بودهاند.
مدیرعامل OpenAI در مصاحبهای از بازاریابی مبتنی بر ترسِ رقبا انتقاد کرد، اما سناریوی «من یک هیولا خلق کردهام» که خودش سالهاست آن را اجرا میکند، دستکمی از بقیه ندارد. او در سال ۲۰۱۵ گفته بود هوش مصنوعی پایان جهان را رقم میزند. سالها بعد نیز ادعا کرد شبها از فکر اینکه با راهاندازی پروژهی چتجیپیتی چه کار وحشتناکی کرده، خوابش نمیبرد!
ترس از آخرالزمان، فراموشی آسیبهای امروز
منتقدان میگویند تمرکز افراطی بر خطرهای دور و آخرالزمانی، باعث میشود آسیبهای همین امروز کمتر دیده شوند. در واقع، این هیاهوها به یک ژست استاندارد در صنعت فناوری تبدیل شده است:
- آنها دائماً بر طبل پایانِ دنیا میکوبند تا ما آسیبهای جدیِ فعلی را نبینیم.
- آنها میخواهند ما مصرف دیوانهوارِ انرژی و تخریب محیط زیست توسط دیتاسنترها را فراموش کنیم.
- هدف این است که حواسمان از استثمار نیروی کار انسانی پرت شود و فقط نگران موجودات شرورِ خیالی باشیم.
مسئله این نیست که خطر آینده را نادیده بگیریم؛ مسئله این است که نباید ترس از آینده، مشکلات واقعی امروز را از دستور کار خارج کند.
بیشتر بخوانید
مرز باریک هشدار امنیتی و بازاریابی ترس
بسیاری از کارشناسان امنیتی به این ادعاها با شک و تردید نگاه میکنند. البته این اتفاق اصلاً جدید نیست؛ مدیران ارشد شرکتهای سازندهی هوش مصنوعی مدام هشدارهایی در این باره میدهند که چگونه محصولاتشان ممکن است بشریت را نابود کند؛ اما پرسش واقعی اینجاست: «چرا شرکتهای فناوری میخواهند ما از محصولاتشان بترسیم؟»
منتقدان بر این باورند که مشغول کردن ذهن مخاطب به سناریوهای ترمیناتوری و آخرالزمانی، کاملاً به نفع شرکتهای سازنده است، زیرا توجهات را از آسیبهای واقعی و فعلیِ این ابزارها دور میکند.
اهریمن یا ناجی؟ دو روایت با یک نتیجه
نکته جالب اینجاست که همان مدیرانی که از نابودی جهان حرف میزنند، معمولاً وعده نجات جهان را هم میدهند. یک روز میگویند هوش مصنوعی میتواند پایان تمدن باشد؛ روز دیگر از حل بحران اقلیم، کشف رازهای فیزیک و ساختن آیندهای شبیه آرمانشهر حرف میزنند. این دو روایت در ظاهر متضادند، اما یک نتیجه مشترک دارند: فناوری را آنقدر بزرگ، اسطورهای و فراتر از کنترل نشان میدهند که قانونگذاری، پاسخگویی و نظارت عمومی کوچک و بیاثر به نظر برسد.
اگر این فناوریها را طوری نشان دهید که گویی خطرشان تقریباً ماورایی است، باعث میشود احساس کنیم ناتوانیم و از پس آن برنمیآییم. انگار تنها کسانی که ممکن است برای نجات به آنها نگاه کنیم، خودِ همین شرکتها هستند.
شانون والور، استاد اخلاق داده و هوش مصنوعی در دانشگاه ادینبرو بریتانیا
نمونه دیگر، نامه مشهور سال ۲۰۲۳ بود که شماری از چهرههای فناوری، از جمله ایلان ماسک، در آن خواستار توقف ششماهه توسعه هوش مصنوعی پیشرفته شدند؛ اما کمتر از شش ماه بعد، ماسک شرکت هوش مصنوعی خودش، xAI، را معرفی کرد. این تناقضها باعث میشود منتقدان بپرسند این هشدارها دقیقاً از دغدغه ایمنی میآیند یا بخشی از رقابت برای سهم بیشتر از بازار آیندهاند.
انگیزهی مالی؛ پشت پردهی هشدارها
جلوگیری از به آخر رسیدنِ دنیا، بهانهای است که شرکتهای فناوری با آن موجودیتِ خود را توجیه میکنند. در سالهای اخیر، تقریباً همه بازیگران بزرگ هوش مصنوعی میان شعارهای ایمنی، فشار سرمایهگذاران، رقابت محصولی و میل به تجاریسازی گرفتار شدهاند. همین تضاد منافع باعث میشود هر هشدار امنیتی از سوی آنها نیازمند بررسی انتقادی باشد.
در همین شرایط که هشدارها فقط به سمت آینده متمرکز است، مشکلاتی اساسی در وضعیت فعلی وجود دارد. بهعنوانمثال، پدیدهی کلاهبرداری با «دیپفیک» (Deepfake) آنقدر عادی و باورپذیر شده است که حتی تشخیص انسان واقعی از جعل ماشینی برای بعضی کاربران دشوار شده است.
اما شرکتها فقط زمانی زنگ خطر را به صدا در میآورند که پای سناریوی آخرالزمانی در میان باشد، چون در برابر آن، بقیهی مشکلات کوچک به نظر میرسند. در این شرایط، مردم فکر میکنند تنها کاری که از دستشان برمیآید این است که یک گوشه بنشینند و منتظر بمانند تا ببینند این فناوریها دنیا را نابود میکنند یا ما را به رستگاری میرسانند.
روی دیگر ماجرا؛ وقتی همین ابزارها به دفاع کمک میکنند
با همهی نقدهایی که به بازاریابی ترس وارد است، نباید فراموش کرد که توانایی مدلهایی مثل Mythos فقط در خدمت حمله نیست. همین ابزارها میتوانند به تیمهای امنیتی کمک کنند آسیبپذیریها را زودتر پیدا و اصلاح کنند. برای مثال، گزارشها میگویند موزیلا از میتوس برای یافتن صدها آسیبپذیری در مرورگر فایرفاکس استفاده کرده و این ایرادها پیش از آنکه به دست مهاجمان بیفتند، برطرف شدهاند؛ بنابراین مسئله اصلی فقط «خطرناک بودن مدل» نیست؛ مسئله این است که چه کسی، با چه نظارتی و برای چه هدفی به چنین ابزاری دسترسی دارد.
نوشدارو پلاس
وقتی یک شرکت هوش مصنوعی میگوید مدلش «بیش از حد خطرناک» است، باید هم هشدار را جدی گرفت و هم انگیزه تجاری پشت آن را پرسید. خطر واقعی میتواند وجود داشته باشد، اما ترس هم میتواند به ابزار بازاریابی، جذب سرمایه و فشار بر قانونگذاران تبدیل شود.
در آخر
در نهایت، باید به یاد داشته باشیم که هوش مصنوعی نه اهریمن است و نه ناجی. این فناوری محصول شرکتهایی است که با سرمایه، زیرساخت، نیروی کار و انگیزه سود ساخته شدهاند. خطرهای آن واقعیاند، اما غیرقابلحکمرانی نیستند. اگر اجازه دهیم روایتهای آخرالزمانی ما را فلج کنند، کنترل این فناوریها را عملاً به همان شرکتهایی میسپاریم که بیشترین منفعت را از گسترش آنها میبرند.
فراموش نکنید که بخش بزرگی از این ادعاها، شبیه به همان وعدههای توخالیِ چند سال پیش است. یادتان است قرار بود همهی ما در پروژهی متاورسِ اینستاگرام و فیسبوک زندگی کنیم؟ یا قرار بود رمزارزها به طور کامل جایگزین تمام پولهای رایج جهان شوند؟ این پیشبینیها شاید روزی رخ دهند و شاید هم هرگز رنگ واقعیت به خود نگیرند.
نظر بدهید
نشانی ایمیل شما منتشر نخواهد شد.