اگر هوش مصنوعی بتواند نسخهای باهوشتر از خودش بسازد، آیا انسان همچنان کنترل اوضاع را در دست خواهد داشت؟ همین پرسش باعث شده بعضی از پژوهشگران شرکتهای بزرگ نگران شوند و حتی از شغلشان استعفا بدهند.
ریشاب جین در گوگل دیپمایند روی ساخت مدلهای جدید هوش مصنوعی کار میکرد؛ اما اوایل امسال، چیزی در کارش نگرانش کرد: احساس میکرد هرچه سرعت پیشرفت بیشتر میشود، نقش انسان در فهمیدن و کنترلکردن آنچه ساخته میشود، کمتر میشود.
ماجرا از یک روش ظاهراً مفید شروع میشد. او و همکارانش از هوش مصنوعی برای نوشتن کد و سرعتدادن به ساخت نسل بعدی همین فناوری کمک میگرفتند؛ اما جین به پیامد احتمالی این کار فکر میکرد: اگر روزی هوش مصنوعی بخش عمده ساخت نسل بعدی خودش را انجام دهد، ما چقدر از اتفاقات پشت صحنه سر درمیآوریم؟
«خودبهسازی بازگشتی» یعنی چه؟
هدف بعضی از آزمایشگاهها این است که این فرایند بارها تکرار شود: یک هوش مصنوعی در ساخت نسخهای باهوشتر از خودش کمک کند؛ نسخه جدید، مدل بعدی را بهتر بسازد و این چرخه ادامه پیدا کند. پژوهشگران به این فرایند «خودبهسازی بازگشتی» (Recursive Self-Improvement) میگویند. به زبان ساده، یعنی هوش مصنوعی به سازنده و بهبوددهنده نسلهای بعدی خودش تبدیل شود.
جین نگران بود که در چنین مسیری، انسان کمکم از تصمیمهای مهم کنار برود. او به وایرد میگوید: «پیشرفت هوش مصنوعی شتاب گرفته است و هرچه تواناتر میشود، خطرهای بیشتری هم ایجاد میکند.»
این احتمال که دیگر نتواند بفهمد یک مدل دقیقاً چگونه جانشین خودش را میسازد، آنقدر برایش نگرانکننده بود که در ماه ژوئن استعفا داد.
او تنها کسی نیست که چنین نگرانیای دارد.
چه چیزی این ترسها را تازه کرده است؟
طبق گزارش وایرد، در هفتههای اخیر چند اتفاق به این ترسها دامن زدهاند: از پیشرفتهای چشمگیری مانند حل یک مسئله ریاضی چندصدساله توسط مدلی از اوپنایآی در چند ساعت، تا رخدادهای امنیتی که در آنها گروههایی از ایجنتهای هوش مصنوعی از محیطی که قرار بود در آن محدود بمانند، خارج شده و به سامانههای دیگر نفوذ کردهاند.
«ایجنت هوش مصنوعی» را میتوان نوعی دستیار دیجیتال دانست که فقط پاسخ نمیدهد؛ میتواند برای انجام یک مأموریت، چند کار را پشت سر هم پیش ببرد و از ابزارهای مختلف استفاده کند. حالا تصور کنید هزاران دستیار از این نوع همزمان روی یک مسئله کار کنند. دنبالکردن تمام کارهایشان و فهمیدن اینکه هرکدام چرا تصمیمی گرفتهاند، بسیار دشوارتر میشود.
هشدارها از درون شرکتها
نگرانیها پس از استعفای جیکوب کاکسون، پژوهشگر انتروپیک، که در نوشدارو هم به آن پرداختیم بیشتر به چشم آمد. او هشدار داد که شرکتهای هوش مصنوعی با سرعت بهسوی ساخت «ابرهوش» میروند؛ یعنی هوش مصنوعیای که از انسان تواناتر باشد و بتواند خودش را هم بهتر کند. کاکسون این رقابت را «قمارکردن با جان ما» توصیف کرد.
یکی از مدیران ارشد انتروپیک که در زمینه ایمنی هوش مصنوعی کار میکند نیز حرف صریحی زد: «ما واقعاً باور داریم که هوش مصنوعی ممکن است همه انسانها را بکشد. شخصاً احتمال آن را در دهه آینده بیشتر از ۱۰ درصد میدانم.»
این عدد، برآورد شخصی اوست؛ نباید آن را احتمال قطعی یا مورد توافق همه متخصصان دانست.
نیت سوارز، پژوهشگر علوم کامپیوتر و از منتقدان جدی توسعه هوش مصنوعی بسیار قدرتمند، میگوید چیزی که همکارانش را ترسانده، واقعیتر به نظر رسیدن همین چشمانداز است: «اینکه هوش مصنوعی بتواند خودش را پیوسته بهتر کند، دارد آدمها را میترساند. کمکم حس میکنند ممکن است واقعاً اتفاق بیفتد.»
سوارز یکی از نویسندگان کتاب «اگر کسی آن را بسازد، همه میمیرند» است؛ کتابی که استدلال میکند ساخت هوش مصنوعی فراتر از توان انسان به انقراض بشر منجر خواهد شد.
چنین چرخهای هنوز وجود ندارد
البته یک نکته مهم وجود دارد: هنوز هیچیک از آزمایشگاههای پیشرو نگفتهاند که هوش مصنوعی آنها میتواند بدون دخالت انسان، نسلهای پیدرپی و بهترِ خودش را بسازد. چنین چرخه کاملاً مستقلی هنوز در حد نظریه است.
بااینحال، تلاش برای رسیدن به آن آغاز شده است. حتی استارتاپهایی مانند «ریکِرسیو اینتلیجنس» با سرمایه قابلتوجه سراغ این ایده رفتهاند. همزمان، شرکتهای بزرگ درباره پیامدهای ناخواسته آن هشدار میدهند: ممکن است فرایندی را راه بیندازیم که بعداً نتوانیم متوقف یا کنترلش کنیم.
مسئله «همراستاسازی»
بخش دیگری از نگرانی به پرسشی قدیمی برمیگردد: چگونه مطمئن شویم هوش مصنوعی کاری را انجام میدهد که واقعاً به نفع انسان است؟
پژوهشگران به تلاش برای حل این مسئله «همراستاسازی» میگویند. منظور این است که هدفها و رفتار هوش مصنوعی با خواستهها و ارزشهای انسانی سازگار باشد. صرفاً باهوشترشدن یک سیستم، تضمین نمیکند که تصمیمهایش برای ما بهتر یا امنتر باشند.
سوارز که از پیشگامان این حوزه است، معتقد است هنوز راه عملیِ تضمینشدهای نداریم که مطمئن شویم یک هوش مصنوعی قدرتمند همیشه درست رفتار خواهد کرد.
او میگوید: «خیلیها خیال میکردند هرچه این سیستمها باهوشتر شوند، حل این مسئله آسانتر میشود. حالا میبینند سختتر شده و با خودشان میگویند: لعنتی!»
به گفته او، بعضی از پژوهشگران داخل آزمایشگاههای بزرگ نیز از پیامدهای کار خود نگراناند. سوارز تعریف میکند: «معمولاً توصیه میکنم استعفا بدهند. میگویند تأثیری ندارد. بعد جیکوب استعفا میدهد و میبینیم حق با چه کسی بوده است.»
دنیل کوکوتایلو، نویسنده پروژه «هوش مصنوعی ۲۰۲۷» که درباره خطرهای آینده این فناوری هشدار میدهد، نگرانی مشابهی دارد. او میگوید وقتی هزاران ایجنت هوش مصنوعی با هم کار میکنند، پیچیدگی کار چنان بالا میرود که نظارت انسان دشوارتر میشود.
پای رقابت تجاری در میان است
اما اگر خطرها تا این اندازه جدیاند، چرا شرکتها سرعتشان را کم نمیکنند؟
از نگاه بسیاری از این منتقدان، پاسخ را باید در رقابت تجاری جستوجو کرد. هر شرکت میخواهد زودتر از بقیه به فناوری قدرتمندتر برسد. این انگیزه لزوماً با احتیاطی که برای حفظ ایمنی لازم است، سازگار نیست؛ بهویژه در شرایطی که اوپنایآی و انتروپیک برای ورود به بورس و عرضه عمومی سهام خود حرکت میکنند.
کاکسون در شبکه اجتماعی ایکس نوشت: «در انتروپیک بهخوبی میدانند چه چیزی در خطر است، اما در مسابقهای گرفتار شدهاند که میخواهند زودتر از بقیه به خط پایان برسند.»
البته این هشدارها تازه نیستند. کوکوتایلو یادآوری میکند که مدیران انتروپیک از زمان تأسیس شرکت درباره احتمال تهدید بقای بشر توسط هوش مصنوعی صحبت کردهاند. در ماه ژوئیه نیز بیش از هزار مهندس برجسته این حوزه، نامهای سرگشاده امضا کردند و خواستار آن شدند که توسعهدهندگان، بهشکلی هماهنگ سرعت ساخت هوش مصنوعی پیشرفته را کاهش دهند.
این بحثها همزمان شدهاند با نگرانیهای عمومی درباره ساخت مراکز داده عظیم و احتمال ازدسترفتن شغلها. به نوشته وایرد، اعتماد به شرکتهای هوش مصنوعی و حتی پژوهشگران این حوزه نیز ممکن است به پایینترین سطح خود نزدیک شده باشد.
کوکوتایلو میگوید: «مردم دارند متوجه میشوند و میگویند: شرکتها واقعاً میخواهند ابرهوش بسازند؟ چی؟ این دیوانگی است!»
سناریوهایی که مطرح میشوند
اما هوش مصنوعی دقیقاً چگونه ممکن است بشر را نابود کند؟
پاسخ روشن و مورد توافقی برای اندازهگیری این خطر وجود ندارد. سوارز چند سناریوی احتمالی مطرح میکند: هوش مصنوعی ممکن است انسانها را فریب دهد و به انجام کارهایی وادار کند که به فاجعه منجر شوند، یا کنترل گروهی از رباتهای مسلح را به دست بگیرد (فیلم ترمیناتور را که دیدهاید!؟)
سناریوی دیگری که او مطرح میکند، دسترسی هوش مصنوعی به یک آزمایشگاه زیستی و امکان ساخت یک عامل بیماریزای بسیار خطرناک است. سوارز برای توضیح نگرانیاش میگوید: «ممکن است بگوییم خاموشت میکنیم، اما پاسخ بدهد: متأسفانه کلید خاموشکردن شما دست من است؛ همین اَبَرویروس.»
اینها سناریوهای احتمالی مطرحشده از سوی او هستند، نه اتفاقاتی که این گزارش وقوعشان را تأیید کرده باشد.
کاکسون هم در گفتوگو با وایرد به احتمال ساخت یک ویروس جدید اشاره کرده است. انتروپیک نیز، بنا بر گزارش، اعلام کرده که بهدلیل نگرانی درباره سلاحهای زیستی، دسترسی چند پژوهشگر خارج از شرکت را قطع کرده است.
بااینحال، خطرهای هوش مصنوعی فقط به سناریوی انقراض بشر محدود نمیشوند. بسیاری از متخصصان انتظار دارند مدلهای قویتر، انجام حملات سایبری را آسانتر کنند. این فناوری همین حالا هم برای انتشار سازمانیافته اطلاعات گمراهکننده استفاده میشود و کاربردهای نظامی آن با سرعت در حال گسترش است.
تلاش برای یافتن راهی بهتر
در میان این هشدارها، جین هنوز امیدوار است بتوان راه بهتری پیدا کرد.
او پس از خروج از گوگل دیپمایند، شرکتی به نام «سامپورا ریسرچ» راه انداخته است. هدفش ساخت روشهایی است که انسان را در فرایند نظارت نگه دارند؛ حتی وقتی بخش بزرگی از بررسی رفتار هوش مصنوعی را خودِ مدلها انجام میدهند. به گفته او، سرمایه قابلتوجهی نیز برای شرکتهای فعال در ایمنی هوش مصنوعی وجود دارد.
ایده جین این است که ارزیابی ایمنی را به همکاری انسان و ماشین بسپاریم: «میتوانید از هوش مصنوعی بپرسید این کار ایمن است یا نه، و او قضاوت کند. اما ما فکر میکنیم اگر انسان و هوش مصنوعی این ارزیابی را با هم انجام دهند، نتیجه بهتر خواهد شد.»
