سلاحهایی که بدون فرمان مستقیم انسان هدف را انتخاب و شلیک میکنند، سالهاست به یکی از نگرانیهای جدی سازمان ملل تبدیل شدهاند. حالا پس از پنج روز مذاکره فشرده در ژنو، نمایندگان ۱۲۸ کشور سرانجام کردند که طی دو سال آینده، مقرراتی بینالمللی برای کنترل این سلاحها تدوین کنند.
عجیب اینجاست که این کشورها پس از بیش از یک دهه گفتوگو، هنوز حتی بر سر «الزامآور بودن مقررات» به توافق نرسیدهاند!
منظور از «ربات قاتل» چیست؟
«ربات قاتل» (Killer Robot) لزوماً آن ربات انساننما و اسلحهبهدستی نیست که در فیلم «ترمیناتور» دیدهایم. این اصطلاح به هر سلاحی اشاره دارد که میتواند بدون دخالت مستقیم انسان، هدف را شناسایی، انتخاب و به آن حمله کند.
برای مثال، بعضی سامانههای دفاع هوایی میتوانند موشکهای دشمن را خودکار رهگیری کنند. برخی مهمات پرسهزن نیز پس از پرتاب، در منطقهای مشخص به دنبال هدف میگردند و در صورت شناسایی، حمله میکنند.
تفاوت مهم این سلاحها با پهپادهای معمولی در تصمیم نهایی برای شلیک است. در یک پهپاد کنترلشونده، انسان هدف را انتخاب میکند؛ اما در سلاح خودمختار، این تصمیم میتواند به نرمافزار سپرده شود.
جالب اینکه همه این سلاحها لزوماً به هوش مصنوعی پیشرفته مجهز نیستند؛ بعضی با قواعد نرمافزاری از پیش تعیینشده کار میکنند. بااینحال، پیشرفت هوش مصنوعی امکان شناسایی اهداف پیچیدهتر و خودکارسازی بخشهای بیشتری از عملیات نظامی را فراهم کرده است.
پیشتر در مطلب «فرماندهان سیلیکونی؛ هوش مصنوعی چگونه میدان نبرد را هک میکند؟» توضیح دادیم که هوش مصنوعی چگونه به فرماندهان نظامی برای تحلیل اطلاعات و انتخاب اهداف کمک میکند. حالا بحث بر سر مرحله حساستری است: اگر ماشین بهجای پیشنهاد حمله، خودش تصمیم به اجرای آن بگیرد، چه اتفاقی میافتد؟
اختلاف بر سر یک کلمه؛ چرا توافق جدیتری شکل نگرفت؟
حدود ۱۰۰ کشور از تدوین یک معاهده الزامآور حمایت میکردند، اما قدرتهای نظامی مانند آمریکا و روسیه حاضر به پذیرش چنین محدودیتهایی نشدند.
اختلافها تا جایی پیش رفت که برخی کشورها حتی با استفاده از واژه «مذاکره» (Negotiate) مخالفت کردند! در نهایت نمایندگان روی واژه ملایمتر «تدوین» (Elaborate) به توافق رسیدند؛ یعنی قرار است تا سال ۲۰۲۸ روی یک سند کار کنند، بدون تضمین اینکه این سند در نهایت به قانونی الزامآور تبدیل شود!
گروههای حقوق بشری این نتیجه را ناکافی میدانند، بهخصوص که فناوریهای خودمختار همین حالا در میدانهای جنگ استفاده میشوند.
اگر ماشین اشتباه کند، چه کسی پاسخگوست؟
نگرانی اصلی فقط دقت هوش مصنوعی در تشخیص هدف نیست. سامانه خودمختار ممکن است در تشخیص غیرنظامیان، مجروحان یا سربازانی که تسلیم شدهاند، اشتباه کند.
مسئلهای که کشورها باید دربارهاش تصمیم بگیرند، فراتر از پیشرفت فناوری است: کدام تصمیمها در میدان جنگ باید حتماً در اختیار انسان باقی بمانند و تا چه اندازه میتوان اختیار استفاده از نیروی مرگبار را به ماشینها سپرد؟
آدرس مطلب: https://nooshdaroo.ir/news-opinion/killer-robots-un-regulation-2028/
