اوپنایآی پس از ماجرای هک هاگینگفیس که پیشتر در نوشدارو به آن پرداختیم، اعلام کرد در حال توسعه سازوکاری است که رفتارهای خطرناک مدلها را تشخیص دهد و در رخدادهای شدید، فعالیت آنها را بهطور خودکار متوقف کند. این یک راهکار داخلی است؛ یعنی اوپنایآی آن را میسازد و درباره فعالکردنش تصمیم میگیرد.
در مقابل، دو نماینده دموکرات و جمهوریخواه مجلس آمریکا، پس از افشای اولیه همین حادثه طرح قانونی «کلید خاموشی هوش مصنوعی» را ارائه کردند. تفاوت این طرح روشن است: شرکتها همچنان باید ابزار توقف را بسازند، اما مقامات آمریکایی هم میتواند هنگام وقوع یک خطر جدی که جان مردم یا اقتصاد رو تهدید میکند، به شرکت دستور دهد توان مدل را کاهش دهد، بعضی دسترسیها را ببندد یا آن را کاملاً متوقف کند. یعنی دولت دکمهای را مستقیماً فشار نمیدهد؛ فرمان استفاده از آن را صادر میکند.
البته این این طرح اکنون در زیرکمیته امنیت سایبری و حفاظت از زیرساختها در حال بررسی است و هنوز به رأی مجلس نمایندگان نرسیده است.
پیام این ماجرا فراتر از یک حادثه در یک شرکت است: دستیارهای هوش مصنوعی که کمکم به ابزار روزمره میلیونها کاربر تبدیل شدهاند، دیگر فقط «پاسخدهنده» نیستند؛ آنها میتوانند خودشان دست به عمل بزنند. حالا حتی سازندگانشان هم پذیرفتهاند که این ابزارها به یک ترمز اضطراری نیاز دارند؛ ترمزی که هنوز ساخته نشده است.
همچنین میتوانید بیشتر بخوانید
