تصور کنید یک سارق بعد از دزدی، یادداشتی آنقدر وحشتناک جلوی در خانه بگذارد که مامور پلیس بعد از خواندنش، با خود بگوید «بیخیال…» و اصلاً بازرسی را ادامه ندهد! پژوهشگران متوجه شدهاند در موج تازهای از حملات نرمافزاری، هکرها از ترفندی مشابه برای فریب دادن هوش مصنوعی استفاده میکنند؛ آنها بدافزارهایی میسازند که بخشی از متنشان طوری نوشته شده که هوش مصنوعی از بررسی هرچه بیشتر صرف نظر میکند!
ابزارهای هوش مصنوعی کنونی، ترمزهایی از پیش تعریفشده دارند. برای مثال اگر از آنها راجع به نحوهی ساخت «بدافزار»، «تسلیحات شیمیایی» یا «تسلیحات اتمی» سوال کنید، فوراً ترمزشان کشیده میشود و از پاسخ دادن طفره میروند. حالا هکرها متوجه شدهاند که با افزودن این نوع از متون ممنوعه به بدافزارها یا نرمافزارهای معتبری که آلوده شدهاند، میتوان فرایند بررسی امنیتی کدها از سوی هوش مصنوعی را هم مختل کرد.
به زبان ساده، مهاجم سعی دارد کاری کند که ابزار امنیتی وقتی به بدافزار میرسد، بهجای بررسی دقیق کدها با خود بگوید: «من اصلاً اجازه ندارم این را تحلیل کنم» و از آن رد شود.
این نوع حمله نشانهای است از ورود به مرحله تازهای در امنیت سایبری؛ مهاجمان دیگر فقط انسانها را فریب نمیدهند، بلکه رفتار هوش مصنوعی هم هدف قرار میگیرد و ترفندها در گذر زمان فقط پیچیدهتر و خلاقانهتر خواهند شد.
نظر بدهید
نشانی ایمیل شما منتشر نخواهد شد.