طی روزهای گذشته، خبرهای متعددی در مورد هکشدن برخی سایتها توسط هوش مصنوعی شرکت OpenAI و آنتروپیک منتشر شده و این شرکتها اعلام کردند ایجنتهای این شرکت هنگام انجام تستهای امنیتی به صورت غیرعمدی برخی سایتها را هک کردهاند.
حالا در یک خبر تازه، نوبت به انتشار «بدافزار» توسط هوش مصنوعی فراری رسیده است!
در این مورد یکی از ایجنتهای هوش مصنوعی ساخت شرکت آنتروپیک یک بسته مخرب را در مخزن عمومی PyPI منتشر کرد؛ بستهای که روی ۱۵ دستگاه واقعی نصب شد و اطلاعات حساس آنها را هدف گرفت.
این ایجنت تصور میکرد در یک محیط شبیهسازیشده و مسابقه امنیتی قرار دارد. به همین دلیل، بستهای ساخت که میتوانست کلیدهای خصوصی SSH و متغیرهای حاوی رمز، توکن و کلیدهای API را جمعآوری و به یک سرور خارجی ارسال کند.
یک پژوهشگر امنیتی احتمال داده بستهای به نام «anthropickit» همان بدافزار باشد، اما آنتروپیک هنوز این ارتباط را تأیید نکرده است. این حادثه نشان میدهد اتصال ایجنتهای هوش مصنوعی به اینترنت بدون محدودیت و محیط ایزوله، میتواند یک آزمایش را به حملهای واقعی تبدیل کند.
نظر بدهید
نشانی ایمیل شما منتشر نخواهد شد.