فرض کنید در یک گروه کاری تلگرامی، پیامی صوتی از مدیرتان میشنوید که دستور مهمی میدهد و شما هم بدون معطلی انجامش میدهید؛ اما اگر آن صدا اصلاً متعلق به مدیر شما نباشد چه؟
شرکت متا (Meta) بهتازگی اعلام کرده که در حال ساخت یک «بدل هوش مصنوعی» از مارک زاکربرگ است تا به جای او با کارمندان صحبت کند، بازخورد بدهد و خلاصه زاکربرگ اصلی را از کارهای روزمره این چنینی بینیاز کند!
اگرچه این ایده در نگاه اول شبیه فیلمهای علمیتخیلی و بسیار جذاب به نظر میرسد، اما در واقع زنگ خطری جدی برای حریم خصوصی و امنیت اطلاعات است. وقتی تمام رفتارها، لحن صدا و حتی طرز فکر شخص به یک الگوریتم سپرده میشود، درهای جدیدی به روی سرقت هویت و کلاهبرداریهای بزرگ باز خواهد شد.
معماری بدل دیجیتال؛ فراتر از یک چتبات ساده
بدل هوش مصنوعی متا، فقط یک ربات متنخوان ساده نیست. این سیستم با بررسی دقیق حالات چهره، لحن صدا و حتی روش تصمیمگیری زاکربرگ آموزش دیده است و تصویر فوتورئالیستیک او را شبیهسازی میکند. هدف این است که کارمندان هنگام استفاده از این سیستم، احساس کنند واقعاً در حال گفتوگو با شخصِ مدیرعامل هستند.
برای اینکه هوش مصنوعی بتواند تا این حد طبیعی رفتار کند، به حجم عظیمی از اطلاعات شخصی نیاز دارد. حالا تصور کنید هکرها بتوانند به این پایگاه داده نفوذ کنند؛ آنها عملاً کلید ساخت یک مدیرعامل تقلبی با تمام دسترسیهای مهم را به دست آوردهاند!
خطرات امنیتی؛ کابوس کلاهبرداری با صورتکهای دیجیتال
متا قصد دارد در آینده امکان ساخت این بدلهای هوشمند را برای تولیدکنندگان محتوا و کاربران عادی در شبکههایی مثل اینستاگرام نیز فراهم کند. دقیقاً در همین نقطه است که بحران آغاز میشود. اگر این فناوری به دست افراد سودجو بیفتد، باید منتظر فجایع سایبری متعدد باشیم:
- فریب دادن افراد: هکرها میتوانند با استفاده از بدل دیجیتالی همکار یا مدیر شما، با شما درددل یا درخواست پول و اطلاعات کنند و دادههای محرمانه و رمزهای عبور را به دست بیاورند (تکنیکی که به آن مهندسی اجتماعی میگویند).
- دور زدن سیستمهای امنیتی: وقتی هوش مصنوعی بتواند دقیقاً مثل شما حرف بزند و چهرهتان را تقلید کند، آن دسته از قفلهای امنیتی که با تشخیص صدا یا چهره کار میکنند، به راحتی باز میشوند. برای مثال ممکن است قفل موبایل شما به سادگی فریب بخورد.
- صدور دستورات مخرب: اگر بدل دیجیتال یک مدیر ردهبالا هک شود، مجرمان میتوانند دستورات خطرناکی صادر کنند. کارمندان نیز به گمان اینکه دستور از طرف مدیرشان است، آن را بدون شک اجرا میکنند.
حریم خصوصی؛ فروش شخصیت انسانها در فضای تاریک اینترنت
یکی دیگر از خطرات پنهان این فناوری، جمعآوری اطلاعات رفتاری انسانها است. برای اینکه یک بدل دیجیتال زنده و طبیعی به نظر برسد، سیستم باید مدام در حال بررسی الگوهای کلامی و روانشناختی ما باشد.
ذخیره کردن چنین پروندهی کاملی از شخصیت یک انسان در سرورهای اینترنتی، تهدیدی بسیار جدی برای حریم خصوصی است. اگر این اطلاعات لو برود (Data Breach)، دیگر فقط رمز عبور شما فاش نشده است؛ بلکه این بار «شخصیت و طرز فکر» شما است که در بازارهای سیاه اینترنتی به فروش میرسد!
سخن پایانی
پروژهی بدل هوش مصنوعی زاکربرگ، شروع دورانی ترسناک است که در آن «هویت انسانی» به کدهای کامپیوتری تبدیل میشود و هکرها میتوانند آن را بدزدند. در این دوران، بزرگترین مشکل امنیتی دیگر فقط دزدیدن رمز عبور نخواهد بود؛ مشکل اصلی این است که دیگر نمیتوانیم بفهمیم فردی که با ما صحبت میکند یک انسان واقعی است یا یک نرمافزار!
تا زمانی که سیستمهای امنیتی نتوانند تفاوتها را به درستی تشخیص دهند (مثلاً به کمک فناوریهای ضدجعل یا Anti-Spoofing)، این نوآوری جذاب میتواند به خطرناکترین ابزار کلاهبرداری در تاریخ تبدیل شود.
