تا به حال حس کردهاید کسی از پشت سر به مانیتور شما خیره شده است؟ حالا تصور کنید این نگاه خیره، متعلق به کارفرمای شما و یک هوش مصنوعی باشد که تکتک کلیکها و ضربات کیبوردتان را ثبت میکند!
شرکت متا (Meta) بهتازگی تصمیم جنجالی و عجیبی گرفته است. آنها روی رایانههای کاری برخی کارکنان مستقر در آمریکا نرمافزاری نصب میکنند که در برخی از اپها و وبسایتهای کاری، دادههایی مثل حرکت موس، کلیک، ضربههای کلید و بعضی اسکرینشاتها را برای آموزش مدلهای هوش مصنوعی جمعآوری میکند. این اتفاق مرز میان توسعهی ابزارهای هوش مصنوعی و نظارت گسترده بر رفتار کارکنان را مبهمتر کرده است.
مرز باریک میان جاسوسی سایبری و توسعه فناوری
متا طبق اسناد داخلی منتشرشده، در حال پیادهسازی این نرمافزار روی رایانههای کاری کارکنان مستقر در آمریکاست. این ابزار از نظر دامنهی پایش رفتاری، شباهتهایی به نرمافزارهای جاسوسی دارد؛ یعنی در مجموعهای از ابزارها و وبسایتهای کاری، جزئیاتی مثل حرکت موس، کلیک، تایپ و بعضی اسکرینشاتها را ثبت میکند.
نگرانیها فقط به حجم دادههای جمعآوریشده محدود نیست. طبق گزارشها، یکی از پرتکرارترین اعتراضهای داخلی این بوده که کارکنان روی لپتاپهای کاری خود عملاً امکان انصراف از این طرح را ندارند. همین موضوع باعث شده بحث فقط بر سر آموزش هوش مصنوعی نباشد، بلکه پای رضایت آگاهانه و حق انتخاب کارمندان هم به میان بیاید.
بنا بر اسناد داخلی این شرکت، هدف ظاهری این پروژه بهبود درک هوش مصنوعی از رابطهای کاربری است. آنها میخواهند ماشینها یاد بگیرند که ما انسانها چطور از منوهای کشویی و کلیدهای میانبر استفاده میکنیم؛ اما از نگاه کارشناسان امنیت سایبری، وقتی تمام جزئیات حرکتی دست شما ثبت میشود، دیگر با یک ارزیابی ساده روبهرو نیستیم.
چالش بزرگ پاکسازی و ناشناسسازی اطلاعات شخصی
شرکت متا ادعا میکند که از این دادهها فقط برای آموزش مدلهای هوش مصنوعی استفاده کرده است. آنها میگویند سیستمهای محافظتی قدرتمندی برای جلوگیری از ثبت اطلاعات حساس کارمندان دارند؛ اما کارشناسان امنیت شبکه بهخوبی میدانند که وعدهی «پاکسازی دادهها» به این راحتیها عملی نمیشود.
فیلتر کردن و ناشناسسازی (Anonymization)1 اطلاعات در مقیاسهای بزرگ، همیشه با خطای سیستم همراه است. در واقع، ماشینها هنوز نمیتوانند بهصورت صددرصدی محتوای محرمانه را از دل اسکرینشاتها تشخیص دهند و آنها را حذف کنند. حتی یک خطای کوچک در سامانههای فیلتر میتواند باعث ثبت ناخواستهی اطلاعات محرمانه شود؛ دادههایی که بعداً حذف کامل اثرشان از فرایندهای آموزشی همیشه ساده و قابل راستیآزمایی نیست.
این اطلاعات ممکن است در صورت ضعف در حفاظت، به هدفی ارزشمند برای سوءاستفاده یا نشت اطلاعات تبدیل شود.
چشمانداز آینده
میل سیریناپذیر غولهای فناوری برای پیشرفت در حوزهی هوش مصنوعی باعث شده تا آنها کامپیوترهای کارمندانشان را به دستگاههایی مکنده برای جمعآوری داده تبدیل کنند! این واقعیت تلخ به ما یادآوری میکند که اگر شفافیت، رمزنگاری پیشرفته و امنیت شبکهی قطعی در کار نباشد، همین ابزارهای جمعآوری داده بهزودی به بزرگترین نقطهضعفهای امنیتی و ابزار دست هکرها تبدیل خواهند شد.
- ناشناسسازی (Anonymization) به فرایندی گفته میشود که در آن، اطلاعات شناساییکنندهی یک فرد از دادهها حذف یا تغییر داده میشود تا دیگر نتوان آن داده را به یک شخص مشخص نسبت داد.
برای مثال، نام، شماره تماس، ایمیل یا شناسههای مستقیم حذف میشوند تا داده فقط به شکل کلی و غیرقابلردیابی باقی بماند. البته در عمل، ناشناسسازی همیشه بینقص نیست؛ چون گاهی با کنار هم گذاشتن چند دادهی ظاهراً بیخطر، باز هم میتوان هویت افراد را حدس زد. ↩︎
