کامپیوترها اغلب به عنوان ابزارهایی بی‌طرف و کاملا منطقی در نظر گرفته می‌شوند؛ ابزارهایی که تصمیم‌هایشان بر پایه‌ی منطق و داده است و نه احساسات و سوگیری‌های انسانی. این پیش‌فرض باعث شده اغلب مردم کامپیوترها را بی‌طرف به حساب آورند و به قضاوت‌های آن باور داشته باشند. این موضوع باعث شده تا زیر اغلب پست‌های شبکه‌ی اجتماعی ایکس (یا همان توییتر سابق) کاربران از هوش مصنوعی Grok برای صحت‌سنجی محتوا استفاده کنند. خیلی‌های دیگر هم برای استدلال به پاسخ‌های چت جی‌پی‌تی استناد می‌کنند و حتی قضاوت در عرصه‌های گوناگون (از خرید روزمره گرفته تا سیاست) را به ابزارهای مبتنی بر هوش مصنوعی می‌سپارند.
اما در عمل، الگوریتم‌ها از دادههای تولید شده توسط انسان‌ها تغذیه می‌شوند. این دادههای ورودی هم مانند ذهن انسان می‌توانند آلوده به تبعیض و تعصب باشند و در جنبه‌های مختلف، خروجی را دچار جهت‌گیری کنند. در واقع نه‌تنها این ماشین‌ها لزوماً بی‌طرف نیستند، بلکه اغلب تصویری از عمیق‌ترین سوگیری‌های جامعه‌ی انسانی ارائه می‌کنند. در این یادداشت از سری مقالات زنان و فناوری نوشدارو، به بررسی سوگیری جنسیتی (Gender Bias) در این ماشین‌ها و خطرات آن برای عدالت اجتماعی می‌پردازیم.
برای درک این که الگوریتم‌ها چگونه به سوگیری آلوده می‌شوند، کافی‌ست نگاهی دقیق‌تر به جوامع انسانی بیاندازیم. هوش مصنوعی از دل همین جوامع برخاسته و براساس دادههای آنها آموزش می‌بیند؛ داده‌هایی که بازتاب‌دهنده‌ی تبعیض‌ها، نابرابری‌ها و پیش‌داوری‌های ساختاری در طول چندین قرن است.
