سوگیری نظام‌مند

سوگیری نظام‌مند (به انگلیسی: Systemic Bias)، که با عناوینی چون سوگیری نهادی (Institutional Bias) یا سوگیری ساختاری (Structural Bias) نیز شناخته می‌شود، به تمایل ذاتی یک فرآیند یا سیستم برای حمایت از نتایج خاصی به ضرر دیگران اشاره دارد. این سوگیری در قوانین، سیاست‌ها، رویه‌های نهادینه شده یا هنجارهای فرهنگی یک سیستم تعبیه شده است و نابرابری‌ها را به صورت مداوم و اغلب ناخواسته، ایجاد یا تقویت می‌کند.[۱]

برخلاف تعصب فردی که به نگرش‌ها و اقدامات یک شخص خاص مربوط می‌شود، سوگیری نظام‌مند می‌تواند حتی در غیاب نیت تبعیض‌آمیز از سوی افراد درون سیستم نیز عمل کند. این پدیده نشان می‌دهد که چگونه «قواعد بازی» خودشان می‌توانند ناعادلانه باشند، نه لزوماً بازیکنان.[۲]

تمایز از سوگیری فردی

درک تفاوت میان این دو مفهوم حیاتی است:

  • تعصب فردی (Individual Prejudice): یک مدیر استخدام به دلیل باورهای نژادپرستانه شخصی، از استخدام یک متقاضی شایسته از یک نژاد خاص خودداری می‌کند. این یک اقدام آگاهانه یا ناخودآگاه از سوی یک فرد است.
  • سوگیری نظام‌مند (Systemic Bias): یک شرکت برای استخدام فقط به کارمندانی متکی است که توسط کارکنان فعلی معرفی شوند. اگر نیروی کار فعلی عمدتاً از یک گروه جمعیتی خاص (مثلاً مردان سفیدپوست) تشکیل شده باشد، این سیاستِ ظاهراً بی‌طرف، به طور خودکار همان ساختار جمعیتی را بازتولید کرده و فرصت‌ها را برای گروه‌های دیگر محدود می‌کند، حتی اگر هیچ‌کدام از مدیران نیت تبعیض‌آمیز نداشته باشند.[۳]

سازوکارها و علل

سوگیری نظام‌مند از طریق مکانیسم‌های مختلفی در یک سیستم ریشه می‌دواند:

۱. داده‌های تاریخی جانبدارانه

بسیاری از سیستم‌های مدرن، به ویژه الگوریتم‌های هوش مصنوعی، بر اساس داده‌های تاریخی آموزش می‌بینند. اگر این داده‌ها بازتاب‌دهنده نابرابری‌های گذشته باشند، سیستم جدید نیز همان سوگیری‌ها را یاد گرفته و تقویت خواهد کرد. برای مثال، اگر یک الگوریتم استخدام بر اساس سوابق مدیران موفق ۱۰ سال گذشته یک شرکت آموزش ببیند و اکثر آن مدیران مرد بوده‌اند، الگوریتم به اشتباه ویژگی‌های مردانه را به عنوان شاخص موفقیت شناسایی کرده و متقاضیان زن شایسته را نادیده خواهد گرفت.[۴]

۲. فرآیندهای ظاهراً بی‌طرف

برخی سیاست‌ها که روی کاغذ برای همه یکسان به نظر می‌رسند، در عمل تأثیرات متفاوتی بر گروه‌های مختلف دارند (Disparate Impact). برای مثال، الزام به داشتن یک آدرس پستی ثابت برای دریافت خدمات دولتی، به طور نامتناسبی افراد بی‌خانمان را از دسترسی به این خدمات محروم می‌کند.

۳. حلقه‌های بازخورد (Feedback Loops)

سوگیری نظام‌مند می‌تواند خود را از طریق حلقه‌های بازخورد تقویت کند. یک مثال کلاسیک، الگوریتم‌های «پلیس پیش‌بین» (Predictive Policing) است. اگر یک الگوریتم بر اساس داده‌های دستگیری‌های گذشته، پلیس بیشتری را به یک محله اقلیت‌نشین بفرستد، حضور بیشتر پلیس به طور طبیعی منجر به ثبت جرائم کوچک بیشتری در آن محله می‌شود. این داده‌های جدید سپس به الگوریتم بازخورانده شده و «اثبات» می‌کند که آن محله جرم‌خیزتر است و باید پلیس بیشتری به آنجا اعزام شود. این چرخه، یک پیش‌داوری اولیه را به یک واقعیت آماری خودساخته تبدیل می‌کند.[۵]

نمونه‌های کلاسیک

  • عدالت کیفری: در ایالات متحده، تفاوت قوانین مجازات برای مصرف کراک کوکائین (که بیشتر در میان جوامع فقیر و سیاه‌پوست شایع بود) در مقایسه با کوکائین پودری (شایع در میان طبقات مرفه‌تر)، نمونه‌ای از یک قانون ظاهراً بی‌طرف بود که به طور نظام‌مند به نابرابری نژادی در احکام زندان دامن زد.[۶]
  • خدمات مالی: رویه تاریخی «خط‌کشی قرمز» (Redlining) که در آن بانک‌ها از اعطای وام مسکن در محله‌های خاصی (عمدتاً اقلیت‌نشین) خودداری می‌کردند، یک سوگیری نهادینه‌شده بود که به نابرابری ثروت میان نژادها برای نسل‌ها دامن زد.
  • مراقبت‌های بهداشتی: تحقیقات پزشکی که در گذشته عمدتاً بر روی مردان انجام می‌شد، منجر به درک ناقص از علائم بیماری‌ها (مانند حمله قلبی) در زنان و در نتیجه تشخیص و درمان نادرست شده است.

پیامدها و راهکارهای مقابله

پیامد اصلی سوگیری نظام‌مند، تداوم و تشدید نابرابری‌های اجتماعی است. این پدیده اعتماد به نهادها را از بین برده و تحرک اجتماعی را برای گروه‌های به حاشیه رانده شده دشوار می‌سازد. مقابله با آن نیازمند راهکارهای ساختاری است:

  • حسابرسی و شفافیت الگوریتمی: سیستم‌های تصمیم‌گیری خودکار باید به طور منظم برای شناسایی سوگیری‌ها مورد بازرسی قرار گیرند.
  • بازنگری در فرآیندها: به جای دیجیتالی کردن رویه‌های قدیمی، باید فرآیندها را با هدف برابری در خروجی (Equity in Outcome) از نو طراحی کرد.
  • تنوع در تیم‌های طراحی: حضور افراد با پیشینه‌های گوناگون در تیم‌های طراحی سیستم‌ها (اعم از الگوریتم‌ها یا سیاست‌های اجتماعی) می‌تواند به شناسایی نقاط کور و سوگیری‌های احتمالی کمک کند.
  • قانون‌گذاری: وضع قوانینی که تأثیرات نابرابر سیاست‌های ظاهراً بی‌طرف را به رسمیت شناخته و ممنوع کند.

پانویس

  1. ↑ Alexander, Michelle. The New Jim Crow: Mass Incarceration in the Age of Colorblindness. New York: The New Press, 2010, pp. 178-181.
  2. ↑ O'Neil, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and threatens Democracy. New York: Crown, 2016, pp. 15-18.
  3. ↑ Kahneman, Daniel. Thinking, Fast and Slow. New York: Farrar, Straus and Giroux, 2011, pp. 209-212.
  4. ↑ O'Neil, Cathy. Weapons of Math Destruction, pp. 21-23.
  5. ↑ O'Neil, Cathy. Weapons of Math Destruction, pp. 85-91.
  6. ↑ Alexander, Michelle. The New Jim Crow, pp. 97-101.

منابع

  • Alexander, Michelle (2010). The New Jim Crow: Mass Incarceration in the Age of Colorblindness. New York: The New Press. ISBN 978-1595581037.
  • O'Neil, Cathy (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown. ISBN 978-0553418811.
  • Kahneman, Daniel (2011). Thinking, Fast and Slow. New York: Farrar, Straus and Giroux. ISBN 978-0374275631.

جستارهای وابسته

This article is issued from ویکی‌پدیا. The text is available under Creative Commons Attribution-Share Alike 4.0 unless otherwise noted. Additional terms may apply for the media files.