By Ray Fisman/ Michael Luca
نوشته: ری فیسمن و مایکل لوکا
ترجمه: سعیده رجایی هرندی
بازارگاه‌های برخطی مانند ای‌بی، اوبر و ایربی.ان.بی دارای قابلیت کاهش سوگیری نژادی، جنسیتی و دیگر اشکال سوگیری هستند که بر جهان غیربرخط موثر هستند. در روزهای اولیه تجارت اینترنتی، گمنامی نسبی معاملات تشخیص را برای شرکت‌کنندگان دشوارتر می‌ساخت. اما همان‌طور که فهرست‌ها شامل عکس‌‌ها، اسامی و دیگر ابزارهای شناسایی می‌شدند، سوگیری در حوزه‌هایی از بازار کار تا برنامه اعتباری و مسکن هم شروع شد: این وضع گاهی با فقدان مقررات، عدم‌وجود تعاملات حضوری و استفاده از خودکارسازی و کلان‌داده بدتر هم می‌‌شد. شرکت‌ها چگونه می‌توانند این جریان را معکوس کنند؟
نویسندگان می‌گویند، کلید در طراحی آگاهانه‌تر بسترهایی (پلتفورم‌هایی) است که چارچوبی را برای ایجاد بازارگاهی پررونق ارائه می‌دهند و در عین حال، ریسک تبعیض را کاهش می‌دهند. آن‌ها می‌گویند، شرکت‌های آغازگر باید مشکلات بالقوه را پیگیری و گزارش کنند و با دقت انتخاب‌هایی را بررسی کنند که ممکن است بر میزان تبعیض موثر باشند. آن‌ها باید به‌طور کامل چهار تصمیم طراحی را بررسی کنند و از خود بپرسند:
• آیا ما اطلاعات بسیار زیادی را فراهم میکنیم؟ در بسیاری از موارد، ساده‌ترین و موثرترین تغییری که یک بستر می‌تواند ایجاد کند، نگهداری اطلاعاتی مانند نژاد و جنسیت تا بعد از توافق در یک معامله است.
• آیا می‌توانیم فرایند را خودکارتر کنیم؟ ویژگی‌هایی از قبیل «رزرو فوری» به خریدار اجازه ثبت‌نام برای اجاره و بیان عقیده را بدون مجوز قبلی فروشنده میدهد و در حالی که راحتی را افزایش میدهد می‌تواند تبعیض را کاهش دهد.
• آیا می‌توانیم آگاهی عمومی از سیاست‌های تبعیض ایجاد کنیم؟ ارائه آن‌ها در طول فرایند معامله واقعی، به‌جای پنهان‌کردن آن‌ها در چاپ با حروف کوچک احتمال شکست آن‌ها را کاهش میدهد.
• آیا باید الگوریتم‌های خود را نسبت به تبعیض هشیار سازیم؟ برای تضمین عدالت، طراحان نیازمند پیگیری چگونگی تاثیر نژاد و جنسیت بر تجربه کاربران و تنظیم اهداف صریح و روشن هستند.
به‌نظر می‌رسد ویژگیهای کوچک طراحی می‌توانند تاثیر بزرگی بر رفتار تبعیضآمیز داشته باشند. انتخاب‌های هوشمند و تجربه‌کردن شفاف می‌تواند بازارهای کارامدتر و جامعتری ایجاد کنند.