مدل های تصادفی

سازمان ها به طور فزاینده ای، از مدل های یادگیری ماشینی برای تخصیص منابع یا فرصت های کمیاب استفاده می کنند. به عنوان مثال، چنین مدل‌هایی می‌توانند به شرکت‌ها در بررسی رزومه‌ها برای انتخاب نامزدهای مصاحبه شغلی و یا کمک به بیمارستان‌ها در رتبه‌بندی بیماران پیوند کلیه بر اساس احتمال بقایشان کمک کنند.

هنگام استقرار یک مدل، کاربران معمولاً تلاش می‌کنند تا با کاهش سوگیری، از عادلانه بودن پیش‌بینی‌های آن اطمینان حاصل کنند. اغلب این موارد شامل تکنیک‌هایی مانند تنظیم ویژگی‌ها است که یک مدل برای تصمیم‌گیری استفاده می‌کند و یا کالیبره کردن امتیازهایی که ایجاد می‌کند.

با این حال، محققان MIT و دانشگاه نورث ایسترن استدلال می کنند که این روش های عادلانه برای رسیدگی به بی عدالتی های ساختاری و عدم قطعیت های ذاتی کافی نیستند. در یک مقاله جدید، آنها نشان می‌دهند که چگونه تصادفی‌سازی تصمیمات یک مدل، به روشی ساختاریافته می‌تواند انصاف را در موقعیت‌های خاص بهبود بخشد.

به عنوان مثال، اگر چندین شرکت از یک مدل یادگیری ماشینی برای رتبه‌بندی قطعی نامزدهای مصاحبه شغلی استفاده کنند (بدون هیچ گونه تصادفی‌سازی ) در آن صورت یک فرد شایسته می‌تواند کاندیدای رتبه پایین برای هر شغل باشد، شاید به این دلیل که مدل چگونه پاسخ‌های ارائه شده در یک موقعیت را می‌سنجید. فرم آنلاین معرفی تصادفی سازی، در تصمیمات یک مدل می تواند مانع از آن شود که یک فرد یا گروه شایسته همیشه از منابع کمیاب، مانند مصاحبه شغلی محروم شود.

محققان از طریق تجزیه و تحلیل خود دریافتند که، تصادفی‌سازی می‌تواند به ویژه زمانی مفید باشد که تصمیمات یک مدل شامل عدم قطعیت باشد یا زمانی که همان گروه به طور مداوم تصمیمات منفی دریافت می‌کنند.

آن‌ها چارچوبی را ارائه می‌کنند که می‌توان با تخصیص منابع از طریق قرعه‌کشی وزنی، مقدار مشخصی از تصادفی‌سازی را در تصمیم‌های یک مدل معرفی کرد. این روش، که یک فرد می تواند متناسب با موقعیت خود تنظیم کند، می تواند انصاف را بدون آسیب رساندن به کارایی یا دقت مدل بهبود بخشد.