تعریف
په مصنوعي ذهانت کې تعصب د مصنوعي ذهانت په محصولاتو کې سیستماتیک غلطیو ته اشاره کوي چې د معلوماتو د ناسمو معلوماتو، نیمګړتیاوو ډیزاین، یا په ډیټاسیټونو کې منعکس شوي ټولنیزو نابرابریو له امله رامینځته کیږي. دا کولی شي غیر عادلانه یا تبعیضي پایلو ته لار هواره کړي.
هدف
د تعصب د مطالعې موخه د مصنوعي ذهانت په سیسټمونو کې د بې عدالتۍ پیژندل او کمول دي. سازمانونه موخه لري چې د دې مسلو په حل کولو سره ډیر عادلانه ماډلونه رامینځته کړي.
اهمیت
- که چیرې پاملرنه ونشي، نو په استخدام، پور ورکولو، یا روغتیا پاملرنې کې تبعیض ته لار هواروي.
- په مصنوعي ذهانت سیسټمونو باور کمزوری کوي.
- په حساسو صنعتونو کې د تنظیمي اطاعت اړتیا لري.
- د انصاف او مسؤل مصنوعي ذهانت کړنو پورې اړوند.
څنګه کار کوي
- د تعصب احتمالي سرچینې وپیژنئ (د معلوماتو راټولول، لیبل کول، ماډل کول).
- د عدم توازن لپاره ډیټاسیټونه تحلیل کړئ.
- د انصاف پوهاوي روزنیزې طریقې پلي کړئ.
- د انصاف معیارونو سره د ازموینې پایلې.
- ډیزاین تنظیم کړئ او که اړتیا وي بیا یې روزنه ورکړئ.
مثالونه (حقیقي نړۍ)
- د COMPAS د خطر ارزونې وسیله: د نژادي تعصب له امله نیوکه شوې.
- د ایمیزون د ګمارنې الګوریتم: د جنسیت د تعصب له امله رد شو.
- د مخ پیژندنه: د ځینو ډیموګرافیک ډلو غلط طبقه بندي کولو لپاره پیژندل کیږي.
حوالې / نور لوستل
- د مصنوعي ذهانت تعصب - NIST.
- انصاف او ماشیني زده کړه — باروکاس، هارډټ، او ناراینان (کتاب).
- د الګوریتمیک تعصب — د ACM FACcT کنفرانس پروسې.
- د مصنوعي ذهانت د روزنې متنوع معلومات: د تعصب له منځه وړلو کلیدي
