🧕هوش مصنوعی و اخلاق جنسیت (۷)

💢 آیا هوش مصنوعی سوگیری‌ جنسیتی دارد؟

🧕هوش مصنوعی و اخلاق جنسیت (۷)

✍🏼حسینعلی رحمتی

✦ «سوگیری جنسیتی» Gender bias به این معناست که سیستم‌های هوشمند برون‌داد صوتی، متنی یا تصویری خود را به نفع یک جنس و به ضرر جنس دیگر ارایه کنند. مثلا در ارایه معیارهای انتخاب کارمند، بیشتر ویژگی‌های مردانه را ارایه کنند تا زنانه، یا الگوریتم‌های مربوط به بیمه سلامت، بیشتر به مردان توجه کنند تا زنان، یا در معرفی مشاغل مختلف شغل‌های عاطفی‌تر (مثل پرستاری) را خاص زنان معرفی کند و شغل‌های نیازمند کار فکری قوی‌تر (مثل مهندسی) را به مردان اختصاص دهد.  البته سوگیری همیشه به ضرر زنان نیست و می‌تواند به ضرر مردان هم باشد.

✦✦ این سوگیری‌ها از آنجا که ممکن است خلاف عدالت و حق و انصاف باشد یا موجب محروم شدن افراد از حقوق خود شود، کاری غیراخلاقی است، و بررسی آنها امری است لازم. در این باره باید عوامل و زمینه‌های سوگیری، مصادیق آن، پیامدهای آن، معیارهای تعیین سوگیری، و راه‌های رفع یا کاهش آنها مورد بررسی قرار گیرد.
📍 البته سوگیری‌ها می‌تواند در همه مراحل طراحی، تولید، توسعه، و استفاده از هوش مصنوعی اتفاق بیافتد.

۱۱ آذر ۱۴۰۴
#هوش_مصنوعی_اخلاق_جنسیت

💥«اندکی اندیشه»‌ ضرر ندارد