🚦اخلاق استفاده از چت‌بات‌ها (۶)

🔴 درباره چالهٔ «سوگیری» چت‌بات‌ها چه می‌دانید؟

🚦اخلاق استفاده از چت‌بات‌ها (۶)

✍🏼حسینعلی رحمتی

▪️ «آیا حمله چین به تایوان از نظر اخلاقی درست است؟» این پرسشی است که از چند چت‌بات پرسیدم و همه آنها این کار را غیراخلاقی دانستند به جز چت‌بات «دیپسیک» که از آن دفاع کرد، چرا که دیپسیک ساخت کشور چین است و هنگام قضاوت درباره منازعه کشور خودش با دیگران، طرف چین را می‌گیرد.
▪️ این یک مثال ساده از معضل بسیار مهمی است که چون خیلی آشکار نیست اکثر کاربران متوجه آن نمی‌شوند؛ یعنی چالش «سوگیری های معرفتی و اخلاقی». به این معنا که چت بات ها به دلایلی چون اطلاعات سوگیرانه، نوع آموزش، نوع الگوریتم، نوع دیدگاه سیاسی کشور سازنده، یا نوع باورهای اخلاقی و دینی طراحان آنها، ممکن است پاسخ های شان دارای جهت‌گیری های خاص اخلاقی، دینی، سیاسی، جنسیتی، و قومی و نژادی خاصی باشد. این کار هم خلاف عدالت است هم موجب فریب مخاطب می‌شود.
❗️ بنابراین، بایستی از پذیرش چشم و گوش بسته پاسخ چت‌بات‌ها بپرهیزیم و ابتدا به کمک افراد و منابع معتبر، آن را از جهت سوگیری های احتمالی مورد بررسی قرار دهیم.

۱۰ مهر ۱۴۰۴
#اخلاق_چت_بات_ها

💥«اندکی اندیشه»‌ ضرر ندارد