♦️سویه‌های وحشت‌ناک توسعه هوش مصنوعی در غیاب اخلاق (۶)

🌀هوش مصنوعی و پهن کردن سفرهٔ ذهن نزد غریبه‌ها؛ باید بترسیم؟

♦️سویه‌های وحشت‌ناک توسعه هوش مصنوعی در غیاب اخلاق (۶)

✍🏼حسینعلی رحمتی

⏺️ «بازنمایی متنیِ ذهن» Mind captioning پروژه ای است که در چند سال اخیر از سوی پژوهشگران ژاپنی آغاز شده و هدفش این است که به کمک هوش مصنوعی آنچه را در ذهن فرد می‌گذرد به متن تبدیل کند. نوعی پرینت کردن افکار.
⏺️این کار هرچند مزایایی چون درمان اختلالات ذهنی و ارتباطی را دارد، ولی از سوی دیگر می‌تواند چالش های اخلاقی جدی به دنبال داشته باشد، از جمله:
✔️ امکان نقض حریم خصوصی فرد،
✔️سوءاستفاده از داده های ذهنی افراد،
✔️زمینه‌سازی برای ضرر  و آسیب به فرد به خاطر تفسیر اشتباه از ذهنیات او،
✔️ تضعیف هویت انسانی و کم‌رنگ کردن مرز انسان و ماشین،
✔️ از بین رفتن استقلال فکری و قدرت اختیار (که یکی از مبانی اخلاق است و اگر از بین برود رفتارهای فرد قابل ارزشداوری اخلاقی نیست).

📌هرچند این پروژه در ابتدای راه است ولی قطعا به مرور توسعه پیدا خواهد کرد و طبیعتا چالش ها و مسائل اخلاقی‌اش هم جدی‌تر خواهد شد. از این رو از هم اکنون بایستی برای راهکارهایی چون تعیین وظایف اخلاقی ذی‌نفعان و الزام آنها به مراعات آن اقدام کرد.

۲۰ آبان  ۱۴۰۴
#اخلاق_توسعه_هوش_مصنوعی

💥«اندکی اندیشه»‌ ضرر ندارد