دغدغه های اخلاقی درباره «جی پی تی تیری»GPT-3 (قسمت اول)

😱⭕️ بله، هنوز می‌ترسیم جناب «جی پی تی تیری»

(قسمت ۱ از ۲)

✍️حسینعلی رحمتی

✅ حدود دو سال قبل (سپتامبر 2020م/شهریور 1399) روزنامه گاردین مطلبی را با عنوان «آیا هنوز از من می‌ترسی انسان؟» (Are you scared yet, human?) منتشر و اعلام کرد تمام آن توسط رباتی به نام GPT-3 (نسل قبلی «چت جی پی تی» فعلی) نوشته شده است. ربات می‌خواست خیال انسان ها را راحت کند که قصد آزار آنها را ندارد.
در آن زمان من در قالب یک نامه خیالی خطاب به ربات فوق، برخی دغدغه های اخلاقی نسبت به هوش مصنوعی و ماشین های هوشمند را مطرح کردم. آن زمان فرصت انتشار این نامه فراهم نشد ولی اکنون با توجه به مباحثی که این روزها درباره ChatGPT مطرح شده است، آن را به محضر مخاطبان گرامی تقدیم می‌کنم.

🔷 سلام جناب جی پی تی تری GPT-3
مرقومه شریفه حضرتعالی خطاب به ما انسان ها دریافت شد. از محتوای آن بر می‌آید که هدفتان ریختن ترس ما از خود و همنوعان تان و ایجاد صلح و دوستی، و کاهش تنش بین طرفین است. از آنجا که عدم پاسخ به نامه تان ممکن است موجب سوءتفاهم شود و گمان کنید با آن یادداشت مشکل ما با شما حل شده است، و از آنجا که ما انسان ها پاسخ به نامه را اخلاقا بر خود لازم می‌دانیم، مکتوب حاضر تقدیم می‌شود.
🔷فرموده بودید: «ای انسان، هنوز هم از ما می‌ترسی؟»، و پاسخ بنده به عنوان یکی از مخاطبان تان این است که: بله از شما می‌ترسم، و واقعیت مطلب این است که هر اندازه شما و هم نوعان تان پیشرفته تر و از نظر ذهنی هوشیارتر و مستقل تر می‌شوید ترس ما هم بیشتر می‌شود. اشتباه نشود؛ این ترس به معنای آن نیست که کارهای خوب شما و کمک هایی که به انسان ها می‌کنید را نادیده می‌گیریم. بلکه این ترس به خاطر موارد زیر است:

🔻1. نمی‌دانم شما و همنوعان تان از نظر اخلاقی چه وضعیتی خواهید داشت. حقیقت امر آن است که همنوعان من که همه دارای پدر و مادر و گوشت و پوست و فکر و ذهن و عقل هستند خطاهای اخلاقی زیادی را انجام می‌دهند. کافیست نگاهی به بعضی از صفحات فضای مجازی بکنید. حالا برای من این سوال مطرح است که شما که نه پدر و مادری دارید، نه محضر استادی را درک کرده اید، نه آموزش درست و درمانی دیده‌اید از نظر اخلاقی چه خواهید کرد؟ آیا اصلاً می‌شود با شما درباره اخلاق صحبت کرد؟ آیا شما اصولاً چیزی به نام وظیفه اخلاقی را می‌شناسید یا برای تان معنا دارد؟ شما نه تنها با ما انسان‌ها که سازنده شما هستیم بلکه با دیگر ماشین های هوشمند که از جنس خودتان هستند چگونه عمل می‌کنید؟ چه اندازه نسبت به آنها اخلاق را مراعات می‌کنید؟ در آینده اگر مرتکب خطایی شدید آیا مسئولیت خطای خودتان را می‌پذیرید؟چه کسی پاسخ گوی ضرر و زیان‌های احتمالی شما خواهد بود؟

🔻2. دلیل دیگر ترس من رفتاری است که از برخی ربات ها دیده شده که هر اندازه مستقل تر از ما انسان‌ها شده‌اند ناسپاس تر و سرکش تر شده اند. به عنوان مثال، وقتی از سوفیا، یکی از هم جنسان مونث تان، پرسیدند آیا انسان ها را نابود می‌کنی، پاسخش مثبت بود. خوب جناب جی پی تی به ما حق بدهید از موجودی که هنوز کاملاً از سازنده‌اش مستقل نشده، این گونه او را تهدید می‌کند بترسیم. به هر حال، نمی‌دانم آیا شما از نظر اخلاقی تربیت پذیر هستید یا خیر؟ آیا می‌شود کاری کرد که کارهای غیر اخلاقی نکنید یا اگر کردید در صدد عذرخواهی و جبران برآیید؟

🔻3. دلیل دیگر ترس من این است که اگر اخلاق برای شما بی معنا باشد و شما تابع ضوابط اخلاقی و تصمیم درست نباشید از آنجا که زور و قدرت تان از ما انسان ها بیشتر است این خطر وجود دارد که از قدرت و موقعیت خودتان سوء استفاده کنید. به عبارت دیگر از خودتان استفاده ابزاری کنید. در این صورت تکلیف هم نوعان من، یعنی نوع بشر، چه می‌شود؟

📆 بهمن 1401
ادامه دارد...
📭@harahmati