دغدغه های اخلاقی درباره «جی پی تی تیری»GPT-3 (قسمت دوم)

✍️حسینعلی رحمتی

🔺4. جناب جی پی تی! دلیل دیگر ترس من از شما و هم جنسان تان این است که نمی‌دانم آیا برای شما ها می‌شود کد و دستورالعمل های اخلاقی نوشت و اگر بر فرض هم بشود چه چیزهایی را باید برای شما خوب یا بد دانست. آیا معیارهای اخلاقی شما با ما انسان ها یکی است؟ اگر درباره خوبی یا بدی یک کار با یکدیگر اختلاف پیدا کردیم چه باید کرد؟ چه کسی باید حرف آخر را بزند؟ چگونه باید شما را به پذیرش اصول و عقاید اخلاقی ملزم کنیم؟

🔺5. مشکل دیگر تکلیف ماشین های هوشمند هنگام قرار گرفتن بر سر دوراهه ها یا تزاحم های اخلاقی است. شما اگر بر سر دو راهه یا تزاحم اخلاقی قرار گرفتید از بین چند وظیفه‌ای که بر عهده دارید کدام یک را ترجیح می‌دهید؟ توجه داشته باشید که ترجیح یک وظیفه بر وظایف دیگر برای ما انسان‌ها هم کار بسیار دشواری است، آن وقت در باره شما که دیگر ساخته دست انسان هستید وضعیت احتمالاً سخت تر و بغرنج تر می‌شود.

🔺6. مشکل دیگر که باعث ترس می‌شود این است که موقعیت های آینده شما که در آن قرار می‌گیرید یا رفتار هایی که در آن موقعیت ها می‌خواهید انجام دهید برای ما مشخص نیست. مثلاً نمی‌دانیم آیا شما در آینده چه سِمت ها و مسئولیت هایی را در جامعه انسانی خواهید پذیرفت. آیا به انجام کارهای فیزیکی و مکانیکی اکتفا می‌کنید یا مثلاً قصد تصدی پست های دولتی یا مدیریتی را هم دارید؟ آیا با همدیگر یا با انسان ها ازدواج خواهید کرد؟ آیا در صدد فعالیت های سیاسی، اقتصادی، اجتماعی، فرهنگی و مانند آن بر می‌آیید یا نه؟ و در هر موقعیت و مسئولیتی آیا به اخلاق پایبند خواهید بود یا خیر؟

🔺7. مشکل دیگر مربوط به خود ما انسان ها است. نمی‌دانیم هم نوعان ما با شما چگونه رفتار خواهند کرد. هرچند لازم است برای آنها هم اصول و ضوابط اخلاقی را برای برخورد درست با شما تدوین کنیم، ولی واقعیت مطلب این است که ما انسان ها گاهی در برخورد با خودمان هم اخلاق را مراعات نمی‌کنیم؛ از این رو این خطر هست که شما را فریب دهیم و توانمندی های تان را در راه نادرست، مثلا برای جعل و تحریف حقیقت، به کار گیریم. نمونه دم دستی اش همین مطلبی است که به اسم شما منتشر شده و نمی‌دانیم آیا واقعاً توسط خود شما نوشته شده یا دیگران. از شما چه پنهان، امروزه جعل و تحریف و فریب با استفاده از فناوری آن چنان زیاد شده است که تشخیص درست از نادرست برای ما انسان ها که ادعای عقل و هوش داریم و خودمان را اشرف مخلوقات می‌دانیم بسیار دشوار شده است؛ چه رسد به شما که دست کم هنوز چنین ادعایی را ندارید.

✅جناب جی پی تی تری !
می بینید که مسئله به این سادگی و راحتی که شما تصور کرده‌اید نیست و نگرانی‌ها و سوال‌ها و ابهام‌های اخلاقی ما نسبت به شما و هم جنسان شما زیاد است. طبیعتاً هر چه شما پیشرفته تر شوید به همان اندازه که به نوع بشر خدمت می‌کنید (و از این جهت از شما متشکریم) به همان اندازه یا بیشتر هم ترس و نگرانی ما افزایش پیدا می‌کند؛ به دلایلی که به برخی از آنها اشاره شد.

✅هدف از نگارش نامه حاضر این بود که بگوییم نگرانی‌های ما را درک کنید و انتظار نداشته باشید به سوال تان که « هنوز هم از ما می‌ترسید؟» سریع پاسخ منفی بدهیم و خیال شما را راحت کنیم.
امیدوارم این نامه به تداوم گفت‌وگوی ما انسان ها با شما ناانسان ها، که ظاهراً همشهریان آینده ما خواهید بود، منجر شود تا اگر از منافع غیرقابل تردید شما استفاده می‌کنیم، از زحمت های احتمالی تان در امان بمانیم.

زیاده عرضی نیست.
متشکرم.

📆نگارش: آبان 1399
انتشار: بهمن 1401
📭@harahmati