💢 آيا ماشین های هوشمند موجب «بازنشستگي اخلاقي» انسان می‌شوند؟

✍️حسینعلی رحمتی

✅ فرایند رشد و توسعه فناوری های مبتنی بر هوش مصنوعی در سال های گذشته نشان می‌دهد که هر روز که می‌گذرد این فناوری ها یکی از کارهایی که پیش از این انسان ها انجام می‌دادند را بر عهده می‌گیرند. از انجام محاسبات پیچیده گرفته، تا نگهداری از کودکان، مواظبت از سالمندان و بیماران، نوشتن مقاله، مجری گری تلویزیون، نگهبانی از ساختمان و جنگیدن در میدان نبرد و صدها کار دیگر. هرچند اغلب این کارها در مجموع خوب و پسندیده و عمدتا از نظر اخلاقی قابل دفاع است، اما آنچه موجب نگرانی می‌شود این است که ممکن است انسان ها از یک طرف هر روز بیش از پیش به این فناوری ها «محتاج و وابسته» می‌شوند و از سوی دیگر، در برابر آنها «ناتوان تر و منفعل تر». مانند پدر و مادری که سرمایه خود را در اختیار فرزندان شان قرار می‌دهند و دست آنها را برای کارهای بیشتر باز می‌گذارند. این کار طبیعتا در ابتدا بارهایی را از دوش والدین بر می‌دارد، ولی به مرور زمان آنها را تبدیل به افرادی بی خاصیت و بی کار و محتاج فرزندان می‌کند، و حتی کار را به جایی برساند که فرزندان آنها را مزاحم زندگی خود ببینند و به خانه سالمندان تحویل دهند.

✅میدان یافتن بیش از اندازه ماشین های هوشمند هم می‌تواند، از نظر اخلاقی، چالش هایی فراوانی را به وجود آورد، مثلا:

🔻1. تا امروز انسان تنها موجودي بوده که به عنوان «فاعل اخلاقي» تلقي مي شده است. اما از این به بعد به میزان استقلال و اختیاری که ماشین ها پیدا می‌کنند آنها را نیز باید فاعل اخلاقی تلقی کرد. اما واقعیت مطلب این است که (دست کم تاکنون) آنها شرایط لازم برای رفتارهای اخلاقی را ندارند. چرا که اولا این که اختیارشان مثل اختیار انسان باشد محل بحث است، ثانیا این که در قبال رفتارهای خود مسوولیت پذیر باشند محل تردید است. ثالثا سنخ و جهتِ تصمیم های آنها در آینده مشخص نیست. به ویژه که آنها فاقد «احساسات و عواطف انسانی» اند، و چه بسا همین امر موجب شود که پیامدهای ناگوار رفتارهای شان حتی از انسان های بی اخلاق هم بیشتر و بدتر باشد.

🔻 2. به موازات کم رنگ شدن نقش انسان در زندگی فردی و اجتماعی، میزان «تاثیرگذاری اخلاقی» او هم کم تر می‌شود. کودکی که از ابتدا هم بازی ربات های هوشمند است، وابستگی اش به آن بیشتر از والدین حقیقی خود است، و طبیعی است اگر ارزش ها و هنجارهایی را که این والد مصنوعی به او آموزش می‌دهد را بپذیرد تا آنچه که والدین حقیقی اش به او توصیه می‌کنند.

🔻 3. با تداوم روند فعلی بعید نیست که در آینده ای (شاید نه چندان دور) این ماشین ها هستند که خود را دایه دلسوزتر از مادر برای انسان ها بدانند و نه تنها زندگی روزمره انسان، بلکه سامانه معرفت شناختی و روان شناختی اخلاقی او را آنگونه که دوست دارند تنظیم می‌کنند و هویت انسانی او را تغییر دهند (ر.ک: هنری کیسینجر و دیگران، عصر هوش مصنوعی و آینده ما انسان ها، ص 182-207).

✅ آنچه گفته شد هرچند ممکن است برای عده ای بیش از اندازه بدبینانه به نظر برسد، ولی حتی اگر احتمال شکل گیری چنین وضعیتی ضعیف باشد باز هم به خاطر پیامدهای هولناکی که به برخی از آنها اشاره شد، عقل حکم می‌کند که از باب «دفع ضرر محتمل» همه دغدغه مندان و اندیشوران اخلاق فناوری اطلاعات از هم اکنون آن را جدی گرفته و برای آن چاره اندیشی کنند. جامعه ای که در آن انسان ها از نظر اخلاقی بازنشسته،‌ و ماشین ها فعال ما یشاء باشند به نظر نمی‌رسد جای مناسبی برای زندگی باشد. خوش بختانه در دنیای امروز افراد دیگری هم هستند که چنین دغدغه ای را دارند.

11 شهریور 1401
@harahmati