کارکردهای اخلاق برای هوش مصنوعی

به گزارش خبرگزاری اهل بیت(ع) ـ ابنا ـ نشست علمی «خدمات متقابل هوش مصنوعی و اخلاق اسلامی» با حضور و ارائه حجت الاسلام و المسملین دکتر «حسینعلی رحمتی» و حجت الاسلام و المسلمین دکتر «حمید محسنی» در تحریریه خبرگزاری ابنا برگزار شد.

متن کامل این نشست علمی به شرح زیر است:

حجت الاسلام و المسملین دکتر «حسینعلی رحمتی» در ابتدای این نشست اظهار داشت:

میزان تأثیر و اهمیت هوش مصنوعی به گونه‌ای است که اگر بگوییم دنیای امروز به دوران ماقبل هوش مصنوعی و مابعد آن تقسیم شده، حرفی به اغراق نگفته‌ایم. یکی از نکاتی که بیان کننده این اهمیت است این است که اصطلاح هوش مصنوعی در سال ۲۰۲۳ به عنوان قابل توجه‌ترین کلمه و کلمۀ سال انتخاب شد.

هوش مصنوعی ابعاد و زوایای مختلفی دارد و از جهات مختلف مثل انسان‌شناختی، روان‌شناختی، جامعه شناختی، فنی، سیاسی، امنیتی، اقتصادی، هنری، ادبی و ... قابل بررسی است. چون هوش مصنوعی در همه عرصه‌های زندگی انسانِ امروز حضور دارد، این ابتدای مسیر است و هر چه قدر که جلوتر برویم میزان حضور آن بیشتر می‌شود. ابعاد و مباحث اخلاقی مربوط به این فناوری از مهمترین ابعاد و زوایای هوش مصنوعی است.

*نسبت دوسویه و ارتباط متقابل بین اخلاق و هوش مصنوعی

به نظر می‌رسد بین اخلاق و هوش مصنوعی یک نسبت دوسویه و ارتباط متقابل وجود دارد. یعنی از یک طرف مسائل اخلاقی بر روی تولید و استفاده از هوش مصنوعی تاثیر می‌گذارد و از طرف دیگر هوش مصنوعی برای حوزه اخلاق، مسائل و موضوعات جدیدی تولید می‌کند. لذا چند محور اصلی قابل طرح است:

یک: کمک‌هایی که اخلاق می‌تواند به هوش مصنوعی داشته باشد.

دوم: کمک‌هایی که هوش مصنوعی می‌تواند به حوزه اخلاق داشته باشد.

سوم: چالش‌های اخلاقی مربوط به هوش مصنوعی است.

چهارم: راهکار‌ها و راه حل‌هایی که درباره این چالش‌ها باید مدنظر قرار بگیرد.

درباره این چهار محور، در این نشست سعی می‌کنم درباره محور اول مباحثی ارائه کنم، یعنی تمرکز ما بر روی این است که اخلاق و به صورت خاص، اخلاق اسلامی برای مسائل مربوط به هوش مصنوعی چه کارکرد‌ها و کمک‌هایی می‌تواند داشته باشد؟

اهمیت بحث در این است که ما در جهان اسلام و به طور خاص در حوزه تفکر شیعی و مکتب اهل بیت(ع) آموزه‌های فراوانی داریم که در حوزه فناوری اطلاعات به صورت عام و هوش مصنوعی به صورت خاص، قابل استفاده است و این از مزیت‌های مکتب اهل بیت(ع) است. اما این ادعا به تنهایی کافی نیست، باید این آموزه‌ها مثل یک فرآورده‌های معدنی استخراج و بازتولید شده و متناسب با فضای هوش مصنوعی و مسائل و موضوعات آن برای جامعه و دنیای امروز بیان شود. بر این مبنا من سعی می‌کنم چند آورده و کمکِ اخلاق به هوش مصنوعی را به صورت مختصر توضیح دهم. البته این‌ها در حد طرح بحث و تبیین چارچوب کلی است نه بیان کافی.

*از کارکرد‌های اخلاق، تعالی‌بخشی به اهدافِ طراحی و توسعه هوش مصنوعی است

یکی از کارکرد‌های اخلاق، تعالی‌بخشی به اهدافِ طراحی و توسعه هوش مصنوعی است. امروزه یکی از سوالاتی که درباره هوش مصنوعی مطرح شده، این است که حد و مرز تولید و توسعه این فناوری و فناوری‌های مرتبط با هوش مصنوعی کجاست؟ تا چه اندازه ما اجازه داریم آن‌ها را گسترش داده و در چه زمینه‌هایی استفاده کنیم؟

آن قدر این مسئله مهم است که سال گذشته برخی از مهندسین و دست‌اندرکاران فناوری و هوش مصنوعی، به خاطر ترس از عوارض و تبعات هوش مصنوعی و اینکه تولید افسارگسیخته‌ای شکل بگیرد و بشر امروز نتواند آن را مدیریت و کنترل کند، اطلاعیه‌ای صادر کردند که تا مدتی توسعه فناوری‌های مبتنی بر هوش مصنوعی متوقف شود.

هنری کسینجر چند سال قبل هشدار داده و گفته بود این خطر و ترس وجود دارد که اختیار فناوری‌های مبتنی بر هوش مصنوعی از دست بشر خارج شود و ما به جایی برسیم که انسان‌ها یکدیگر را نشناسند و به جایی برسیم که از نظر اخلاقی و فلسفی هیچ کاری نتوانیم انجام دهیم.

بنابراین بحث توسعه هوش مصنوعی، امروزه یک بحث بسیار جدی است. نگرانی‌ها و دغدغه‌ها مقداری ناشی از نگاه مادی‌گرایانه و منفعت‌گرایانه به هوش مصنوعی است. یعنی همه از این ترس دارند که به خاطر مزایا و منافعی که هوش مصنوعی دارد، افراد بدون ضابطه و حساب و کتاب به توسعه آن بپردازند.

در مقابل نگاه نسبتاً مادی‌گرایانه که مبانی فلسفی و انسان شناختی خاص خود را دارد، اخلاق اسلامی با توجه به نگاه معنویت محور و فرامادی، می‌تواند اهداف و چارچوب‌هایی برای توسعه هوش مصنوعی طراحی کند. یعنی فراتر از نگاه مادی چارچوب‌هایی در نظر بگیرد، آن را مرز قرار دهد که تا کجا می‌توان هوش مصنوعی را طراحی کرد.

ما در تفکر اسلامی بحث‌های با عناوین قرب الهی، خلیفة اللهی انسان، کرامت انسانی، مسئولیت‌پذیری، پاداش اخروی و دنیوی و اینکه آفرینش منحصر در مادیت و مادی‌گرایی نیست، داریم. اگر این مباحث تبیین شود، در مرحله طراحی هوش مصنوعی و فناوری‌های ناظر به فضلیت یا امثال این‌ها می‌تواند گره‌گشا بوده و مرزی را مشخص کند تا ما به عنوان تولید کننده و طراح فناوری‌های مبتنی بر هوش مصنوعی، تا چه جا‌هایی اجازه داریم آن را گسترش دهیم.

* می‌توانیم نگاهی متعادل به هوش مصنوعی طراحی کنیم

نکته دیگر که در بحث حد و مرز فناوری‌ها قابل طرح است، این است که نگاه دینی و اخلاق مبتنی بر دین، می‌تواند یک نوع نگاه متعادل به هوش مصنوعی را طراحی کند. اکنون ترس از این وجود دارد که از یک طرف اساساً از هوش مصنوعی استفاده نکنیم و خود را از ترس محروم کنیم و از طرف دیگر مبادا فناوری‌ها افسارگیسخته شوند و زندگی و انضباط فکری، اخلاقی و اجتماعی انسان امروز را به باد فنا دهند.

به نظر می‌رسد که بر اساس نگاه اخلاقی مبتنی بر دین و به صورت خاص در مکتب اهل بیت(ع)، که نگاه خردورزانه و خردگرایانه است و جایگاه عقل، جایگاه بسیار ارزشمندی است می‌توانیم نگاه متعادلی به هوش مصنوعی طراحی کنیم. به این معنا که از یک طرف به عنوان محصولات عقل بشری و نعمت‌های الهی از مزایای آن استفاده کنیم و از طرف دیگر ترسی نداشته باشیم که مقداری رشد و توسعه پیدا کند، چون نگاه خدامحور، خداوند را مالک و فراتر و بالاتر از همه چیز می‌داند لذا ترس کمتری دارد. کما اینکه ما در نگاه انتظارگرانه مهدویت یا نگاه دینی، در مجموع به آینده بشریت خوش‌بین هستیم. پس این نگاه را می‌توانیم در طراحی هوش مصنوعی و حد و مرز و چارچوب‌های آن تبیین کنیم.

دومین کاربردی که اخلاق برای هوش مصنوعی می‌تواند داشته باشد، ناظر به استفاده از این فناوری‌ها است. در بخش قبل درباره طراحی، توسعه و هدف‌گذاری صحبت کردیم، این بخش مربوط به استفاده درست از فناوری‌ها است. به طور طبیعی امکان سوءاستفاده از هوش مصنوعی وجود دارد و هر روز هم یک فرایند و بُعد جدیدی از این فناوری شکل می‌گیرد و راه جدیدی باز می‌شود. لذا امکان جعل، فریبکاری، نقض حریم خصوصی و امثال این‌ها وجود دارد که هشدار‌ها و خطر‌هایی ایجاد کرده است.

از سوی دیگر هوش مصنوعی نظارت‌گریز است، اینگونه نیست که بتوان بر آن نظارت کرد تا خیال ما راحت باشد. همچنین آحاد افراد جامعه و حتی متخصصان نمی‌توانند فریب‌کاری‌ها و جعل‌هایی که توسط هوش مصنوعی انجام می‌گیرد را تشخیص دهند. این یکی از تفاوت‌های هوش مصنوعی با فناوری‌های قبلی است.

ممکن است افرادی بگویند با وضع قانون این مشکل را حل کنیم، در حالی که در این مسئله، قانون لازم و ضروری است اما کافی نیست، چون قانون قابل دور زدن است. کما اینکه برای دوره ماقبل هوش مصنوعی هم قانون قابل دور زدن بود. ممکن است کسی بگوید: وجدان اخلاقی را مبنا قرار دهیم، چرا از اخلاقی دینی و دین مایه بگذاریم؟ به نظر می‌رسد انسان می‌تواند وجدان اخلاقی خود را هم فریب دهد، لذا نیاز به یک نظارت کننده و هشداردهنده‌ای داریم و ما معتقدیم که دین و آموزه‌های دینی می‌تواند این ماجرا را مدیریت، و وجدان اخلاقی انسان را فعال کند.

*نگاه مبتنی بر مکتب اهل بیت(ع) می‌تواند کاربر مسئولیت‌پذیر تربیت کند

بر این اساس معتقدیم که نگاه دینی و به طور خاص نگاه مبتنی بر تفکر و مکتب اهل بیت(ع) می‌تواند کاربر مسئولیت‌پذیر تربیت کند. بحث مسئولیت اخلاقی که در حوزه اخلاق و فلسفه اخلاق مهم است خوشبختانه در تفکر اسلامی ما بسیار مورد توجه قرار گرفته است. در نگاه غیردینی ممکن است دامنه مسئولیت انسان محدود باشد، اما در تفکر دینی انسان مسئولیت عریض و دایره خیلی وسیعی دارد. انسان نسبت به خود، نسبت به انسان‌های دیگر، نسبت به محیط زیست و نسبت به خداوند مسئول است. ما مسئولیت نسبت به خداوند را در تفکر دینی داریم و این در تفکر غیردینی مطرح نیست؛ حتی حد و مرز مسئولیت نسبت به خود و دیگران هم در تفکر دینی با تفکر غیردینی مقداری فرق می‌کند.

بنابراین نگاه دینی و اخلاق مبتنی بر دین می‌تواند کاربران مسئولیت‌پذیر را تقویت کند، دایره مسئولیت‌ها را مشخص کرده و با آموزه‌هایی که در تفکر دینی داریم آن‌ها را ملزم کند تا به مسئولیت اخلاقی خود توجه کنند.

مزیت نگاه دینی این است که فراتر از جهان مادی، مسئولیت را تعریف می‌کند. در نگاه غیردینی من اگر در دنیا بتوانم از دست قانون و یا نگاه دیگران فرار کنم خودم را نجات داده‌ام، اما در تفکر دینی اگر از دست همه این‌ها هم فرار کنم، چون بحث پاداش و عقاب در جهان دیگری است، در جهان دیگر همه اعضا و جوارح شهادت می‌دهند و خداوند شاهد و ناظر است، دایره وسیع مسئولیت‌پذیری و مسئولیت داشتن، باعث می‌شود همۀ افرادی که با ماشین‌های هوشمند و به طور کلی هوش مصنوعی در ارتباط هستند اعم از کاربر معمولی، طراح و توسعه دهنده، مسئولیت‌پذیر شوند. چیزی که در بحث هوش مصنوعی، دنیای امروز کم دارد و همه درگیر آن هستند، بحث مسئولیت‌پذیری است.

داستان نقش دین در مسئولیت‌پذیر کردن کاربران و مرتبطان با هوش مصنوعی نکته جذابی است و کسانی که بخواهند از اخلاق دینی دفاع کنند باید درباره آن فکر و مطالعه کنند و چارچوب‌های آن را مشخص نمایند.

کاربرد سومی که برای اخلاق مبتنی بر دین درباره هوش مصنوعی می‌توان بیان کرد، یاری رساندن به علوم دیگر اسلامی در مواجهه با هوش مصنوعی است. مسائل و مباحث مربوط به هوش مصنوعی از جهات مختلف در حوزه علوم اسلامی مثل معرفت‌شناسی، فلسفی، فقهی، اصولی و ... قابل طرح است. اینجا اخلاق می‌تواند به کمک این علوم بیاید. مثلا در بحث فقه مشخص کند که مبانی و مبادی اخلاقی فقهِ هوش مصنوعی چیست؟ جایگاه اخلاق را در اجتهاد فقهی تقویت کند و این جایگاه اگر تقویت شود در نوع فتوایی که فقیه درباره تولیدات هوش مصنوعی می‌دهد می‌تواند تاثیرگذار باشد. البته این بحث خام است و باید مبانی آن و نسبت اخلاق و فقه تبیین شود، نظرات مختلف و چارچوب‌ها و حد و مرزهای کمک کردن اخلاق به فقه مشخص گردد و تفاوت اخلاق با فقه معلوم شود، این بحث‌ها مفصل است و ما در حال طرح بحث هستیم.

*اخلاق‌مدار کردن ربات‌ها و ماشین‌های هوشمند

کاربرد دیگری که اخلاق می‌تواند داشته باشد در بحث ربات‌ها و ماشین‌های هوشمندِ اخلاق‌مدار است. امروزه ماشین‌های خودران افزایش یافته و در سال‌های آینده در همه شئون زندگی ما وارد می‌شوند. قدم‌های اولیه این کار برداشته شده و هر چه جلوتر برویم قطعا گسترده‌تر می‌شود تا جایی که از هم اکنون برای ماشین‌های هوشمند به عنوان شهروندان جامعه گمانه‌زنی و زمینه‌سازی می‌شود تا این‌ها عضوی از اعضای جامعه شوند. همان‌گونه که انسان‌های دارای گوشت، پوست و استخوان شهروندان جامعه هستند، شاید در آینده نه چندان دور شهروندانی داشته باشیم که براساس هوش مصنوعی کار کنند و ماشین‌های رباتیک باشند. این بحث را تاکنون در تفکر دینی، حوزه‌های اخلاق، فقه، فلسفه و ... نداشته‌ایم. تاکنون اخلاق ما ناظر بر اخلاق انسان‌ها بوده است، ولی از این به بعد با آمدن ماشین‌ها چه باید کرد؟ اگر تعدادشان زیاد شود و جزء شهروندان شوند و اگر ادعا‌ها و انتظاراتی داشتند چه باید کنیم؟ مثلاً فضا‌های خاص خود را بخواهند؛ هماهگونه که ما برای افراد و گروه‌های خاص مثل افراد معلول پل‌ها و جاده‌های مخصوصا درست می‌کنیم، این ماشین‌ها هم افراد خاص و شهروندان جامعه می‌شوند، قدرت پردازش ذهنی و قدرت بدنی قوی دارند و ممکن است زور آن‌ها از انسان امروز و سازندگان خود بیشتر شود. اینجا ما چه کار باید کنیم؟ آیا اخلاق برای این‌ها معنا دارد یا اخلاق فقط ناظر به انسان موجود است؟ اگر اخلاق تعریف شود آیا حسن فعلی دارند یا حسن فاعلی؟ بحث نیت که در اخلاق اسلامی داریم، برای آن‌ها معنا دارد یا ندارد؟ بحث عواطف و احساسات و ... بحث بسیار مفصلی است.

با این حال بحث رباتْ شهروندان و ماشینْ شهروندان و شهر‌های هوشمند بسیار جدی است.

به نظر می‌رسد که اخلاق اسلامی می‌تواند در این عرصه وارد شود و کمک کند تا برای آن‌ها یکسری کد‌ها و دستورالعمل‌های رفتاری نوشته شود که به فرض اگر حسن فاعلی ندارند و بحث نیت برای آن‌ها مطرح نیست، حسن فعلی داشته باشند تا کار‌های غیراخلاقی انجام ندهند.

*ضرورت تدوین اصول، کد‌ها و توصیه نامه‌های اخلاقی برای هوش مصنوعی

آخرین کاربردی که در حوزه کمک اخلاق و به صورت خاص اخلاق اسلامی به هوش مصنوعی اشاره می‌کنم، بحث کمک به تدوین اصول، کد‌ها و توصیه‌نامه‌های اخلاقی است.

همانگونه که در عرصه‌های دیگر امروزه کدهای اخلاقی نوشته می‌شود مثل اخلاق پزشکی، اخلاق رانندگی، اخلاق ورزشی و ... با آمدن هوش مصنوعی بحث‌های جدید مطرح می‌شود. سوالی که مطرح می‌شود این است که مرتبطان با هوش مصنوعی، تولیدکنندگان، طراحان، مهندسانِ سخت‌افزار و نرم‌افزار، فروشندگان، استفاده‌کنندگان، نهادهای حاکمیتی، مدیران جامعه و ... درباره استفاده اخلاقی و تولید اخلاقی هوش مصنوعی چه وظایف و مسئولیت‌هایی بر عهده دارند؟ اینجا ما با استفاده از آموزه‌ها و اخلاق دینی می‌توانیم کمک کنیم که وظایف، کدها، اصول و توصیه نامه‌ها تدوین شود.

دایره بحث بسیار وسیع است، ان شاءالله این بحث‌ها زمینه‌ساز ورود جدی، ضابطه‌مند و برنامه‌ریزی شده افراد و موسسات پژوهشی ما به خصوص در حوزه‌های علمیه در حوزه اخلاقی هوش مصنوعی شود.

در ادامه حجت الاسلام و المسلمین دکتر «حمید محسنی» اظهار داشت:

از بیانات استاد رحمتی استفاده کردیم. ایشان علاوه بر اینکه یک پژوهشگر کتابخانه‌ای است محقق میدانی هم است و در بحث اخلاق و فناوری و هوش مصنوعی، با پست‌هایی که در فضای مجازی بارگذاری می‌کند از نکات ایشان استفاده می‌کنیم.

بحث هوش مصنوعی و فناوری حدود 5 ـ 4 سال اخیر در ایران جدی شده است. همچنین بعد از فرمایشات مقام معظم رهبری که بر این حوزه تاکید داشتند، تکاپویی در جامعه ما افتاد. رهبر معظم انقلاب در تاریخ 26/8/1400 فرمودند: «مسئله هوش مصنوعی قابل توجه است و در اداره آینده دنیا نقش خواهد داشت، حداقل باید به سطحی برسیم که در سطح 10 کشور اول دنیا باشیم که الان در آن جایگاه حضور نداریم.»

*آیا هوش مصنوعی دارای مبانی فلسفی، اخلاقی، حکمرانی و فرهنگی است؟

سوالی که پیش می‌آید این است که آیا مقوله هوش مصنوعی یک فناوری صرف و ابزار است یا دارای مبانی فلسفی، اخلاقی، حکمرانی و فرهنگی است؟ کسانی که در عرصه فنی و مهندسی دارای تخصص هستند، گمان می‌کنند که هوش مصنوعی مانند صنایع دیگر، تنها یک ابزار در خدمت بشر است. آیا هوش مصنوعی چنین ابزاری است؟ لذا باید بحث کنیم که پیرامون مباحث اخلاقی آن چه باید کرد؟

در بحث هوش مصنوعی دو رویکرد می‌توانیم داشته باشیم: اول، رویکرد ابزاری است که ما از این ابزار استفاده کنیم. دوم، رویکرد نگاه نظری، بنیادی و فلسفی است. با رویکرد اول یعنی نگاه ابزارانگارانه و مهندسی که در جامعه ما نیز برجسته است و ما اهمیت آن را رد نمی‌کنیم، باید دید که چه ضروریاتی دارد و چه استفاده‌هایی را در حوزه اخلاق یا علوم انسانی می‌توانیم از آن داشته باشیم؟ به دلیل غلبه نگاه‌های تکنیکالی و فنی که در نشست‌ها نیز شاهد آن هستیم، برخی فکر می‌کنند که چه ضرورتی دارد تا روحانیت به این مسائل فنی ورود کند؟ بلکه برنامه‌نویسان و کد نویس‌ها باید در این عرصه وارد شوند و تحقیق و پژوهش کنند، در حالی که در همین رویکرد مهندسی و ابزارانگارانه نیز ضرورت نقش علمای دین مشخص می‌شود. به طول مثال در هوشمندسازی علوم انسانی، انتقال مفاهیم اخلاقی و دینی، و تبیین چالش‌ها و باید و نبایدهای اخلاق هوش مصنوعی می‌توان از این تکنولوژی بهره برد. یک عالم دینی، فیلسوف اخلاق یا عالم علوم انسانی می‌تواند متوجه چالش‌های هوش مصنوعی در حوزه دین و اخلاق شود و متناسب با آن، بایدها و نبایدهایی را وضع کند.

اما در رویکرد دوم به هوش مصنوعی، مسئله نظری، فلسفی و تمدنی مطرح است و مبانی فلسفی دارد. «دریفوس» فیلسوف هایدیگری آمریکایی که منتقد هوش مصنوعی است می‌گوید: «رویکرد هوش مصنوعی کلاسیک، برخواسته از مبانی فرهنگ غرب است». این فیلسوف آن قدر نقد می‌کند که یک مهندس ام آی تی به نام «وینگراد» از رویکرد کلاسیک به رویکرد پیوندگرایی برگشت.

*مقام معظم رهبری در عرصه علم و فناوری دارای مبانی و اندیشه است

باید نگاه مقام معظم رهبری در این موضوع به خوبی تبیین شود که آیا رویکرد ایشان ابزارانگارانه است که می‌توان در علوم انسانی و مباحث دینی از آن استفاده کرد یا مبنای فلسفی دارد؟ من به صورت مفصل تحقیق کردم که مقام معظم رهبری در عرصه علم و فناوری مبانی و اندیشه دارد و مبانی ایشان را می‌توانیم به هوش مصنوعی بیاوریم. من حدود 12 ـ 10 اصل از اندیشه ایشان استخراج کردم که اگر هوش مصنوعی در این مسیر بیاید، در راستای تمدن اسلامی است.

در رویکرد مهندسی بیشتر نگاه خوشبینانه به هوش مصنوعی است که این تکنولوژی از غرب آمده، فواید زیادی در جامعه اسلامی دارد و ما می‌توانیم از آن استفاده کنیم. لذا ما این نگاه را رد نمی‌کنیم. تهدیدات مطرح است اما خیلی کم است. اما در رویکرد فلسفی و نظری که دیدگاه «هنری کسینجر» در این رویکرد می‌گنجد، و بر تمدن‌سازی آن تاکید دارد؛ در این رویکرد خطرات بسیار برجسته است هرچند می‌توانیم منافعی از این ابزار داشته باشیم اما خطرات و چالش‌های اخلاقی زیادی به دنبال دارد. ما که قصد پیشرفت در نظام و تمدن اسلامی خود را داریم باید بر اساس مبانی فلسفی و اخلاقی خودمان پیشرفت کنیم.

تعریف هوش مصنوعی عبارت است از Artificial intelligence که برای اولین بار از سوی «جان مک کارتی» واضع هوش مصنوعی در کارگاه تابستانی دارتموث سال 1956 مطرح شد که قبل از آن هوش ماشینی مطرح بود. هوش مصنوعی محدود یا باریک، هوش مصنوعی عمومی، هوش مصنوعی پیشرفته و ابر هوش مصنوعی، انواع هوش مصنوعی هستند که‌ این‌ها بیشتر در حوزه مهندسی مطرح می‌شود.

*تقسیمات هوش مصنوعی

هوش مصنوعی را می‌توان از چند شاخه مطالعه کنیم: اول حوزه علوم شناختی، دوم حوزه فلسفه ذهن، سوم حوزه فلسفه تکنولوژی یا فلسفه هوش مصنوعی، چهارم نیز حوزه مهندسی و ابزاری است که قسم چهارم در جامعه ما پررنگ و مورد توجه است.

در حوزه علوم شناختی و حوزه فلسفه ذهن، تقسیم‌بندی وجود دارد که مهندسین نیز از آن استفاده می‌کنند؛ اولی «ویک ای آی» (Weak AI) یا همان هوش مصنوعی باریک یا ضعیف است و دیگری «استرانگ ای آی» (Strong AI) یا همان هوش مصنوعی قوی است. رویکرد هوش مصنوعی ضعیف یعنی یک مهندس، برنامه نویس یا کدنویس انتظار ماشینی و خدماتی از هوش مصنوعی دارد اما دیدگاه در هوش مصنوعی قوی، ماشینی نیست بلکه هوش مصنوعی دارای آگاهی و اراده می‌شود و حتی برخی فلاسفه و محققان می‌گویند که دارای ذهن یا نفس می‌شود. آیا به این مرحله می‌رسد یا نه، بحث و مقوله فلسفی است و این در اخلاق هوش مصنوعی بحث می‌شود که اشاره می‌کنم.

بنابر تعریف، می‌توان چهار رویکرد به اخلاق هوش مصنوعی داشته باشیم، اول: اخلاق‌مندی هوش مصنوعی با رویکرد علوم شناختی، دوم: اخلاق‌مندی هوش مصنوعی با رویکرد علوم مهندسی، سوم: رفتار اخلاقی با هوش مصنوعی و چهارم: رفتاری اخلاقی به وسیله هوش مصنوعی است.

اخلاق‌مندی هوش مصنوعی یعنی ربات اخلاق‌مند شود و فعل اخلاقی از او سر بزند. یا برای ربات‌ها به عنوان مصادیق هوش مصنوعی، باید و نبایدهای اخلاقی تعیین شود که باید دید چنین چیزی در عالم خارج ممکن است یا نه؟ این مسئله در قواعد سه‌گانه رباتیک «آیزاک آسیموف» رمان نویس روسی در سال 1942 مطرح شد و او ربات‌ها را مخاطب بایدها و نبایدهای اخلاقی قرار داد. قانون اول: ربات نباید به واسطه ارتکاب عمل یا خودداری از انجام عملی به انسان آسیب بزند. قانون دوم: ربات باید از فرامین انسان تبعیت کند مگر آن فرامین در تعارض با قانون نخست باشد. قانون سوم: تا زمانی که قانون اول و دوم زیر پا گذاشته نشده، ربات باید وجود خود را حفظ کند. همه این موارد بحث‌های فلسفی را در خود جای داده است.

*آیا ربات می‌تواند مخاطب باید و نباید اخلاقی قرار بگیرد؟

سوال اینجاست که آیا ربات می‌تواند مخاطب باید و نباید اخلاقی قرار بگیرد؟ بنابر فلسفه اسلامی زمانی یک فعل از انسان سر می‌زند که موجود دارای اراده باشد و تصمیم فعل اخلاقی بگیرد. تصمیم انجام یک عمل متوقف بر اراده است، اراده متوقف بر داشتن آگاهی و شعور است، و شعور متوقف بر نفس شعورمند است. این‌ها مباحث فلسفی است و باید بررسی شوند.

هالیوود فیلم‌هایی با موضوعات علمی ـ تخیلی می‌سازد. از برخی این برداشت می‌شود که باید از ربات‌ها فعل اخلاقی سر بزند که مرتبط با بحث حسن فعلی یا حسن فاعلی است. آیا می‌توان از یک ربات، انتظار حسن فاعلی داشت؟ در حالی که حسن فاعلی متوقف بر نیت است و نیت برای یک موجود دارای شعور است که بتواند قصد قربت داشته باشد، لذا بنا بر فلسفه اخلاق ما و مکتب اهل بیت(ع) این امر امکان پذیر نیست و ما نقدهای فلسفی در این زمینه داریم. این رویکرد به فلسفه ذهن و دیدگاه فیزیکالیستی برمی‌گردد چون فکر می‌کنند انسان فقط موجود فیزیکی است به همین دلیل می‌گویند: همانطور که هوش مصنوعی را ایجاد کردیم توانایی ساخت یک انسان به عنوان یک کامپیوتر هوشمند را داریم چون برخی اندیشمندان می‌گویند که انسان، کامپیوتر هوشمند است. پس یک بحث رویکرد اخلاقی این است که ربات‌ها متصف به باید و نباید اخلاقی شوند، که ما به این مسئله نقد داریم.

اخلاق‌مندی هوش مصنوعی در رویکرد مهندسی یعنی یکسری کدها و الگوریتم‌های اخلاقی را در ربات تعبیه کنیم که فعل او اخلاقی باشد و آسیب‌زا نباشد؛ غرب به شدت درباره این قضیه کار می‌کند. این معنا قابل قبول است و وجود دارد و می‌توانیم ماشین‌هایی بسازیم که آسیب‌های اخلاقی به اطرافیان خود نزنند. محققان در موسسات مختلفی مثل دانشگاه کمبریج، آکسفورد، استنفورد، اوپن‌ای‌آی Open AI، گوگل و فیسبوک بر روی الگوریتم‌هایی تحقیق می‌کنند که ربات به انسان و جامعه ضرر نزند. موضوع بسیار مهم این است که نمی‌بایست تنها رویکرد ابزاری داشته باشیم و تنها به فکر استفاده مطلق از آن باشیم،‌ بلکه هوش مصنوعی می‌تواند سوگیری نیز داشته باشد. برخی گمان می‌کنند که چون ربات احساسات ندارد، معتقدند که می‌توان از ربات در قضاوت استفاده کنیم. اما طبق تحقیقات جدید، الگوریتم‌هایی وجود دارد که منجر به تعصب یا سوگیری ربات می‌شود، به دلیل اینکه یادگیری دارد می‌تواند جهت‌گیری‌های خاصی داشته باشد که برای نمونه در بحث‌های نژادپرستانه از چالش‌های جدی غرب است و مقالاتی در این زمینه نوشته شده است.

*توصیه‌نامه سند اخلاق هوش مصنوعی یونسکو ناظر به رفتار انسان است

اینکه ماشین، رفتار اخلاقی داشته باشد و تصمیم بگیرد، مربوط به رویکرد هوش مصنوعی قوی است و ما بر آن نقد داریم. از طرف دیگر، بحث رفتار اخلاق هوش مصنوعی به معنای اینکه انسان در استفاده از این ابزار چه باید و نبایدهایی را مراعات کند؟ این مسئله ما است و بحث مهمی است لذا لازم است بایدها و نبایدهایی وضع کنیم برای این‌که یک هوش مصنوعی چه محدودیت‌هایی باید داشته باشد. اینجا توصیه‌نامه سند اخلاق هوش مصنوعی یونسکو ناظر به رفتار انسان است و تاکید می‌کند که توسعه و پیشرفت هوش مصنوعی باید مبتنی بر ارزش‌های اخلاقی باشد. ما عضو یونسکو هستیم، این سند تصویب شده است و به نوعی کشورها باید از آن پیروی کنند. بنده در مقاله‌ای این را نقد کردیم که به صورت خلاصه بیان می‌کنم:

مکاتب فلسفه اخلاقی در دو دسته‌بندی کلی به واقع‌گرایی و غیرواقع‌گرایی تقسیم می‌شوند. غیر واقع‌گرایی به قراردادگرایی، احساس‌گرایی و امرگرایی منشعب می‌شوند. مکتب فلسفی اسلامی در شاخه واقع‌گرایی می‌گنجد لذا سند یونسکو ذیل مکتب غیرواقع‌گرایی قرار دارد از این رو این سند ذیل مکتب قرارداد گرایی قرار می‌گیرد که به نسبیت‌گرایی و پلورالیسم منجر می‌شود و ما به لحاظ مبنایی با آن مشکل داریم. به طور مثال هوش مصنوعی شخصی مانند شهید فخری‌زاده را تروریست تشخیص می‌دهد و ایشان را شهید می‌کند، اما ما ایشان را به عنوان شخصی می‌شناسیم که در راه آرمان‌های مقدس شهید شده و عندالله مأجور است.

یکی از علت هایی که باعث می‌شود ما نتوانیم در مجامع بین‌المللی شکایت کنیم؟ به دلیل مبتنی بر قرارداگرایی هستند. قراردادگرایی یعنی اینکه شما تکثر ارزشی را قبول کردید. مثلا ما تشخیص می‌دهیم که حجاب ارزش است اما آمریکا و فرانسه تشخیص می‌دهد که ضد ارزش است. لذا اگر قراردادگرایی را بپذیرید نمی‌توانید داوری کنید و بگویید که فرانسه اشتباه می‌کند که حجاب ضدارزش است یا ما درست می‌گوییم که حجاب ارزش است. اما بنا بر مکتب اهل بیت(ع) که مبتنی بر واقع‌گرایی است و طبق نظر برخی اندیشمندان، ما فضیلت‌گرا هستیم یا بر اساس برخی اندیشمندان مثل مرحوم آیت‌الله مصباح یزدی ما «کمال‌گرایی قرب الهی» هستیم؛ بنابراین توانایی داوری ارزش‌ها را داریم چرا که ارزش‌ها حقیقت دارند، بین باید و هست‌ها ارتباط است و بین فعل و هدف و کمال انسانی رابطه ضرورت بالقیاس وجود دارد. ضرورت بالقیاس یعنی اینکه فعل اخلاقی که انجام می‌دهیم در رسیدن به کمال ما تأثیر می‌گذارد. لذا حجاب در هر جامعه‌ای ارزش است، چون در راستای کمال انسان است.

همچنین حجت الاسلام و المسملین دکتر «حسینعلی رحمتی» در ادامه این نشستگفت:

از جناب آقای دکتر محسنی تشکر می‌کنم که لطف کردند و نکات قابل توجهی را گفتند؛ در واقع تداوم بحثی بود که من گفتم. من به کارکردها اشاره کردم و ایشان به چالش‌هایی که ما در باب بحث اخلاق و هوش مصنوعی با آن مواجه هستیم. همان طور که اول بحث گفتم بحث مهمی است و باید این‌ها تک تک شناسایی شود. با کلیت حرف‌های ایشان موافق هستم و در حد چارچوب کلی که گفتند، استفاده کردیم.

*باید قرن حاضر را قرن هوش مصنوعی نامگذاری کنیم

در این بحث چالش‌ها خیلی زیاد است؛ یکی از آن‌ها تفاوت مبنا است که اگر ما در تفکر اخلاق اسلامی واقع‌گرا باشیم، با نگاهی که جاهای دیگر دارند، اگر ناواقع‌گرا باشند، چه کار کنیم؟ این از نکاتی است که روی آن باید کار شود. در عرصه فردی ممکن است مشکلی نداشته باشیم. من واقع گرا باشم، دیگران ناواقع‌گرا هستند و هرکدام به نوعی عمل می‌کنیم ولی در عرصۀ کلان و حاکمیتی، مشکل ایجاد می‌کند. حاکمیت دینی به عنوان یک نهاد و سازمان که با کشورهای دیگر در ارتباط است، چه کار باید کند؟ لذا نکاتی که آقای دکتر محسنی گفتند، واقعا مهم و سرنوشت‌سازی است و هر اندازه که هوش مصنوعی در دنیا و جامعه ما فراگیرتر شود که می‌شود و خواهد شد و باید قرن حاضر را قرن هوش مصنوعی نامگذاری کنیم، این ماجراها جدی‌تر می‌شود. نباید قضیه را نباید فردی نگاه کنیم و بگوییم من واقع‌گرا هستم و دیگری ناواقع‌گرا است، این خیلی مهم نیست. بله در حد فردی ممکن است خیلی مشکل‌ساز نشود اما در سطح کلان بحث‌ها و چالش‌ها جدی است و باید ابعاد، جوانب، مبانی، تبعات و پیامدهایی که دارد شناسایی شود و از همه مهم‌تر راهکارها پیدا شود. الان ما با این مشکل و چالش مواجه شده‌ایم که البته یکی از مشکلات است، چه کار باید انجام دهیم؟

*هوش مصنوعی مسئله اختیار انسان را به چالش می‌کشد

چالش دیگر بحث اختیار است که هوش مصنوعی مسئله اختیار انسان را به چالش می‌کشد. بحث دیگر فناناپذیری انسان است. بعضی‌ها مثل هراری مطرح کرده‌اند که با پیشرفت هوش مصنوعی، ممکن است به انسانی برسیم که فناناپذیر است. اگر این طور باشد این با تفکر دینی، اخلاق و مبانی دینی ما چه نسبتی دارد؟ چه اندازه احتمال دارد واقع شود و ما چه نگاهی باید داشته باشیم؟

بحث اختیار که یکی از مبانی اخلاق است به چالش کشیده می‌شود. بخشی از آن که اشاره کردند، آیا آقای ماشین‌های هوشمند اختیار دارند یا نه؟ این بحث الان جدی است و مخالفان و موافقانی دارد. نهایتاً ممکن است بگویند الان در حد کمی اختیار دارند اما به مرور که قوی‌تر شوند ممکن است دایره اختیار، دامنه استقلال و خودبسندگی آن‌ها زیادتر شود و هر کدام از این‌ها می‌تواند برای اخلاق به صورت عام و اخلاق اسلامی به صورت خاص، چالش و سؤال ایجاد کند. اگر ما از این‌ها غافل باشیم این‌ها از ما غافل نمی‌شود. جدای از دنیای امروز، جامعه ما هم با این داستان‌ها، سوال‌ها و مسئله‌ها مواجه می‌شود، پس چه بهتر که هر چه زودتر وارد بحث‌ها شویم و بحث‌ها را جدی بگیریم.

در ادامه به چند نکته اشاره می‌کنم:

واقعیت امر این است که هوش مصنوعی دیگر دست از سر انسان بر نمی‌دارد، هر روز و هر لحظه هم یک برگ جدیدی رو می‌کند. در کشور ما در دو سال اخیر ببینید چه چیزهایی مبتنی بر هوش مصنوعی آمده است و می‌آید. لذا حوزه‌های علمیه ما باید بحث هوش مصنوعی را از ابعاد مختلف از جمله از بُعد مسائل اخلاقی نه به عنوان یک پروژه بلکه به عنوان یک پروسه و فرایند به صورت جدی و مداوم، برنامه‌ریزی و سرمایه‌گذاری کنند. خوشبختانه قدم‌های خوبی برداشته شده و هنوز در ابتدای مسیر هستیم و با توجه به رشد و سرعتی که هوش مصنوعی دارد، این قدم‌ها کافی نیست. لذا برای اینکه تلاش‌ها به نتیجه برسد و قرار شد ماجرا را جدی بگیریم، به چه نکته اشاره می‌کنم که باید به آن‌ها توجه شود.

*باید چارچوب ورود به مسائل اخلاقی هوش مصنوعی را مشخص کنیم

اول اینکه باید چارچوب ورود به مسائل اخلاقی هوش مصنوعی را مشخص کنیم، روش را در این ماجرا روشن کنیم، فرایند و مراحل مواجهه با مسائل اخلاقی هوش مصنوعی را معلوم کنیم، مثل موضوع‌شناسی، مسئله‌شناسی و تجزیه و تحلیل و ...

مسئله دیگر اینکه باید نیرو و متخصصان اخلاق هوش مصنوعی تربیت کنیم. با کمال تأسف باید بگویم که هنوز متخصصان اخلاق فضای مجازی هم نداریم. به رغم اینکه حدود سه دهه است که فضای مجازی و به مدت کمتری شبکه‌های اجتماعی وارد کشور ما شده اما امروز به تعداد انگشتان دست، متخصص اخلاق فضای مجازی نداریم. لذا لازم است این نقیصه را در هوش مصنوعی جبران کنیم و این‌که رشته‌ای به نام اخلاق هوش مصنوعی در حوزه و دانشگاه راه‌اندازی شود، جزء اولیات کار است.

بحث دیگر تدوین اسناد بالادستی است؛ ورود جدی، منضبط و عالمانه به بحث اخلاق هوش مصنوعی، نیازمند یکسری اسناد و مدارک است. ما به دانشنامه اخلاق هوش مصنوعی، درسنامه‌های مختلف، منابع اولیه، مأخذشناسی، منبع‌شناسی و مجله تخصصی اخلاق هوش مصنوعی نیازمند هستیم. این کارها باید انجام بگیرد تا اگر کسی خواست در این زمینه کار کند، منبع و مدرکی داشته باشد. من یا دیگران اگر بخواهیم تحقیق کنیم، فقط چند کتاب داریم، و اگر ده اثر داشته باشیم دست ما از لحاظ منبع بازتر می‌شود. ما طلاب و دانشجویان را تشویق می‌کنیم تا در حوزه اخلاق فضای مجازی و هوش مصنوعی کار کنند، اما مشکل این است که منبع ندارند و راه بسته بسته می‌شود. لذا تدوین و تولید آثار فرادستی مهم است. در این راستا کارها باید بین رشته‌ای انجام شود چون هوش مصنوعی دایره و عرض عریضی دارد، علوم مختلف با آن سر و کار دارند و بحث‌های علوم کامپیوتر، فناورانه، تخصصی، جامعه‌شناختی، انسان شناختی دارد. اگر بخواهیم هوش مصنوعی را از منظر اخلاقی بررسی کنیم لازم است به صورت بین رشته‌ای باشد، منِ طلبه‌ای که فقط اخلاق خوانده‌ام نمی‌توانم وارد بحث هوش مصنوعی شوم این کار بسیار خطرناک و نادرست است و تبعات بدی دارد. از طرف دیگر کسی که حوزه کاری وی فنی بوده و مهندس نرم‌افزار و برنامه نویس است، اگر بخواهد وارد بحث اخلاق شود خیلی ضعیف وارد می‌شود و نمونه‌های آن را دیده‌ایم. در برخی شبکه‌های اجتماعی، اتاق‌هایی که شکل می‌گیرد و گفت‌وگو می‌کنند، مشخص است. شخصی متخصص هوش مصنوعی است، وارد بحث اخلاقی که می‌شود بحث‌ها بسیار ضعیف و سست است؛ طبیعی است چون تخصص ندارد. همچنین کسی که کارش حوزه اخلاق است بخواهد بدون آگاهی قبلی وارد بحث‌ها شود، به این حد ضعیف می‌شود. بنابراین برای اینکه کارها ضعیف، سردستی و کم‌عمق نباشد متخصصان جدی و قوی حوزه اخلاق و فناوری و هوش مصنوعی، به صورت لجنه‌ها و گروه‌های بین رشته‌ای وارد ماجرا شوند.

*باید ادبیات ادبیات اخلاق هوش مصنوعی را تولید و ترویج کنیم

نکته پایانی اینکه اگر بخواهیم در بحث اخلاق هوش مصنوعی جدی و مداوم کار کنیم، قدم اول آن این است که با همایش‌ها، نشست‌ها، مصاحبه‌ها، مقالات، کتاب‌ها، کنفرانس‌ها، ویدئوها، فایل‌های صوتی، متنی و تصویری، ادبیات آن را تولید و ترویج کنیم تا کم کم جامعه علمی ما در حوزه و دانشگاه به ویژه حوزه چون بحث اخلاق دینی است، با این ادبیات آشنا شوند. هر قدر این آشنایی شکل بگیرد و گسترده شود، افراد بزرگ‌تر وارد این ماجرا می‌شوند و موسسات حوزوی، پژوهشگاه‌ها، گروه‌های اخلاق درگیر می‌شوند؛ هر کدام که وارد شوند باعث می‌شود که بحث‌ها جدی‌تر و عمیق‌تر بررسی شود.

از طرف دیگر چیزی که به عنوان خروجیِ نگاه حوزه و حوزویان به نام اخلاق هوش مصنوعی تولید می‌شود از نظر عالمان دانش اخلاق و فلسفه اخلاق قابل دفاع باشد؛ ممکن است مخالف یا موافق باشند مهم نیست، مهم این است که منطق دانش در آن حفظ باشد و عمیق و جدی باشد؛ شبیه چیزی که مراجع ما در بحث خارج فقه و اصول دارند. اتقان محتوایی دارند اما ممکن است دیدگاه‌های مختلفی مطرح باشد. اینگونه نباشد که خدای نکرده، ضعف‌ها باعث شود که اصل مطلب و نگاه اخلاق دینی به مسئله هوش مصنوعی دچار حواشی و مسائل دیگر شود و حوزویان متهم شوند به اینکه کارها سست و ضعیف و غیر قابل دفاع است.

*مسئولان حوزه بحث اخلاق هوش مصنوعی را بسیار جدی بگیرند

این ها به اجمال چند نکته‌ای بود که باید در قدم اول به آن‌ها توجه شود و برخی از آ‌نها را آقای محسنی گفتند. بحث بسیار طولانی و مفصل است. از مسئولان حوزه‌های علمیه، دانشگاه‌ها، مراکز پژوهشی و هر کسی که مسئولیت دارد، درخواست دارم که بحث اخلاق هوش مصنوعی را بسیار جدی بگیرند. چیزی نیست که در انتظار جامعه ما باشد جامعه ما الان درگیر شده است. وقتی که در فضای مجازی با هوش مصنوعی می‌بینیم که هر کس چیزی تولید کرده و عکس و فیلمی گذاشته و هر روز فناوری‌ها و زاویه‌های جدیدی از هوش مصنوعی را معرفی و استفاده می‌کنند، یعنی هوش مصنوعی وارد جامعه ما شده است، مسائل اخلاقی آن وارد شده است و هم در آینده هم بیشتر خواهد شد. لذا بهتر است که ما زودتر اقدام کنیم تا بتوانیم وظیفه خود را در این زمینه انجام دهیم.

از عزیزانی که دست اندرکار برگزاری این نشست بودند تشکر می‌کنم. این نشست‌ها زمینه‌ساز ترویج ادبیات اخلاقی هوش مصنوعی است. ان‌شاءالله که با افراد دیگری که درگیر این ماجرا هستند و علاقه دارند، گفت‌وگوها ادامه پیدا کند تا بتواند ادبیات آن در جامعه ترویج شود.

حجت الاسلام و المسلمین دکتر «حمید محسنی» نیز در پایان عنوان کرد:

من بخش دوم سخنان خود را با این سؤال آغاز می‌کنم که آیا هوش مصنوعی فرصت است یا تهدید؟ در پاسخ باید بگوییم که بستگی دارد به اینکه چه رویکردی به آن داشته باشیم. این مسئله در فضای مجازی نیز مطرح بود که فضای مجازی فرصت است یا تهدید؟ بستگی دارد که ما چه رویکردی به فضای مجازی داشته باشیم. اگر از روز اول مستقل وارد می‌شدیم، پلتفرم‌ها و پیام‌رسان‌های داخلی ایجاد کرده و فرهنگ‌سازی می‌کردیم فرصت بود. همان‌گونه که مقام معظم رهبری چند سال پیش در یکی از سخنرانی‌ها فرمود که فضای مجازی برای ما فرصت است چون این ابزاری است که نداشتیم و با آن می‌توانیم معارف اهل بیت(ع) را انتقال دهیم.

*اگر زمین بازی دست ما باشد، پیشرفت و توسعه در راستای تمدن اسلامی خواهد بود

اینجا این سوال پیش می‌آید که آیا در عالم خارج زمین بازی دست ما است؟ کسی عاقل باشد و شعور و درک داشته باشد و میدان را نگاه کند، واقعیت را می‌بیند. اگر زمین بازی دست ما باشد، پیشرفت و توسعه در این عرصه در راستای تمدن اسلامی است.

با تحقیق عرض می‌کنم که از نگاه رهبر معظم انقلاب برای پیشرفت در عرصه هوش مبانی داریم لذا مبانی آن باید لحاظ شود. یکی از مبانی رهبر معظم انقلاب در این عرصه، عدم عمل به توصیه غربی‌ها است. رهبر معظم انقلاب چند سال قبل در دیدار مسئولان ستاد توسعه علوم شناختی می‌فرماید که «به توصیه غربی‌ها عمل نکنید.» این حکم صریح ولی فقیه است. ایشان حکیم و آینده‌پژوه است و بر اساس عبرت‌هایی از تاریخ در در دیدار مسئولان ستاد توسعه علوم شناختی می‌فرماید: «غربی‌ها مثل فرانسه و انگلیس از طریق سلاح‌های کشتار جمعی به دنبال سلطه بودند و در هند و آفریقا و ... کشورگشایی کردند، آیا به نظر شما از طریق فناوری‌های شناختی نمی‌توانند کشورهای دیگر را به سلطه بکشند؟»

*مراقب خطرات فناوری‌های جدید باشیم

ظاهرا متخصصان بیشتر منافع فناوری‌های شناختی را پیش آقا مطرح کرده بودند، آقا می‌فرماید: «شما گفتید که فناوری شناختی می‌تواند اضطراب و استرس را از مردم بردارد.» آقا سوالی مطرح می‌کنند: «این فناوری‌ها اضطراب و استرس را برمی‌دارد آیا نمی‌تواند ایجاد کند؟» به نظر بنده هر چه قدر که فناوری‌ها فوائد و مزایا دارد، امور را تسریع می‌کند، خدمات می‌دهد و برای مردم رفاه می‌آورد، ده برابر آن تهدید دارد. الان چه کار کنیم؟ آیا کنار بگذاریم و مخالف فناوری باشیم؟ این دیدگاه مقام معظم رهبری نیست. لذا مواجهه واقع‌بینانه داشته باشیم و اگر بخواهیم از این زاویه ضربه نخوریم مثل ضربه‌ای که از فضای مجازی خوردیم، در نظام اسلامی، بر اساس مبانی خودمان یعنی مبانی مکتب اهل بیت(ع) و تمدن اسلامی باید پیشرفت کنیم. کسینجر در کتاب هوش مصنوعی و آینده بشریت می‌گوید: «خطر هوش مصنوعی از بمب اتمی هم خطرناک‌تر است.» دلیل می‌آورد که شما بمب اتمی را یک جا نگه دارید سایت عظیم و هزینه‌های هنگفتی نیاز دارد اما هوش مصنوعی را می‌توانید با سیستم عامل همراه جابجا کنید. رهبر معظم انقلاب هم در دیدار مسئولان ستاد توسعه علوم شناختی به این چالش اشاره کردند. از طریق هوش مصنوعی می‌توان از راه دور بمب اتمی را هم خنثی کرد و هم می‌توان فعال کرد. این مثال از ناحیه تهدید فناوری هوش مصنوعی بود. همچنین هوش مصنوعی می‌تواند چالش های فرهنگی،‌ معرفت شناختی و.. داشته باشد که در ادامه به طور مختصر جنبه معرفت شناختی را تبیین می‌کنیم.

از لحاظ معرفت‌شناختی، فناوری می‌تواند شناخت انسان را شکل دهد. تا کنون فکر می‌کردیم که هوش مصنوعی مانند ابزارهای دیگر صنعتی و کشاورزی است در حالی که اساساً این گونه نیست الان فناوری تنه به تنه انسان می‌زند و در برخی حوزه ها بالاتر از انسان است؛ در مسابقه شطرنج آلفازیرو، فناوری با خود بازی می‌کند و قوی می‌شود و از طرف دیگر انسان نمی‌تواند آن را ببرد. قهرمانان شطرنج از آلفازیرو یاد می‌گیرند که برای حریفان انسانی، چه فنی بزنند. یا مهندسین ژنتیک از طریق هوش مصنوعی دارو کشف می‌کند از راهی می‌رود که هیچ عامل انسانی نرفته است.

*هوش مصنوعی از لحاظ جنبه‌های معرفت شناسی از انسان جلوتر می‌افتد

لذا هوش مصنوعی از لحاظ جنبه‌های معرفت شناسی از انسان جلوتر می‌افتد. این امر برای یک مهندس شگفتی است اما یک عالم اندیشه و فیلسوف به این مسئله واقع‌بینانه نگاه می‌کند که آیا هوش مصنوعی نمی‌خواهد مرجعیت را از ما بگیرد؟ یعنی تا حال که می‌گفتیم انسان خلیفه روی زمین است، هوش مصنوعی به لحاظ شناختی، بالاتر از انسان معمولی می‌شود. البته نه انسان کامل، چون بر اساس مبانی، امام به عنوان انسان کامل، خلیفة الله و عالم به ما کان و یکون، هیچ وقت هوش مصنوعی تا صد سال دیگر هم نمی‌تواند به انسان کامل برسد و همه این‌ها ذیل احاطه انسان کامل است اما از انسان‌های معمولی جلو می‌زند. بگوییم یا نگوییم و اعتقاد داشته باشیم یا نه این گونه است. الان فناوری چت جی پی تی (ChatGPT) در تولید متن و ... فعال است و چون بر حجم عظیمی از دیتاها، الگوریتم‌ها و محاسبه‌ها احاطه دارد جلو می‌زند. خلاصه اینکه حرف ما این است که ما نمی‌گوییم این فناوری هیچ فایده ندارد و تهدید صرف است. بلکه حرف اصلی ما این است که نباید در جامعه ما با فناوری هوش مصنوعی مواجهه کاریکاتوری داشت یعنی تنها به فایده ها و مزایای آن تأکید کرد بلکه این فناوری کنار جنبه های مثبت و فایده‌هایی که دارد و می‌بایست در این جنبه پیشرفت کرد، تهدیدات آن نیز می‌بایست به همان اندازه مورد توجه قرار گیرد. و اگر به این جنبه تهدید توجه نداشته باشیم،‌ در قضیه شهادت امثال شهید فخری زاده، دیگر لازم نیست که یک تکنولوژی را از کشوری دیگر وارد کنند، خودکار هوشمند که در دستمان است اسلحه دشمن می‌شود.  

افزون بر این، رهبر معظم انقلاب می‌فرمایند: «هر نوع پیشرفتی که برخلاف مبانی فرهنگی ما باشد، پیشرفت نیست بلکه پسرفت است.» اینجا تسلط و مالکیت اختراع مهم است. رهبر معظم انقلاب تصریح دارند که شما باید در هوش مصنوعی و کلان داده‌ها، مالک ابزار باشید. الان کل داده‌های ما تحت سطه دشمن است و بر آن احاطه نداریم. امروزه اینستاگرام برای ما سبک زندگی تعریف می‌کند و این ربات‌های هوشمند و هوش مصنوعی است که عکس‌های حاج قاسم را حذف می‌کند نه عامل انسانی.

جمع‌بندی سخنان من این است که اگر ما می‌خواهیم در حوزه هوش مصنوعی پیشرفت داشته باشیم زمین بازی، فضای سایبر، اینترنت اشیا و هوش مصنوعی باید در دست خومان باشد. این باید بر اساس مبانی مقام معظم رهبری باشد. ایشان در حوزه علم و فناوری مبنا دارند و اگر بر اساس آن مبانی پیشرفت کنیم، فناوری و هوش مصنوعی می‌تواند در راستای تمدن اسلامی و معارف اهل‌بیت(ع) مفید باشد.