ما واين موجوداتِ هوشمندِ زبان نفهم!

«با مسوول يک شرکت قرار مهمي داريد. شرکت در طبقه يازدهم است و چون آسانسور خراب است مجبور مي شويد علاوه بر اين که از پله ها به سختي بالا مي رويد وسائل سنگين تان را نيز با خود بکشيد. در ميانه راه مرد جواني، که بعدا متوجه مي شويد منشي شرکت است، در حمل کردن وسائل به شما کمک مي کند. وارد دفتر شرکت که مي شويد منشي ضمن عذرخواهي، براي شما يک نوشيدني گوارا مي آورد و سعي مي کند به شما کمک کند که کارهاي تان به بهترين وجه انجام شود. شما که از اين همه دلسوزي و نوع دوستي مرد جوان به وجد آمده ايد هم از صميم قلب هم به صورت زباني از او تشکر مي کنيد و تصميم مي گيريد با دادن هديه اي لطف او را جبران کنيد ولي وقتي تصميم خود را با رئيس شرکت در ميان مي گذاريد او با خنده اي شما را از اين کار منصرف مي کند و مي گويد کار شما هيچ فايده اي ندارد. رئيس هنگامي که با چهره متعجب شما مواجه مي شود مي گويد: چون او آدم نيست بلکه يک ماشين هوشمند پيشرفته است که طوري طراحي شده که بتواند در موقعيت هاي مختلف تصميم گيري کند»

اکنون آيا ديدگاه شما درباره منشي همان ديدگاه چند لحظه قبل است؟ اگر نگاه تان عوض شد چه چيزي باعث اين امر شده است؟ آيا تشکرتان از ربات منشي کاري بي معنا بوده است؟ آيا بايد به جاي منشي از سازنده آن يا از رئيس شرکت تشکر و کارشان را تحسين کنيد؟ اگر منشي، و در واقع ربات يا ماشين هوشمند، در بين راه، خواسته يا ناخواسته به وسائل شما که بسيار گران قيمت هم هستند، آسيبي مي رساند کار او را بد مي دانستيد؟ آيا سرزنش کردن او ممکن و معنادار بود؟ آيا بايد سازنده اش را تقبيح مي کرديد يا رئيس شرکتي که او را به کار گرفته است؟ (نمي گوييم شکايت به مراجع قضايي، چون اين امر در حوزه اخلاق جاي نمي گيرد و مسئله اي حقوقي مي شود که اکنون مورد بحث نيست). اصلا مي شود کار او را خوب يا بد دانست؟

درباره ربات هاي هوشمند چند سوال از منظر اخلاقي قابل طرح است: 1. آيا کارهاي اين ماشين ها را مي توان به خوب يا بد اخلاقي متصف کرد؟ 2. اگر اينها عملي انجام دادند که از منظر اخلاقي نادرست باشد(مثلا به کسي آسيب رساندند يا اموال کسي را سرقت کردند) چه کسي قابل سرزنش است و اخلاقا بايد اين آسيب و ضرر را جبران نمايد؟ سازنده يا به کار گيرنده يا فرد ثالث؟ 3. آيا مسئله «استقلال عامل اخلاقي» براي اين ماشين ها صدق مي کند؟ آيا مي توان مدعي شد که هوشمندي آنها موجب مي شود که خوب و بد کارهاي شان به خودشان مربوط شود؟ 4. اگر خود اين ماشين ها را به سبب ميزان استقلال و هوشمندي که دارند از نظر اخلاقي بتوانيم مقصر بدانيم، اين کار چه فايده اي دارد؟ چون قاعدتا نمي توانند آسيب وارده شده را جبران نمايند. پس چه کسي بايد اين کار را انجام دهد؟ آيا منافع آنها به اندازه اي هست که بتوان از ضررهاي احتمالي شان چشم پوشي کرد؟

قضاوت درباره اخلاقي بودن يا نبودن کار ماشين هاي هوشمند مبتني بر روشن شدن تکليف موارد زير است:

1. آيا کار اخلاقي فقط براي «انسان ها» مطرح است و ديگر موجودات، از قبيل حيوانات يا ماشين هاي هوشمند، هر چند کارهايي بکنندکه مي توان آنها را «خوب يا بد» دانست، مانند نجات ده ها نفر از زير آوار زلزله، کارشان قابل اتصاف به خوب و بد اخلاقي نيست.
2. آيا مي توان بين «عمل اخلاقي» و «عامل اخلاقي» تمايز قائل شد؟ به اين معنا که بگوييم خوب و بد بودن درباره نفس عمل قابل طرح است ولي درباره خود ربات ها نيست.
3. ملاک (يا ملاک هاي) اخلاقي بودن يک کار چيست؟ آيا علاوه بر آگاهي و اختياري بودن، شرط يا شرط هاي ديگري هم براي اخلاقي بودن يک عمل لازم است يا خير.
4. چه کسي بايد درباره اخلاقي بودن يا نبودن کار ديگران، مثلا ماشين هاي هوشمند، قضاوت کند. خود فاعل اخلاقي يا ديگران؟ اگر اختلاف پيش آمد چه بايد کرد؟
5. هوشمند بودن ربات ها و ماشين هاي هوشمند به چه معنا است؟ ميزان آن چه اندازه است؟ اين هوشمندي چه اندازه به استقلال در تصميم گيري منجر مي شود؟ آيا همه حالات و موقعيت هاي احتمالي که ماشين با آن مواجه مي شود از قبل براي او تعريف شده است؟

با توجه به موارد بالا مي توان گفت:

1. براي اخلاقي بودن يک عمل، آگاهانه و اختياري بودن شرط لازم است نه کافي. از اين رو اگر ميدان عملي که تاکنون براي ربات ها و ماشين هاي هوشمند فراهم شده را بتوان مصداق آگاهي و اختياري بودن دانست، کارهاي آنها متصف به خوب و بد مي شود. ولي نکته اين است که اولا اختيار و آگاهي اين ماشين ها مصنوعي و بر اساس برنامه هايي است که ديگران (سازندگان آنها) برايشان تعريف کرده اند. لذا کارهاي آنها را بيشتر مي توان نوعي عکس العمل مکانيکي دانست که بر اساس برنامه ريزي ديگران و با توجه به آزمون و خطا و تجربه به دست مي آيد، نه يک رفتار برخواسته از تمايلات قلبي و دروني. ثانيا کار ربات براي او هيچ هزينه اي ندارد. به عبارت ديگر، اخلاقي عمل کردن براي او نه مستلزم چشم پوشي از لذات و منافع است نه مي تواند مثلا به قصد کسب رضايت دروني يا رضايت خداوند يا حتي رسيدن به منافع مادي باشد.
2. نمي توان «فقط» اختياري و آگاهانه بودن را ملاک فعل اخلاقي قرار داد. چرا که بر اين اساس بايد بسياري از کارهاي انسان، مانند غذا خوردن و قدم زدن،را اخلاقي محسوب کرد. بنابراين لازم است قيد / شرط / يا صفت ديگري را نيز براي اخلاقي بودن يک عمل در نظر بگيريم که عبارت است از «قصد و نيت» عامل. يعني کار اخلاقي بايد با نيت خيرخواهانه و انگيزه نيک انجام پذيرد. حال اگر نيت و قصد را نيز در اخلاقي بودن سهيم بدانيم، کار ربات ها و ماشين هاي هوشمند را نمي توان از مصاديق کارهاي اخلاقي دانست؛ چرا که در حد اطلاع بنده، دست کم در ماشين هايي که تاکنون ساخته شده اند مسئله احساسات و عواطف دروني و امکان داشتن نيت و قصد وجود ندارد.
3. البته اگر قصد و انگيزه خير را هم در اخلاقي بودن موثر بدانيم، کار تا اندازه اي دشوار مي شود چرا که اولا فهم و احراز حسن نيت افراد کار آساني نيست و شايد در اين زمينه بتوان فقط به اعتراف خود فرد استناد کرد (که البته در آن هم احتمال خلاف هست. چرا که انسان ها مي توانند به دلائل مختلف، از جمله براي کسب منفعت يا دفع ضرر حتمي يا محتمل دروغ بگويند).
4. باتوجه به موارد فوق، اگر قصد و نيت خيرخواهي را نيز در ايجاد عمل اخلاقي موثر بدانيم، کار اين ماشين ها را نمي توان اخلاقي دانست. التبه اگر در آینده ماشین هایی ساخته شوند که بتوانند قصد و نیت هم برای کارهای خود داشته باشند. که دراین صورت باید بحث حاضر مورد بررسی مجدد قرار گیرد.
5. حال اگر کار خود ماشین ها را از مشمول حسن و قبح اخلاقي ندانيم، به نظر می‌رسد درباره سود و زيان آن، هر کس به هر اندازه اي که نقش داده شايسته تحسين يا مستحق سرزنش است و از نظر اخلاقي (يا حقوقی) باید پاسخگو باشد و ضررهاي احتمالي را جبران نمايد.
6. از منظر اخلاق اسلامي اگر بخواهيم به ماجرا نگاه کنيم به نظر مي رسد مي توان با بهره گيري اخلاقي از قواعدي چون «لاضرر و لاضرار في الاسلام» و با توجه به اين که اموري چون آگاهي و اختيار از شرايط تکليف است و با توجه اين که ماشين هاي هوشمند را از قبيل «شيء» و «کالا» يا «مبيع» بدانيم که صاحب يا سازنده آن در قبال آن مسوول است، و همچنين با توجه به اين که از ديدگاه اسلام اخلاق متصف شدن به حسن و قبح اخلاقي فقط مربوط به انسان است مي توان چنين برداشت کرد که کار ماشين هاي هوشمند در دايره اخلاق نمي گنجد و مسووليت اخلاقي کارهاي اين ماشين ها بر عهده صاحبان يا سازندگان آنها است. و اگر بر عهده اين دو ندانيم مي شود فرض هاي ديگري را مطرح کرد. مثل اين که بگوييم ضرر و زيان هاي ناشي از کار اينها، دست کم در مواردي که در اختيار نهادهاي عمومي يا دولت هستند، بايد از بيت المال جبران شود.
7. درباره وجه اخلاقي ربات ها و ماشين هاي هوشمند در حد جست و جويي که در اينترنت کردم مشخص شد که متاسفانه در اين زمينه هم مثل بسياري از ديگر موضوع هاي جديد اخلاقي، کار چنداني به فارسي نشده است. اميد است طلاب و دانشجويان علاقه مند به مباحث فلسفي و اخلاقي در اين زمينه ها بيش از پيش فعاليت نمايند.

حسینعلی رحمتی

20 اسفند 1391