الذکاء الاصطناعي وأخلاقيات النوع الاجتماعي: إطار مفاهيمي

الذکاء الاصطناعي وأخلاقيات النوع الاجتماعي: إطار مفاهيمي

الدکتور حسين علي رحمتي

مدرّس وباحث في أخلاقيات تکنولوجيا المعلومات وأخلاقيات الذکاء الاصطناعي – إيران

29/5/1448

(1) ما المقصود بأخلاقيات النوع الاجتماعي؟\

تُعدّ أخلاقيات النوع الاجتماعي (Gender Ethics) فرعاً من فروع علم الأخلاق يُعنى بدراسة القضايا المرتبطة بالأنوثة والذکورة، والأدوار الجندرية، والهوية الجندرية، والبُنى الثقافية والاجتماعية والأخلاقية المتعلقة بالنساء والرجال، فضلاً عن قضايا العدالة والتمييز الواقع عليهم. وهي تختلف عن الأخلاقيات الجنسية (Sexual Ethics) التي تتناول ما ينبغي فعله وما ينبغي اجتنابه في العلاقات الجنسية.\

ومن المجالات الفرعية لأخلاقيات النوع الاجتماعي دراسة علاقتها بالتکنولوجيا. وعلى الرغم من أهمية هذا الموضوع، فإنه، للأسف، لم يحظَ حتى الآن بالاهتمام الجاد والکافي في بلدنا. إن الانتشار الواسع للذکاء الاصطناعي، إلى جانب عوامل أخرى، من قبيل التحولات الثقافية وتزايد حضور النساء في مختلف المجالات الاجتماعية، قد أسهم في إثارة النقاشات المتعلقة بأخلاقيات النوع الاجتماعي، وطرح أسئلة عديدة في هذا الشأن. ومن هنا، تبرز ضرورة بالغة لأن تعمل المؤسسات الحوزوية والجامعية المعنية بفلسفة الأخلاق، بالتعاون مع الجهات المسؤولة عن التکنولوجيا وصنع السياسات الثقافية، على إدراج موضوع «الذکاء الاصطناعي وأخلاقيات النوع الاجتماعي» ضمن مشروع بحثي استراتيجي واسع النطاق، ودراسة مختلف أبعاده وجوانبه بصورة معمقة.\

(2) ما علاقة الذکاء الاصطناعي بأخلاقيات النوع الاجتماعي؟\

تتمثل الخطوة الأولى في دراسة العلاقة بين الذکاء الاصطناعي وأخلاقيات النوع الاجتماعي في توضيح طبيعة الصلة بينهما، وتحديد الغايات المنشودة من هذا المجال وتطبيقاته. فقد أفضى إنتاج التقنيات والتطبيقات القائمة على الذکاء الاصطناعي وتطويرها واستخدامها المتزايد إلى ظهور مجموعة من المسائل والتحديات الأخلاقية المرتبطة بالنوع الاجتماعي، أي بالنساء والرجال، ولا سيما النساء. ويتمثل الهدف الأساسي لهذا الفرع من الأخلاق في رصد هذه التحديات وتحليلها، والبحث عن سبل معالجتها أو الحد من آثارها.\

أما الخطوة الثانية، فتتمثل في تحديد «النظرية» و«المنظور» اللذين سيُعتمد عليهما في إجراء هذا التحليل. فعلى سبيل المثال، قد تتبنى أخلاقيات الفضيلة، من منظور الأخلاق الإسلامية، تصوراً معيناً بشأن مفهوم التحيزات الجندرية في الذکاء الاصطناعي ومصاديقها وسبل معالجتها، وهو تصور قد يختلف اختلافاً جوهرياً عن التصور الذي تقدمه النظرية الواجبيّة، أو بعض المنظورات غير الإسلامية، بل وغير الدينية أيضاً.\

ومن المزايا الأخرى لتحديد النظرية والمنظور المعتمدين إتاحة المجال لإجراء دراسات مقارنة بين النظريات والمدارس الأخلاقية المختلفة، وبيان أوجه الاتفاق والاختلاف فيما بينها.\

(3) الإطار البحثي لدراسة أخلاقيات النوع الاجتماعي\

ينبغي أن يستند کل بحث أو دراسة تتناول الذکاء الاصطناعي من منظور أخلاقيات النوع الاجتماعي، ولا سيما البحوث التي تُنجز في إطار الرسائل الجامعية وتأليف الکتب، إلى مسار ومنظومة منطقيين ومنهجيين. ولا يمکن وضع وصفة بحثية موحدة تصلح لجميع الباحثين في هذا المجال؛ إذ ينبغي لکل باحث أن يحدد محاور دراسته وعناوينها وفقاً لسؤاله البحثي وفرضياته. ومع ذلک، يبدو أن أبرز المحاور المقترحة للبحث والدراسة في هذا المجال يمکن إجمالها فيما يأتي:\

1\. تعريف أخلاقيات النوع الاجتماعي، وبيان طبيعة علاقتها بالذکاء الاصطناعي.\

2\. صياغة مشکلة البحث، وتحديد أهدافه وأهميته ومنهجه ومسوغاته وضرورته.\

3\. استعراض الدراسات السابقة، ونقد الأدبيات المتعلقة بالموضوع، وتحديد الفجوة البحثية (Research Gap).\

4\. عرض الأسس والمبادئ النظرية للنظريات المتنافسة، ونقدها انطلاقاً من منظور محدد (کالأخلاق الإسلامية، مثلاً)، وفي ضوء نظرية معينة (کأخلاقيات الفضيلة، مثلاً).\

5\. توضيح فرضية البحث، وإقامة البرهان المنهجي والاستدلالي على الأطروحة المدافَع عنها.\

6\. إجراء دراسة مقارنة بين النظرية التي يتبناها الباحث والنظريات المنافسة لها.\

7\. تقديم حلول ومقترحات تسهم في بناء نظرية أخلاقية معقولة ومتماسکة بشأن القضايا المرتبطة بالنوع الاجتماعي في مجال الذکاء الاصطناعي.\

(4) أخلاقيات النوع الاجتماعي ليست مشروعاً نسوياً حصراً\

على الرغم من أن المنظّرات النسويات قد أنجزن أعمالاً علمية عديدة في مجال أخلاقيات النوع الاجتماعي والذکاء الاصطناعي (ومن ذلک، على سبيل المثال، کتاب «الذکاء الاصطناعي النسوي» (Feminist AI)، الذي حررته جودي برون وآخرون، أکسفورد، 2023)، بل وطرحن نظريات من قبيل «النسوية القائمة على البيانات» (Data Feminism)، فإن هذا لا يعني أن بحث قضايا المرأة والنوع الاجتماعي والتکنولوجيا يقع حصراً ضمن اختصاصهن أو احتکارهن الفکري، حتى وإن سعت بعضهن إلى تکريس مثل هذا الانطباع.\

وبناءً على ذلک، ينبغي للباحثين والمفکرين في مجال أخلاقيات التکنولوجيا، ولا سيما الذين يسعون إلى دراسة هذه القضايا من منظور إسلامي، مراعاة الأمور الآتية:\

أولاً، ينبغي الحذر من التعامل مع هذا الموضوع بوصفه مشروعاً نسوياً حصراً؛ لأن ذلک قد يؤدي إلى إهمال هذا المجال وإفساح المجال للآخرين للانفراد به.\

ثانياً، ينبغي العمل بجدية وبمنهجية علمية على فهم النظريات النسوية ذات الصلة بهذا المجال ونقدها.\

ثالثاً، ينبغي السعي إلى بلورة الأسس والمبادئ التي تقوم عليها الأخلاق الإسلامية في ما يتعلق بالنوع الاجتماعي والتکنولوجيا، ولا سيما الذکاء الاصطناعي، مع توضيح أوجه تمايزها وحدود افتراقها عن الأخلاق النسوية.\

(5) مسؤولية المؤسسات الدينية في بناء منظومة أخلاقية بشأن النوع الاجتماعي\

تواجه الحوزات العلمية، في عصر الانتشار الواسع للذکاء الاصطناعي، وضعاً بالغ التعقيد والتحدي، وينبغي لها أن تحرص أشد الحرص على عدم التخلف عن مسار التحولات المتسارعة في هذا المجال، والتي تتزايد وتيرتها يوماً بعد يوم.\

ومن الطبيعي أن تتمثل أهم مسؤوليات هذه المؤسسات، بالنظر إلى رسالتها في مجال الأخلاق، في التصدي للمسائل والتحديات الأخلاقية الناشئة عن الذکاء الاصطناعي، ومن بينها قضايا أخلاقيات النوع الاجتماعي. وينبغي أن تدرک الحوزات العلمية، بوصفها مؤسسات، وکذلک طلبتها ورجال الدين العاملون فيها، أن متابعة مسار التحولات التي شهدها مجتمعنا خلال العقود القليلة الماضية، واستشراف السيناريوهات المستقبلية المحتملة، يکشفان عن جملة من الحقائق المتعلقة بالسنوات المقبلة:\

1\. ستشهد تطبيقات الذکاء الاصطناعي توسعاً متزايداً، وستزداد تبعاً لذلک المسائل الأخلاقية المستحدثة المرتبطة به.\

2\. ستکتسب القضايا المتعلقة بالمرأة والأنوثة والنوع الاجتماعي والتکنولوجيا أهمية متنامية، وستصبح أکثر حضوراً في المجال العام يوماً بعد يوم.\

3\. إن التعامل مع هذه التحولات يتطلب نشاطاً علمياً جاداً وعميقاً ومتواصلاً.\

4\. إن بيان رؤية الإسلام في هذا المجال يستلزم وضع «منظومة أخلاقية» متکاملة.\

5\. إن إنجاز هذه المهمة يتطلب إعداد کوادر بشرية متخصصة وتأهيلها علمياً.\

(6) ضرورة تدوين منظومة أخلاقية إسلامية بشأن النوع الاجتماعي\

إن بيان المواقف والتصورات الأخلاقية للإسلام بشأن النوع الاجتماعي والتکنولوجيا، والمقصود هنا على وجه الخصوص الذکاء الاصطناعي، فضلاً عن تقديم الإجابات عن التساؤلات والتحديات المطروحة في هذا المجال، ينبغي أن يتم بطريقة تنسجم مع سائر مجالات المعارف الإسلامية ومکوناتها، وأن تکون قابلة للتبرير والاستدلال ضمن منظومتها المعرفية والقيمية (Justifiable). ولا يمکن تحقيق ذلک إلا من خلال تصميم «إطار أو منظومة أخلاقية» (Ethical Framework/System) مخصصة لهذا الغرض.\

ومن أبرز المحاور التي ينبغي أن تقوم عليها هذه المنظومة، التي تقع مسؤولية تصميمها بالدرجة الأولى على عاتق الحوزات العلمية، مع ضرورة الاستناد في ذلک إلى المصادر والأدلة العقلية والنقلية، ما يأتي:\

1\. الأسس الإلهية والمعرفية والأنثروبولوجية والوجودية والقيمية المتعلقة بالنوع الاجتماعي والتکنولوجيا.\

2\. المعايير المعتمدة في إصدار الأحکام والتقويمات الأخلاقية بشأن النوع الاجتماعي والتکنولوجيا.\

3\. المبادئ الأخلاقية الناظمة لتصميم التکنولوجيا وإنتاجها وتطويرها واستخدامها.\

4\. الآليات والسبل الکفيلة بإلزام جميع أصحاب المصلحة والمعنيين بمراعاة هذه المبادئ.\

5\. استشراف التحديات المستقبلية التي ستواجه الرؤية الدينية بشأن النوع الاجتماعي والتکنولوجيا.\

6\. التعرف إلى النظريات الأخلاقية المنافسة ونقدها.\

(7) کيف ينبغي التعامل مع التحيزات الجندرية؟\

يُقصد بـ «التحيز القائم على النوع الاجتماعي» (Gender Bias) أن تنتج الأنظمة الذکية مخرجات صوتية أو نصية أو مرئية تنطوي على تفضيل أحد الجنسين على حساب الجنس الآخر والإضرار بمصالحه. ويمکن أن تظهر هذه التحيزات في مختلف مراحل تصميم الذکاء الاصطناعي وإنتاجه وتطويره واستخدامه.\

فعلى سبيل المثال، قد تُقدَّم عند تحديد معايير اختيار الموظفين مجموعة من الخصائص المرتبطة بالرجال بدرجة أکبر من تلک المرتبطة بالنساء؛ أو قد تولي الخوارزميات المستخدمة في مجال التأمين الصحي اهتماماً أکبر بالرجال مقارنة بالنساء؛ أو قد تُصنَّف بعض المهن ذات الطبيعة العاطفية، کالتمريض، بوصفها مهنًا خاصة بالنساء، في حين تُخصَّص للرجال المهن التي تتطلب قدرات عالية على التفکير والتحليل، کالهندسة.\

وبالطبع، لا تکون التحيزات دائماً على حساب النساء، بل يمکن أن تقع أيضاً على حساب الرجال.\

وتُعدّ هذه التحيزات ممارسات غير أخلاقية، لأنها قد تتعارض مع مبادئ العدالة والحق والإنصاف، أو تؤدي إلى حرمان الأفراد من حقوقهم. ومن ثم، فإن دراستها وتحليلها أمر ضروري. وينبغي في هذا السياق بحث العوامل والظروف المؤدية إلى نشوئها، ومصاديقها، وآثارها وتبعاتها، والمعايير التي يمکن اعتمادها لتحديد وجود التحيز، فضلاً عن الوسائل الکفيلة بإزالته أو الحد منه.\

(8) مسؤولية النساء على مختلف مستويات أخلاقيات النوع الاجتماعي\

تضطلع النساء أنفسهن بدور مؤثر ومسؤولية أساسية في الوقاية من التصورات الجندرية الخاطئة التي قد تتبناها أنظمة الذکاء الاصطناعي إزاء النساء والرجال، أو في تصحيحها. ومن دون وعي النساء بهذه المسؤولية واضطلاعهن بما تقتضيه، لن يکون من الممکن تصحيح تلک التصورات والأنماط.\

وفيما يأتي إشارة إلى بعض أهم المهام التي تستطيع النساء الاضطلاع بها في هذا المجال:\

1\. المشارکة الجادة والفاعلة في عمليات تصميم الذکاء الاصطناعي وتطويره.\

2\. الحضور الفاعل في المؤسسات المعنية بصنع السياسات المتعلقة بالذکاء الاصطناعي وتنظيمه.\

3\. رفع مستوى وعي المجتمع بالآثار المترتبة على التحيزات الجندرية في الذکاء الاصطناعي، وسبل التعامل معها.\

4\. نقد النظريات التي تتناول ظاهرة التحيز القائم على النوع الاجتماعي.\

5\. نقد التطبيقات والخوارزميات التي تنطوي على ممارسات تمييزية.\

6\. إنتاج محتوى ملائم ومناسب؛ نظراً إلى أن النماذج اللغوية تستمد معلوماتها من هذه المحتويات.\

وبالطبع، ينبغي للنساء، عند القيام بهذه المهام، مراعاة أمرين أساسيين: أولهما الاستفادة من التشاور والتعاون مع الرجال، وثانيهما الحذر من الوقوع في الإفراط والتطرف، بما قد يؤدي إلى نشوء تحيزات عدائية وغير منصفة ضد الرجال.\

(9) التعليم والتوعية؛ شرط الالتزام بالأخلاق\

إن شناخت التحيزات الجندرية والتعرف إلى إساءة استخدام الذکاء الاصطناعي لأغراض جنسية، وإن کان أمراً ضرورياً، فإنه لا يکفي وحده. بل إن المسألة الأهم التي ينبغي أن تحظى باهتمام جميع المعنيين بالفکر والبحث الأخلاقيين تتمثل في تحديد ما ينبغي فعله لمعالجة هذه المشکلة وتصحيحها.\

ومن المؤکد أن هناک حلولاً متعددة، يتطلب اکتشافها قدراً من التشاور والتعاون بين المتخصصين في الأخلاق وبعض التخصصات العلمية الأخرى. غير أن أحد أهم هذه الحلول يتمثل في التعليم والتنشئة الأخلاقية وتعزيز الثقافة الإعلامية لدى جميع أصحاب المصلحة والمعنيين، بدءاً بالمصممين والمطورين وصانعي السياسات، وصولاً إلى المستخدمين العاديين.\

وتتمثل الخطوة الأولى في هذا المسار في إنتاج محتوى تعليمي وتثقيفي مناسب، تليها خطوة إيصال هذا المحتوى إلى الجمهور المستهدف باستخدام أساليب جذابة وقادرة على الإقناع، ثم العمل على إيجاد آليات للرقابة والإشراف، بل ووضع منظومة للحوافز والمکافآت والعقوبات عند الاقتضاء.\

وينبغي أن يبدأ هذا التعليم منذ المرحلة الابتدائية. أما من حيث المضامين التعليمية، فينبغي أن تتناسب الموضوعات المقدمة مع طبيعة الجمهور المستهدف، وأن تشمل، على سبيل المثال، المبادئ والواجبات الأخلاقية، وحقوق النساء والرجال في عمليات تصميم الذکاء الاصطناعي وتطويره، والطرائق الکفيلة بالتعرف إلى التحيزات الجندرية والکشف عنها.\

(10) الأخلاق والنوع الاجتماعي؛ مسار لا يتوقف\

من الأفضل أن نخاطب جميع المهتمين بالقضايا الأخلاقية المرتبطة بالذکاء الاصطناعي في بلدنا، بکل صراحة وصدق، وبعبارات موجزة وواضحة، لنؤکد لهم الحقائق الآتية:\

1\. إن مسار استخدام الذکاء الاصطناعي في مجتمعنا لم يبدأ إلا حديثاً، ومن المتوقع أن يتواصل ويتسارع بوتيرة أکبر بکثير خلال السنوات المقبلة.\

2\. لقد کانت قضية «المرأة والأنوثة» خلال السنوات الأخيرة من أبرز القضايا المطروحة في مجتمعنا، ومن المتوقع أن تزداد أهميتها وحضورها في المرحلة المقبلة.\

3\. وبالتوازي مع هذين المسارين، ستصبح القضايا والمسائل الأخلاقية المرتبطة بالنوع الاجتماعي والتکنولوجيا، ولا سيما الذکاء الاصطناعي، من بين أبرز التحديات الأخلاقية التي سيواجهها المجتمع الإيراني في المستقبل.\

وبناءً على ذلک، ينبغي لجميع الأفراد والمؤسسات الذين تقع على عاتقهم مسؤولية، أو يساورهم اهتمام، إزاء الأخلاق والتکنولوجيا، أن يجعلوا دراسة هذا المجال وتحليله، ورسم السياسات والتخطيط بشأنه، جزءاً دائماً ومنتظماً ومنهجياً من أعمالهم؛ وألا تقتصر متابعتهم له على أساس سنوي أو شهري، بل ينبغي أن تکون متابعة يومية متواصلة.\

فالقائمون على تطوير الذکاء الاصطناعي ومستخدموه لن ينتظروا أن ننجز نحن أبحاثنا الأخلاقية بشأنه. بل إن مسؤولية المبادرة تقع علينا؛ إذ ينبغي ألا نکتفي بالسير جنباً إلى جنب معهم، بل علينا أن نتقدم عليهم بخطوات.