الذكاء الاصطناعي وأسئلة الأخلاق

في عام 2014، قرّر فريق من "معهد ماساتشوستس للتكنولوجيا" في الولايات المتحدة الأميركية إطلاق موقع إلكتروني بسيط اسمه Moral Machine (ماكينة أخلاقية). الموقع لعبةٌ يقوم فيه المرء بالقرار نيابةً عن سيّارة ذاتية الحركة. السيارة أمامها خياران: إمّا أن تبقى على مسارها وتقتل خمسة أشخاص، أو أنْ تنحرف عن مسارها وتقتل شخصاً واحداً فقط، واللاعب هو من يقرّر حصول الانحراف من عدمه.

هذه التجربة الشهيرة في الفلسفة الأخلاقيّة وعلم النفس صارت معروفة فعلياً خارج دوائر المهتمين بالفلسفة، وهي مذكورة لأوّل مرّة من قِبل الكاتبة الأميركية جوديث غارفس تومسون (1929- 2020)، في ورقة فلسفيّة منشورة عام 1976. مطلوبٌ من كل مشارك في اللعبة أنْ يعطي معلوماتٍ عن نفسه ليس أقلّها مكان الإقامة. نيّة الفريق هي إجراء استقصاء ميداني لمعرفة ما إذا كانت القرارات الأخلاقيّة لدى البشر تختلف باختلاف الأمكنة التي يعيشون فيها، والوقوف على تأثير ذلك على أخلاقيات وسياسات تصميم الذكاء الاصطناعي.

بمجرّد إطلاق الموقع، تضاعف الإقبال على المشاركة واللعب بشكل فيروسيّ. بعد 4 سنوات، قام ملايين الأشخاص من 233 دولة ومنطقة حول العالم بـ40 مليون محاولة لعب. عند اطلاعي على نتائج هذه الدراسة، قيل بأنّ هذه أكبر دراسة استقصائيّة أجريت في تاريخ الفلسفة الأخلاقية على الإطلاق.

القرارات الأخلاقية اختلفت باختلاف الجغرافيا والثقافة

الدراسة ليست سريّة، ونتائجها متاحة للقراءة العامة في مجلة Nature الأميركية المعروفة. اللعبة مطوّرة قليلاً، ولها سيناريوهات مختلفة ومتعدّدة، تعطي معلومات أكثر عن "طبيعة" الأفراد الذين تتمّ المقارنة بينهم. فالسيّارة ذاتيّة القيادة تقرّر مرّةً بين الرجال والنساء، ومرّة بين البشر والحيوانات، ومرّة بين الشباب وكبار السن، ومرّة بين الأغنياء والفقراء، ومرّة بين "الملتزمين" بالقانون و"غير الملتزمين" بالقانون، وغيرها من السيناريوهات.

النتائج مثيرة، وأظهرت ثلاثة عوامل لعبت الدور الأكبر في القرارات الأخلاقية المتّخذة من قبل المشاركين: الموقع الجغرافي والوضع الاقتصادي والانتماء الثقافي. المشاركون من الصين واليابان، مثلاً، هم أقل من ضحّوا بكبار السن لأجل الشباب. في كلّ السيناريوهات المختلفة، لا تفضيل للشباب على كبار السنّ عند البلدين. المشاركون من البلدان التي تغلبُ فيها النزعة الفردانيّة هم أكثر من ضحّوا بكبار السن من أجل إنقاذ الشباب. بينما المشاركون من البلدان التي يغيب فيها حكم القانون كانوا أكثر المتسامحين مع الذين يعبرون الشارع بشكل "غير قانوني"، بالمقارنة مع الذين يعبرونه "قانونياً". 

عند المشاركين من دول تعاني من فجوات اقتصادية كبيرة بين الأغنياء والفقراء، لعبت المكانة الاجتماعيّة "المرتفعة" أو "المنخفضة" دوراً كبيراً في التمييز. ولكنّ المشاركين من البلدان التي تغلبُ فيها النزعة الفردانيّة، وخصوصاً ألمانيا وبريطانيا والولايات المتحدة الأميركيّة، كانوا أكثر من أهملوا المعلومات حول "طبيعة" الأفراد، وركّزوا بشكل أساسيّ على هدف إنقاذ المزيد من الأرواح عددياً. في المقابل، حِفْظ الأرواح بالتفضيل العددي لم يكن العامل المهيمن عند المشاركين من دولٍ أخرى.

والحال، أكّد الفريق البحثي ضرورة عدم أخذ نتائج الدراسة بشكل جدّي. النتائج حتماً منحرفة، لأنّ مَن يشاركون باللعبة هم أفرادٌ متّصلون بشبكة الإنترنت، ويمتلكون معرفة مسبقة ومعقولة بالذكاء الاصطناعي، وبالتالي فإنّ هذه الشريحة ليست كافية أبداً لبناء أيّة نظرية في الفلسفة الأخلاقيّة. الدراسة للتفكّر فقط، وهي بداية للنقاش بشكل أعمق في أخلاقيات الذكاء الاصطناعي وسياسات التصميم بشكل عام، وليس فقط السيارات ذاتيّة القيادة، خصوصاً أنّ عالمنا الحالي صار قاب قوسين أو أدنى من دخول حقبة سيحضر فيها الذكاء الاصطناعي في كلّ مناحي الحياة.

الملياردير الأميركي المثير للجدل، إيلون ماسك، صاحب أكبر شركة لصناعة السيارات ذاتيّة القيادة، أشار إلى هذه الدراسة أيضاً. ماسك مهووسٌ بالذكاء الاصطناعي، ومشاريعه تقع على حافة الخيال العلمي، كزرع رقاقات إلكترونيّة في الدماغ، بحيث تسمح بإمكانيّة التواصل الصامت غير اللغوي بين البشر. إذا أمكن تعميم نتائج الدراسة بحسب ماسك، فإنّ السيارات ذاتية القيادة في الصين عليها أنْ تتّخذ قرارات أخلاقية مختلفة عن القرارات التي تتّخذها السيارات نفسُها في أميركا مثلاً. وهذا يفتح النقاش الساخن مرّة أخرى حول الأخلاق: هل هي كونيّة مشتركة بين كلّ البشر، أم نسبوية تختلف من مكان إلى آخر.

* كاتب من سورية

آداب وفنون

التحديثات الحية

فالتر بنيامين.. مسودات العالم الداخلي للفكرة