الذكاء الاصطناعي: توجُّه مُختلف

(١-١) المبدأ الأول: الآلات الغيرية تمامًا

الهدف الأول، الذي ينصُّ على أن الهدف الوحيد للآلة هو التحقيق الأمثل للتفضيلات البشرية، أساسي لمفهوم الآلة النافعة. على وجه الخصوص، ستكون الآلة نافعة «للبشر»، بدلًا من، لنقُل، للصراصير. ليس هناك سبيل للالتفاف على هذا المفهوم للمنفعة المُرتكز على المُتلقِّي.

هذا المبدأ يعني أن الآلة غيرية تمامًا؛ أي إنها لا تُعطي على الإطلاق أي قيمةٍ حقيقية لمصلحتها أو حتى لوجودها. إنها قد تحمي نفسها حتى تستمر في القيام بأشياء مُفيدة للبشر أو لأن مالكها سيستاء لدفع قيمة عمليات الإصلاح الخاصة بها أو لأن منظر الروبوت القذر أو الذي به عطب قد يكون مزعجًا بعض الشيء لأيِّ شخصٍ مارٍّ، لكن ليس لأنه يُريد البقاء على قيد الحياة. إن دمج أي تفضيلٍ خاصٍّ بالحفاظ على الذات يُدخل دافعًا إضافيًّا إلى الروبوت، والذي يتعارض كليةً مع مصلحة البشر.

إن صياغة المبدأ الأول تُثير سؤالَين غاية في الأهمية. وكلٌّ منهما يستحق رفَّ كتبٍ بالكامل، وفي واقع الأمر، ألِّف بالفعل العديد من الكتب عنهما.

السؤال الأول هو ما إذا كان البشر حقًّا لديهم تفضيلات بأيِّ معنًى مفهوم أو ثابت. في الحقيقة، إن مفهوم «التفضيل» تصوُّر مثالي فشل في مطابقة الواقع بطرقٍ مُتعدِّدة. على سبيل المثال، نحن لا نُولَد بالتفضيلات التي تكون لدينا ونحن بالِغون، لذا، لا بد أنها تتغيَّر بمرور الوقت. سأفترض هنا أن هذا التصور المثالي عقلاني. ولاحقًا، سأستعرض ماذا سيحدث عندما نتخلى عن هذا التصور.

(١-٢) المبدأ الثاني: الآلات الخاضعة

إن المبدأ الثاني، المتمثِّل في أن الآلة بالأساس يجب أن تكون غير مُتيقنة من ماهية التفضيلات البشرية، هو العامل الأساسي لإنشاء آلات نافعة.

إن الآلة التي تفترض أنها تعلم على نحوٍ تام الهدف الحقيقي ستسعى إلى تحقيقه بكل عزم. إنها لن تسأل أبدًا ما إذا كان مسارُ فعلٍ مُعيَّن جيدًا أم لا، لأنها تعرف بالفعل أنه حلٌّ أمثل للوصول إلى الهدف. إنها ستتجاهل البشر الذين سيشعرون بغضبٍ شديد ويصرُخون قائلين: «توقفي، إنك ستُدمِّرين العالم!» لأن تلك مجرد كلمات. إن افتراض امتلاك معرفة كاملة بالهدف يفصل الآلة عن البشر: فما يفعلُه البشر لا يُصبح مهمًّا؛ لأن الآلة تعرف الهدف وتسعى إلى تحقيقه.

على الجانب الآخر، إن الآلة التي هي غير مُتيقنة من الهدف الحقيقي ستُبدي نوعًا من الخضوع: إنها، على سبيل المثال، ستُذعن للبشر وتسمح بأن يُوقف تشغيلها. من المنطقي أن الإنسان سيوقفها فقط إذا كانت تفعل شيئًا خاطئًا؛ أي تفعل شيئًا يتعارض مع التفضيلات البشرية. من خلال المبدأ الأول، إنها تُريد أن تتجنَّب ذلك، لكن، من خلال المبدأ الثاني، إنها تعرف أن هذا ممكن لأنها لا تعرف على وجه التحديد ماهية الشيء «الخاطئ» الذي تقوم به. لذا، إذا أغلق بالفعل الإنسان الآلة، فإنَّ الآلة ستتجنَّب فعل الشيء الخاطئ، وهذا هو ما تُريده. بعبارةٍ أخرى، سيكون لدى الآلة دافع إيجابي لكي تسمح لنفسها بأن يوقف تشغيلها. وهكذا، ستظل مُرتبطة بالإنسان، الذي يعدُّ مصدرًا مُحتملًا للمعلومات، والذي سيسمح لها بتجنُّب ارتكاب الأخطاء والقيام بعملٍ أفضل.

(١-٣) المبدأ الثالث: تعلَّم كيفية توقُّع التفضيلات البشرية

إن المبدأ الثالث، الذي ينصُّ على أن مصدر المعلومات الأساسي للتفضيلات البشرية هو السلوك البشري، له غرضان.

الغرض الأول هو توفير أساسٍ مُحدَّد لمُصطلح «التفضيلات البشرية». افتراضيًّا، التفضيلات البشرية ليست مبنية في الآلة ولا تستطيع الآلة ملاحظتها على نحوٍ مباشر، لكن لا بد أن تكون هناك عملية ربط مُعينة بين تفضيلات البشر والآلة. يقول المبدأ إن عملية الربط تكون عن طريق ملاحظة «الاختيارات» البشرية: نحن نفترض أن الاختيارات مُرتبطة بطريقةٍ ما (ربما تكون معقَّدة للغاية) بالتفضيلات ذات الصلة. ولإدراك سبب أهمية هذا الربط، تأمَّل الوضع العكسي: إن كان أحد التفضيلات البشرية «ليس له أي تأثير على الإطلاق» على أيِّ اختيار فعلي أو مُفترض قد يقوم به الإنسان، فحينها سيكون على الأرجح لا معنى للقول بأن هذا التفضيل موجود.

الغرض الثاني هو تمكين الآلة من أن تُصبح أكثر نفعًا؛ لأنها ستعلم أكثر عما نُريد. (ففي النهاية، إنها إن لم تكن تعلم «أي شيء» عن التفضيلات البشرية، فلن يكون لها أيُّ نفع لنا.» إن الفكرة بسيطة بالقدر الكافي: تُعطي الاختيارات البشرية معلوماتٍ عن التفضيلات البشرية. عند تطبيق ذلك على الاختيار بين بيتزا الأناناس وبيتزا السجق، يكون الأمر واضحًا. ولكن الأمور تصبح أكثر إثارة للاهتمام عند تطبيق ذلك على الاختيارات المتعلقة بالحيوات المستقبلية وتلك المتخذة بهدف التأثير على سلوك الآلي. في الفصل القادم، سأشرح كيفية صياغة تلك المشكلات وحلها. لكن تنشأ التعقيدات الحقيقية لأن البشر ليسوا عقلانيِّين تمامًا: يُوجَد تعارُض بين التفضيلات والاختيارات البشرية، ويجب أن تأخذ الآلة تلك التعارُضات في الاعتبار إن كان لها أن تنظر للاختيارات البشرية باعتبارها مُؤشِّرًا على التفضيلات البشرية.

(١-٤) بعض نقاط سوء الفهم

قبل عرض المزيد من التفاصيل، أريد أن أوضِّح بعض النقاط التي قد تُفهم خطأً من كلامي.

أعتقد أن هذا الخلط يرجع جزئيًّا إلى الاختلاف بين معنى «القيمة» الشائع ومعناه المتخصِّص أكثر المُستخدَم في علم الاقتصاد والذكاء الاصطناعي وعلم أبحاث العمليات. في الاستخدام العادي، القِيَم هي ما يستخدمه المرء للمساعدة في حل المعضلات الأخلاقية؛ أما كمُصطلح فنِّي مُتخصِّص، على الجانب الآخر، فإن «القيمة» مرادفة تقريبًا للمنفعة، والتي تقيس درجة جاذبية أي شيءٍ بدءًا من البيتزا وحتى الجنة. إن المعنى الذي أقصده هو المعنى المُتخصِّص؛ فأنا أريد فقط التأكد من أن الآلات ستقدم لي البيتزا الصحيحة ولن تُدمِّر عرَضًا الجنس البشري. (إن إيجاد مفاتيحي سيكون أمرًا إضافيًّا غير مُتوقَّع.) ولتجنُّب هذا الخلط، تتحدَّث المبادئ عن «التفضيلات» البشرية وليس «القيم» البشرية؛ حيث إن المُصطلح الأول يبدو أنه بعيد عن التصوُّرات المُسبقة الحُكمية الخاصَّة الأخلاقية.

إن «دمج قيم» في الآلة، بالطبع، لهو على وجه التَّحديد الخطأ الذي أُحاجج بأننا يجب أن نتجنَّبه؛ لأن تحديد القِيَم (أو التفضيلات) على نحوٍ صحيح تمامًا صعب جدًّا وتحديدها على نحوٍ خاطئ ربما يكون أمرًا كارثيًّا. إنني أرى بدلًا من ذلك أن تتعلم الآلات أن تتوقَّع على نحوٍ أفضل، فيما يتعلَّق بكل شخص، شكل الحياة التي سيُفضِّلها، وهي تدرك طوال الوقت بأن التوقعات ليست مؤكَّدة أو كاملة على نحوٍ كبير. مبدئيًّا، يُمكن للآلة تعلُّم مليارات نماذج التفضيلات التنبؤية المختلفة؛ بحيث تتوقَّع واحدًا لكلِّ شخصٍ من مليارات الأشخاص الموجودين على كوكب الأرض. هذا في واقع الأمر لن يكون أمرًا صعبًا بالنسبة إلى نُظم الذكاء الاصطناعي المستقبلية، عند الوضع في الاعتبار أن نظم «فيسبوك» الحالية تتعامل بالفعل مع أكثر من مليارَي حسابٍ شخصي.

هناك افتراض شائع؛ وهو أن الآلات التي تتبع المبادئ الثلاثة سترتكب كلَّ الخطايا التي لاحظتها وتعلَّمتْها من الأشرار من البشر. بالطبع، الكثير منَّا يتَّخذ اختياراتٍ غير ملائمة، لكن لا يُوجَد أي سبب لافتراض أنَّ الآلات التي تدرُس دوافعنا ستتَّخذ نفس الاختيارات، كما هو الحال مع علماء الجريمة والمجرمين. دعنا نأخذ كمثالٍ الموظَّف الحكوميَّ الفاسد الذي يطلب رِشًى لإعطاء تصاريح بناء لأنَّ راتبه الضعيف لن يكفي لإدخال أبنائه الجامعة. إن الآلة التي تلاحظ هذا السلوك لن تتعلَّم أخذ الرشى؛ بل ستتعلَّم أن الموظف، شأنه شأن العديد من الأشخاص الآخرين، لدَيه رغبة قوية للغاية في تعليم أبنائه وجعلهم ناجحين. وستجدُ طُرقًا لمساعدته لا تتضمَّن الإضرار بمصلحة الآخرين. هذا لا يعني أن «كل» حالات السلوك الشرِّير لا تسبب مشكلاتٍ للآلات؛ على سبيل المثال، قد تحتاج الآلات للتعامُل على نحوٍ مُختلف مع هؤلاء الذين يستمتعُون بمُعاناة الآخرين.