ماذا لو نجحنا؟
مُنذ فترة طويلة، كان والداي يعيشان في مدينة برمنجهام بإنجلترا في بيتٍ قُرب الجامعة. في يومٍ من الأيام، قرَّرا الرَّحيل عن المدينة وباعا المنزل إلى ديفيد لودج؛ أستاذ الأدب الإنجليزي. حينها، كان ديفيد في أوج مجده وشُهرته كروائي. ومع أنِّي لم أقابله قط، لكني عقدت العزم على قراءة بعضٍ من كُتُبه؛ على سبيل المثال، رواية «تبادل الأماكن» ورواية «عالم صغير». ومن بين الشخصيات الرئيسية في هاتين الروايتين، هناك بعض الأكاديميِّين الخياليِّين الذين ينتقلون من نُسخةٍ خياليةٍ لمدينة برمنجهام إلى نُسخةٍ خياليةٍ لمدينة بيركلي بولاية كاليفورنيا. وعندما كنتُ أنا أكاديميًّا حقيقيًّا من مدينة برمنجهام الحقيقية وقد انتقلتُ لتوِّي إلى مدينة بيركلي الحقيقية، شعرتُ حينها أنَّ هذه مُصادفة لا يجدُر بي أن أدعها تمرُّ مرور الكرام دون تمعُّنٍ وانتباه.
لقد أعجبني أحد المشاهد في رواية «عالم صغير»؛ حيث كان بطل الرواية، الذي كان باحثًا أدبيًّا طموحًا، يحضُر مؤتمرًا عالميًّا مُهمًّا ثمَّ يسأل لجنة المُناقشة التي تضُمُّ عددًا من الشخصيات القياديَّة: «ما خطوتكم التالية إذا وافقكم الجميع الرأي؟» أثار ذلك السؤال فزعًا وذُعرًا لأن المُناقشين كانوا مُنهمكين في الصراع الفكري بدلًا من تحرِّي الحقائق ومحاولة الوصول إلى فهمٍ صحيح. وحينها، طرأ سؤال مُشابه في ذهني أريد أن تُجيب عنه الشخصيات القيادية في مجال الذكاء الاصطناعي: «لنفترض أنكم نجحتم، ماذا بعد؟» إن الهدف الأسمى لهذا المجال كان ولا يزال خلق ذكاءٍ اصطناعي يُماثلُ الذكاء البشري أو يفُوقُه. ولكنَّنا لم نفكر، اللَّهُم إلا من بعض المحاولات المُتواضعة، فيما سيئول إليه الحال لو نجحْنا في مسعانا ذاك.
- (١)
أن نهلك جميعًا (سواء بارتطامٍ نيزكي أم كارثةٍ مناخيَّةٍ أم تفشٍّ لوباءٍ خطير وهلُمَّ جرًّا).
- (٢)
أن نعيش مُخلَّدين للأبد (باكتشاف إكسير الحياة والحدِّ من الشيخوخة).
- (٣)
أن نخترع السَّفر بسرعةٍ تفوقُ سرعة الضَّوء ونغزو الكون.
- (٤)
أن تغزُونا كائنات فضائية من حضارةٍ أكثر تطورًا من حضارتنا.
- (٥)
أن نخترع ذكاءً اصطناعيًّا خارقًا.
وتوقَّعت حينها أن يكون الحدث الخامس؛ الذكاء الاصطناعي الخارق، هو الفائز. فهو سيساعدنا على تجنُّب الكوارث المادِّية وتحقيق الخُلُود واختراع السَّفر بسرعةٍ تفوقُ سرعة الضَّوء، إن كانت هذه الأشياء مُمكنة الحدوث أصلًا. كما سينقل حضارتنا البشرية نقلةً كبيرةً، بل قد يخلق حضارةً جديدة تمامًا. فاليوم الذي نخترعُ فيه ذكاءً اصطناعيًّا خارقًا سيكون مُماثلًا، من نواحٍ كثيرة، لليوم الذي تصل فيه كائنات فضائية من حضارةٍ أكثر تطورًا من حضارتنا إلى كوكبنا، لكنَّه في الغالب هو الأقرب للحدوث. ورُبَّما كان أهم ما في الأمر أنَّ الذكاء الاصطناعي هو شيء نملكُ زمامه إلى حدٍّ ما، على عكس الكائنات الفضائية.
مرَّت عدة أشهرٍ، وبالتَّحديد في شهر أبريل عام ٢٠١٤، كنتُ أحضُر مؤتمرًا في أيسلندا عندما تلقَّيت اتصالًا من «الإذاعة الوطنية العامة» يسألونني فيه إذا كنتُ أودُّ أن أجري حوارًا نقاشيًّا حول فيلم «التَّسامي» («ترانسندنس»)؛ الذي كان قد بدأ عرضُهُ حديثًا في الولايات المتحدة. كنتُ قد قرأتُ عددًا من مُلخَّصات حبكة الفيلم وبعض مُراجعاتٍ له، لكنَّي لم أشاهده لأني كنت أعيش في باريس وقتها، ولم يكن ليُعرض هناك إلا في شهر يونيو. ثمَّ اضطُررتُ أن أعرِّج على مدينة بوسطن في طريقي من أيسلندا إلى بيتي لأشارك في اجتماعٍ لوزارة الدِّفاع. وهكذا وفور أن وصلتُ إلى مطار لوجان الدولي بمدينة بوسطن، ركبت سيارة أجرةٍ إلى أقرب دار سينما تعرض الفيلم، ثمَّ جلستُ في الصَّف الثاني وشاهدت المُمثِّل جوني ديب، في دور أستاذ ذكاءٍ اصطناعي ببيركلي، وهو يُواجه محاولة اغتيالٍ من ناشطين مُعادين للذكاء الاصطناعي، وهم، كما جال في خاطرك، جماعة تخشى عواقب الذكاء الاصطناعي الخارق. حينها، انكمشتُ في مقعدي لا إراديًّا. (أهذه مصادفة أخرى يجب أن أقف عندها لأُراجع نفسي؟) وقبل موت الشخصية التي يُجسِّدها جوني ديب، حُمل عقله إلى كمبيوترٍ كمِّي فائق السُّرعة، ثمَّ ما لبث أن صار ذا قدراتٍ تتخطَّى حدود القدرات البشرية وبدأ يُهدِّد بالسيطرة على العالم.
وفي التاسع عشر من شهر أبريل عام ٢٠١٤، نشرتُ مُراجعةً للفيلم على موقع «هافينجيتون بوست» بالمُشاركة مع الفيزيائيِّين ماكس تيجمارك، وفرانك ويلتشك، وستيفين هوكينج. تضمَّنت المُراجعة الجملة التي قلتُها في محاضرة معرض داليتش عن أعظم حدثٍ في تاريخ البشرية. ومنذ ذلك الحين، تبنَّيت علنًا وجهة النَّظر القائلة بأنَّ مجال بحثي قد يُشكِّلُ تهديدًا مُحتملًا لأبناء جنسي البشري.
(١) كيف وصلنا إلى هنا؟
يقوم البرنامج على افتراض أنَّ كل جوانب التَّعلُّم أو أي سمةٍ من سمات الذكاء يُمكن، نظريًّا، أن تُوصَّف توصيفًا دقيقًا بحيث يُمكن جعل الآلات قادرةً على محاكاتها. ستُجرى محاولة لاكتشاف كيفية جعل الآلات تتحدَّثُ اللغة؛ وتصُوغ الأفكار المُجرَّدة والمفاهيم؛ وتعمل على حلِّ ذاك الضَّرب من المشاكل المُستعصية والمقصُور البحث فيها على البشر؛ وتُطوِّر من نفسها. نظُنُّ أنَّ تقدُّمًا ملحوظًا يُمكن أن يُحرز في واحدةٍ أو أكثر من هذه المسائل إذا ما اشتغل بها فريق من العلماء مُنتقًى بعنايةٍ خلال صيفٍ واحد.
لا حاجة بنا للإشارة إلى أنَّ تلك التجربة قد استغرقت وقتًا أطول بكثيرٍ من فصل صيفٍ واحد؛ فنحن ما نزال إلى الآن نعمل على حلولٍ لتلك المسائل.
أصبحتُ أستاذًا في جامعة بيركلي بحُلُول مُنتصف الثمانينيات في القرن العشرين، وكان الذكاء الاصطناعي حينها يشهد صحوةً وانتعاشًا بفضل الإمكانات التجارية لما كان يُدعى بالنظم الخبيرة. وهنا كان ثاني انفجارات فُقَّاعات الذكاء الاصطناعي؛ حين فشلت هذه النظم وأثبتت عدم أهليتها للعديد من المهام التي وُكلت إليها. مرة أخرى، لم تكن الآلات ذكيةً بما يكفي. تبع ذلك شتاء طويل لم تسطع فيه شمس على الذكاء الاصطناعي، وانكمش عدد الطلَّاب في دورة الذكاء الاصطناعي التي أُدرِّسُها من حوالي ما يربو على تسعمائة طالبٍ إلى خمسةٍ وعشرين طالبًا فقط في عام ١٩٩٠.
وهنا تعلَّم مجتمع الذكاء الاصطناعي الدَّرس، وفطن إلى أنَّ الآلات يجب أن تكون أذكى، ولكن كان علينا أن نجتهد ونكدَّ في الدِّراسة لنجعل هذا الأمر مُمكنًا. فتعمَّق المجال في علم الرياضيات، ووطَّد أواصره مع فروع المعرفة العريقة كعلم الاحتمالات والإحصاء ونظرية التَّحكم. وغُرست بُذُور النَّجاحات التي نراها اليوم خلال أيام ذلك الشِّتاء الذي خيَّم على مجال الذكاء الاصطناعي، بما في ذلك الدراسات الأوَّلية على نظم التفكير الاحتمالي الواسع النِّطاق، التي سُمِّيت فيما بعد ﺑ «التَّعلُّم المُتعمِّق».
وها نحن الآن نشهد الذكاء الاصطناعي وهو يظهر في أخبار الصَّفحات الأولى من التَّغطيات الإعلامية كل يومٍ تقريبًا. فقد أُسِّست الآلاف من الشركات النَّاشئة التي يدعمها سيل عارم من التمويلات الاستثمارية. ودرس الملايين من الطلاب دوراتٍ في الذكاء الاصطناعي وتعلُّم الآلة عبر الإنترنت، وصار الخبراء في المجال يتقاضون رواتب بملايين الدولارات. ونذكُر هنا أنَّ الاستثمارات التي تضُخُّها الصَّناديق الاستثمارية والحكومات الوطنية والشركات الكبرى تصل إلى عشرات المليارات من الدولارات سنويًّا؛ أي إن الأموال التي استُثمرت في السنوات الخمس الماضية هي أكثر مما أُنفق على المجال منذ أن بدأ. ومن المُتوقَّع أن تترك التقنيات التي ما تزال في حيِّز التطوير؛ كالسَّيارة الذاتية القيادة والمُساعد الشَّخصي الذكي، أثرًا جوهريًّا في عالمنا خلال العقد القادم. أما المنافع الاقتصادية والاجتماعية المُحتملة التي قد نجنيها من وراء الذكاء الاصطناعي فهي كثيرة ومُتعدِّدة، مما يُعطي زخمًا عظيمًا لمؤسَّسات أبحاث الذكاء الاصطناعي.
(٢) ما الخطوة التالية؟
أيعني هذا التَّقدم السريع والمُتلاحق أنَّنا على وشْك أن تسبقنا الآلات وتتخطانا؟ الإجابة هي لا؛ فهناك العديد من الطَّفرات التقنية التي يجب أن تحدُث أولًا قبل أن نشهد ميلاد آلات ذات ذكاءٍ خارق يفوق الذكاء البشري.
من المعروف أنَّ التَّنبؤ بالطَّفرات العلمية أمر غاية في الصعوبة. ولنُدرك مدى صعوبة الأمر، فلنُلق نظرةً على تاريخ أحد المجالات الأخرى التي بإمكانها أن تُبيد الحضارة الإنسانية وتقضي عليها؛ ألا وهو الفيزياء النَّووية.
المغزى من هذه القصة هو أنَّ المُراهنة على عدم براعة العقل البشري هو رهان خاسر ومُتهور، خصوصًا عندما يكون مُستقبل جنسنا على المحك. مؤخرًا، بدأت موجة إنكارٍ بالظُّهُور داخل مجتمع الذكاء الاصطناعي ذاته، حتى إنها وصلت إلى حدِّ إنكار احتمالية إحراز أيِّ نجاحٍ فيما يتعلق بأهداف الذكاء الاصطناعي الطويلة الأمد. تخيَّل الأمر كسائقٍ يقود حافلةً وركابها هم البشرية جمعاء، ثم قال السَّائق: «سأقود بكم بأقصى سرعةٍ باتِّجاه جرفٍ صخري، ولكن ثقوا بي؛ سينفد منَّا الوقود قبل أن نصل إلى الحافة!»
أنا لا أزعُمُ بقولي هذا أنَّنا «حتمًا» سننجح في مجال الذكاء الاصطناعي، وأظنُّ أنَّ هذا النَّجاح لو حدث، فلن يكون خلال السنوات القليلة المُقبلة. ومع ذلك، فمن الحكمة والحصافة أن نستعدَّ لهذه الاحتمالية. فإن حدثت، ستكون إيذانًا بعصرٍ ذهبي للبشرية. غير أنَّنا يجب أن نعي حقيقة أنَّنا نُخطِّط لابتكار كياناتٍ تفوق البشر ذكاءً. والسؤال هنا هو: كيف نضمن ألَّا تُسيطر علينا تلك الكيانات؟
(٣) ما الذي أخطأنا فيه؟
كان الشعار المُحفِّز لأرباب الذكاء الاصطناعي على مرِّ تاريخه هو «كلَّما كانت الآلات أذكى، كان ذلك أفضل.» وفي الحقيقة أنا على قناعةٍ أنَّ هذا القول قول خاطئ؛ لا لأنِّي أشعر بخوفٍ مُبهمٍ من أن الآلات ستحلُّ محلَّنا، بل أراه قولًا خاطئًا بسبب طريقة فهْمنا لماهية الذكاء.
نحن البشر أذكياء ما دامت فعالنا يُتوقَّع منها أن تُحقِّق غاياتنا.
الآلات ذكية ما دامت فعالها يُتوقَّع منها أن تُحقِّق غاياتها.
ولأن الآلات، على عكس البشر، ليست لها غاياتها الخاصة، فنحن من نُودعها الغايات لتُحقِّقها. بمعنًى آخر؛ نحن نبني آلاتٍ تتوخَّى أمثل الحلول، فنُودع فيها ما نريدها أن تُحقِّقه من أهدافٍ، ثم نُطلقُها.
من الجليِّ إذن أنَّ هذا الإطار العام؛ والذي سأُسمِّيه من الآن فصاعدًا «النمُوذج القياسي»، هو إطار واسع الانتشار وذو قوةٍ وفعالية. ولكن للأسف، «نحن لا نبغي آلات ذات ذكاءٍ بهذا التَّوصيف».
إذا استعملنا، لبُلُوغ الغايات التي ننشُدُها، وسيطًا آليًّا وكُنا لا نستطيع أن نتدخَّل تدخُّلًا كبيرًا في سير عمليَّاته … فجدير بنا أن نتأكَّد أن الغاية التي جعلنا الآلة تسعى لتحقيقها هي الغاية التي نُريد بلوغها حقًّا.
«الغاية التي جعلنا الآلة تسعى لتحقيقها» هي بالضبط الهدف الذي تسعى الآلات لتحقيقه على نحوٍ أمثل في إطار النمُوذج القياسي. ولو وضعنا هدفًا خاطئًا غير الذي نُريده في آلةٍ ذات ذكاءٍ يفوق ذكاءنا البشري، فبلا شكٍّ ستُحقِّقُ ذاك الهدف الخاطئ، وحينها نكون قد خسرنا. وما ذلك التَّصوُّر الكارثي المذكور آنفًا والذي قد تتسبَّبُ فيه مواقع التَّواصل الاجتماعي إلا دلالة مُنذرة لما قد نجنيه إذا ما وظَّفنا الهدف الخاطئ على نطاقٍ عالمي باستعمال خوارزميات غير ذكية إلى حدٍّ كبير. في الفصل الخامس، سأفصح لكم عن بعض النتائج الأسوأ والأكثر كارثية.
ما قُلتُه يجب ألَّا يُثير دهشتكم مُطلقًا؛ فعلى مدار آلاف السنين ونحن نعلم علم اليقين المخاطر التي تُحيطُ بنا حين نحقق غاية آمالنا بالكامل. وفي كل قصةٍ من القصص التي يُعطى فيها أحد الأشخاص ثلاث أمنياتٍ، دائمًا ما تُبطل الأمنية الثالثة آثار الأمنيتين السَّابقتين عليها.
باختصار، يبدو أنَّ محاولات خلق ذكاء خارق للآلات لا يُمكن إيقافُها، غير أنَّ النَّجاح في تحقيق هذا المأرب قد يكون سبب هلاك الجنس البشري. لكن الوقت لم يتأخَّر بعد. لذلك علينا أن نعرف ما الذي أخطأنا فيه وأن نسْعى لإصلاحه.
(٤) هل يُمكننا إصلاح الأمر؟
يكمُن لُبُّ المشكلة في التَّعريف الأساسي لماهية الذكاء الاصطناعي. فنحن نقول إن الآلات ذكية ما دامت فعالها يُتوقَّع منها أن تُحقِّق «غاياتها»، ومع ذلك فنحن لا نملك أسلوبًا فعَّالًا وجديرًا بالثِّقة لنضمن من خلاله أنَّ «غاياتها» هي نفسها «غاياتنا».
تكون الآلات «نافعةً» ما دامت «فعالها» يُتوقَّع منها أن تُحقِّق «غاياتنا».
رُبَّما كان هذا هو ما كان يجبُ علينا فعله منذ البداية.
أصعب جُزءٍ بلا ريبٍ هو أنَّ غاياتنا موجودة بداخلنا — أي داخل كلِّ فردٍ من الثَّمانية مليار بشريٍّ بكل ما حُبينا به من تنوُّعٍ واختلافٍ عظيمين — وليس بداخل الآلات. وبالرغم من ذلك، يُمكنُنا أن نبني آلاتٍ نافعة بنفس هذا المعنى. إن هذه الآلات ستكون غير مُتيقنة من ماهية غاياتنا — ولكنَّنا في النِّهاية أيضًا على نفس الحال — لكن هذه ميزة لا عيب (أي إنها شيء حسن لا شيء سيِّئ). فعدم اليقين بشأن الغايات يضمنُ أن تظلَّ الآلات بالضرورة مُذعنةً للبشر؛ فلسوف تطلُبُ الإذن، وتتقبَّلُ التَّصحيح، وتستسلم لأوامر إيقاف تشغيلها.
إذا استبعدنا افتراض أنَّ الآلات يجب أن تُلقَّم بغاياتٍ وأهدافٍ مُحدَّدة، حينها سنُضطر إلى هدم جُزءٍ من أسس الذكاء الاصطناعي ثمَّ استبداله؛ وهذا الجزء هو المفاهيم الأساسية لما نُحاول الوصول إليه في هذا المجال. كما يعني هذا أيضًا أن نُعيد بناء جُزءٍ كبيرٍ من البنْية الفوقيَّة؛ وهي تلك الأفكار والأساليب المُتراكمة التي تُشكِّل أساس الذكاء الاصطناعي الحالي. سينتُج عن ذلك علاقة جديدة بين البشر والآلات؛ تلك العلاقة التي أرجو أن تُمكِّننا من اجتياز العُقُود القليلة القادمة بنجاح.
