إساءة استخدام الذكاء الاصطناعي

(١) المُراقبة والمُطاردة والتَّحكُّم

(٢) الأسلحة الفتاكة الذاتيَّة التَّشغيل

تُعرِّف الولايات المُتَّحدة الأمريكية نظم الأسلحة الفتاكة الذاتيَّة التَّشغيل على أنَّها نظم الأسلحة التي «تُحدِّد موقع الأهداف البشرية وتصوِّب وتقضي عليها دون تدخُّلٍ بشري». وقد وُصفت نظم الأسلحة الذاتيَّة التَّشغيل تلك، لسببٍ وجيهٍ، بأنَّها «الاكتشاف الثوري الثالث في مجال الأسلحة»، بعد اختراع البارود والأسلحة النووية.

ربما تكون قد قرأت مقالاتٍ في وسائل الإعلام حول نُظم الأسلحة الذاتيَّة التَّشغيل، والتي غالبًا ما ستُطلق عليها «الروبوتات القاتلة» ثمَّ تزيِّن نفسها بصور من سلسلة أفلام «المدمِّر» «ذا تيرمناتر». وهذا الأمر مُضلِّل على الأقل في نُقطتَين؛ الأولى: أنَّه يُصوِّر الأسلحة الذاتية التَّشغيل بأنها خطر مُحدِق لأنَّها قد تسعى للسيطرة على العالم وتدمير الجنس البشري؛ والثانية: أنه يُوحي بأنَّ تلك الأسلحة ستكون على هيئةٍ بشريةٍ ولها وعي، وشريرة.

شكل ٤-١: (على اليمين) طائرة «هاروب»؛ سلاح الاغتيالات التي من إنتاج شركة صناعات الفضاء الإسرائيلية؛ (على اليسار) صورة ثابتة من مقطع الفيديو الخاص بالدرون الدقيق «سلوتاربوت» تُوضِّح تصميمًا مُحتملًا لسلاحٍ ذاتي التَّشغيل يحتوي على قذيفةٍ صغيرةٍ مُتفجِّرة.

ربَّما تظن أن من الواضح جدًّا أنَّ بناء آلاتٍ يمكنها أن تُقرِّر أن تقتل البشر هو فكرة سيئة جدًّا. لكن عبارة «من الواضح جدًّا» ليست دائمًا مُقنعةً للحكومات، بما في ذلك حكومات بعض الدول المذكورة في الفقرة السابقة، والتي عقدت العزم على تحقيق ما تظنه تفوقًا استراتيجيًّا. سبب آخر أكثر إقناعًا يدعونا لنبذ فكرة الأسلحة الذاتية التَّشغيل هو أنَّها «أسلحة قابلة للتَّوسُّع قادرة على إحداث دمارٍ شامل».

ومصطلح «قابلة للتَّوسُّع» هو أحد مصطلحات مجال علم الكمبيوتر، وتُوصف عملية ما بأنَّها قابلة للتَّوسع إذا كان بإمكانك تنفيذ مليون نسخةٍ منها إذا اشتريت مُكونات كمبيوتر مادية أكثر بمليون مرة. ومثال ذلك هو ما نراه من شركة جوجل التي تُعالج قُرابة الخمس مليارات عملية بحثٍ في اليوم الواحد، ليس بتوظيف ملايين الموظفين، ولكن باستخدام ملايين أجهزة الكمبيوتر. وبشأن الأسلحة الذاتية التَّشغيل، فباستطاعتك أن تُنفِّذ عمليات قتلٍ أكثر بمليون مرة إذا اشتريت أسلحة أكثر بمليون مرة، وهذا راجع تحديدًا إلى أنَّها «أسلحة ذاتية التَّشغيل». فبخلاف الدرونات المُسيَّرة عن بُعد أو رشاشات «آي كيه ٤٧»، فإن تلك الأسلحة الذاتية التَّشغيل لا تحتاج إلى أفرادٍ بشريين لمُراقبة عملهم.

باعتبارها أسلحة دمارٍ شاملٍ، فإن تلك الأسلحة الذاتية التَّشغيل القابلة للتوسُّع تُعطي المُهاجم بعض المُميزات إذا ما قُورنت بالأسلحة النووية والقصف البساطي؛ فهي تترك المباني والأماكن من غير أذًى، ويُمكن أن تُرسَل لتنتقي فقط أولئك الذين قد يُهدِّدون قوات أجنبية مُحتلَّة وتقضي عليهم. وهذا السلاح قد يُستخدَم بالتأكيد لمحو طائفة عرقيةٍ بأكملها من على وجه الأرض أو جميع أتباع دينٍ بعينه (إذا كان لأتباعه صفة ظاهرية مُميِّزة). وفوق كل ذلك، في حين أن استخدام الأسلحة النووية يُعد عتبةً كارثيةٍ، قد نجحْنا (لا لشيءٍ سوى بالحظ المحض) في تجنُّبها منذ عام ١٩٤٥، فإن الأسلحة الذاتية التَّشغيل القابلة للتوسُّع ليس لها مثل تلك العتبة. فالهجمات يُمكن أن تشتد ضراوتها بسلاسةٍ لتصل من ١٠٠ ضحية إلى ١٠٠٠ ضحيةٍ إلى ١٠ آلاف ضحيةٍ إلى ١٠٠ ألف ضحية. وبالإضافة إلى الهجمات الفعلية، فإن مُجرَّد «التهديد» باستخدام هذه الأسلحة يجعلها أداةً فعالة لنشر الرُّعب والقمع. إن تلك الأسلحة ستُقلِّل بشدةٍ من أمن الإنسان على جميع المستويات؛ الشخصي والمحلي والوطني والدولي.

هذا لا يعني أنَّ الأسلحة الذاتية التَّشغيل ستُساهم في نهاية العالَم كما صُوِّر الأمر في سلسلة أفلام «ذا تيرمناتر». إن تلك الأسلحة لا يجب أن تكون ذكيةً على وجه خاص — قد تحتاج السيارات ذاتية القيادة إلى ذكاءٍ أكبر منها — ولن تكون مُهمَّتُها من نوعية المهام «التي تسعى للسيطرة على العالم». إن الخطر الوجودي للذكاء الاصطناعي لن يأتي في المقام الأول من بعض الروبوتات القاتلة ذات الذكاء المحدود. على الجانب الآخر، الآلات ذات الذكاء الخارق إذا تصادمت مع الجنس البشري، فقد تُسلِّح بالطبع نفسها بهذه الطريقة، بتحويل هؤلاء القتلة الآليين الأغبياء نسبيًّا إلى امتداداتٍ مادية لنظام تحكُّمٍ عالمي.

(٣) القضاء على مفهوم العمل الذي عهدناه

جميعنا يُوافق أرسطو في ملاحظته حول حدوث انخفاضٍ فوري في العمالة حين يجد رب العمل وسيلةً آليةً لإنجاز العمل الذي كان يُنجزه العامل البشري سابقًا. والمُشكلة هنا هي ما إذا كانت الآثار الناتجة عن ذلك التَّحوُّل؛ «آثار التَّعويض»، والتي يميل إلى زيادة العمالة، ستُعوِّض حقًّا ذاك الانخفاض الحاصل أم لا. سيقول المتفائلون: نعم سيُعوِّض ذاك الانخفاض، وفي خضمِّ الجدال الحالي، ستراهم يُشيرون إلى جميع الوظائف الجديدة التي ظهرت بعد الثورات الصناعية السابقة. أما المُتشائمون فسيقولون: لا لن يحدث هذا، وسيُجادلونك بأن الآلات هي التي ستتولى إنجاز جميع تلك «الوظائف الجديدة» أيضًا. عندما تحل الآلات مكاننا في الأعمال البدنيَّة الجُهد، يمكن أن نتَّجه إلى الاشتغال بالأعمال الذهنية. لكن ماذا إذا حلَّت الآلات مكاننا أيضًا في إنجاز كل ما يتطلَّب مجهودًا ذهنيًّا، فما الذي بقي لنا؟

صوَّر ماكس تيجمارك هذا الجدال في كتابه «الحياة ٣٫٠» كحوارٍ بين حصانَين حول ظهور مُحرِّك الاحتراق الدَّاخلي في عام ١٩٠٠. تنبأ أحد الحصانين ﺑ «وظائف جديدةٍ للأحصنة. … هذا هو دأب الحياة دائمًا، كما هو الحال عندما اختُرعت العجلة والمحراث». ولكن ما حدث للأسف أنَّ «الوظيفة الجديدة» لمعظم الأحصنة كانت أن يُصنع من لحمها طعام للحيوانات المنزلية الأليفة.

شكل ٤-٢: رسم بياني تصوري للعمالة في مجال طلاء المنازل مع تطوُّر تقنيات الطلاء.

حاول الاقتصاديون قياس حجم تلك الآثار في العديد من الصناعات التي تشهد زيادةً في الأتمتة، لكنَّ النتائج غير نهائية بوجهٍ عام.

عبر التاريخ، كان الاتجاه السائد لدى معظم علماء الاقتصاد الذين ناقشوا هذه القضية، هو النظر إليها باستخدام «الصورة الكلية»: الأتمتة تزيد الإنتاجية، إذن، بنظرةٍ عامة، سيكون البشر أفضل حالًا من ناحية أنَّنا سنستمتع بالمزيد من البضائع والخدمات بنفس القدر من العمل.

عادةً ما كان يُشير هؤلاء الذين يختلفون مع فكرة البطالة التِّقنية إلى وظائف مثل وظيفة الصراف داخل أروقة المصارف، والذي يُمكن للصَّراف الآلي أن يُنجز عمله جزئيًّا، ووظيفة صراف متاجر التجزئة الذي صار يُنجز عمله بسرعةٍ بفضل الأرقام التَّسلسُليَّة (أكواد الباركود) وعلامات رقاقات الراديو اللاسلكية (آر إف آي دي) الملصوقة على البضائع والمنتجات. فهُم عادة ما يدَّعون أنَّ هذه الوظائف تزدهر «بفضل» التطوُّر التِّقني. والحقيقة أنَّ الواقع يُصدِّق هذا الكلام؛ فأعداد الصَّرافين في الولايات المتحدة الأمريكية قد تضاعفت تقريبًا في الفترة ما بين عامي ١٩٧٠ و٢٠١٠، ومع ذلك فمن المُهمِّ أن نعرف أنَّ في نفس الفترة ازداد عدد السُّكان بنسبة ٥٠ بالمائة، وازدهر القطاع المالي بنسبة تزيد على ٤٠٠ بالمائة،²² لذلك من الصَّعب أن نُرجع كل الفضل، أو أي فضلٍ مُطلقًا، في هذه الزيادة في الوظائف إلى الصَّرافات الآلية. وللأسف، في الفترة ما بين ٢٠١٠ و٢٠١٦، فقد نحو ١٠٠ ألف صرافٍ وظائفهم، ومن المُتوقَّع طبقًا لمكتب إحصاءات العمل الأمريكي أن يفقد ٤٠ ألفًا آخرون وظائفهم بحلول عام ٢٠٢٦: «الصَّيرفة الإلكترونية والأتمتة يُتوقَّع أن تستمرَّا في إنجاز المزيد والمزيد من المهام التي كان الصَّرافون عادةً ما ينجزونها».²³ والبيانات المُتاحة بخصوص صراف متاجر التجزئة لا تُبشِّر بخيرٍ؛ فقد انخفض المُعدَّل الفردي ٥ بالمائة في الفترة ما بين عامي ١٩٩٧ و٢٠١٥، ويُخبرنا مكتب إحصاءات العمل أنَّ «التَّطورات التِّقنية مثل منصَّات الدَّفع الذاتي في متاجر التجزئة وازدياد حركة التَّسوق الإلكتروني، ستستمرُّ في تقليل الحاجة لعمل الصرَّافين في المتاجر.» يبدو لنا أنَّ كلا القطاعين قد بدأ رحلته على منحى الهبوط، والأمر ينطبق على جميع المهن المُنخفضة المهارة تقريبًا، التي تتطلَّب العمل جنبًا إلى جنبٍ مع الآلات.

شكل ٤-٣: بيانات الإنتاج الاقتصادي ومتوسط الأجور الفعلي في الولايات المتحدة الأمريكية منذ عام ١٩٤٧. (البيانات مأخوذة من مكتب إحصاءات العمل الأمريكي.)

يُعدُّ البعض «خُططًا انتقالية»، ولكن السؤال هو: انتقالية إلى ماذا؟ نحن نحتاج أن يكون لدَينا وجهة واضحة لنضع خُطَّة انتقالية؛ أي نحتاج صورة واضحةً لاقتصادٍ مستقبلي مقبول تُنجز فيه الآلات مُعظم ما نُسمِّيه اليوم عملًا.

يرى كينز أنَّ السَّعي هو أحد «عادات وغرائز البشر والتي قد غُرست بداخلهم جيلًا بعد الآخر منذ أمدٍ بعيد» وليست «قيمةً حقيقةً من قيم الحياة». كما يتنبأ أنَّ هذه الغريزة ستندثر شيئًا فشيئًا حتى تختفي. وخلافًا لوجهة النَّظر هذه، قد يرى أحدهم أنَّ السَّعي هو جوهر كون الفرد إنسانًا حقيقيًّا. وبدلًا من رؤية السعي والاستمتاع على أنَّهُما شيئان مُنفصلان لا يلتقيان، فإنَّهُما غالبًا ما يُلازم أحدهما الآخر؛ فالمُتعة الحقيقية والإحساس الدائم بروعة الإنجاز يتأتَّيان من وجود غايةٍ ما وتحقيقها (أو على الأقل مُحاولة تحقيقها)، غالبًا في مواجهة الصِّعاب والعقبات، وليس من الاستهلاك السَّلبي للمُتع المُباشرة؛ فهناك فرق بين تسلُّق جبل إيفرست وبين أن تُنقل إلى قمَّته بطائرةٍ مروحية.

جميعنا نحتاج إلى مساعدة في تعلُّم «فن الحياة». هذه ليست مسألة اعتمادية، بل مسألة نُمُو. إن القدرة على إلهام الآخرين وإكسابهم حس التَّذوق والإبداع — في الفن أو الموسيقى أو الأدب أو المُحادثة مع الغير أو البستنة أو الفنون المعمارية أو الطعام أو الشَّراب أو ألعاب الفيديو — سنحتاج إليها على الأرجح أكثر من أي وقتٍ مضى.

المسألة التالية هي توزيع الدَّخل. في أغلب البلدان، هذا الأمر ينحرف إلى طريقٍ خاطئ مُنذ عدة عُقودٍ. إنها مسألة معقَّدة، ولكنَّ هناك شيئًا واحدًا واضحًا كالشَّمس؛ وهو أن الدَّخل المُرتفع والحالة الاجتماعية العالية غالبًا ما يتأتَّيان من تقديم قيمةٍ مضافة عالية. ولنضرب مثالًا؛ مهنة مجال رعاية الأطفال تُربط بالدَّخل المُنخفض والحالة الاجتماعية المُتدنِّية. وهذا راجع في بعضٍ منه كنتيجةٍ لجهلنا بأُسُس تلك المهنة وكيفية أدائها. بعض المُشتغِلين بهذا يُؤدُّونها غريزيًّا على نحوٍ جيد، لكنَّ الأغلبية ليسوا كذلك. قارن هذا مثلًا بمهنة جراحة العظام. ببساطةٍ، لن نذهب نحن إلى مُراهقٍ ملول يحتاج إلى المال ثمَّ نختاره للعمل كجرَّاح عظامٍ لقاء خمسة دولاراتٍ في الساعة إلى جانب السَّماح له بحشو معدته بما يُريد من ثلاجة المنزل. لقد استثمرنا قُرونًا من البحث لمعرفة جسد الإنسان وكيفية علاج أجزائه حين يحدث بها عطب، وجرَّاح العظام عليه أن يخضع لسنواتٍ من التدريب ليحصُل على كل هذه المعرفة والمهارات المطلوبة لتطبيقها. ولهذا، فإنَّ جرَّاحي العظام يحصلون على دخلٍ مُرتفعٍ ويتمتَّعون بمكانةٍ اجتماعيةٍ راقية. وهم لا يحصلون على دخلٍ مُرتفع فقط لأنَّ لديهم الكثير من المعرفة ويخضعون للكثير من التدريب، بل أيضًا لأنَّ جميع تلك المعرفة والتدريب تُؤتي ثمارها. فهي تُمكِّنُهم من المُساهمة بقيمةٍ كبيرة في حياة الآخرين، خصوصًا ذوي العظام المكسورة.

إعادة النظر في مؤسستنا التعليمية والبحثية، لتوفير تلك العلوم الأساسية ولتحويلها إلى برامج تدريبية وتخريج أفراد مؤهَّلين، ستستغرق عُقودًا من الزمان، لذلك أظنُّها فكرةً جيدةً أن نبدأ الآن، ويا لها من حسرةٍ أنَّنا لم نبدأ منذ زمنٍ بعيد. والنتيجة النهائية (إن نجح الأمر) ستكون عالمًا يستحقُّ أن نحيا فيه. أما بدون عملية إعادة النظر هذه، فإننا نُخاطر بمستوًى غير مُحتمل من الاضطراب الاجتماعي والاقتصادي.

(٤) الاستيلاء على أدوار أخرى للبشر

علينا أن نُفكِّر جيدًا قبل أن نسمح للآلات بأن تضطلع بأدوار تشمل خدماتٍ تفاعلية بين الأفراد. وإذا جاز القول إن إنسانيتنا هي نقطة قوتنا الرئيسية في التعامُل مع غيرنا من البشر، حينها سيبدو صُنعُ آلاتٍ تُحاكي البشر فكرةً سيئةً. لُحسن حظِّنا، نحن البشر لدَينا ميزة واضحة نتفوَّق بها على الآلات في أمر معرفة ما يشعر به غيرنا من البشر وكيف سيتصرَّفون. إن جميع أفراد الجنس البشري تقريبًا يعرفون ماهيَّة شعور أن يضرب المرء إبهامه بمطرقة، أو يُحبَّ حبًّا غير مُتبادل.

إذا نظرنا إلى الروبوتات كأدواتٍ بحثيةٍ، فقد نستخلص منهم رُؤًى حول كيفية تفسير البشر لسلوك الروبوتات وتواصلهم. أما إذا نظرنا إليهم كنماذج أولية لمُنتجاتٍ تجارية مُستقبلية، فإنهم سيُمثِّلون نوعًا من التضليل والكذب. فهُم يتجنَّبون وعينا المُدرك ويُخاطبون عواطفنا مُباشرةً، وُربَّما يُقنعُوننا بأنَّهم قد وُهبوا ذكاءً حقيقيًّا. تخيَّل مثلًا مدى سُهولة أن تُغلق وتُعيد تشغيل روبوت على شكل صندوقٍ رمادي جاثم لأنَّ به مشكلة ما (حتى ولو كان يملأ الدنيا صياحًا ويُخبُرك أنَّه لا يُريد أن يُطفأ)، وما هي صعوبة فعل نفس الشيء مع روبوتات مثل «جيا جيا» أو «جيمينويد دي كيه». تخيَّل أيضًا كم سيكون مُربكًا وربما يُسبِّب اضطراباتٍ نفسيةً للأطفال والرُّضَّع إذا وضعوا تحت رعاية روبوتات تبدو مثل البشر، مثل آبائهم، لكنَّهم ليسوا كذلك؛ ويُظهرون العطف والرِّعاية، مثل آبائهم، لكنَّهم في الحقيقة ليس لديهم مشاعر أصلًا.

شكل ٤-٤: (على اليمين) «جيا جيا»، الروبوت الذي صُنع في جامعة العلوم والتِّقنية الصينية. (على اليسار) «جيمينويد دي كيه»، الروبوت الذي من تصميم هيروشي إشيجورو من جامعة أوساكا اليابانية، والذي صُمِّم لمُحاكاة وجه هينريك شيرفا من جامعة آلبورج الدانمركية.

لا فائدة حقيقية تُرجى من صُنع روبوتات على هيئةٍ بشريةٍ إلا فيما عدا القُدرة الأساسية على توصيل المعلومات غير اللفظية عبر تعبيرات الوجه وحركات تقاسيمه؛ تلك التي استطاعت حتى الشخصية الكارتونية «بجز بني» أداءها بسهولةٍ ويُسر. وهناك أيضًا أسباب وجيهه وعمليَّة تدفعُنا ألا نضع الروبوتات في قالبٍ بشري؛ مثلًا، هيئتنا نحن البشر الواقفة على قدمَين أقل ثباتًا إذا ما قُورنت بالمشي على أربع. إن القطط والكلاب والأحصنة تندمج مع حياتنا البشرية على نحوٍ جيدٍ وهيئتها البدنيَّة دليل واضح جدًّا على طريقة تصرُّفها المتوقعة. (تخيَّل أنَّ حصانًا بدأ يتصرَّف فجأة ككلب!) وهذا الأمر يجب أن ينطبق على الروبوتات أيضًا. رُبَّما هيئة لها أربع أرجلٍ وذراعان وتركيب جسدي على هيئة كائن القنطور الأسطوري سيكون نموذجًا قياسيًّا مقبولًا. أما أن تُحاكي الروبوتات البشر في جميع التَّفاصيل، فهو يُشبه صُنع سيارة فيراري سُرعتها القُصوى ٥ أميالٍ في الساعة، أو مُثلَّجاتٍ بطعم التُّوت، لكنَّها في الحقيقة مصنوعة من معجون شرائح الكبدة المصبوغ بلون البنجر الأحمر.

بعبارةٍ أخرى، سيُصبح «الروبوت» مسئولًا أمام القانون عن أيِّ ضررٍ يُوقعُه، بصرف النَّظر عن صاحبه أو مُصنِّعه. وهذا يُوحي بأنَّ الروبوتات سيكون لهم أصول مالية وسيكونون عُرضة للعقوبات إن لم يلتزموا بالقوانين. إن هذا الكلام مُجرَّد هُراءٍ لا معنى له. مثلًا، إذا كُنا سنزُجُّ بأحد الروبوتات في السِّجن لعدم سداده المُستحقات المالية، فما الذي سيضيره إذا سُجن؟

شكل ٤-٥: ماكس (الذي يقوم بدوره المُمثِّل مات دايمن) وهو يُقابل ضابط الإفراج المشروط في فيلم «إليزيام».

يُمكن للمرء أن ينظر إلى هذا الاعتداء على الكرامة الإنسانية بطريقتَين. الطريقة الأولى هي المُباشرة؛ وهي أنَّ بإعطاء الآلات سُلطةً على البشر، فنحن نُنزل من أنفسنا كجنسٍ بشري إلى مرتبةٍ أقل ونفقد حق المشاركة في اتخاذ القرارات التي تمسُّ حياتنا. (وإعطاء الآلات السُّلطة لقتل البشر، كما ناقشنا في نقطةٍ سابقةٍ في هذا الفصل، هو مثال أكثر تطرفًا لهذا.) أما الطريقة الثانية فهي طريقة غير مباشرةٍ؛ فحتى وإن كنت تُؤمن أنَّ «الآلات» ليست هي من تتَّخذ القرارات، بل «الأشخاص الذين صمَّمُوا تلك الآلات وكلَّفوها بمهامها»، فحقيقة أنَّ هؤلاء المُصمِّمين البشريِّين وما فعلوه من تجاهلٍ لأهمية النَّظر إلى الظروف الشَّخصية لكل فردٍ على حدةٍ في تلك الحالات، تُشير إلى أنَّهم قد أعطوا قيمةً ضئيلةً لحياة الآخرين. وقد يكون هذا علامةً على بداية انشقاقٍ عظيمٍ بين النُّخبة الذين يُخدمون بيد البشر، وبين بقيَّة الطبقات المُتدنية الذين تخدمهم الآلات وتتحكَّم فيهم.

رغم أنَّ هذا يبدو رائعًا في منطقه، فإنَّنا لا نعرف بعد (على الأقل في وقت كتابة هذا الفصل) مقدار الأثر الذي سيتركه عمليًّا. فغالبًا ما يكون من الأسهل والأسرع والأرخص أن ندع الآلات تتَّخذ القرارات.

وأحد الأسباب التي تدعونا للقلق من القرارات المُؤتمتة هو احتمالية ما يُطلق عليه «انحياز الخوارزميات» — وهو ميل خوارزميات تعلُّم الآلة إلى اتِّخاذ قراراتٍ مُنحازةٍ على نحوٍ غير سليم في أمورٍ مثل القروض والتَّسكين والوظائف والتأمين وإطلاق السَّراح المشروط والعقوبات والتسجيل الجامعي وهلُمَّ جرًّا. والاستناد الصَّريح إلى معايير مثل العرق في هذه القرارات مُجرَّم منذ عقود في العديد من الدول، ومُحظور بنصِّ المادة رقم ٩ من النظام العام لحماية البيانات الخاص بالاتحاد الأوروبي في عددٍ كبيرٍ من التطبيقات. وهذا لا يعني بالطَّبع أنَّ باستبعاد العرق من البيانات، سنحصل بالضرورة على قراراتٍ غير مُنحازةٍ عرقيًّا. على سبيل المثال، بداية من ثلاثينيات القرن الماضي، أقرَّت الحكومة الأمريكية تطبيق مُمارسة التمييز ضدَّ بعض المناطق، والتي تسبَّبت في حرمان بعض الأرقام البريدية من إقراض الرهن العقاري وغيره من أنواع الاستثمار المُختلفة، مما أدي إلى انخفاضٍ في قيمة العقارات. ثمَّ اكتشفنا فجأة أنَّ تلك الأرقام البريدية كان أغلبها لأمريكيين من أصولٍ أفريقية.

في الوقت الحاضر، نحن لا نعرف كيف ستطبق المحاكم هذه العبارة وتُدخلها حيِّز التنفيذ. من المُحتمل أن المُستهلك البائس سيُعطى فقط وصفًا لخوارزمية التَّعلُّم المُتعمِّق المُستخدمة في تدريب المُصنِّف الآلي الذي اتَّخذ القرار.

إذا كان إعطاء الآلات سلطة على أفرادٍ من الجنس البشري قد يُخلِّف بعض المشاكل أحيانًا، فما بالك بإعطائها السُّلطة على جماعاتٍ من البشر؟ بعبارة أخرى، أيجب علينا أن نُعطي للآلات أدوارًا سياسية وإدارية؟ في الوقت الحالي قد يكون هذا التَّصور بعيدًا جدًّا؛ فالآلات لا تستطيع أن تنخرط في محادثاتٍ طويلة وتفتقِر إلى فهم أبسط العوامل المتعلقة باتِّخاذ القرارات على نطاقٍ واسعٍ؛ مثل: هل ترفع الحد الأدنى للأجور أم لا؟ أو هل ترفض عرض استحواذٍ من شركةٍ أخرى؟ لكن الاتجاه العام واضح كالشمس؛ فالآلات تتخذ قراراتٍ على مستوياتٍ أعلى من التَّحكُّم في العديد من المجالات. لنأخذ شركات الطيران كمثال. في البداية، بدأت أجهزة الكمبيوتر في المساعدة في تنظيم جداول الرحلات. لم يمضِ الكثير من الوقت حتى تولَّت عملية توزيع طواقم الطيران، وحجز المقاعد، وإدارة عمليات الصيانة الدورية. لاحقًا، جرى توصيلها بشبكات المعلومات العالمية لتُوفِّر لمديري شركات الطيران تقارير فورية عن الحالة حتى يستطيعوا التعامُل مع أي مشكلةٍ على نحو فعَّال. أما الآن، فهي تتولَّى مهمة إدارة المشكلات، من إعادة توجيه الطائرات، وإعادة جدولة مواعيد الطواقم، وإعادة حجز المقاعد للمُسافرين ومُراجعة جداول الصيانة.

قبل أن تُوجَد أي تقنيةٍ على الأرض، عاش البشر كغيرهم من الحيوانات عيشة الكفاف. لقد وقفنا على أرجلنا، إن جاز التعبير. وبدأ فجر التقنية يبزُغ شيئًا فشيئًا اعتمادًا على هرم من الآلات، وبدأنا نترك بصمتنا كأفرادٍ وكجنسٍ بشري. هناك العديد من الطرائق لتصميم العلاقة بين البشر والآلات؛ فإذا ما صمَّمناها ليظلَّ البشر على قدرٍ كافٍ من الفهم والسُّلطة والاستقلالية، فإن الأجزاء التقنية من هذا النظام يمكن أن تزيد من قدرات البشر زيادةً عظيمةً، مما سيجعل كل واحدٍ منا يقف على قمَّة هرمٍ من المهارات والقدرات، كأنَّه نصف إله إن جاز القول. لكن لننظر بعين الاعتبار إلى العاملة في مستودع متجرٍ إلكتروني. سنرى أنَّها أكثر إنتاجيةً من أسلافها؛ لأنَّ لديها جيشًا صغيرًا من الروبوتات الذين يُحضرون لها حاويات التَّخزين لتلتقط المنتجات منها، لكنها في الوقت نفسه، تُعدُّ جزءًا من نظامٍ أكبر تتحكَّم فيه خوارزميات ذكية تُقرِّر أين يجب أن تقف تلك العاملة وما هي المنتجات التي عليها أن تلتقطها وتُرسلها للشَّحن. إنها في هذه الحالة تُعتبر نصف مدفونةٍ في ذاك الهرم، وليست واقفةً على قمَّته. وما هي إلا مسألة وقتٍ حتى تملأ الرِّمال ما تبقى من مساحةٍ في الهرم ويختفي دورها للأبد.