عدم تماثل الثقة: لماذا نغفر خطأ الإنسان ونخشى خطأ الآلة

يمرّ قاضٍ بأصيل يوم سيئ. متعباً، مشتّت الذهن، يحمل تحيزاً لا واعياً كان لينكره لو سُئل عنه، فيقرأ ملف قضية بعناية أقل قليلاً من الملف الذي سبقه. يأتي الحكم خاطئاً، أو على الأقل أسوأ مما كان ينبغي. لا أحد يكتب عن ذلك. لا عنوان في الصحف، ولا تحقيق تنظيمي، ولا محاسبة علنية حول ما إذا كان القضاة، كفئة، جديرين بالثقة في أداء هذا العمل.

ونظام ذكاء اصطناعي يعاون المحكمة نفسها ينتج استشهاداً مُهلوَساً مرة واحدة. فيصير الأمر خبراً. وأحياناً يصير مقالاً في مجلة قانونية. وأحياناً يصير سبباً في تعليق برنامج تجريبي بأكمله.

الميل الأول هو وصف ذلك بالإجحاف، ويستحق هذا الميل أن يُؤخذ على محمل الجد لا أن يُستبعد. لكن الجواب الأمين ليس أننا نتصرف بلا عقلانية حيال الذكاء الاصطناعي، بل أن نمطي إخفاق يبدوان متشابهين من بعيد ليسا على الشكل نفسه إطلاقاً.

الجزء الذي هو تحيّز

بعض هذا اللاتماثل هو في الحقيقة مجرد الطريقة التي يعالج بها الناس المخاطر، وقد دُرس منذ أواخر السبعينيات. فالنموذج القياسي النفسي، الذي عرضه Fischhoff وSlovic وLichtenstein وزملاؤهم في 1978 ولخّصه Slovic في مراجعته المنشورة عام 1987 في مجلة Science (ساينس)، وجد أن أحكام غير المتخصصين على الخطر تتبع بُعدين اثنين لا عدد الوفيات المتوقع. وقد سمّى Slovic أولهما "dread risk" (خطر الرهبة)، ويتحدد بانعدام الشعور بالسيطرة، وبالرهبة، وبالقدرة على إحداث كارثة، وبالعواقب المميتة، وبتوزيع غير عادل للمخاطر والمنافع، وسمّى ثانيهما "unknown risk" (الخطر المجهول)، ويتحدد بمخاطر تُرى غير قابلة للرصد، ومجهولة، وجديدة، ومؤجلة الضرر. والرهبة هي الغالب من البعدين. والنتيجة ليست أن الناس عاجزون عن العدّ: فحين يُسألون مباشرة، يقدّر غير المتخصصين أعداد الوفيات السنوية تقديراً قريباً من تقدير الخبراء. غير أن هذه التقديرات ببساطة ليست ما يتكوّن منه إحساسهم بالخطر.المصادر: Slovic, Perception of Risk, Science 1987 · Fischhoff et al., 1978

فبحساب الميل لكل راكب، تبلغ خطورة قيادة السيارة نحو مئة ضعف خطورة الطيران التجاري المجدول: 7.28 مقابل 0.07 وفاة لكل مليار ميل راكب في أرقام Ian Savage للولايات المتحدة. ويلقى نحو 39,000 أمريكي حتفهم على الطرق كل عام. لكن الفجوة تضيق بحدة مع مقامات أخرى، وبالقياس لكل رحلة بدلاً من كل ميل يقترب النمطان كثيراً، وهو ما يجدر قوله لأن اختيار المقام يؤدي دوراً كبيراً هنا. ومع ذلك، فإن تحطم طائرة ركاب واحدة يجذب من اهتمام التحقيق والتنظيم ما لا يجذبه أي عدد مكافئ من وفيات الطرق.المصادر: Savage, fatality risks across United States transportation modes

والاستشهاد المُهلوَس يقع على البعدين معاً في آن واحد. فهو جديد وضعيف الفهم، وذلك هو الخطر المجهول. وهو يصل عبر نظام اختاره شخص آخر، ويتكثّف في حدث واحد قابل للتسمية بدل أن يكون نمطاً متفرقاً ممتداً على مدى مسيرة مهنية، وتلك هي الرهبة. وبالحكم بهذه السيكولوجيا وحدها، يكون رد الفعل متوقعاً، وهو ليس متعلقاً بالذكاء الاصطناعي حقاً. إذ كان ليحدث مع أي خطر جديد، غامض، يُواجَه دون اختيار.

هذا واقعي، وهو يفسّر جزءاً مما يبدو ازدواجية في المعايير. لكنه لا يفسّره كله.

الجزء الذي ليس تحيّزاً

القاضي المتحيّز أو المنهك ينتج خطأً فردياً خاصاً. يقع في هذه القضية، في هذا الأصيل، بصياغة من يوم سيئ بعينه لشخص بعينه. وهو محدود النطاق. ولا يتكرر تلقائياً في القضية التالية. وعلى امتداد مسيرة مهنية تتبعثر تلك الأخطاء، بعضها في اتجاه وبعضها في اتجاه مضاد، ويمتصّ النظام هذا التشويش امتصاصاً ناقصاً عبر الاستئناف، وعبر السوابق، وعبر التآكل البطيء للسمعة المهنية.

أما النموذج الذي يحمل العيب الكامن نفسه فلا يتبعثر. بل يتكرر. فالقراءة الخاطئة نفسها للنوع نفسه من الشروط، والنقطة العمياء نفسها في الفئة نفسها من الأسئلة، تنطلق على النحو ذاته في كل مرة يتكرر فيها النمط، عبر كل ملف يمسّه النظام، في وقت واحد، إلى أن ينتبه أحد. الإخفاق هنا ليس أصيل يوم سيئ واحد، بل هو كل الأصائل دفعة واحدة، بصمت، وطوال المدة التي يستغرقها الاكتشاف.

وهذا ليس ادعاءً بشأن أيهما أدق. ففي كثير من المقاييس تتفوق الآلة في المتوسط على القاضي المتعب. إنه فارق في الشكل الذي يتخذه الخطأ حين يقع، ولا يمكن رؤية هذا الشكل بالنظر إلى أي حالة مفردة بمعزل عن غيرها.

ولا شيء من ذلك ملاحظة خاصة بنا. فهندسة الموثوقية تسمّيه منذ عقود "common-cause failure" (الإخفاق ذو السبب المشترك): إخفاقات مترابطة تُبطل التكرار الاحتياطي ذاته الذي أُدخل لتحسين الموثوقية، ويُقدَّر أنها تفسّر حصة كبيرة من عدم جاهزية أنظمة الأمان في المحطات النووية. وقد صاغ Kleinberg وRaghavan النسخة الخوارزمية صياغة رسمية في 2021، مبيّنين أن متخذي القرار الذين يتقاربون على خوارزمية مشتركة واحدة قد يكون أداؤهم الجماعي أسوأ من أداء متخذي قرار يستخدمون عمليات فردية متمايزة أقل دقة على المستوى الفردي، دون حاجة إلى أي صدمة خارجية لإنتاج تلك النتيجة. وبيّن Bommasani وزملاؤه النتيجة اللازمة بعد عام: حين تتقاسم الأنظمة مكوناتها، يُرفض الأشخاص أنفسهم في كل مكان.المصادر: Kleinberg & Raghavan, Algorithmic monoculture and social welfare, PNAS 2021 · Bommasani et al., outcome homogenization, 2022

وثمة حدّ واحد لهذه الحجة، لأنه يعني كل من يمسك ملفاً واحداً. الخطأ غير المترابط يتلاشى بالمتوسط عبر قرارات مستقلة كثيرة. لكنه لا يتلاشى بالنسبة لمن يقع عليه، ولا ينفع أي قدر من التبعثر الإجمالي ذلك الموكّل الذي كانت قضيته هي ذلك الأصيل السيئ. فالتمييز يتعلق بما يستطيع النظام ككل امتصاصه، لا بما يستطيع أي ملف بمفرده احتماله.

والقلق ليس افتراضياً، وإن كان وصفه أيسر من عدّه. فاختلاق الاستشهادات في التقاضي موثّق اليوم علناً: سجّلت قاعدة بيانات عامة لقرارات المحاكم ترصده أكثر من 1,600 قضية بحلول منتصف 2026، منها نحو 650 قضية شارك فيها محامون لا المتقاضون دون محامٍ، ويصرّح القائم على جمعها بأن العدد حدّ أدنى وأنه منحاز نحو الولايات القضائية التي يسهل البحث في مذكراتها. أما النظير على مستوى المحفظة، أي نظام امتثال يغفل الفئة نفسها من المخالفات عبر محفظة العملاء بأكملها لأن الخلل يقع في مرحلة سابقة ضمن خطوة الاسترجاع أو التصنيف دون مالك مسمّى، فليست لدينا علماً بأي دراسة حالة منشورة عنه. وهذا الغياب هو بيت القصيد. فنمط الإخفاق الذي لا مالك له هو أيضاً نمط إخفاق لا أحد في موضع يتيح له الإبلاغ عنه.المصادر: AI Hallucination Cases database

الجهاز الذي كففنا عن ملاحظته

وثمة سبب ثانٍ يجعل المقارنة تبدو مجحفة، ولا صلة له بعلم النفس. فنحن لم نبلغ تسامحنا مع الخطأ البشري بقرار أن نكون متساهلين. بل بُني قدر هائل من البنى المؤسسية لالتقاطه وتصحيحه وتسعيره، على مدى قرون، حتى صارت تلك البنى غير مرئية من فرط الألفة.

المراجعة الاستئنافية قائمة لأن قضاة الموضوع يخطئون. والتأمين على المسؤولية المهنية قائم لأن المهنيين يرتكبون أخطاء تُحدث ضرراً حقيقياً. وهيئات الترخيص المهني، ومراجعة الأقران، وسجلات التأديب المعلنة، وجهاز المساءلة المهنية بأكمله، كل ذلك بُني تحديداً لأن الحكم البشري قابل للخطأ ولأن أحداً قرر أن هذه القابلية تحتاج إلى نظام لا إلى اعتذار.

ولم يعد شيء من ذلك يُقرأ بوصفه تدقيقاً. بل يُقرأ بوصفه خلفية. فهو قديم بما يكفي، وموزع على مؤسسات تحظى بالثقة أصلاً توزيعاً واسعاً بما يكفي، حتى لم يعد أحد يشعر بأن أحداً مراقَب. ومع ذلك فهو حاضر، ولا يزال يؤدي عمله، في كل مرة تُستأنف قضية أو تُراجَع رخصة.

وأنظمة الذكاء الاصطناعي لا تملك ذلك الجهاز بعد. وما يبدو مطلباً غير معقول بالكمال هو، في جوهره، مطلب بالنوع نفسه من البنية التي تملكها المؤسسات البشرية بالفعل: سجل لما جرى ولماذا جرى، وطريق لتتبّع نتيجة سيئة رجوعاً إلى سببها، وطرف مسمّى يجيب عنها، وآلية تصحيح لا تتوقف على انتباه أحدهم مصادفة. المطلب ليس ألا يخطئ الذكاء الاصطناعي أبداً، بل أن يخطئ داخل نظام مبني لالتقاط الخطأ، وهو ما يُطلب بهدوء من كل مهني بشري يحمل عمله عواقب.

إلى أين يقود هذا فعلاً

لن يختفي المعيار متى وُجدت تلك البنية. بل سيكفّ عن الإحساس بأنه معيار، كما كفّت المراجعة الاستئنافية عن الإحساس بأنها اتهام للقضاة. والتدقيق الذي تواجهه أنظمة الذكاء الاصطناعي اليوم ليس دليلاً على أن السقف مجحف، بل دليل على أن المحاسبة لا تزال تُبنى على الملأ، ثغرة إثر ثغرة، في المكان نفسه الذي أتيح فيه للبنية البشرية المكافئة بضعة قرون كي تذوب في الأثاث.

والسؤال الجدير بالطرح ليس ما إذا كان الذكاء الاصطناعي سيُغفر له يوماً كما يُغفر لقاضٍ متعب، بل ما إذا كان السجل الذي يخلّفه وراءه قادراً، منذ اليوم الأول، على ما تعلّمت قرون من الاستئنافات وهيئات الترخيص المهني أن تفعله في نهاية المطاف للحكم البشري: أن تحوّل إخفاقاً فردياً إلى إخفاق قابل للتتبع، والقابل للتتبع إلى قابل للتصحيح، قبل أن يعيد نفسه بصمت عبر كل ما يمسّه النظام بعد ذلك.