حوكمة أخلاقيات الذكاء الاصطناعي: الخطوات التسع الرئيسية للانتقال من الصفر إلى التشغيل

يمكن للجميع تعلم أخلاقيات حوكمة الذكاء الاصطناعي — بشرط اتباع الخطوات بالترتيب الصحيح. لقد لخصنا دورة كاملة من 35 درسًا في مسار واضح، مع أكثر مقتطفات الكود فائدة.

لماذا أخلاقيات الذكاء الاصطناعي الآن؟

الأهداف التعليمية

المسرّع رقم 1: تعميم نماذج اللغة الكبيرة

في نوفمبر 2022، شكّل إطلاق ChatGPT نقطة تحول. في شهرين فقط، وصلت الأداة إلى 100 مليون مستخدم، رقما قياسيا مطلقا لخدمة موجهة للجمهور العام. فجأة أصبح بإمكان كل موظف وكل طالب وكل صحفي توليد نصوص وأكواد وتحليلات.

وتتعدد النتائج:

المسرّع رقم 2: صدور لائحة EU AI Act

تم اعتماد اللائحة (EU) 2024/1689 — المعروفة باسم «EU AI Act» — في مارس 2024، وهي أول قانون عام للذكاء الاصطناعي في العالم. وتُطبَّق تدريجيا بين 2025 و2027.

نظرة عامة

الجدول الزمني

تأثير الامتداد

يغير وصول معيار ملزم كل شيء: لم يعد الأمر يتعلق بـ«بذل أفضل جهد»، بل بـالتوثيق والتدقيق والاعتماد.

المسرّع رقم 3: الضغط المجتمعي والسمعي

تراقب وسائل الإعلام والمنظمات غير الحكومية (Algorithm Watch، AI Now Institute، La Quadrature du Net) والنقابات والمستهلكون استخدامات الذكاء الاصطناعي. وأي قضية تُدار بشكل سيئ تتحول إلى فضيحة في ساعات قليلة على وسائل التواصل.

أمثلة حديثة:

التنبيه رقم 1: COMPAS والقضاء الأمريكي (2016)

نشرت منظمة ProPublica تحقيقا في مايو 2016 حول أداة COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) التي يستخدمها القضاة الأمريكيون لتقدير خطر العودة إلى الجريمة.

التنبيه رقم 2: أمازون والفرز الجنسي للسير الذاتية (2018)

كشفت رويترز أن أمازون طوّرت بين 2014 و2017 أداة داخلية للفرز الآلي للسير الذاتية. تعلّم النموذج على 10 سنوات من الطلبات السابقة (التي كانت غالبيتها ذكورية في مجال التقنية)، فأصبح يفضل سير الرجال بشكل منهجي.

كان النموذج يعاقب أي ذكر لكلمة «women’s» (مثل women’s chess club) ويفضل أفعالا «ذكورية» مثل «executed» أو «captured». تخلت أمازون عن المشروع.

التنبيه رقم 3: Tay وهشاشة روبوتات الدردشة (2016)

أطلقت مايكروسوفت Tay، روبوت دردشة على تويتر كان من المفترض أن يتعلم «بالمحادثة». في أقل من 24 ساعة، درّبه مستخدمون سيئون على إصدار تصريحات عنصرية وإنكارية وجنسية. سحبت مايكروسوفت الأداة.

التكلفة الحقيقية لانحراف الذكاء الاصطناعي

الإنصاف (fairness)

الأهداف التعليمية

ما هو «الذكاء الاصطناعي العادل»؟

يغطي مصطلح fairness واقعا معقدا: يتعلق بالتأكد من أن النظام لا يضر بشكل غير مبرر ببعض الأشخاص بسبب سمة محمية (الجنس، الأصل، العمر، الإعاقة، الدين…).

في القانون الفرنسي، تُدرج هذه السمات في المادة 225-1 من قانون العقوبات وقانون 27 مايو 2008. ويُحظر أي تمييز مباشر أو غير مباشر مبني على هذه المعايير، حتى لو صدر عن خوارزمية.

مقاييس الإنصاف الأربعة الكبرى

1. التكافؤ الديموغرافي (Demographic Parity)

يجب أن يكون معدل التنبؤ الإيجابي متطابقا بين المجموعات المحمية.

مثال: 30٪ من الرجال و30٪ من النساء يُقبلون للحصول على قرض.

2. تكافؤ الفرص (Equal Opportunity)

بين الأشخاص الذين يستحقون نتيجة إيجابية، يجب أن يكون معدل القبول متساويا بين المجموعات.

مثال: من بين المرشحين المؤهلين، يتم اختيار 80٪ من الرجال و80٪ من النساء.

3. تكافؤ الأخطاء (Equalized Odds)

يجب أن تكون معدلات الإيجابيات الكاذبة والسلبيات الكاذبة متطابقة بين المجموعات.

4. المعايرة

عندما يتنبأ النموذج بنسبة خطر 70٪، يجب ملاحظة 70٪ من الحالات الحقيقية، وهذا ينطبق على جميع المجموعات.

استحالة كلاينبرغ (2017)

تفسر هذه النتيجة (كلاينبرغ، مولايناثان، راغافان، 2017) سبب عدم وجود إجابة بسيطة جيدة لنقاش COMPAS: أكدت Northpointe أن النموذج معايَر، بينما قاست ProPublica تفاوت الأخطاء. كلاهما كان محقا… وفق معياره الخاص.

كيف تختار تعريفك؟

حالة عملية: قاعدة الأربعة أخماس (الولايات المتحدة)

في الولايات المتحدة، تضع Uniform Guidelines on Employee Selection Procedures الصادرة عن EEOC «four-fifths rule» (1978): يجب ألا يقل معدل اختيار المجموعة المحمية عن 80٪ من معدل المجموعة الأكثر اختيارا.

حالات شهيرة — COMPAS، أمازون، Apple Card

الأهداف التعليمية

الحالة 1: COMPAS (Northpointe / Equivant)

النظام

COMPAS — Correctional Offender Management Profiling for Alternative Sanctions — أداة مساعدة في اتخاذ القرار تستخدم منذ أوائل العقد الأول من القرن الحادي والعشرين من قبل القضاة الأمريكيين. تتنبأ بخطر العودة إلى الجريمة من خلال 137 سؤالا يملأها المتهم وخدمة المراقبة.

يُستخدم النتيجة (من 1 إلى 10) لاتخاذ قرار بشأن الإفراج المشروط أو مبلغ الكفالة أو مدة العقوبة.

تحقيق ProPublica (2016)

حللت ProPublica 7000 نتيجة في فلوريدا وقارنتها بعمليات إعادة الاعتقال على مدى عامين. النتائج:

دفاع Northpointe

ردت Northpointe: نموذجها معايَر، لذا فهو عادل لكل فرد. يكشف الجدل عن استحالة كلاينبرغ: لا يمكن الحصول على المعايرة وتكافؤ الأخطاء معا إذا اختلفت المعدلات الأساسية.

الدروس

الحالة 2: توظيف أمازون (2014-2018)

السياق

طوّرت أمازون منذ 2014 أداة داخلية للفرز الآلي للسير الذاتية لوظائفها التقنية. تم تدريب النموذج على 10 سنوات من الطلبات، والهدف «سير ذاتية تشبه الملفات التي تم توظيفها خلال السنوات العشر الماضية».

المشكلة

كانت الملفات الموظفة ذكورية بأغلبية ساحقة (قطاع التقنية كان تاريخيا ذكوريا). تعلّم النموذج إذن تفضيل الرجال.

وبشكل أدق:

الرد

تخلت أمازون عن المشروع في 2017 ولم تنشر الأداة «في الإنتاج» أبدا. ظهرت المعلومات في رويترز عام 2018 لتصبح حالة دراسية عالمية.

الدروس

الحالة 3: Apple Card (2019)

المحفز

في نوفمبر 2019، غرد المطور ديفيد هاينماير هانسون: هو وزوجته يتشاركان حساباتهما، لكنها حصلت على حد ائتماني أقل بـ20 مرة من حده على بطاقة Apple Card الجديدة (المصدرة من Goldman Sachs). أصبح التغريدة فيروسية.

الأسئلة الشائعة

📬 هل تريد تلقي هذا النوع من الأدلة كل أسبوع؟ اشترك مجانا — كود حقيقي، بدون كلام فارغ.