قالت أشويني ك. ب.*، المقررة الخاصة للأمم المتحدة المعنية بالأشكال المعاصرة للعنصرية والتمييز العنصري وكره الأجانب وما يتصل بذلك من تعصّب:
“إن التطورات الأخيرة في مجال الذكاء الاصطناعي التوليدي، والتوسع المتزايد في استخدام الذكاء الاصطناعي، لا تزال تثير قضايا خطيرة تتعلق بحقوق الإنسان، بما في ذلك المخاوف بشأن التمييز العنصري.”

وأشارت أشويني ك. ب.، خلال الحوار التفاعلي لإطلاق تقريرها الجديد في الدورة السادسة والخمسين لمجلس حقوق الإنسان في جنيف، سويسرا، إلى وجود اعتقاد راسخ وضار بأن التكنولوجيا محايدة وموضوعية.

وفي تقريرها، تستعرض كيف يسمح هذا الافتراض للذكاء الاصطناعي بإدامة التمييز العنصري.

وقالت:
“يُحدث الذكاء الاصطناعي التوليدي تغييرًا في العالم، وله القدرة على إحداث تحولات مجتمعية عميقة في المستقبل. وأنا أشعر بقلق بالغ إزاء الانتشار السريع لتطبيقات الذكاء الاصطناعي في مختلف المجالات. وليس ذلك لأن الذكاء الاصطناعي يخلو من الفوائد المحتملة، بل على العكس، فهو يقدّم فرصًا للابتكار والشمول.”

ومن الأمثلة الواضحة على إعادة إنتاج التحيزات العنصرية من خلال التقدم التكنولوجي، ما يُعرف بالشرطة التنبؤية. إذ تقوم أدوات الشرطة التنبؤية بتقدير من قد يرتكب جرائم مستقبلية، وأين قد تقع هذه الجرائم، استنادًا إلى بيانات الموقع والبيانات الشخصية.

وأضافت:
“يمكن للشرطة التنبؤية أن تفاقم الإفراط التاريخي في استهداف مجتمعات معينة على أساس عرقي أو إثني. وبما أن سلطات إنفاذ القانون ركزت تاريخيًا اهتمامها على هذه الأحياء، فإن أفراد هذه المجتمعات ممثلون بشكل مفرط في سجلات الشرطة. وهذا بدوره يؤثر على الأماكن التي تتنبأ الخوارزميات بوقوع الجرائم فيها مستقبلاً، مما يؤدي إلى زيادة انتشار الشرطة في تلك المناطق.”

ووفقًا لنتائجها، تعتمد خوارزميات الشرطة التنبؤية القائمة على الموقع على الروابط بين الأماكن والأحداث وبيانات الجرائم التاريخية للتنبؤ بموعد ومكان الجرائم المستقبلية، وعلى هذا الأساس تخطط قوات الشرطة لدورياتها.

وجاء في التقرير:
“عندما يسجل الضباط مخالفات جديدة في الأحياء التي تشهد إفراطًا في المراقبة، تتشكل حلقة تغذية راجعة، حيث تولد الخوارزمية تنبؤات أكثر انحيازًا تستهدف هذه الأحياء. وباختصار، يؤدي التحيز في الماضي إلى تحيز في المستقبل.”

كما أشارت إلى أن بيانات الاعتقال السابقة، والتي غالبًا ما تكون متأثرة بالعنصرية المنهجية في أنظمة العدالة الجنائية، يمكن أن تشوّه التنبؤات المستقبلية للخوارزميات.

وأضافت:
“إن استخدام متغيرات مثل الخلفية الاجتماعية والاقتصادية، ومستوى التعليم، والموقع الجغرافي، يمكن أن يعمل كمؤشرات بديلة عن العرق، ويساهم في ترسيخ التحيزات التاريخية.”

ويقدّم التقرير أيضًا تحليلًا موجزًا للجهود المبذولة لتنظيم وإدارة الذكاء الاصطناعي على المستويات الوطنية والإقليمية والدولية.

وقالت:
“ينبغي أن يستند استخدام الذكاء الاصطناعي إلى معايير القانون الدولي لحقوق الإنسان. ويُعدّ الاتفاق الدولي للقضاء على جميع أشكال التمييز العنصري الإطار الأكثر شمولًا لحظر التمييز العنصري.”

كما أشارت إلى أن هناك مجالات أخرى يشكّل فيها الذكاء الاصطناعي مخاطر، منها قطاع الرعاية الصحية، حيث تبين أن بعض الأدوات المستخدمة لتقدير المخاطر الصحية تعتمد عوامل تصحيح قائمة على العرق. كما وجدت أن استخدام الذكاء الاصطناعي في التعليم قد يتضمن تحيزات عنصرية، إذ غالبًا ما تُقيّم خوارزميات النجاح الأكاديمي والمهني الأقليات العرقية على أنها أقل احتمالًا للنجاح، نتيجة تصميم الخوارزميات واختيار البيانات، مما يؤدي إلى تكريس الإقصاء والتمييز.

وفي بيان رؤيته بعنوان “حقوق الإنسان: مسار للحلول”، قال مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك إن الذكاء الاصطناعي التوليدي يوفّر فرصًا غير مسبوقة لتعزيز التمتع بحقوق الإنسان، إلا أن آثاره السلبية على المجتمع آخذة في التزايد بالفعل.

وأضاف:
“في المجالات التي تكون فيها المخاطر على حقوق الإنسان مرتفعة بشكل خاص، مثل إنفاذ القانون، فإن الخيار الوحيد هو التوقف مؤقتًا إلى حين إدخال ضمانات كافية.”

وبالنسبة لأشويني ك. ب.، ورغم الإمكانات الحقيقية للذكاء الاصطناعي، فإنه ليس حلًا لجميع المشكلات المجتمعية، ويجب إدارته بفعالية لتحقيق التوازن بين فوائده ومخاطره.

كما أكدت أن تنظيم الذكاء الاصطناعي يُعد وسيلة لضمان هذا التوازن، وأوصت بأن تقوم الدول بالتعامل مع تحديات تنظيمه بإلحاح أكبر، مع مراعاة مسألة استدامة التمييز العنصري، وأن تطور أطرًا تنظيمية قائمة على فهم العنصرية المنهجية وقانون حقوق الإنسان، وأن تُقر التزامًا قانونيًا بإجراء تقييمات شاملة للعناية الواجبة في مجال حقوق الإنسان، بما في ذلك معايير واضحة لتقييم التحيز العرقي والإثني في جميع مراحل تطوير ونشر تقنيات الذكاء الاصطناعي، إضافة إلى النظر في حظر استخدام الأنظمة التي ثبت أنها تنطوي على مخاطر غير مقبولة على حقوق الإنسان، بما في ذلك تلك التي تعزز التمييز العنصري.

واختتم فولكر تورك بالقول:
“إن وضع حقوق الإنسان في صميم كيفية تطوير التكنولوجيا واستخدامها وتنظيمها أمر بالغ الأهمية في مواجهة هذه المخاطر.”

*عُيّنت أشويني ك. ب. مقررة خاصة من قبل مجلس حقوق الإنسان في أكتوبر 2022. وهي أكاديمية وناشطة وباحثة تركز على قضايا الإقصاء الاجتماعي والعرق والتمييز القائم على النسب والتقاطعية. وهي زميلة زائرة في جامعة ستانفورد، وقد عملت أستاذة مساعدة في الهند، وهي أيضًا المؤسسة المشاركة لمنظمة “زاريا: تحالف النساء من أجل الكرامة والمساواة”، التي تعمل على بناء التضامن وربط النساء من مختلف الفئات المهمشة في الهند. كما مثّلت نساء الداليت في عدة مجموعات من المجتمع المدني، وساهمت في تمكين النساء من المجتمعات المهمشة وتعزيز مشاركتهن في مواقع صنع القرار ضمن العمل النضالي والحركات الاجتماعية.