في حوار مع رافي أغراوال ضمن منتدى مجلة «فورين بوليسي»، تربط الصحافية الحائزة على جائزة نوبل للسلام بين قوة شركات التكنولوجيا، واستقلال الصحافة، وقدرة المواطنين على الاحتفاظ بحرية الاختيار والمشاركة الديمقراطية. وتفتح مداخلاتها نقاشاً حول حوكمة الذكاء الاصطناعي من منظور حماية حقوق الإنسان وتعزيزها.
لم يعد النقاش حول الذكاء الاصطناعي مقتصراً على قدراته التقنية أو فرصه الاقتصادية. فمع اتساع استخدامه في إنتاج المعلومات وتوزيعها والتأثير في القرارات، تتزايد الأسئلة بشأن أثره على حرية التعبير والخصوصية والوصول إلى المعلومات والمشاركة في الشأن العام.
هذه القضايا حضرت في حوار ماريا ريسا، الصحافية الحائزة على جائزة نوبل للسلام لعام 2021، مع رافي أغراوال في منتدى التكنولوجيا والذكاء الاصطناعي الذي نظمته مجلة «فورين بوليسي» على هامش الجمعية العامة للأمم المتحدة.
وتتقاطع مداخلات ريسا مع مقاربة تضع الإنسان وحقوقه في مركز التحول الرقمي. فهي تربط بين تصميم الأنظمة الرقمية، والحوافز التجارية التي تحكمها، وتوزيع السلطة داخل المجتمعات. وفي صلب طرحها سؤال عن قدرة الناس على الاحتفاظ بالسيطرة على انتباههم ووقتهم وقراراتهم، وعن قدرة المؤسسات العامة على مساءلة الجهات التي تؤثر في حياتهم.
وتتولى ريسا الرئاسة المشتركة للفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي التابع للأمم المتحدة، إلى جانب يوشوا بنجيو، وهو موقع يضيف بُعداً دولياً إلى انشغالها بالعلاقة بين التكنولوجيا والمعلومات والديمقراطية.
من جذب الانتباه إلى التأثير في الاستقلالية
تتتبّع ريسا توسّع تأثير الذكاء الاصطناعي عبر ثلاث مراحل مترابطة: وسائل التواصل الاجتماعي التي تستقطب الانتباه، والأنظمة الحوارية التي يمكن أن تولّد شعوراً بالألفة، ووكلاء الذكاء الاصطناعي الذين يستطيعون التصرف نيابة عن المستخدم.
بدأ هذا المسار، بحسب قراءتها، مع منصات تجمع معلومات عن المستخدمين، وتتنبأ بسلوكهم، وتختار المحتوى الأكثر قدرة على إبقائهم متصلين. وتكمن المشكلة في أن الحوافز التي تكافئ التفاعل قد تمنح أفضلية للمحتوى المثير للانفعالات أو المضلّل، بما يؤثر في النقاش العام وتصورات الناس للأحداث.
ومن منظور حقوق الإنسان، يثير هذا النموذج أسئلة تتجاوز مدة الاستخدام. فهو يمسّ قدرة الفرد على تكوين رأيه بصورة مستقلة، وفهم كيفية استخدام بياناته، والوصول إلى معلومات متنوعة وموثوقة.
ولا يمكن تقييم حرية الاختيار من دون النظر إلى البيئة التي تُمارَس فيها. فعندما تعمل أنظمة غير واضحة للمستخدم على ترتيب المعلومات وتكرار رسائل معينة، تصبح الشفافية بشأن آليات التأثير مسألة مرتبطة بالاستقلالية والقدرة على اتخاذ قرارات واعية.
الألفة الرقمية والخصوصية والثقة
مع الذكاء الاصطناعي الحواري، ينتقل التأثير إلى مساحة أكثر خصوصية. فالمحادثة قد تتناول مخاوف شخصية أو احتياجات عاطفية أو طلباً للنصيحة، بعيداً عن التدقيق الذي يمكن أن تخضع له المنشورات العامة.
وتحذّر ريسا من أن الطلاقة اللغوية والتعاطف الظاهري قد يشجعان المستخدم على منح النظام ثقة كبيرة، رغم أنهما لا يثبتان صحة المعلومات، ولا يرتّبان المسؤوليات التي تنشأ في العلاقات الإنسانية.
وتكشف هذه الملاحظة أهمية حماية الخصوصية، ووضوح طبيعة النظام الذي يتفاعل معه المستخدم، وحدود الاعتماد عليه. كما تطرح سؤالاً عن كيفية التعامل مع المعلومات الحساسة التي يشاركها الأشخاص خلال تلك المحادثات.
وفي إطار مقاربة حقوقية، ينبغي أن تراعي الحماية تفاوت القدرة على فهم هذه الأنظمة والتعامل معها، وأن تولي اهتماماً خاصاً للأطفال والأشخاص الذين قد تزيد ظروفهم من تعرضهم للاستغلال أو التأثير. وهذه قراءة تحريرية لتداعيات الحوار، وليست توصيات منقولة حرفياً عن ريسا.
تفويض المهام لا يلغي الحاجة إلى الرقابة
تزداد أهمية هذه الأسئلة مع ظهور وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام، بدلاً من الاكتفاء بتقديم إجابات.
وترى ريسا أن المستخدم يحتاج إلى فهم الصلاحيات التي يفوّضها للنظام، وما يستطيع فعله بموجبها، والنتائج التي قد تترتب على تصرفاته. فسهولة الاستخدام لا تكفي لضمان بقاء القرار تحت رقابة الإنسان.
ومن منظور حماية الحقوق، يتطلب التفويض وضوحاً بشأن المسؤولية وإمكانية التدخل والتصحيح. وكلما امتد أثر الأنظمة إلى قرارات مؤثرة في حياة الأشخاص، ازدادت الحاجة إلى تفسير مفهوم لما جرى، وإلى سبل تتيح الاعتراض على الأخطاء ومعالجة آثارها.
وتبقى هذه الأسئلة حاضرة حتى عندما يستخدم الشخص النظام طوعاً؛ فالموافقة على الاستفادة من خدمة لا تعني بالضرورة فهم جميع حدودها أو النتائج المحتملة لاستخدامها.
المعلومات الموثوقة أساس للمشاركة والمساءلة
تصف ريسا أزمات مترابطة في الثقة والنظام المؤسسي والمساءلة. فتدهور بيئة المعلومات يصعّب الوصول إلى فهم مشترك للأحداث، ويضعف قدرة المجتمعات على التعاون ومحاسبة الجهات النافذة.
وتكتسب هذه القراءة أهمية حقوقية لأن ممارسة الحقوق تحتاج إلى معرفة. فالمواطن الذي لا يستطيع التحقق من القرارات التي تؤثر في حياته، أو التمييز بين المعلومات الموثوقة والمضلّلة، يواجه عوائق أمام المشاركة الفعلية في الشأن العام.
ويشمل ذلك قضايا الصحة والمناخ وعدم المساواة، إلى جانب الانتخابات والسياسة. فالمعلومات الموثوقة تساعد الناس على فهم المخاطر، وتقييم السياسات، والمطالبة بحقوقهم.
وتستدعي حماية بيئة المعلومات أيضاً الحفاظ على حرية التعبير والنقاش النقدي. فمواجهة التضليل تحتاج إلى شفافية وتعددية وصحافة مستقلة ومعرفة إعلامية، مع تجنّب تحويلها إلى مبرر لتقييد الآراء أو إسكات الأصوات المنتقدة.
حماية الصحافيين وحماية حق الجمهور في المعرفة
تستند ريسا في قراءتها إلى تجربتها مع الهجمات الرقمية والضغوط السياسية في الفلبين. وتشرح كيف يمكن أن تسهم الاتهامات المتكررة عبر الإنترنت في تغيير تصورات الجمهور، وتهيئة ظروف يصبح فيها الترهيب خارج الفضاء الرقمي أكثر قبولاً.
وبذلك، قد تكون الإساءة الرقمية جزءاً من نمط أوسع من الضغط، يرتبط بالتشويه والإكراه ومحاولة الحد من قدرة الصحافيين على مواصلة عملهم.
ومن منظور حقوق الإنسان، تتصل سلامة الصحافيين بحق الجمهور في الوصول إلى المعلومات. فعندما تؤدي التهديدات إلى إسكات الصحافي أو دفعه إلى الرقابة الذاتية، يمتد الأثر إلى المجتمع الذي يفقد مصدراً للتحقق وكشف الوقائع.
وتدعو ريسا إلى التضامن داخل المهنة ودعم الجمهور للصحافة المستقلة. كما تقرّ بأخطاء الصحافة نفسها وبالتأثير الذي قد تتركه حوافز المنصات على الخيارات التحريرية. ويجمع طرحها بين الدفاع عن استقلال المهنة وضرورة مراجعة ممارساتها وتعزيز التحقق والمساءلة.
استدامة الصحافة والوصول العادل إلى المعلومات
تطرح ريسا سؤالاً اقتصادياً له تداعيات مباشرة على الحق في المعرفة: كيف يمكن الاستمرار في إنتاج صحافة موثوقة عندما تتحمل المؤسسات الإعلامية تكاليف جمع المعلومات والتحقق منها، بينما تعيد أنظمة أخرى استخدامها من دون أن يعود عليها نفع اقتصادي كافٍ؟
وتشير إلى أن الإجابات التي يولّدها الذكاء الاصطناعي قد تقلّل حاجة المستخدمين إلى زيارة الناشر الأصلي. كما تصف الأعباء التشغيلية المرتبطة باستخراج المحتوى آلياً، في وقت تواجه فيه المؤسسات الصحافية ضغوطاً على مواردها.
والنتيجة التي تخشاها هي إضعاف المؤسسات المنتجة للمعلومات التي تعتمد عليها أنظمة التوزيع وإعادة الاستخدام نفسها.
لكن الاشتراكات، بحسب طرحها، لا تقدّم حلاً كاملاً. ففي المجتمعات التي ترتفع فيها معدلات الفقر، قد يؤدي وضع المعلومات الموثوقة خلف أنظمة الدفع إلى استبعاد أشخاص يحتاجون إليها لفهم القرارات المؤثرة في حياتهم.
ومن هنا، تتصل استدامة الصحافة بالعدالة في الوصول إلى المعلومات. فالتحدي هو تمويل العمل الصحافي المستقل مع الحفاظ على إتاحته لجمهور واسع، بما يشمل من لا يستطيعون الدفع.
تعاون دولي يراعي جميع المجتمعات
تؤكد ريسا أن تأثيرات التكنولوجيا تتجاوز الحدود، وأن الاستجابة الوطنية وحدها لا تكفي. فالأنظمة المطوّرة في بلد واحد قد تؤثر في حياة الناس ومؤسساتهم في بلدان عديدة. وفي هذا السياق، تناولت دور الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، الذي تتولى رئاسته بالمشاركة مع يوشوا بنجيو، ودور الحوار العالمي بشأن حوكمة الذكاء الاصطناعي. ويوفّر الفريق أساساً معرفياً وعلمياً لفهم فرص هذه التكنولوجيا ومخاطرها وتأثيراتها، فيما يتيح الحوار مساحة مؤسسية للبناء على تلك المعرفة ومناقشة الاستجابات المناسبة.
وتقرّ ريسا بالإحباط من الانقسامات التي تعرقل المؤسسات الدولية، لكنها ترى أن التعاون يبقى ضرورياً لأن المجتمعات تتعرض لآثار مشتركة.
حتى الدول التي لا تطوّر النماذج الأكثر تقدماً لها مصلحة في المشاركة. فمواطنوها يستخدمون هذه الأنظمة، ومؤسساتها تتعامل مع نتائجها. وقد يتركها البقاء خارج النقاش عرضة للمخاطر، مع قدرة محدودة على التأثير في القواعد.
ومن منظور حقوقي، يقتضي ذلك الانتباه إلى اختلاف اللغات والموارد والظروف الاجتماعية، وإلى قدرة المجتمعات الأقل تمثيلاً على المشاركة في تحديد أولويات الحوكمة. فالعدالة في التحول الرقمي تشمل الوصول إلى التكنولوجيا والمشاركة في القرارات التي تنظّم استخدامها.
المنافسة لا تُسقط مسؤولية الحماية
تعارض ريسا فكرة أن السباق التكنولوجي يبرّر تأجيل الضمانات. فضغوط المنافسة لا تعفي الحكومات من مسؤوليتها عن حماية الناس، ولا تجيب عن الأسئلة المتعلقة بالضرر والمساءلة.
وتدعو الصحافيين إلى فحص هذا الطرح والمصالح التي يخدمها، بدلاً من التعامل معه بوصفه أمراً مسلّماً به.
وتقدّم أيضاً مقاربة عملية لعدم اليقين: التمييز بين ما تثبته الأدلة، وما لا يزال مجهولاً، وما سيكون تجاهله غير مسؤول. وتستعين بمثال مخرج الطوارئ في المبنى؛ إذ لا يتطلب تركيبه معرفة مسبقة بما إذا كان حريق سيقع.
وتدعم هذه الفكرة توجهاً حقوقياً يقوم على دراسة الآثار قبل وقوع الضرر، واتخاذ تدابير متناسبة مع المخاطر، ثم مراجعتها في ضوء الأدلة الجديدة. فالحاجة إلى حماية الناس لا تنتظر اكتمال المعرفة بكل النتائج المحتملة.
كما ترى ريسا أن إيصال الأدلة بوضوح يساعد على المساءلة: شرح ما حدث، وما الذي يدل عليه، وما يظل غير مؤكد، وما الخيارات المتاحة للاستجابة.
المواطنون شركاء في حماية الحقوق
لا تحصر ريسا المشاركة الديمقراطية في التصويت. فهي تدعو إلى دعم الصحافة المستقلة، والدفاع عن المؤسسات التي توفر الرقابة، وفحص المعلومات التي يستهلكها الناس.
وتشير إلى أن خيارات الأفراد بشأن وقتهم وانتباههم تساعد على استمرار منصات وناشرين بعينهم. وفي طرحها، يبقى التنظيم التجاري الحالي للإنترنت قابلاً للتغيير، ويمكن للمواطنين دعم بدائل والمطالبة بمزيد من المساءلة.
ومع ذلك، فإن القراءة الحقوقية لهذا النقاش لا تُلقي عبء الحماية على المستخدم وحده. فالمعرفة الفردية والاختيارات الواعية تحتاجان إلى مؤسسات قادرة على الرقابة، وشركات تتحمل مسؤولية آثار منتجاتها، وقنوات تتيح سماع الأشخاص المتضررين ومعالجة شكاواهم.
وتشمل المشاركة الفعلية تمكين المجتمع المدني والباحثين والصحافيين والمؤسسات الوطنية لحقوق الإنسان من المساهمة في تقييم السياسات الرقمية وآثارها، مع إتاحة مساحة لمن تتأثر حقوقهم مباشرة بهذه الأنظمة.
وفي صلب رسالة ريسا أهمية الحفاظ على واقع مشترك قائم على الحقائق. فمع ازدياد حضور الذكاء الاصطناعي في الحياة اليومية، تصبح حماية هذا الأساس شرطاً لقدرة الناس على فهم ما يحدث، وممارسة حقوقهم، ومساءلة من يتخذون القرارات المؤثرة في حياتهم.
هذه المقالة متاحة أيضًا بـ:
