مقالات رأي

التحيّز الخوارزمي.. تحدٍ جديد يواجه جامعاتنا العربية

(الآراء الواردة في هذا المقال هي آراء شخصية للكاتب ولا تعبر بالضرورة عن وجهة نظر الفنار للإعلام).

رغم أهمية الخوارزميات، إلا أن أصواتًا عديدة تطالب بإعادة النظر في انعكاسات استخدامها على البيئة الجامعية. وترتبط هذه المطالب بالقلق مما يوصف بــ«التحيّز الخوارزمي»، بعد تنامي استخدام تطبيقات الذكاء الاصطناعي، وتطوير الخوارزميات.

بلغ حجم سوق التداول الخوارزمي العالمي 13.32 مليار دولار أمريكي في عام 2021، ومن المتوقع أن يصل إلى 33.23 مليار دولار أمريكي بحلول عام 2030، بحسب منصة «Verified Market Research».

ويشير متخصصون إلى تجليات متنوعة للتحيز الخوارزمي، منها اعتماد الخوارزميات على البيانات التاريخية مع ما قد يشوبها من تحيزات وتفضيلات قد تؤدي إلى توريث هذه التحيزات في القرارات المستقبلية، وخاصة في مجالات التوظيف أو العدالة الجنائية بناءً على معايير دينية، أو عرقية، أو جندرية، أو طبقية. فلو اعتمد تعلم الآلة على مدخلات متحيزة تاريخيًا؛ فسيؤدي ذلك حتميًا إلى عدم إنصاف اجتماعي، بالإضافة إلى الشكوك المحيطة بمدى قدرة الخوارزميات على الحفاظ على خصوصية المستخدمين، مع كل ما يتم جمعه من بيانات تستخدم في التحليل، وفي الضمانات التي تقدمها الشبكات والتطبيقات في هذا الشأن، واحتمالات تسريب البيانات، أو استخدامها بطرق غير مشروعة.

اقرأ أيضًا: (معلم الشات بوت والجامعات العربية.. نصائح للطلاب والأساتذة).

ومن التحديات التي يجب أن يكون الطالب الجامعي العربي ملمًا بها: الإفراط في التحول نحو الأتمتة، أو ما يعرف بالأتمتة الزائدة. وهنا تبرز أهمية دور الجامعات ومؤسسات التعليم العالي في التوعية بهذه القضية لدى الطلاب؛ لأن المستخدمين يثقون – في الغالب – بالنماذج الرياضية التي بنيت عليها الخوارزميات. وتعود هذه الثقة إلى الاعتقاد بأن هذه النماذج الرياضية يتوقع منها أن تؤدي لإزالة التحيز البشري إذا تم استخدامها بشكل جيد. لكن من الناحية العملية، تعتبر الخوارزميات انعكاسًا لتحيزاتنا البشرية. إن المساواة والعدالة الخوارزمية تمثل تحديًا جديدًا للجامعات العربية ينبغي الالتفات إليه، فلا ينبغي أن تقف جامعاتنا موقف المتفرج من الأصوات التي تنادي بخوارزميات عادلة، وتطالب بإصلاح التحيز الخوارزمي، حيث ترتبط هذه القضية بمستقبل الأجيال القادمة ووعيهم المعرفي.

مما يزيد من الحاجة إلى أهمية التوعية الأكاديمية بهذه القضية، هو الارتباط الوثيق بين الدراسة الجامعية والتعرض للتطبيقات والشبكات وقواعد البيانات باستخدام الخوارزميات، والتفاعل معها؛ حيث يتم تشكيل المعرفة من خلال البيانات الضخمة الموجودة في محركات البحث.

وقد شهد مجلس الشيوخ الأمريكي، في العام 2019، تقديم النواب كوري بوكر، ورون ويدن، ويفت دي كلارك، قانون المساءلة الخوارزمية، والذي «يلزم الشركات بتقييم وإصلاح الخوارزميات التي تعتمد عليها لتنظيم استخدام الذكاء الاصطناعي، وتقديم صورة أكثر عدالة ومساواة لاستخدام الخوارزميات»، في خطوة عُدّت أول جهد تشريعي لضبط أنظمة الذكاء الاصطناعي بالولايات المتحدة الأمريكية.

وواكب هذه التحديات، إطلاق مجموعة باحثين بمعهد ماساتشوستس للتكنولوجيا (Massachusetts Institute of Technology)، المعروف اختصارًا (MIT)، بالتعاون مع «الاتحاد الأمريكي للحريات المدنية»، مبادرة بهذا الخصوص، لإبراز التنامي في التحيز الخوارزمي الذي يشكل قضية اجتماعية رئيسية في تطور تعلم الآلة والذكاء الاصطناعي، ما يؤكد الحاجة الملحة إلى تطوير خوارزميات ذكية للتعلم الآلي، تعتمد على العدالة والشفافية بلا تمييز أو عنصرية.

كما تشكلت العديد من الحركات الاجتماعية والجمعيات الطوعية التي تعمل على مجابهة التحيزات العرقية والجندرية في الخوارزميات، منها: «رابطة العدالة الخوارزمية»  (AJL)  و«المجتمع والبيانات Data & Society، و«مؤسسة الحدود الإلكترونية» (EFF)   التي تدافع عن الخصوصية والحريات على الإنترنت، وتتبنى موقفًا مناهضًا لاختراق الخصوصية من قبل الحكومات أو الشركات، و«مرصد الخوارزميات» Algorithm Watch، وهو منظمة ترصد وتُقيّم استخدام الخوارزميات، وكذلك «منظمة العدالة والمساءلة في تعلم الآلة» ((FAT/ML، ولهذه المنظمة مجموعة بحثية، وتعقد مؤتمرًا سنويًا يركز على موضوعات المساواة والمساءلة في تعلم الآلة والذكاء الاصطناعي.

اقرأ أيضًا: (الذكاء الاصطناعي في خدمة الكتابة والبحث.. تعرف على أبرز الأدوات).

ومما يزيد من الحاجة إلى أهمية التوعية الأكاديمية بهذه القضية هو الارتباط الوثيق بين الدراسة الجامعية والتعرض للتطبيقات والشبكات وقواعد البيانات باستخدام الخوارزميات، والتفاعل معها؛ حيث يتم تشكيل المعرفة من خلال البيانات الضخمة الموجودة في محركات البحث. وقد دعت منظمة «اليونسكو»، إلى التثقيف عن الخوارزميات، واستخدامها في محركات البحث العلمي.

ينبغي أن تكون جامعاتنا العربية منبرًا حرًا لأبنائها في التوعية بالخوارزميات العادلة، وتطبيقات الذكاء الاصطناعي الشفافة، ومكافحة جمع واستخدام البيانات الشخصية بطرق غير مشروعة، وتعزيز استخدام البيانات بشكل أفضل لصالح المجتمع.

ورغم قدرة الخوارزميات على تحسين التصنيف، والبحث، وإعداد النتائج، إلا أن الآلية التي تعتمد عليها تظل محل تساؤل؛ فعلى سبيل المثال، هناك خوارزمية تعمل على تحديد مدى تكرار كلمات معينة في صفحات الدراسة، وهو ما يعرف بتكرار الكلمات المفتاحية، أو استخدام المكان الجغرافي كوسيلة لترتيب نتائج البحث بناءً على درجة القرب من المستخدم، مما يسبب التحيز نحو نوع معين من الدراسات، أو الكلمات، أو الانتماءات الجغرافية، وخاصة في العلوم الإنسانية. ورغم أن هذه الخوارزميات اُستخدمت لتحسين محركات البحث، إلا أنها أصبحت أكثر تعقيدًا على نحو قد يؤدي بها لمزيد من التحيّز.

اقرأ أيضًا: (أكاديميون يرسمون خريطة فرص الاستفادة من الذكاء الاصطناعي في الجامعات العربية).

ومع ارتباط تعامل الطلاب مع شبكات التواصل الاجتماعي بمعارفهم، وتشكيل آرائهم نحو القضايا المختلفة، فإن الطالب الجامعي مطالب، اليوم، بالانفتاح على جميع الثقافات، على نحو يساهم في تكوينه العلمي بشكل إيجابي. وإن أي انغلاق، أو انكفاء على الذات سيؤدي بالضرورة إلى عدم تقبل المحتوى الذي يقدمه الآخر، سواء كان هذا الآخر دينيًا، أو لغويًا، أو جنسيًا. ولا يؤدي استخدام الخوارزميات بشكل متحيّز إلى هدف الانفتاح المعرفي المأمول لطلاب الجامعات.

لكل ذلك، ينبغي أن تكون جامعاتنا العربية منبرًا حرًا لأبنائها في التوعية بالخوارزميات العادلة، وتطبيقات الذكاء الاصطناعي الشفافة، ومكافحة جمع واستخدام البيانات الشخصية بطرق غير مشروعة، وتعزيز استخدام البيانات بشكل أفضل لصالح المجتمع، وتحفيز الجيل الجديد من المبرمجين الشبان العرب نحو تطوير واستخدام الخوارزميات بشكل أكثر انصافًا، بالإضافة إلى عقد المؤتمرات العلمية، وتشجيع البحث العلمي على دراسة تأثير الخوارزميات على المجتمع، والأمر نفسه بالنسبة للتقنيات المرتبطة بالعدالة الاجتماعية.

الآن، وليس غدًا، هو الوقت المناسب لإطلاق هذه الجهود الأكاديمية، حيث يمكنها أن تسهم في توجيه النقاشات المجتمعية في العالم العربي حول مستقبل التكنولوجيا، في ذروة تنامي تطبيقات الذكاء الاصطناعي. كما نعوّل على تلك الجهود المأمولة في تحفيز وعي طلاب الجامعات العربية نحو مزيد من الحرية والاستقلالية في التعامل مع التكنولوجيا.

في الختام، أتذكر كلمات الشاعر الأمريكي رالف والدو إمرسون (1803 – 1882)، في عمله الكلاسيكي (Self-Reliance):

العالم مليء بالأفكار والإمكانيات..

والإنسان الحر يستخدمها بذكاء وإبداع

لا تصغ للأصوات التي تحاول تقييدك..

بل اسمع صوت قلبك وأفعال عقلك

https://www.bue.edu.eg/

كن مستقلًا وقراراتك خذها بحكمة..

فالحرية الحقيقية هي حين تكون نفسك

*أستاذ الإعلام بجامعة الإسكندرية، مصر.

اقرأ أيضًا:

ابحث عن أحدث المنح الدراسية من هنا. ولمزيد من القصص، والأخبار، اشترك في نشرتنا البريدية، كما يمكنك متابعتنا عبر فيسبوك، ولينكد إن، وتويتر، وانستجرام، ويوتيوب

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى