تحذير من التحيز العرقي للذكاء الاصطناعي في التوظيف

نون - كشفت دراسة أجراها باحثون من جامعة ستانفورد، أن بعض أنظمة الذكاء الاصطناعي المستخدمة في التوظيف تتخذ قرارات تنطوي على تحيزات عرقية، رغم اعتمادها على اختبارات تبدو محايدة لتقييم المتقدمين للوظائف، ما يثير تساؤلات بشأن عدالة أدوات التوظيف الرقمية التي تعتمد عليها الشركات على نطاق واسع.
وأظهرت الدراسة أن نحو 90% من أصحاب العمل يستخدمون الذكاء الاصطناعي بدرجات متفاوتة في عمليات التوظيف، في وقت لا تزال فيه الأبحاث التي تقيس تأثير هذه الأنظمة على الباحثين عن عمل محدودة للغاية.
اعتمد الباحثون على تحليل أكثر من أربعة ملايين طلب توظيف لنحو ألفي وظيفة، استخدمت خلالها منصة تقييم قائمة على الألعاب تقيس مهارات شخصية مثل التركيز وتقبل المخاطر، قبل أن تصنف المتقدمين إلى فئتي «موصى به» و«غير موصى به». وبيّنت النتائج أن 15% من المتقدمين الآسيويين و26% من المتقدمين السود تقدموا لوظائف أظهرت فيها أنظمة الذكاء الاصطناعي مؤشرات على التحيز ضد مجموعاتهم العرقية، إذ جاءت معدلات ترشيحهم أقل من الحد الذي تعتمده الجهات التنظيمية الأمريكية للكشف عن احتمال وجود تمييز.
وقدّر الباحثون أنه لو تمت معاملة جميع المتقدمين بالمعدل نفسه، لكان نحو 40 ألف طلب إضافي لمرشحين من الآسيويين وأصحاب البشرة السمراء قد حصل على توصية بالترشيح.
وتبين أن بعض المتقدمين الذين تقدموا إلى عدة وظائف حصلوا على قرار «غير موصى به» في جميع طلباتهم، وهو ما يرجح تأثير اعتماد عدد كبير من الشركات على خوارزميات متشابهة أو مطورة من المورد نفسه.