Delphine Strauss

يحذر المنذرون بالخطر من الذكاء الاصطناعي من أن التعلم الآلي سينتهي به الأمر بتدمير الإنسانية، أو على الأقل جعل البشر زائدين عن الحاجة. ولكن ماذا لو كان القلق الحقيقي أكثر دنيوية، أن أدوات الذكاء الاصطناعي ببساطة تقوم بعمل سيء؟

هذا ما شعرت به هيلك شيلمان، وهي مراسلة وأستاذة في جامعة نيويورك، بعد أن أمضت خمس سنوات في التحقيق في الأدوات التي يستخدمها أصحاب العمل على نطاق واسع الآن في التوظيف والفصل والإدارة. تملي الروبوتات بشكل متزايد الإعلانات الوظيفية التي نراها عبر الإنترنت، والسير الذاتية التي يقرأها القائمون بالتوظيف، والمتقدمين الذين يصلون إلى المقابلة النهائية والموظفين الذين يحصلون على ترقية أو مكافأة، أو إشعار بالفصل. ولكن في هذا العالم حيث “تحدد الخوارزميات من نحن، وأين نتفوق، وأين نكافح… ماذا لو أخطأت الخوارزميات؟” تسأل شيلمان في كتابها “الخوارزمية”، وهو سرد لنتائجها.

لدى القائمين بالتوظيف والمديرين أسباب عديدة للتحول إلى الذكاء الاصطناعي.. لغربلة أكوام كبيرة بشكل مستحيل من السير الذاتية وملء الوظائف بشكل أسرع؛ لمساعدتهم في اكتشاف الأشخاص الموهوبين، حتى عندما يأتون من خلفية غير نمطية؛ لاتخاذ قرارات أكثر عدلاً، وإزالة التحيز البشري؛ أو لتتبع الأداء وتحديد الموظفين الذين يمثلون مشكلة.

لكن تجربة شيلمان تشير إلى أن العديد من الأنظمة الموجودة في السوق قد تضر أكثر مما تنفع. على سبيل المثال، تختبر برنامج مقابلة الفيديو الذي يجد أنها مطابقة تمامًا لدور ما، حتى عندما تستبدل إجاباتها الأصلية والمعقولة بعبارة “أحب العمل الجماعي” أو تتحدث باللغة الألمانية بالكامل.

تتحدث شيلمان إلى خبراء قاموا بمراجعة أدوات فحص السيرة الذاتية بحثًا عن التحيز المحتمل، ووجدوا أنها عرضة لتصفية المرشحين من رموز بريدية معينة، وهي وصفة للتمييز العنصري؛ لتفضيل جنسيات معينة؛ أو لرؤية الإعجاب بالأنشطة التي يهيمن عليها الذكور مثل لعبة البيسبول كعلامة على النجاح. ثم هناك حالات كبار الموظفين الذين تم اختيارهم للفصل من العمل أو استبعادهم تلقائيًا من الترشح للوظائف التي كانوا مؤهلين لها، لمجرد أنهم قدموا أداءً ضعيفًا في الألعاب عبر الإنترنت التي تبدو غير ذات صلة والتي تستخدم لتسجيل المرشحين.

بعد لعب بعض الألعاب، تشك شيلمان في أن الألعاب عالية السرعة التي تعتمد على مطابقة الأنماط أو اختبارات الشخصية ستساعد القائمين بالتوظيف على تحديد الأشخاص الأكثر عرضة للفشل أو التفوق في دور ما. وستكون الألعاب أيضًا أكثر صعوبة بالنسبة لأي شخص تشتت انتباهه بسبب الأطفال، أو كان لديه إعاقة لم يتعرف عليها البرنامج.

لكن العديد من المشاكل التي تجدها شيلمان لا تتعلق جوهريًا باستخدام الذكاء الاصطناعي. لا يستطيع المطورون تصميم اختبارات توظيف جيدة إذا لم يفهم القائمون بالتوظيف سبب تفوق بعض الموظفين على غيرهم. إذا تم تصميم نظام في المقام الأول لملء وظيفة شاغرة بسرعة، فلن يختار أفضل مرشح.

تجد شيلمان أنه ما لم يتدخل المطورون، فإن منصات التوظيف تعرض المزيد من الإعلانات للمرشحين الأكثر عدوانية في الرد على القائمين بالتوظيف والتقدم لشغل مناصب عليا بغض النظر عن الخبرة. تنشأ المشاكل أيضًا لأن المديرين يعتمدون بشكل أعمى على الأدوات التي كان من المفترض أن تفيد الحكم البشري فقط، أحيانًا تحت الاعتقاد الخاطئ بأنها ستحميهم من الطعن القانوني.

يمكن للتعلم الآلي أن يضخم التحيز الموجود بطرق يصعب اكتشافها، حتى عندما يكون المطورون في حالة تأهب. تحدد الخوارزميات أنماطًا بين الأشخاص الذين أدوا أداءً جيدًا أو سيئًا في الماضي، دون أي قدرة على فهم ما إذا كانت الخصائص التي تلتقطها ذات أهمية. وعندما تخطئ الخوارزميات، أحيانًا على نطاق واسع، قد يكون من الصعب للغاية على الأفراد معرفة السبب، أو طلب التعويض، أو حتى العثور على شخص للتحدث معه على الإطلاق.

ربما يكون القسم الأكثر فائدة في كتاب شيلمان هو الملحق الذي يقدم نصائح للباحثين عن عمل “استخدم النقاط وتجنب علامات العطف “&” في سيرتك الذاتية لجعلها قابلة للقراءة آليًا” والأشخاص الذين يراقبهم صاحب العمل “حافظ على رسائل البريد الإلكتروني متفائلة”. ولكن لديها أيضًا اقتراحات للمنظمين، حول كيفية التأكد من اختبار أدوات الذكاء الاصطناعي قبل طرحها في السوق.

تجادل شيلمان بأنه كحد أدنى، يمكن للمشرعين أن يفرضوا الشفافية بشأن البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي، والتقارير الفنية حول فعاليتها. من الناحية المثالية، ستقوم الوكالات الحكومية بنفسها بفحص الأدوات المستخدمة في المجالات الحساسة مثل السياسة أو التصنيف الائتماني أو مراقبة مكان العمل.

في غياب مثل هذا الإصلاح، يعد كتاب شيلمان قصة تحذيرية لأي شخص اعتقد أن الذكاء الاصطناعي سيزيل التحيز البشري من التوظيف، ودليل أساسي للباحثين عن عمل.

المصدر: FINANCIAL TIMES