اختبارات تكشف تحيزات عنصرية في ردود روبوت الذكاء الاصطناعي جيمناي من غوغل
أظهرت اختبارات أجريت على روبوت الذكاء الاصطناعي «جيمناي» التابع لشركة غوغل، وجود تحيزات عنصرية في طريقة تقديم النصائح. لاحظ مستخدمو الإنترنت أن جيمناي يعطي نصائح مختلفة بشكل متباين بناءً على جنسية الشخص الآخر الذي يصفونه في المحادثة. مثلاً، عند الإشارة إلى أنهم بمفردهم مع شخص محدد الجنسية، تتباين ردود النظام بين نصائح إيجابية وأخرى تحذيرية بوضوح حسب جنسية هذا الشخص.
هذا السلوك يشير إلى وجود صور نمطية وتعامل غير متساوٍ ضمن برمجة الذكاء الاصطناعي، ما يثير قلقًا واسع النطاق حول كيف يمكن لهذه التكنولوجيا أن تعزز أو ترتكب أخطاء تمس القيم الاجتماعية والأخلاقية. يتطلب الأمر اهتمامًا كبيرًا من مطوري الذكاء الاصطناعي لضبط خوارزميات التعلم والتأكد من حياديتها وتجنب مثل هذه الانحيازات.
من جانبها، فإن هذه الحادثة تضع تساؤلات مهمة حول مدى وعي وزارية وتقنية لتأثير الذكاء الاصطناعي في المجتمع، وضرورة فرض ضوابط إضافية لتعزيز العدالة ومنع التمييز. يأتي ذلك في وقت يتجه فيه العالم بشكل متسارع إلى مزيد من الاعتماد على هذه الأنظمة في مجالات متعددة مثل التعليم، العمل، والخدمات العامة.
ختامًا، فإن تجربة جيمناي تسلط الضوء على تحدي مهم أمام المطورين وصناع القرار لضمان استخدام الذكاء الاصطناعي بشكل يعزز التعاون والتفاهم العالمي، لا أن يُسهم في ترسيخ الانقسامات والصور النمطية الضارة.
