هذه المقالة هي متابعة أنواع. قبل ستة أشهر نشرنا أنباء تفيد بأن مايكروسوفت كانت تعمل على إصلاح برنامج التعرف على الوجه الذي اعتبر متحيزًا عنصريًا. الآن ، تطلب الشركة نفسها أن يتم تنظيم التعرف على الوجه لمنع التحيز. لذا تم ضبطه ببرامج متحيزة ، والآن يريدون أن يتم تنظيم الصناعة بأكملها لمنع أي شخص آخر من الحصول على برامج منحازة عنصريًا.
المشكلة الأولية
كما ذكرنا في حزيران ، تم توجيه انتقادات حول واجهة برمجة تطبيقات واجهة مستخدم Microsoft ، المستندة إلى Azure ، في ورقة بحث. واجه البرنامج صعوبة في التعرف على الأشخاص من اللون الداكن أو من النساء. كان معدل الخطأ مرتفعًا بنسبة 20.8٪ ، ولكن مع وجود “وجوه أخف من الذكور” ، كان معدل الخطأ صفر بالمائة.
السبب وراء هذا الاختلاف في الاعتراف هو أن الذكاء الاصطناعي يحتاج إلى برمجته من قبل الناس. ستكون النتائج جيدة فقط مثل الأشخاص الذين قاموا بالبرمجة. لم يستخدم مبرمجو Microsoft عددًا كافيًا من الأشخاص ذوي درجات لون البشرة الداكنة أو عدد كافٍ من النساء.
عملت Microsoft على إصلاح هذا من خلال تنويع بيانات التدريب الخاصة بها وبدأت في اختبار أنظمتها داخليًا قبل نشرها. تمكنوا من تقليل معدل الخطأ بالنسبة للأشخاص ذوي البشرة الداكنة حتى عشرين مرة ومعدل الخطأ للنساء تسع مرات.
دفع من أجل التشريع
بعد ستة أشهر طلبت مايكروسوفت من الحكومات إصدار تشريع يتطلب اختبار تقنية التعرف على الوجوه بشكل مستقل للتأكد من أنها دقيقة ، لمنع التحيز ، ولحماية حقوق المستخدمين.
قال براد سميث ، كبير مستشاري مايكروسوفت ، في مقال في المدونة: “إن جني التعرف على الوجوه ، إذا جاز التعبير ، خرج للتو من الزجاجة”.
“ما لم نتصرف ، فإننا نخاطر في الاستيقاظ بعد خمس سنوات من الآن لنجد أن خدمات التعرف على الوجه قد انتشرت بطرق تؤدي إلى تفاقم المشاكل الاجتماعية. وبحلول ذلك الوقت ، ستكون هذه التحديات أكثر صعوبة بكثير.
تطلب الشركة أن يتم مراجعة نتائج التعرف على الوجوه من قبل الناس بدلاً من ترك المهمة لأجهزة الكمبيوتر.
“وهذا يشمل الأماكن التي يمكن أن تؤدي فيها القرارات إلى مخاطر الضرر الجسدي أو العاطفي للمستهلك ، حيث قد تكون هناك آثار على حقوق الإنسان أو الحقوق الأساسية ، حيث قد تتعرض الحرية الشخصية أو الخصوصية الشخصية للمستهلك للانتهاك”.
بالإضافة إلى ذلك ، اقترح سميث أن أولئك الذين يستخدمون التعرف على الوجه يحتاجون إلى “الاعتراف بأنهم لم يتم إعفاؤهم من التزامهم بالامتثال للقوانين التي تحظر التمييز ضد المستهلكين الأفراد أو مجموعات المستهلكين”.
كما أراد أن يتأكد من أن استخدام الحكومة للتعرف بالوجه لا يرقى إلى الحريات الديمقراطية وحقوق الإنسان الخاصة بالناس.
“يجب أن نضمن أن عام 2024 لا يبدو كصفحة من رواية 1984” ، حيث ختم.
علاوة على ذلك
مايكروسوفت على حق ، بالطبع. من المثير للاهتمام أنه قبل ستة أشهر لم يتعرفوا على ضرورة توخي الحذر من أن برامجهم لم تميز ، والآن لا يدركون ذلك فقط ، ولكنهم يريدون أيضًا التأكد من أنه لا يمكن لأي شخص آخر ارتكاب نفس الأخطاء. لقد فعلوا.
بغض النظر عن وضعهم في وقت سابق ، هل مايكروسوفت محقة في المطالبة بالتشريعات وأن يتم التدقيق على خيارات التعرف على الوجه؟ أخبرنا بأفكارك حول طلب Microsoft في قسم التعليقات أدناه.
