أخبار

اكتشف تقرير حكومي جديد أن برنامج التعرف على الوجوه منحاز

اكتشف تقرير حكومي جديد أن برنامج التعرف على الوجوه منحاز



We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

أظهرت دراسة اتحادية جديدة أن أنظمة التعرف على الوجوه أظهرت تحيزًا عندما يتعلق الأمر بتحديد ومطابقة الأفراد الملونين.

تسلط الدراسة التاريخية الضوء السلبي على البرامج التي يتم استخدامها بشكل متزايد من قبل وكالات إنفاذ القانون في جميع أنحاء البلاد.

ذات صلة: تم استخدام برنامج التعرف على الوجه بالذكاء الاصطناعي للقبض على المتهمين بقتله في الصين

الأمريكيون الأفارقة والآسيويون أكثر عرضة بنسبة 100 مرة لأن يتم التعرف عليهم بشكل خاطئ

وجدت دراسة المعهد الوطني للمعايير والتكنولوجيا أن الأمريكيين من أصل أفريقي وآسيويين كانوا أكثر عرضة بنسبة 100 مرة لأن يتم التعرف عليهم بشكل خاطئ من خلال برامج التعرف على الوجه مقارنة بالقوقازيين اعتمادًا على الخوارزمية الفردية. من بين الخوارزميات التي تم تطويرها في الولايات المتحدة ، كان لدى السكان الهنود الأمريكيين أعلى معدلات الإيجابيات الكاذبة.

ووجدت الدراسة أيضًا أن النساء الأميركيات من أصول أفريقية لديهن أعلى معدلات الإيجابيات الخاطئة للمطابقة الفردية والتي تستخدم عادة من قبل سلطات إنفاذ القانون للبحث عن ملايين الأشخاص في قاعدة بيانات للعثور على المشتبه به. استخدم اختبار NIST قاعدة بيانات FBI واحدة فقط تحتوي على 1.6 مليون صورة mugshots محلية.

قال المعهد القومي للمعايير والتقنية (NIST) في بيان صحفي يسلط الضوء على نتائج الدراسة: "تعتبر الفروق في الإيجابيات الكاذبة في المطابقة من شخص إلى كثير مهمة بشكل خاص لأن العواقب قد تشمل اتهامات كاذبة" لاحظ المعهد الوطني للمعايير والتقنية (NIST) أن النتائج تباينت من خوارزمية إلى أخرى ، قائلة إن "المرتبة الأكثر إنصافًا هي أيضًا من بين الأكثر دقة.

نظرت NIST في 189 خوارزمية

أجرى المعهد القومي للمعايير والتقنية الدراسة من خلال برنامج اختبار البائع للتعرف على الوجوه ، والذي يقوم من خلاله بتقييم خوارزميات التعرف على الوجوه من شركات البرمجيات والمطورين الأكاديميين بشأن قدرتهم على أداء المهام. في هذه الدراسة استخدمت أربع مجموعات من الصور بلغت 18.27 مليون صورة لـ 8.49 مليون فرد. جاءت جميع الصور من وزارة الخارجية ووزارة الأمن الداخلي ومكتب التحقيقات الفيدرالي.

اختبر NIST 189 خوارزمية برمجية مقدمة من 99 مطورًا ، معظمهم من الشركات. نظر المعهد الوطني للمعايير والتقنية (NIST) في مدى جودة مطابقة الخوارزميات لصور الشخص نفسه ، والتي تُستخدم عادةً لإلغاء قفل الهاتف الذكي أو التحقق من جواز السفر وتُعرف باسم المطابقة "واحد لواحد". اختبرت الوكالة الحكومية أيضًا قدرة الخوارزمية على مطابقة شخص في صورة مع صور في قاعدة بيانات. تُعرف باسم مطابقة "واحد إلى متعدد" ، ويمكن استخدامها لتحديد الشخص محل الاهتمام.

"في البحث الفردي ، قد تكون النتيجة السلبية الزائفة مجرد إزعاج - لا يمكنك الوصول إلى هاتفك ، ولكن يمكن عادةً معالجة المشكلة بمحاولة ثانية ،" باتريك غروثر ، عالم الكمبيوتر في NIST و المؤلف الرئيسي للتقرير. "لكن النتيجة الإيجابية الزائفة في عملية البحث من شخص إلى متعدد تضع تطابقًا غير صحيح في قائمة المرشحين التي تتطلب مزيدًا من التدقيق".


شاهد الفيديو: شف صورة الانسان كيف تغير مع مر السنين (أغسطس 2022).