24 يونيو، 2021

جورنالك

الخبر كما هو ، منكم و اليكم

تمنع أمازون الشرطة من استخدام تقنية التعرف على الوجه للعام المقبل

أعلن عملاق التجارة الإلكترونية يوم الأربعاء أن أمازون تعلن عن وقف لمدة عام واحد للسماح لتطبيق القانون باستخدام منصة التعرف على الوجه المثيرة للجدل Rekognition.

تأتي الأخبار بعد يومين فقط من إعلان شركة IBM أنها لم تعد تقدم أو تطور أو تبحث في تقنية التعرف على الوجه ، مستشهدة بإمكانية انتهاك حقوق الإنسان والخصوصية ، والأبحاث التي تشير إلى تقنية التعرف على الوجه ، على الرغم من التطورات التي تقدمها الذكاء الاصطناعي ، لا تزال متحيزة على طول العمر والجنس والعرق والعرق.

يرجع الفضل في الكثير من العمل التأسيسي الذي يظهر عيوب تقنية التعرف على الوجه الحديثة فيما يتعلق بالتحيز العنصري إلى Joy Buolamwini ، الباحث في MIT Media Lab ، و Timnit Gebru ، عضو في Microsoft Research. شارك كل من Buolamwini و Gebry في تأليف ورقة عام 2018 مستشهد بها على نطاق واسع ووجدت معدلات خطأ لأنظمة التعرف على الوجه من شركات التكنولوجيا الكبرى ، بما في ذلك IBM و Microsoft ، لتحديد الأفراد ذوي البشرة الداكنة أعلى بعشرات النقاط المئوية عما كانت عليه عند تحديد الأفراد ذوي البشرة البيضاء. تكمن المشاكل في جزء منها في مجموعات البيانات المستخدمة لتدريب الأنظمة ، والتي يمكن أن تكون بشكل كبير من الذكور والأبيض ، وفقًا لتقرير من اوقات نيويورك.

في دراسة منفصلة لعام 2019 ، قام Buolamwini والمؤلف المشارك Deborah Raji بتحليل Rekognition ووجد أن نظام Amazon يعاني أيضًا من مشكلات كبيرة في تحديد جنس الأفراد ذوي البشرة الداكنة ، بالإضافة إلى خطأ النساء ذوات البشرة الداكنة. ووجدت الدراسة أن النظام يعمل بمعدل خطأ يقارب الصفر عند تحليل صور الأشخاص ذوي البشرة الفاتحة.

حاولت أمازون تقويض النتائج ، لكن Buolamwini نشرت ردًا مطولًا ومفصلاً على الوسيط ، حيث تقول ، "كان نهج أمازون حتى الآن نهج الإنكار والانحراف والتأخير. لا يمكننا الاعتماد على أمازون للشرطة نفسها أو توفير تكنولوجيا غير منظمة وغير مثبتة للشرطة أو الوكالات الحكومية ". وقد دعمت النتائج التي توصلت إليها هي وراجي في وقت لاحق مجموعة من عشرات الباحثين في الذكاء الاصطناعي الذين كتبوا رسالة مفتوحة تقول أن Rekognition معيبة ويجب ألا تكون في أيدي سلطات إنفاذ القانون.

ولم تقدم أمازون سببًا ملموسًا للقرار وراء الدعوة إلى التنظيم الفدرالي للتكنولوجيا ، على الرغم من أن الشركة تقول إنها ستواصل توفير البرامج لمنظمات حقوق مكرسة للأطفال المفقودين والمستغلين ومكافحة الاتجار بالبشر. السياق غير المعلن هنا بالطبع هو وفاة جورج فلويد ، وهو رجل أسود قتل على يد ضباط شرطة سابقين في ولاية مينيسوتا ، والاحتجاجات المستمرة في جميع أنحاء الولايات المتحدة والعالم ضد العنصرية والوحشية النظامية للشرطة.

يبدو كما لو أن أمازون قررت أنه لا يمكن الوثوق بالشرطة لاستخدام التكنولوجيا بشكل مسؤول ، على الرغم من أن الشركة لم تكشف أبدًا عن عدد أقسام الشرطة التي تستخدم التكنولوجيا بالفعل. اعتبارًا من الصيف الماضي ، بدا أن إدارتين فقط – واحدة في ولاية أوريغون وواحدة في فلوريدا – كانت تستخدم Rekognition بنشاط ، وتوقفت أورلاندو منذ ذلك الحين. نظام التعرف على الوجه الأكثر استخدامًا على نطاق واسع هو نظام Clearview AI ، وهي شركة سرية تواجه الآن عددًا من الدعاوى القضائية المتعلقة بالخصوصية بعد إلغاء مواقع التواصل الاجتماعي للصور وبناء قاعدة بيانات أكثر من 3 مليار صورة تبيعها إلى سلطات إنفاذ القانون.

في بيان اعطى ل الحافة، ضاعف الرئيس التنفيذي لشركة Clearview AI Hoan Ton-That من التكنولوجيا كأداة فعالة لإنفاذ القانون. وقال: "بينما قررت Amazon و Google و IBM الخروج من السوق ، تؤمن Clearview AI بمهمة التعرف على الوجه المستخدم بمسؤولية لحماية الأطفال وضحايا الاحتيال المالي والجرائم الأخرى التي تؤثر على مجتمعاتنا". يقول Ton-That أن تقنية Clearview "تعمل بالفعل" ، لكن التعرف على الوجه "لا يقصد استخدامه كأداة مراقبة تتعلق بالاحتجاجات أو تحت أي ظروف أخرى."

بخلاف الدراسات التي تشكك في فعاليتها ، واجهت أمازون انتقادات مستمرة على مر السنين لبيع الوصول إلى Rekognition لقسم الشرطة من النشطاء ، ومنظمات الحقوق المدنية مثل ACLU ، والمشرعين ، وكلهم أشاروا إلى مخاوف بشأن عدم وجود رقابة على كيفية يتم استخدام التكنولوجيا في التحقيقات والتحيز المضمن المحتمل الذي يجعلها غير موثوقة وناضجة للتمييز والانتهاكات الأخرى.

حتى بعد أن أعرب الموظفون عن قلقهم بشأن التكنولوجيا في عام 2018 ، قال مدير سحابة الأمازون أندرو جاسي إن الشركة ستواصل بيعها للشرطة. فقط من خلال التقارير الإعلامية والناشطين ، وكذلك عمل الباحثين مثل Buolamwini ، الذين سلطوا الضوء على مخاطر استخدام الشرطة لتقنية التعرف على الوجه مثل Rekognition ، بدأت الإدارات في وقف العقود مع Amazon.

إليك ملاحظة أمازون الكاملة بشأن الحظر لمدة عام:

نحن نطبق وقفاً عاماً واحداً على استخدام الشرطة لتقنية التعرف على الوجه في أمازون. سنستمر في السماح لمنظمات مثل Thorn ، والمركز الدولي للأطفال المفقودين والمستغلين ، و Marinus Analytics باستخدام Amazon Rekognition للمساعدة في إنقاذ ضحايا الاتجار بالبشر ولم شمل الأطفال المفقودين بأسرهم.

لقد دافعنا عن ضرورة أن تضع الحكومات لوائح أقوى لتنظيم الاستخدام الأخلاقي لتكنولوجيا التعرف على الوجه ، وفي الأيام الأخيرة ، يبدو الكونغرس مستعدًا لمواجهة هذا التحدي. نأمل أن يمنح هذا الوقف لمدة عام الكونجرس وقتًا كافيًا لتطبيق القواعد المناسبة ، ونحن على استعداد للمساعدة إذا طلب ذلك.

تحديث 10 يونيو ، 7:17 مساءً بالتوقيت الشرقي: تمت إضافة معلومات إضافية حول الدراسات التي وجدت أدلة على التحيز العنصري في Amazon Rekognition وأنظمة التعرف على الوجه الأخرى.

تحديث 10 يونيو ، 8:43 م بالتوقيت الشرقي: بيان مضاف من شركة التعرف على الوجه Clearview AI.