13 Mai، 2021

جورنالك

الخبر كما هو ، منكم و اليكم

Amazon verbietet der Polizei die Verwendung seiner Gesichtserkennungstechnologie für das nächste Jahr

This post is also available in: Italiano

Amazon kündigt ein einjähriges Moratorium an, damit Strafverfolgungsbehörden seine umstrittene Rekognition-Gesichtserkennungsplattform nutzen können, sagte der E-Commerce-Riese am Mittwoch.

Die Nachricht kommt nur zwei Tage, nachdem IBM angekündigt hat, keine Gesichtserkennungstechnologie mehr anzubieten, zu entwickeln oder zu erforschen. Dabei werden potenzielle Menschenrechts- und Datenschutzverletzungen angeführt und Untersuchungen, die darauf hinweisen, dass Gesichtserkennungstechnologien trotz der Fortschritte der künstlichen Intelligenz weiterhin voreingenommen sind Alter, Geschlecht, Rasse und ethnische Zugehörigkeit.

Ein Großteil der grundlegenden Arbeiten, die die Mängel der modernen Gesichtserkennungstechnologie in Bezug auf rassistische Vorurteile aufzeigen, ist Joy Buolamwini, einem Forscher am MIT Media Lab, und Timnit Gebru, einem Mitglied von Microsoft Research, zu verdanken. Buolamwini und Gebry haben gemeinsam ein viel zitiertes Papier aus dem Jahr 2018 verfasst, in dem die Fehlerraten für Gesichtserkennungssysteme von großen Technologieunternehmen, darunter IBM und Microsoft, bei der Identifizierung von Personen mit dunklerer Hautfarbe um Dutzende Prozentpunkte höher waren als bei der Identifizierung von Personen mit weißer Hautfarbe. Die Probleme liegen teilweise in den Datensätzen, die zum Trainieren der Systeme verwendet werden, die laut einem Bericht von überwiegend männlich und weiß sein können Die New York Times.

In einer separaten Studie aus dem Jahr 2019 analysierten Buolamwini und die Co-Autorin Deborah Raji die Rekognition und stellten fest, dass auch das System von Amazon erhebliche Probleme hatte, das Geschlecht von Personen mit dunklerer Hautfarbe zu identifizieren und Frauen mit dunklerer Hautfarbe mit Männern zu verwechseln. Die Studie ergab, dass das System bei der Analyse von Bildern von hellhäutigen Personen mit einer Fehlerrate nahe Null arbeitete.

Amazon hat versucht, die Ergebnisse zu untergraben, aber Buolamwini hat eine ausführliche und ausführliche Antwort auf Medium veröffentlicht, in der sie sagt: „Der bisherige Ansatz von Amazon bestand in Ablehnung, Ablenkung und Verzögerung. Wir können uns nicht darauf verlassen, dass Amazon sich selbst überwacht oder unregulierte und unbewiesene Technologien für Polizei oder Regierungsbehörden bereitstellt. “ Ihre und Rajis Ergebnisse wurden später von einer Gruppe von Dutzenden von KI-Forschern gestützt, die einen offenen Brief verfassten, in dem sie sagten, die Anerkennung sei fehlerhaft und sollte nicht in den Händen der Strafverfolgungsbehörden liegen.

Amazon gab keinen konkreten Grund für die Entscheidung an, der über die Forderung nach einer föderalen Regulierung der Technologie hinausgeht, obwohl das Unternehmen angibt, die Software weiterhin für Rechteorganisationen bereitzustellen, die sich für vermisste und ausgebeutete Kinder und die Bekämpfung des Menschenhandels einsetzen. Der unausgesprochene Kontext hier ist natürlich der Tod von George Floyd, einem schwarzen Mann, der von ehemaligen Polizeibeamten aus Minnesota getötet wurde, und anhaltende Proteste in den USA und auf der ganzen Welt gegen Rassismus und systemische Polizeibrutalität.

Es scheint, als ob Amazon entschieden hat, dass der Polizei nicht vertraut werden kann, um die Technologie verantwortungsbewusst einzusetzen, obwohl das Unternehmen nie bekannt gegeben hat, wie viele Polizeibehörden die Technologie tatsächlich einsetzen. Ab dem letzten Sommer schienen nur zwei Abteilungen – eine in Oregon und eine in Florida – Rekognition aktiv zu nutzen, und Orlando hat seitdem aufgehört. Ein weitaus verbreiteteres Gesichtserkennungssystem ist das von Clearview AI, einem geheimen Unternehmen, das derzeit mit einer Reihe von Datenschutzklagen konfrontiert ist, nachdem es Social-Media-Websites nach Fotos durchsucht und eine Datenbank mit mehr als 3 Milliarden Fotos erstellt hat, die es an Strafverfolgungsbehörden verkauft.

In einer Erklärung an Der RandHoan Ton, CEO von Clearview AI – Das hat die Technologie als wirksames Strafverfolgungsinstrument verdoppelt. "Während Amazon, Google und IBM beschlossen haben, den Markt zu verlassen, glaubt Clearview AI an die Mission einer verantwortungsvollen Gesichtserkennung zum Schutz von Kindern, Opfern von Finanzbetrug und anderen Verbrechen, von denen unsere Gemeinden betroffen sind", sagte er. Laut Ton-That funktioniert die Technologie von Clearview "tatsächlich", aber die Gesichtserkennung soll "nicht als Überwachungsinstrument für Proteste oder unter anderen Umständen verwendet werden".

Abgesehen von Studien, die seine Wirksamkeit in Frage stellen, wurde Amazon im Laufe der Jahre ständig kritisiert, weil Aktivisten, Bürgerrechtsorganisationen wie die ACLU und Gesetzgeber den Zugang zur Anerkennung an die Polizeibehörde verkauft haben. Alle haben Bedenken hinsichtlich der mangelnden Kontrolle darüber geäußert, wie Die Technologie wird bei Ermittlungen und potenziellen Vorurteilen eingesetzt, die sie unzuverlässig und reif für Diskriminierung und andere Missbräuche machen.

Selbst nachdem die Mitarbeiter 2018 Bedenken hinsichtlich der Technologie geäußert hatten, sagte der Cloud-Chef von Amazon, Andrew Jassy, ​​das Unternehmen werde sie weiterhin an die Polizei verkaufen. Nur durch Medienberichte und Aktivisten sowie durch die Arbeit von Forschern wie Buolamwini, die die Fallstricke des Einsatzes von Gesichtserkennungstechnologien wie Rekognition durch die Polizei hervorheben, haben die Abteilungen begonnen, Verträge mit Amazon einzustellen.

Hier ist der vollständige Hinweis von Amazon zum einjährigen Verbot:

Wir führen ein einjähriges Moratorium für die polizeiliche Nutzung der Gesichtserkennungstechnologie von Amazon durch. Wir werden weiterhin Organisationen wie Thorn, dem Internationalen Zentrum für vermisste und ausgebeutete Kinder, und Marinus Analytics erlauben, Amazon Rekognition zu verwenden, um Opfer des Menschenhandels zu retten und vermisste Kinder mit ihren Familien wieder zusammenzuführen.

Wir haben uns dafür ausgesprochen, dass die Regierungen strengere Vorschriften erlassen, um den ethischen Einsatz von Gesichtserkennungstechnologien zu regeln, und in den letzten Tagen scheint der Kongress bereit zu sein, sich dieser Herausforderung zu stellen. Wir hoffen, dass dieses einjährige Moratorium dem Kongress genügend Zeit gibt, um angemessene Regeln umzusetzen, und wir sind bereit, auf Anfrage zu helfen.

Update 10. Juni, 19:17 Uhr ET: Zusätzliche Informationen zu Studien hinzugefügt, in denen Hinweise auf rassistische Vorurteile bei Amazon Rekognition und anderen Gesichtserkennungssystemen gefunden wurden.

Update 10. Juni, 20:43 Uhr ET: Aussage der Gesichtserkennungsfirma Clearview AI hinzugefügt.

This post is also available in: Italiano