Untersuchung findet rassistische Produkte bei Amazon, Google, Wish

Amazon, Google und Wish haben rassistische Produkte abgeschaltet, nachdem eine Untersuchung solche Einträge auf ihren Plattformen aufgedeckt hatte.

Unter den zum Verkauf stehenden Produkten befanden sich laut einer Untersuchung von BBC Click weiß-supremacistische Flaggen, Neonazi-Bücher und Gegenstände des Ku Klux Klan.

Die Algorithmen von Amazon und Wish gaben auch Empfehlungen für andere weiß-supremacistische Waren heraus, die von der Denkfabrik Demos aufgerufen wurden, um Online-Käufer zu rassistischen Produkten zu bewegen.

"Es bedarf oft menschlicher Untersuchungen, um herauszufinden, dass Menschen auf diesem Weg geführt werden", sagte Josh Smith, Chief Technical Officer und Senior Researcher von Demos, gegenüber BBC.

"Die fraglichen Produkte sind nicht mehr verfügbar und wir haben Maßnahmen gegen die schlechten Akteure ergriffen, die die Produkte angeboten und gegen unsere Richtlinien verstoßen haben", sagte Amazon gegenüber BBC, während Google sagte, dass keine Anzeigen oder Produkte zulässig sind, die "schockierende Inhalte anzeigen" oder Hass fördern. "

„Wish verbietet strengstens die Auflistung von Produkten, die den Hass gegenüber anderen verherrlichen oder unterstützen. Wir arbeiten hart daran, diese Elemente zu entfernen und zusätzliche Schritte zu unternehmen, um zu verhindern, dass solche Elemente erneut angezeigt werden “, sagte ein Sprecher gegenüber Digital Trends. "Wir ermutigen die Öffentlichkeit, anstößige oder unangemessene Einträge an [email protected] zu melden."

Digital Trends hat sich auch an Amazon und Google gewandt, um weitere Kommentare zu der Untersuchung und Informationen darüber zu erhalten, wie sie verhindern können, dass rassistische Produkte auf ihren Plattformen wieder auftauchen. Wir werden diesen Artikel aktualisieren, sobald wir etwas hören.

Technik gegen Rassismus

X. Eyeé, Outreach-Leiter für verantwortungsvolle Innovation bei Google, und Angela Williams, Policy Manager bei Google, äußerten auf dem Pride Summit (Not IRL) Bedenken, dass die Voreingenommenheit bei KI-Algorithmen den Rassismus verstärkt und bereits marginalisierte Gemeinschaften nicht nur in den USA verletzt , aber auf der ganzen Welt.

Big Tech hat die Mittel, um systemischen Rassismus zu bekämpfen, aber die Unternehmen haben es bisher nicht geschafft, auf konkrete Veränderungen zu drängen.

Aktualisiert am 27. Juli 2020: Erklärung des Wish-Sprechers hinzugefügt.