Aktuell  Detail
20. Oktober 2022

Algorithmen & Diskriminierung - Ratgeber zum Zusammenhang von automatisierten Entscheidungssystemen und Diskriminierung erschienen

Die Publikation von AlgorithmWatch „Automatisierte Entscheidungssysteme und Diskriminierung – Ursachen verstehen, Fälle erkennen, Betroffene unterstützen“ gibt Antidiskriminierungsstellen einen Überblick zum Thema Algorithmen und Diskriminierung.

Automatisierte Entscheidungssysteme, die mit Hilfe von Algorithmen bestimmte Entscheidungen treffen und online beispielsweise in Form von Chatbots, Masken und sowie im Hintergrund von Online-Portalen zum Einsatz kommen, erhöhen das Diskriminierungsrisiko auf allen Ebenen.

Auch im Bereich der Wohnungssuche ist dies relevant: So können diese automatisierten Entscheidungssysteme im Kontext einer Online-Anfrage für eine Wohnung beispielsweise Personen, die bestimmte Charakteristika aufweisen, direkt aussortieren. In Folge dessen erscheinen diese dann gar nicht erst als potentielle Interessent*innen auf einer Liste der Vermieter*innen bzw. der Hausverwaltung und können somit auch gar nicht erst zu einem Besichtigungstermin eingeladen werden.

Für diese Studie im Rahmen des Projektes „AutoCheck“, das durch die Antidiskriminierungsstelle des Bundes gefördert wird, wurden 15 Mitarbeiter*innen verschiedener Antidiskriminierungsstellen interviewt. Auch die Mitarbeiter*innen der Servicestelle für Antidiskriminierungsarbeit des Planerladens, Regina Hermanns und Benjamin Stuwe, konnten ihre Erfahrungen und Kenntnisse aus der Beratungsarbeit und aus Berichten von Betroffenen einfließen lassen und somit zu diesem Ratgeber beitragen, der für dieses auch zukünftig sehr wichtige Thema digitaler und ‚programmierter‘ Ungleichheit und Diskriminierung sensibilisiert sowie erste Handlungsmöglichkeiten und Unterstützungsangebote aufzeigt.

Die Publikation ist -> hier online abrufbar.