- Algorithmische Equity und statistische Diskriminierung (arXiv)
Autor: John W. Patty, Elizabeth Maggie Penn
Zusammenfassung: Algorithmische Equity ist ein neues interdisziplinäres Forschungsgebiet, das sich darauf konzentriert, wie man misst, ob ein Prozess oder Algorithmus unbeabsichtigt unfaire Ergebnisse hervorbringen kann, und ob und wie die potenzielle Unfairness solcher Prozesse gemildert werden kann. Statistische Diskriminierung beschreibt eine Reihe von Informationsproblemen, die dazu führen können, dass eine rationale (d. h. Bayes’sche) Entscheidungsfindung zu unfairen Ergebnissen führt, selbst wenn keine diskriminierende Absicht vorliegt. In diesem Artikel geben wir einen Überblick über diese beiden verwandten Literaturen und stellen Verbindungen zwischen ihnen her. Der Vergleich verdeutlicht sowohl den Konflikt zwischen Rationalität und Equity als auch die Bedeutung der Endogenität (z. B. „rationale Erwartungen“ und „sich selbst erfüllende Prophezeiungen“) bei der Definition und Verfolgung von Equity. Zusammengenommen argumentieren wir, dass die beiden Traditionen einen Wert für die Berücksichtigung neuer Equity-Konzepte nahelegen, die explizit berücksichtigen, wie sich die einzelnen Merkmale, die ein Algorithmus messen möchte, als Reaktion auf den Algorithmus ändern können.
2. Algorithmische Equity in der Geschäftsanalyse: Hinweise für Forschung und Praxis (arXiv)
Autor: Maria De-Arteaga, Stefan Feuerriegel, Maytal Saar-Tsechansky
Zusammenfassung: Die umfassende Einführung von Enterprise Analytics (BA) hat zu finanziellen Gewinnen und gesteigerter Effizienz geführt. Diese Fortschritte haben jedoch gleichzeitig die Aufmerksamkeit auf wachsende rechtliche und ethische Herausforderungen gelenkt, wenn BA Entscheidungen mit Auswirkungen auf die Gerechtigkeit beeinflussen. Als Reaktion auf diese Bedenken befasst sich die neue Studie zur algorithmischen Equity mit algorithmischen Ergebnissen, die zu unterschiedlichen Ergebnissen oder anderen Formen von Ungerechtigkeiten für Untergruppen der Bevölkerung führen können, insbesondere für diejenigen, die historisch an den Rand gedrängt wurden. Equity ist auf der Grundlage von Rechtskonformität, sozialer Verantwortung und Nutzen related; Wenn unfaire BA-Systeme nicht angemessen und systematisch angegangen werden, können sie zu gesellschaftlichen Schäden führen und auch das eigene Überleben, die Wettbewerbsfähigkeit und die Gesamtleistung einer Organisation gefährden. Dieses Papier bietet einen zukunftsweisenden, BA-fokussierten Überblick über algorithmische Equity. Wir überprüfen zunächst den neuesten Stand der Forschung zu Quellen und Maßen von Verzerrungen sowie zu Algorithmen zur Verzerrungsminderung. Anschließend erörtern wir ausführlich die Nutzen-Gerechtigkeits-Beziehung und betonen, dass die häufige Annahme eines Kompromisses zwischen diesen beiden Konstrukten oft falsch oder kurzsichtig ist. Abschließend zeigen wir einen Weg nach vorne auf, indem wir Möglichkeiten für Wirtschaftswissenschaftler identifizieren, sich wirkungsvollen, offenen Herausforderungen zu stellen, die für den effektiven und verantwortungsvollen Einsatz von BA von entscheidender Bedeutung sind.
