Fairness in AI

Fairness in AI beschäftigt sich damit, wie KI-Systeme so gestaltet und trainiert werden können, dass sie Menschen unabhängig von sensiblen Merkmalen wie Geschlecht, Hautfarbe, Alter, Herkunft oder Behinderung gerecht behandeln. Sie ist eine zentrale Disziplin im Feld der Responsible AI und wird durch Regelwerke wie den EU AI Act zunehmend rechtlich verbindlich.

Unfairness in KI entsteht meist nicht durch böse Absicht, sondern durch verzerrte Trainingsdaten (Bias), unausgewogene Stichproben oder problematische Zielgrößen. So kann ein Bewerbermanagement-System, das auf historischen Einstellungen trainiert wurde, bestehende Diskriminierung verstärken, selbst wenn das Geschlecht nicht direkt als Merkmal verwendet wird, weil sich Bias über Proxy-Variablen wie Postleitzahlen oder Hobbys einschleicht.

Die Fairness-Forschung entwickelt Metriken (Demographic Parity, Equalized Odds, Equal Opportunity), Werkzeuge zum Bias-Audit (Fairlearn, AI Fairness 360) und Techniken zur Reduktion von Verzerrungen, sowohl in den Trainingsdaten als auch im Modell selbst. In Unternehmen wird Fairness zunehmend Teil der KI-Governance, etwa durch verpflichtende Folgenabschätzungen vor dem produktiven Einsatz.