Bias (Verzerrung)

Bias, auf Deutsch Verzerrung, bezeichnet im Zusammenhang mit Künstlicher Intelligenz eine systematische Schieflage in den Ergebnissen eines Modells. Das bedeutet: Die KI trifft Entscheidungen oder macht Vorhersagen, die bestimmte Gruppen, Merkmale oder Situationen unfair bevorzugen oder benachteiligen – und zwar nicht zufällig, sondern regelmäßig und vorhersehbar.

Die Ursache liegt fast immer in den Daten, mit denen ein Modell trainiert wurde. Sind diese Daten einseitig, lückenhaft oder spiegeln bestehende Vorurteile wider, übernimmt die KI diese Muster und reproduziert sie. Ein Beispiel: Wurde eine Bewerbungssoftware überwiegend mit Lebensläufen männlicher Führungskräfte trainiert, kann sie Frauen für solche Positionen systematisch schlechter bewerten. Verzerrungen entstehen aber auch durch die Auswahl der Merkmale, durch die Art der Datenerhebung oder durch unbewusste Annahmen der Entwickler. Selbst sprachliche Modelle wie ChatGPT zeigen Bias, etwa wenn sie bestimmte Berufe automatisch einem Geschlecht zuordnen.

Für kleine und mittelständische Unternehmen ist das Thema aus zwei Richtungen relevant. Erstens beim Einsatz fertiger KI-Werkzeuge: Wer eine KI für Bewerbervorauswahl, Kundenbewertung, Preisgestaltung oder Bonitätsprüfung nutzt, sollte wissen, dass deren Ergebnisse nicht neutral sein müssen – auch wenn sie objektiv wirken. Zweitens beim Training eigener Modelle oder beim Feintuning mit Firmendaten: Wer etwa einen Chatbot nur mit Anfragen aus einer bestimmten Region trainiert, bekommt einen Chatbot, der außerhalb dieser Region schlechter funktioniert. Auch im Marketing kann Bias zum Problem werden, wenn automatisch erzeugte Texte oder Bilder Klischees verstärken und damit Kunden vergraulen.

Bias lässt sich nie vollständig vermeiden, aber durch sorgfältige Datenauswahl, regelmäßige Prüfung der Ergebnisse und ein bewusstes Hinterfragen automatisierter Entscheidungen deutlich reduzieren. Mit der EU-KI-Verordnung gewinnt das Thema auch rechtlich an Bedeutung, insbesondere bei sogenannten Hochrisiko-Anwendungen im Personalwesen oder bei Krediten.