Vertrauenswürdige KI

Vertrauenswürdige KI bezeichnet Systeme der Künstlichen Intelligenz, die nach klar definierten Grundsätzen entwickelt und betrieben werden, um zuverlässig, sicher, nachvollziehbar und rechtskonform zu funktionieren. Der Begriff geht über reine technische Funktionsfähigkeit hinaus und umfasst auch ethische, rechtliche und gesellschaftliche Anforderungen. Eine KI gilt dann als vertrauenswürdig, wenn ihre Entscheidungen erklärbar sind, sie diskriminierungsfrei arbeitet, Datenschutz gewährleistet und der Mensch jederzeit die Kontrolle behält.

In der Praxis stützt sich vertrauenswürdige KI auf mehrere Säulen: technische Robustheit, Transparenz der Entscheidungswege, Wahrung der Privatsphäre, menschliche Aufsicht, Fairness gegenüber allen Nutzergruppen sowie eine klare Zuweisung von Verantwortung. Auf europäischer Ebene hat die Hochrangige Expertengruppe der EU-Kommission entsprechende Leitlinien formuliert, die wiederum in den AI Act eingeflossen sind. Unternehmen, die KI einsetzen, müssen je nach Risikoklasse der Anwendung unterschiedliche Anforderungen erfüllen, etwa Dokumentationspflichten, Risikobewertungen oder die Möglichkeit, Ergebnisse nachvollziehen zu können.

Für kleine und mittlere Unternehmen ist das Thema vor allem dann relevant, wenn KI-Werkzeuge im Kundenkontakt, bei Personalentscheidungen, in der Kreditprüfung oder in der medizinischen Diagnostik eingesetzt werden. Wer beispielsweise einen Chatbot auf der Webseite betreibt, ein Bewerber-Vorauswahlsystem nutzt oder Kundendaten mit KI auswertet, sollte prüfen, ob die eingesetzten Werkzeuge den Anforderungen an Datenschutz, Transparenz und Nichtdiskriminierung genügen. Auch bei der Auswahl externer Anbieter wird vertrauenswürdige KI zum Qualitätsmerkmal: Seriöse Anbieter legen offen, mit welchen Daten ihre Modelle trainiert wurden und wie Ergebnisse zustande kommen. Versäumnisse können nicht nur Bußgelder nach sich ziehen, sondern auch das Vertrauen der eigenen Kundschaft beschädigen.

Vertrauenswürdige KI ist damit weniger eine technische Eigenschaft als eine organisatorische Aufgabe. Sie steht in engem Zusammenhang mit Begriffen wie erklärbare KI, KI-Governance und Verantwortungsvolle KI und gewinnt durch die schrittweise Anwendung des AI Act zunehmend an praktischer Bedeutung.