Shadow AI (Schatten-KI)
KI-Tools und -Anwendungen, die von Mitarbeitenden ohne Wissen oder Genehmigung der IT-Abteilung im Unternehmen eingesetzt werden – ein wachsendes Governance-Risiko.
Shadow AI (Schatten-KI) bezeichnet den Einsatz von KI-Werkzeugen durch Mitarbeitende ohne offizielle Genehmigung, Kontrolle oder Kenntnis der IT-Abteilung. Analog zu „Shadow IT" umfasst dies die Nutzung von ChatGPT, Copilot, Midjourney und anderen KI-Diensten für Arbeitsaufgaben – oft mit guter Absicht, aber ohne Rücksicht auf Datenschutz, Compliance oder Sicherheitsrichtlinien.
Das Ausmaß ist erheblich: Studien zeigen, dass 2025 rund 65 % der in Unternehmen genutzten KI-Tools ohne IT-Governance betrieben werden. Mitarbeitende laden vertrauliche Dokumente in öffentliche KI-Dienste hoch, nutzen KI-generierte Inhalte ohne Qualitätsprüfung oder treffen Geschäftsentscheidungen auf Basis unkontrollierter KI-Ausgaben. Die durchschnittlichen Kosten eines daraus resultierenden Datenschutzvorfalls liegen laut Studien 670.000 Dollar über dem Durchschnitt.
Shadow AI ist besonders brisant im Kontext des EU AI Act, der seit Februar 2025 eine „KI-Kompetenz"-Pflicht für Unternehmen vorsieht. Organisationen müssen wissen, welche KI-Tools eingesetzt werden, und sicherstellen, dass alle Mitarbeitenden die Risiken verstehen. Lösungsansätze umfassen KI-Governance-Frameworks, genehmigte KI-Tool-Kataloge, Mitarbeiterschulungen und technische Monitoring-Lösungen.
Verwandte Begriffe
Guardrails
Schutzmechanismen, die festlegen, was eine KI-Anwendung tun darf, was sie sagen darf und welche…
Jailbreak
Versuch, die Sicherheitsmechanismen eines KI-Sprachmodells zu umgehen, damit es Inhalte erzeugt,…
KI-Kompetenz (AI Literacy)
Seit Februar 2025 gesetzlich vorgeschrieben: Unternehmen müssen sicherstellen, dass Mitarbeitende…
Prompt Injection
Angriff auf KI-Anwendungen, bei dem manipulierte Eingaben die ursprünglichen Anweisungen eines…
Adversarial Learning
Beim gegnerischen Lernen wird versucht, ein Modell durch Lernen mit sogenannten gegnerischen…