Alle Begriffe mit dem Tag «Risiken»
6 Einträge im KI-Lexikon
Büroklammer-Maximierer
Die Theorie des Büroklammer-Maximierers, die von dem Philosophen Nick Boström von der Universität Oxford geprägt wurde, ist ein…
Halluzination
Phänomen, bei dem KI-Modelle überzeugend klingende, aber faktisch falsche oder frei erfundene Informationen generieren – eine der größten…
Jailbreak
Versuch, die Sicherheitsmechanismen eines KI-Sprachmodells zu umgehen, damit es Inhalte erzeugt, die es eigentlich verweigern soll.
Model Collapse
Phänomen, bei dem KI-Modelle an Qualität verlieren, wenn sie auf von KI generierten Daten statt auf menschlichen Daten trainiert werden –…
Prompt Injection
Angriff auf KI-Anwendungen, bei dem manipulierte Eingaben die ursprünglichen Anweisungen eines Sprachmodells umgehen oder überschreiben.…
Shadow AI (Schatten-KI)
KI-Tools und -Anwendungen, die von Mitarbeitenden ohne Wissen oder Genehmigung der IT-Abteilung im Unternehmen eingesetzt werden – ein…