Uncertainty Estimation

Uncertainty Estimation beschäftigt sich damit, wie ein KI-Modell seine eigene Vorhersagesicherheit quantifizieren kann. Ein gutes Modell sagt nicht nur eine Antwort, sondern auch, wie zuverlässig diese Antwort ist, ein entscheidender Aspekt für den verantwortungsvollen Einsatz von KI.

Man unterscheidet zwei Arten von Unsicherheit: aleatorische Unsicherheit, die im Rauschen der Daten selbst liegt (zwei identische Eingaben können unterschiedliche korrekte Antworten haben), und epistemische Unsicherheit, die aus dem fehlenden Wissen des Modells stammt (zu wenige Trainingsdaten in einem Bereich). Verfahren wie Bayes'sche Neuronale Netze, Monte-Carlo-Dropout oder Ensemble-Methoden helfen, diese Unsicherheiten zu schätzen.

In der Praxis ist Uncertainty Estimation entscheidend für sicherheitskritische Domänen: medizinische Diagnose, autonomes Fahren oder industrielle Qualitätsprüfung. Erkennt das Modell hohe Unsicherheit, kann es an einen Menschen eskalieren, statt eine möglicherweise falsche Entscheidung zu treffen. Auch bei Sprachmodellen wird Unsicherheit zunehmend zur Reduktion von Halluzinationen genutzt.