Alle Begriffe mit dem Tag «Training»
21 Einträge im KI-Lexikon
Annotation
Im Kontext der künstlichen Intelligenz (KI) bezieht sich Annotation auf den Prozess, bei dem Daten manuell von Menschen beschriftet oder…
Classification
Im Bereich der künstlichen Intelligenz (KI) bezieht sich Klassifikation auf eine Art des überwachten Lernens, bei dem ein Algorithmus…
Data Labeling
Maschinelle Lernsysteme benötigen oft menschliche Annotatoren, um Daten zu beschriften oder zu beschreiben, bevor sie für das Training…
DPO (Direct Preference Optimization)
Trainingsverfahren, mit dem Sprachmodelle direkt aus Präferenzpaaren lernen, eine einfachere Alternative zum klassischen RLHF.
Finetuning
Finetuning bezeichnet die Anpassung eines vortrainierten KI-Modells auf eine spezifische Aufgabe oder einen spezifischen Datensatz. Wir…
Hyperparameter
Hyperparameter sind Konfigurationsparameter, die vor dem Training eines maschinellen Lernmodells festgelegt werden und nicht während des…
KI Modell
Ein KI Modell ist immer eine vereinfachte Darstellung der Realität. Im Kontext von Machine Learning und KI ist ein Modell ein…
KL-Divergenz
Mathematisches Maß dafür, wie stark sich zwei Wahrscheinlichkeitsverteilungen unterscheiden. Wichtiges Werkzeug beim Training generativer…
Knowledge Distillation (Wissensdestillation)
Verfahren, bei dem ein kleines „Schüler"-Modell trainiert wird, die Fähigkeiten eines großen „Lehrer"-Modells nachzuahmen – für…
LoRA (Low-Rank Adaptation)
Effiziente Fine-Tuning-Methode, die nur einen kleinen Teil der Modellparameter anpasst – ideal für kostengünstiges Anpassen großer…
Loss Function
Eine Loss Function (Verlustfunktion) ist eine mathematische Funktion, die misst, wie gut ein maschinelles Lernmodell bei der Vorhersage der…
Model Collapse
Phänomen, bei dem KI-Modelle an Qualität verlieren, wenn sie auf von KI generierten Daten statt auf menschlichen Daten trainiert werden –…
One-Shot Learning
Lernverfahren, bei dem ein Modell aus nur einem einzigen Beispiel pro Kategorie generalisieren kann. Gegenstück zu Zero-Shot und Few-Shot…
Overfitting (Überanpassung)
Überanpassung bei KI-Modellen beschreibt den Zustand, in dem ein Modell die Trainingsdaten so genau erlernt, dass es deren spezifische…
PPO (Proximal Policy Optimization)
Reinforcement-Learning-Algorithmus von OpenAI, der besonders stabil große Sprachmodelle nach menschlichem Feedback ausrichtet. Klassiker…
Pretraining
Erste Trainingsphase eines KI-Modells, in der es auf riesigen, allgemeinen Datenmengen grundlegende Muster und Sprache lernt, bevor es…
RLHF (Reinforcement Learning from Human Feedback)
Trainingsmethode, bei der menschliche Bewerter KI-Antworten bewerten und so das Modell an menschliche Werte und Präferenzen anpassen –…
Scaling Laws
Empirische Gesetzmäßigkeiten, die beschreiben, wie KI-Modelle besser werden, wenn Modellgröße, Datenmenge und Rechenleistung wachsen.
Self-Supervised Learning
Lernverfahren, bei dem ein Modell sich aus unbeschrifteten Daten selbst Trainingssignale erzeugt, etwa durch Vorhersage maskierter Wörter.…
Supervised Learning (Überwachtes Lernen)
Ein Typ des maschinellen Lernens, bei dem das Modell mit gelabelten Daten trainiert wird, bei denen die richtigen Antworten bekannt sind.…
Weak Supervision
Trainingsansatz, bei dem KI-Modelle aus unsicheren oder automatisch erzeugten Labels lernen, statt aus perfekten, manuell annotierten Daten.