Tag
Alle Begriffe mit dem Tag «Performance»
4 Einträge im KI-Lexikon
Echtzeit
Echtzeit bedeutet die ständige Betriebsbereitschaft eines Systems und die Fähigkeit, alle Reaktionen und Rechenschritte in einer bestimmten…
SystemeEchtzeitPerformance
Flash Attention
Hochoptimierte Implementierung des Attention-Mechanismus, die Sprachmodelle deutlich schneller und speichereffizienter macht, ohne die…
EffizienzHardwarePerformance
KV-Cache
Speichermechanismus in Sprachmodellen, der schon berechnete Aufmerksamkeits-Werte zwischenspeichert und so die Generierung neuer Tokens…
EffizienzArchitekturPerformance
Speculative Decoding
Beschleunigungstechnik für die Token-Generierung in Sprachmodellen: Ein kleines, schnelles Modell schlägt Tokens vor, das große Modell…
EffizienzPerformanceSprachmodelle