Edge Computing
Verlagerung der Datenverarbeitung an den Ort, an dem die Daten entstehen, etwa auf das Smartphone, das IoT-Gerät oder die Maschine vor Ort, statt in die Cloud.
Edge Computing bezeichnet ein Architekturmuster, bei dem Daten nicht primär in einem zentralen Rechenzentrum oder einer Cloud verarbeitet werden, sondern direkt am "Rand" des Netzwerks, auf dem Endgerät, einem Gateway oder einer Maschine vor Ort. Im KI-Kontext spricht man auch von Edge AI oder On-Device AI.
Die Vorteile sind erheblich: kürzere Latenzzeiten, da der Weg zum Server entfällt; bessere Datenschutzeigenschaften, weil sensible Daten das Gerät nicht verlassen müssen; niedrigere Bandbreitenkosten; und höhere Ausfallsicherheit, da das Gerät auch offline arbeiten kann. Voraussetzung sind effiziente Modelle (Quantisierung, Knowledge Distillation, Small Language Models) und spezialisierte Hardware.
Edge AI ist die Basis vieler moderner Anwendungen: Smartphone-Funktionen wie Sprach- und Gesichtserkennung, intelligente Industriekameras, autonome Fahrzeuge, smarte Sensoren in der Landwirtschaft oder medizinische Wearables. Auch große Sprachmodelle laufen zunehmend lokal, etwa auf Apple- oder Snapdragon-Hardware. Der Trend zur Edge-KI gilt als einer der wichtigsten der nächsten Jahre.
Verwandte Begriffe
Small Language Models (SLMs)
Kompakte Sprachmodelle mit 1–7 Milliarden Parametern, die effizient auf Endgeräten laufen können…
Flash Attention
Hochoptimierte Implementierung des Attention-Mechanismus, die Sprachmodelle deutlich schneller und…
Quantisierung
Technik zur Komprimierung von KI-Modellen, bei der die Rechengenauigkeit reduziert wird – für…
Robotics
Robotik ist ein interdisziplinäres Gebiet, das sich mit der Konzeption, dem Design, der Herstellung…
Verteilte KI
Bei verteilter KI bleiben die Modelle in den Endgeräten. Statt der Rohdaten werden die Modelle in…