Transfer Learning

Transfer Learning bezeichnet eine Methode im maschinellen Lernen, bei der ein bereits trainiertes Modell als Ausgangspunkt für eine neue, verwandte Aufgabe verwendet wird. Statt ein Modell von Null aufzubauen und mit riesigen Datenmengen zu füttern, nutzt man das vorhandene Wissen eines bestehenden Modells und passt es gezielt an. Der Begriff beschreibt also die Übertragung von Gelerntem aus einem Bereich in einen anderen.

Technisch funktioniert das so: Ein grosses Basismodell, etwa zur Bilderkennung oder Sprachverarbeitung, wurde zuvor mit Millionen Beispielen trainiert und hat dabei allgemeine Muster gelernt, etwa Kanten, Formen oder Sprachstrukturen. Für eine spezifische Aufgabe werden dann nur die oberen Schichten des Modells mit deutlich weniger eigenen Daten nachtrainiert. Das spart Rechenleistung, Zeit und Datenmengen erheblich. Bekannte Beispiele sind Sprachmodelle wie GPT oder BERT, die für konkrete Anwendungen wie juristische Textanalyse oder medizinische Diagnostik feinjustiert werden. Auch in der Bildverarbeitung ist diese Vorgehensweise heute Standard.

Für kleine und mittlere Unternehmen ist Transfer Learning der entscheidende Grund, warum moderne KI-Anwendungen überhaupt bezahlbar geworden sind. Wer früher ein eigenes Bilderkennungssystem brauchte, um etwa Produkte auf Fehler zu prüfen, musste enorme Datenmengen sammeln und teure Rechenkapazitäten einkaufen. Heute lässt sich ein vortrainiertes Modell mit einigen hundert eigenen Beispielbildern auf den konkreten Anwendungsfall trimmen, oft innerhalb weniger Tage. Das gilt ebenso für Chatbots, die auf firmeneigene Dokumente angepasst werden, für die automatische Klassifikation von Eingangsrechnungen oder für Stimmungsanalysen in Kundenfeedback. Dienstleister und Cloud-Anbieter stellen entsprechende Basismodelle bereit, sodass auch ohne eigene KI-Abteilung praktische Lösungen möglich sind.

Die Grenzen liegen dort, wo die ursprüngliche Aufgabe des Basismodells zu weit von der neuen entfernt ist oder wo die eigenen Daten zu wenig Aussagekraft haben. Verwandte Konzepte sind Fine-Tuning, das den Anpassungsschritt konkret beschreibt, sowie Foundation Models als Sammelbegriff für die universell einsetzbaren Basismodelle.