Overfitting (Überanpassung)

Was ist Overfitting?

Overfitting (deutsch: Überanpassung) ist eines der zentralen Probleme beim Training von KI-Modellen: Das Modell lernt die Trainingsdaten zu genau — inklusive Zufallsrauschen, Ausreißern und irrelevanten Details — und verliert dadurch die Fähigkeit, auf neue, unbekannte Daten zu generalisieren. Bildlich gesprochen: Ein Schüler, der die Lösungen alter Klausuren auswendig lernt, statt das Fach zu verstehen, scheitert an neuen Aufgaben. Genau das passiert einem überangepassten Modell.

Wie erkennt man Overfitting?

Das klassische Warnsignal ist eine Schere zwischen Trainings- und Testleistung:

• Trainingsdaten: Das Modell erreicht sehr hohe Genauigkeit, teilweise nahe 100 %
• Neue Daten (Testdaten): Die Leistung bricht deutlich ein

Deshalb wird ein Datensatz vor dem Training in Trainings-, Validierungs- und Testdaten aufgeteilt. Steigt der Fehler auf den Validierungsdaten, während er auf den Trainingsdaten weiter sinkt, liegt Overfitting vor. Das Gegenteil ist übrigens Underfitting: Das Modell ist zu simpel und lernt nicht einmal die Trainingsdaten richtig.

Ursachen von Overfitting

• Zu wenig Trainingsdaten: Das Modell hat zu wenige Beispiele, um allgemeine Muster zu erkennen
• Zu komplexes Modell: Zu viele Parameter im Verhältnis zur Datenmenge — das Modell kann die Daten schlicht "auswendig lernen"
• Zu langes Training: Nach zu vielen Trainingsdurchläufen (Epochen) passt sich das Modell an Rauschen an
• Unausgewogene oder fehlerhafte Daten: Verzerrungen im Datensatz werden als Muster gelernt

Gegenmaßnahmen in der Praxis

• Mehr und vielfältigere Daten: Die wirksamste Maßnahme — auch durch Datenaugmentation (z. B. gedrehte oder gespiegelte Bilder)
• Regularisierung: Techniken wie L1/L2-Regularisierung oder Dropout bestrafen zu komplexe Modelle bzw. schalten zufällig Neuronen ab
• Early Stopping: Das Training wird beendet, sobald die Leistung auf den Validierungsdaten nicht mehr steigt
• Cross-Validation: Der Datensatz wird mehrfach unterschiedlich aufgeteilt, um die Generalisierung zuverlässig zu messen
• Einfachere Modelle: Manchmal ist ein kleineres Modell die robustere Wahl

Bedeutung für die Praxis

Overfitting betrifft nicht nur Forscher: Wer per Fine-Tuning ein Sprachmodell auf eigene Firmendaten anpasst, riskiert bei kleinen Datensätzen schnell Überanpassung — das Modell wiederholt dann Formulierungen aus den Trainingsbeispielen, statt flexibel zu antworten. Auch bei klassischen ML-Anwendungen wie Absatzprognosen oder Kreditscoring führt Overfitting zu Modellen, die in Tests glänzen, aber im Live-Betrieb versagen. Die Faustregel lautet: Ein Modell ist nur so gut wie seine Leistung auf Daten, die es noch nie gesehen hat.