Llama 3.2

Llama 3.2 in den Varianten 1B und 3B ist Metas Antwort auf die wachsende Nachfrage nach kleinen, effizienten Sprachmodellen, die auch auf schwacher Hardware laufen. Mit nur 1 bis 3 Milliarden Parametern können diese Modelle selbst auf älteren Laptops, Raspberry Pis oder sogar Smartphones betrieben werden — die 3B-Variante benötigt lediglich 4 GB RAM. Trotz der geringen Größe liefert Llama 3.2 überraschend brauchbare Ergebnisse für einfache Konversationen, Textzusammenfassungen und grundlegende Aufgaben.

Die englische Sprachqualität ist für die Modellgröße beeindruckend, während Deutsch zwar funktioniert, aber deutlich hinter größeren Modellen zurückbleibt. Für Code-Generierung ist das Modell nur bedingt geeignet — einfache Snippets gelingen, aber komplexere Programmieraufgaben überfordern die geringe Parameteranzahl. Der große Vorteil von Llama 3.2 liegt in der extrem niedrigen Einstiegshürde: Kein teurer GPU nötig, kein Cloud-Abo, einfach auf dem vorhandenen Rechner starten.

Unter der Llama-Community-Lizenz ist kommerzielle Nutzung erlaubt, was das Modell auch für Startups und kleine Unternehmen interessant macht, die erste KI-Experimente starten möchten. Die Integration mit Ollama ist nahtlos — ein einfaches 'ollama pull llama3.2:3b' genügt. Ideal für Prototyping, Edge-Deployments, lokale Chatbots mit begrenzten Ressourcen oder als schneller lokaler Assistent für einfache Aufgaben.

Wer mehr Qualität braucht, sollte jedoch zu größeren Modellen greifen.