100% Lokal · DSGVO

Mellum 2

von JetBrains · Lizenz: Apache 2.0 · Kommerziell nutzbar

JetBrains' 12B-MoE-Codemodell (2,5B aktiv) unter Apache 2.0: blitzschnelle Completion- und Fokal-Aufgaben in IDE-Pipelines, mit Thinking-, Instruct- und SFT-Varianten.

4.0 Gesamt
Verfügbare Größen: 12B-A2.5B

Was ist Mellum 2?

Mellum 2 ist JetBrains' zweite Generation seines offenen Codemodells und der Wechsel von dichter Architektur zu Mixture-of-Experts: 12 Mrd. Gesamtparameter, nur 2,5 Mrd. aktiv pro Token (64 Experten, 8 aktiv, abgeleitet von der Qwen3-MoE-Architektur mit Sliding-Window-Attention).

JetBrains positioniert es als fokales Modell: klein, schnell und eng umrissen für hochfrequente Aufgaben wie Code-Completion, Edits und spezialisierte Schritte in größeren KI-Pipelines — nicht als Allzweck-Chatbot. Es erscheint gleich in drei Varianten (Thinking, Instruct, SFT); die Thinking-Version legt ihre Überlegungen in Think-Blöcken offen. Die lokale Nutzung ist vorbildlich: Apache-2.0-Lizenz ohne Einschränkungen, offizielle GGUF-Quantisierungen (MXFP4_MOE) direkt von JetBrains, native vLLM-Unterstützung für Produktionsbetrieb und dank nur 2,5 Mrd.

aktiver Parameter flotte Inferenz selbst auf 8-GB-Grafikkarten oder per CPU-Offloading. Wer eine leichtgewichtige, kommerziell frei nutzbare Coding-Engine für eigene Tools oder IDE-Integrationen sucht, bekommt hier eines der effizientesten offenen Modelle seiner Klasse.

Fähigkeiten-Matrix

Was kann Mellum 2 — und was nicht?

🇩🇪 Deutsch-Chat
2.0
🇬🇧 Englisch-Chat
3.0
🗣️ Multilingual
2.5
💻 Code-Generierung
4.0
🌍 Übersetzung
2.0
📋 Zusammenfassung
2.5
📄 RAG / Dokumente
3.0
🔧 Tool-Use / Function Calling
3.5
🌐 Browser-Automatisierung
2.0
👁️ Bildverständnis
🧮 Mathematik / Logik
3.0
✍️ Kreatives Schreiben
1.5

Hardware-Anforderungen

Größe Min. RAM Empf. VRAM CPU möglich? Quantisierung Empfohlene GPU
12B-A2.5B 16 GB 8 GB ✓ Ja (langsam) MXFP4_MOE RTX 4060 8GB

GPU-Kaufberatung mit aktuellen Preisen ansehen

Kompatibilität

Ollama
LM Studio
llama.cpp
vLLM
Text Gen WebUI
Jan.ai

Bewertung

Output-Qualität ★★★☆☆ 3.5/5
Inference-Speed ★★★★★ 5.0/5
RAM/VRAM-Effizienz ★★★★★ 5.0/5

War diese Übersicht hilfreich?