StarCoder 2

StarCoder 2 ist ein Gemeinschaftsprojekt von BigCode und Hugging Face und wurde speziell für Code-Generierung entwickelt. Das Besondere: StarCoder 2 unterstützt über 600 Programmiersprachen und damit deutlich mehr als jedes andere Open-Source-Code-Modell. Von populären Sprachen wie Python, JavaScript und Java über Nischensprachen wie Fortran, COBOL und Ada bis hin zu Domain-spezifischen Sprachen — StarCoder 2 deckt ein unglaublich breites Spektrum ab.

Mit 15 Milliarden Parametern bietet das Modell eine solide Code-Qualität von 4.0, die für die meisten Programmieraufgaben ausreicht. Es wurde auf dem Stack v2-Datensatz trainiert, einem der größten kuratierten Code-Datensätze mit über 3,3 Billionen Tokens aus ethisch unbedenklichen Quellen. Ein wichtiger Unterschied zu allgemeinen Sprachmodellen: StarCoder 2 ist kein Chat-Modell.

Die allgemeine Konversationsfähigkeit liegt bei nur 1.0 — es ist ein reiner Code-Spezialist, der für IDE-Integration, Code-Completion und Programmier-Assistenz konzipiert wurde. Die BigCode-OpenRAIL-M-Lizenz ist eine spezielle Open-Source-Lizenz, die kommerzielle Nutzung erlaubt, aber bestimmte ethische Einschränkungen enthält. Hardware-seitig ist StarCoder 2 mit etwa 10 GB VRAM moderat anspruchsvoll.

Für Entwickler, die einen lokalen Code-Assistenten mit maximaler Sprachabdeckung suchen, ist StarCoder 2 einzigartig — kein anderes Modell unterstützt so viele Programmiersprachen auf einem vergleichbaren Qualitätsniveau.