OpenChat 3.5

OpenChat 3.5 ist ein bemerkenswertes Open-Source-Chat-Modell der Tsinghua-Universitaet, das auf Mistral 7B basiert und durch innovatives C-RLFT (Conditioned Reinforcement Learning Fine-Tuning) trainiert wurde. Das Modell erzielte bei seiner Veroeffentlichung einen MT-Bench-Score, der GPT-3.5 Turbo übertraf - eine bemerkenswerte Leistung für ein 7B-Modell. Die C-RLFT-Methode nutzt gemischte Qualitätsdaten effizient, indem sie verschiedene Datenquellen unterschiedlich gewichtet, anstatt nur die hochwertigsten Daten zu verwenden.

OpenChat 3.5 fuehrt natuerliche, informative Konversationen und kann komplexe Fragen differenziert beantworten. Das Modell zeigt besondere Stärken bei Instruktionsbefolgung, kreativem Schreiben und analytischen Aufgaben. Mit nur 7B Parametern laeuft es quantisiert bereits mit 6 GB VRAM auf Consumer-Hardware.

Die Apache-2.0-Lizenz erlaubt den vollständig kommerziellen Einsatz. OpenChat 3.5 ist über Ollama, LM Studio und alle gängigen Inferenz-Frameworks verfügbar und lässt sich einfach lokal einrichten. Die deutsche Sprachunterstützung ist solide und profitiert vom multilingualen Mistral-Backbone.

Für Anwender, die einen qualitativ hochwertigen, effizienten Chatbot ohne Cloud-Abhängigkeit suchen, bietet OpenChat 3.5 ein herausragendes Preis-Leistungs-Verhältnis. Die C-RLFT-Methode hat die Community inspiriert und wird in vielen nachfolgenden Modellen adaptiert. OpenChat bietet regelmäßige Updates und die Community trägt aktiv zur Verbesserung bei.

Für Entwickler, die einen API-kompatiblen lokalen Chat-Endpunkt benötigen, lässt sich OpenChat 3.5 einfach als OpenAI-kompatibler Server einrichten.