Faster Whisper

Faster Whisper ist eine hochoptimierte Reimplementierung von OpenAIs Whisper-Modell, die das CTranslate2-Backend von SYSTRAN nutzt und dadurch bis zu vier Mal schnellere Transkription bei gleichzeitig geringerem Speicherverbrauch ermöglicht. Das Projekt übernimmt die Gewichte der originalen Whisper-Modelle, konvertiert sie in das effiziente CTranslate2-Format und nutzt optimierte Inferenz-Algorithmen wie INT8-Quantisierung und Batch-Verarbeitung. Im Vergleich zum Original-Whisper reduziert Faster Whisper den VRAM-Bedarf erheblich: Das Large-V3-Modell läuft bereits mit 4 GB VRAM flüssig, während die INT8-Version sogar auf noch bescheidenerer Hardware funktioniert.

Die Geschwindigkeitsvorteile machen Faster Whisper besonders attraktiv für Echtzeit-Anwendungen wie Live-Untertitelung, Sprachsteuerung für Smart-Home-Systeme und lokale Diktiersoftware. Die Bibliothek ist als Python-Paket über pip installierbar und bietet eine einfache API für Transkription und Übersetzung. Faster Whisper unterstützt alle Whisper-Modellgrößen von tiny bis large-v3 und ist mit der gleichen breiten Sprachabdeckung von 99 Sprachen ausgestattet.

Besonders in der Home-Assistant-Community hat sich Faster Whisper als bevorzugte Lösung für lokale Spracherkennung etabliert. Die MIT-Lizenz erlaubt uneingeschränkte kommerzielle Nutzung, und die aktive Open-Source-Community sorgt für regelmäßige Updates und Optimierungen. Für Entwickler, die Whisper lokal einsetzen möchten, ist Faster Whisper mittlerweile die empfohlene Standard-Implementierung.