Vanna.ai

Vanna.ai ist ein Open-Source-Framework, das auf Retrieval-Augmented Generation basiert und natürliche Sprache in präzise SQL-Abfragen übersetzt, wobei es sich durch seine Flexibilität und Anpassbarkeit von kommerziellen Alternativen abhebt. Der Ansatz von Vanna abstrahiert die Orchestrierungsschicht einer Text-to-SQL-Anwendung und erlaubt es Entwicklern, sich auf Geschäftslogik und Abfragegenauigkeit zu konzentrieren, anstatt sich mit Embeddings, Prompt-Templates und Datenbankschema-Alignment auseinanderzusetzen. Das System funktioniert in zwei Schritten: Zunächst wird ein RAG-Modell auf den eigenen Daten trainiert, dann können Nutzer Fragen stellen, die automatisch in SQL umgewandelt und optional direkt auf der Datenbank ausgeführt werden.

Das Training umfasst verschiedene Datentypen wie DDL-Statements, SQL-Abfragen, Dokumentation und Frage-Antwort-Paare. Ein selbstlernendes System ermöglicht es, erfolgreiche SQL-Abfragen mit einem Klick in den Trainingsdatensatz aufzunehmen, wodurch eine sich selbst verstärkende Feedback-Schleife entsteht. Vanna 2.0 bringt Enterprise-Features für den Produktionseinsatz mit, darunter Lifecycle Hooks für Quota-Prüfungen, LLM Middlewares für Caching und Prompt Engineering, Conversation Storage, Observability mit integriertem Tracing und Context Enrichers.

Bei der Sicherheit bietet Vanna die Option der reinen Metadaten-Verarbeitung, bei der nur Tabellen- und Spaltennamen an KI-Modelle gesendet werden, niemals die tatsächlichen Datenbankinhalte. Die Plattform ist LLM-agnostisch und unterstützt OpenAI, Anthropic, Google, AWS Bedrock, HuggingFace und Ollama. Deployment-Optionen reichen von Vanna Cloud über Self-Hosted Enterprise bis zur MIT-lizenzierten Open-Source-Version.

Vanna.ai eignet sich für Datenteams und Unternehmen, die Fachanwendern ohne SQL-Kenntnisse den Zugang zu Unternehmensdaten ermöglichen möchten.