LangChain

LangChain ist das meistgenutzte Framework für die Entwicklung von Anwendungen auf Basis großer Sprachmodelle (LLMs). Seit seiner Einführung Ende 2022 hat es die Landschaft der KI-Anwendungsentwicklung grundlegend geprägt und ist zum De-facto-Standard in der Branche geworden. Das Kernkonzept sind 'Chains': Sequenzen von LLM-Aufrufen und anderen Verarbeitungsschritten, die zu komplexen Workflows zusammengesetzt werden.

Darüber hinaus bietet LangChain Abstraktionen für Agents (LLMs, die eigenständig Werkzeuge auswählen), Memory (Kontextverwaltung über mehrere Anfragen), Retrievers (Dokumentensuche für RAG-Anwendungen) und Callbacks (Monitoring und Logging). Besonders populär ist LangChain für RAG-Anwendungen: Retrieval-Augmented Generation erlaubt es, LLMs mit unternehmenseigenen Dokumenten zu verknüpfen. Nutzer können Fragen zu internen PDFs, Datenbanken oder Wissensdatenbanken stellen, und das LLM antwortet basierend auf den tatsächlichen Dokumenteninhalten.

LangSmith ist das zugehörige Observability-Tool: Es trackt jeden LLM-Call, visualisiert Chains und ermöglicht Debugging und Performance-Optimierung. LangGraph erweitert das Framework um zustandsbehaftete, graphbasierte Agenten-Workflows. Obwohl LangChain manchmal für seinen Overhead kritisiert wird, ist das Ökosystem und die Community-Größe unübertroffen.

Für produktive LLM-Anwendungen in Python oder JavaScript/TypeScript ist LangChain der wichtigste Ausgangspunkt.