Model Card

Was ist eine Model Card?

Eine Model Card ist ein standardisiertes Dokument, das ein KI-Modell transparent beschreibt: Was kann es, wie wurde es trainiert, wo liegen seine Grenzen und Risiken, und wofür sollte es (nicht) eingesetzt werden? Das Konzept wurde 2018/2019 von Google-Forscherinnen um Margaret Mitchell und Timnit Gebru vorgeschlagen ("Model Cards for Model Reporting") – als Gegenstück zum Beipackzettel eines Medikaments. Heute sind Model Cards der De-facto-Standard für Modelldokumentation: Auf Hugging Face gehört eine Model Card zu jedem veröffentlichten Modell, und große Labore wie Anthropic, OpenAI und Google veröffentlichen zu ihren Spitzenmodellen ausführliche Varianten, oft System Cards genannt.

Was steht in einer Model Card?

Typische Bestandteile sind:

• Modelldetails: Architektur, Modellgröße, Version, Lizenz, Trainingszeitraum und Wissensstichtag.
• Verwendungszweck: Empfohlene Einsatzbereiche sowie explizit ausgeschlossene Anwendungen (z.B. medizinische Diagnosen ohne menschliche Kontrolle).
• Trainingsdaten: Herkunft und Art der Daten – oft nur grob beschrieben, was regelmäßig Kritikpunkt ist.
• Evaluationsergebnisse: Leistung auf gängigen Benchmarks, idealerweise aufgeschlüsselt nach Sprachen, Domänen und Nutzergruppen.
• Grenzen und Risiken: Bekannte Schwächen wie Halluzinationen, Bias gegenüber bestimmten Gruppen, Sicherheitstests (Red Teaming) und deren Ergebnisse.
• Ethik- und Sicherheitsabschnitt: Bei Frontier-Modellen zunehmend umfangreich – inklusive Tests zu Missbrauchspotenzial (Cyber, Bio) und Verhaltensauffälligkeiten.

Warum sind Model Cards wichtig?

Model Cards machen Modelle vergleichbar und Risiken sichtbar, bevor etwas schiefgeht. Sie sind zudem regulatorisch relevant: Der EU AI Act verlangt von Anbietern von General-Purpose-AI-Modellen eine technische Dokumentation und Informationen für nachgelagerte Anbieter – Anforderungen, die inhaltlich stark einer ausführlichen Model Card entsprechen. Wer Modelle kommerziell einsetzt oder weiterverbaut, findet in der Model Card außerdem die Lizenzbedingungen, die über die rechtliche Nutzbarkeit entscheiden.

Bedeutung für deutsche Unternehmen

Vor der Einführung eines KI-Modells sollte die Model Card Pflichtlektüre sein – sie beantwortet die Fragen, die auch ein internes Compliance- oder Datenschutz-Team stellen wird: Welche Daten flossen ins Training? Für welche Zwecke ist das Modell freigegeben? Welche Schwächen sind dokumentiert? Unternehmen, die eigene Modelle feintunen oder intern bereitstellen, sollten selbst eine kurze Model Card pflegen: Sie erleichtert Audits, erfüllt Dokumentationspflichten aus dem AI Act und verhindert, dass Wissen über Grenzen des Modells nur in den Köpfen einzelner Entwickler existiert. Eine gute Faustregel: Ein Modell ohne aussagekräftige Model Card sollte man behandeln wie ein Medikament ohne Beipackzettel – im Zweifel nicht produktiv einsetzen.