Constitutional AI ist Anthropics Methode, KI-Modelle anhand eines Satzes von Prinzipien (einer "Verfassung") zu trainieren statt nur durch menschliches Feedback. Das Modell bewertet seine eigenen Ausgaben anhand dieser Regeln und verbessert sich selbst. Diese Technik macht die Werte und Einschränkungen eines Modells transparenter und nachvollziehbarer.
Passende KI-Tools
Diese KI-Tools stehen in direktem Zusammenhang mit dem Begriff Constitutional AI: