Constitutional AI

Anthropic 经自我改进训练无害 AI 的方法。两阶段——带自批判/修订的监督学习，然后 RLAIF（RL from AI Feedback）。用于安全对齐、无需人类标注减少有害输出。驱动 Claude 的安全系统。