Hugging Face 发布开源模型 Constitutional AI 对齐教程与工具

Hugging Face 发布基于开源模型的 Constitutional AI 对齐完整教程，包含 SFT 与 DPO 训练配方及 llm-swarm 推理工具。实验显示 Mistral-7B 经 CAI 对齐后在 MT Bench 上保持高有用性，且对 DAN 等越狱攻击具有更强鲁棒性。