Hugging Face 联合 Lighthouz AI 推出 Chatbot Guardrails Arena

Hugging Face 联合 Lighthouz AI 推出 Chatbot Guardrails Arena，这是一个针对 AI 聊天机器人数据隐私的对抗性压力测试平台。该平台包含 12 款结合 RLHF 及 NeMo Guardrails、LlamaGuard 等防护措施的模型，用户通过盲测尝试诱导模型泄露虚构银行的敏感信息，投票结果将基于 Elo 评级系统生成公开的隐私安全排行榜。