跳到正文

安全对齐

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

最新精选

第 61–61 条 · 共 61 条
1月27日周四
  1. OpenAI News93

    OpenAI 发布 InstructGPT 模型并上线 API

    OpenAI 发布 InstructGPT 模型,通过人类反馈对齐技术显著提升了指令遵循能力,并使其更真实、减少毒性。该模型现已作为默认语言模型部署在 OpenAI API 上。

    推荐理由:InstructGPT 通过人类反馈对齐技术提升了指令遵循能力,并作为默认模型上线 API。