跳到正文
原文
OpenAI News·· 2026-03-11AI 评分42

OpenAI 如何设计 AI 智能体以抵御提示词注入

Designing AI agents to resist prompt injection

AI 导读

OpenAI 通过限制高风险操作和保护敏感数据,在智能体工作流中防御提示词注入和社会工程学攻击。ChatGPT 借此机制约束智能体的行为边界,确保在复杂交互场景下的安全性与数据隐私。

来源:OpenAI News · openai.com