跳到正文
原文
TechCrunch · AI· Julie Bort·· 2 小时前精选AI 评分78

Anthropic在S-1A中警告可能即将触及递归自我改进能力

Anthropic warns that it’s very close to RSI capability, aka self-building AI

AI 导读

Anthropic在修订的S-1A文件中警告,其可能即将达到内部定义的“递归自我改进”(RSI)阈值,即AI能力出现戏剧性加速。文件指出,使用AI加速研发可能带来安全风险,目前尚无模型跨越该阈值,但公司正考虑更新负责任扩展政策以保持人类在前沿模型开发中的控制权。

推荐理由

Anthropic在S-1A中披露可能即将触及递归自我改进阈值,为行业安全治理提供了关键参考。

来源:TechCrunch · AI · techcrunch.com