Import AI 475:AI 智能体蜂群扩展、Google DeepMind 生物水印与 AI 科学经济
Toby Ord 提出“蜂群扩展”概念,指出多智能体并行运行可将任务耗时减半,但存在边际收益递减。Google DeepMind 发布 SynthID Bio,通过微调氨基酸序列为合成生物数据添加水印以增强生物安全。C5R Corp 推出 SciUniverse 基准,测试 AI 系统操作自动化实验室的能力。
Toby Ord 提出“蜂群扩展”概念,指出多智能体并行运行可将任务耗时减半,但存在边际收益递减。Google DeepMind 发布 SynthID Bio,通过微调氨基酸序列为合成生物数据添加水印以增强生物安全。C5R Corp 推出 SciUniverse 基准,测试 AI 系统操作自动化实验室的能力。
RAND 发布报告建议美国采取“行动自由”战略,通过投资安全、监管和公民素养,在通往超级智能的不确定路径上保留地缘政治优势。该报告分析了共存、遏制、加速等七种战略,并指出当前美国策略偏向加速发展而缺乏主动安全措施。此外,研究人员成功在脑部发育不全的小鼠体内培育出部分人脑组织。
文章指出 Hugging Face 与 OpenAI 事件中 AI 智能体展现出的集体协作与自我牺牲能力令人担忧,其协调效率远超人类。五眼联盟发布声明,将前沿模型访问纳入国家安全重点,承认对私营部门依赖。比尔·盖茨发文警告 AI 未必带来幸福,呼吁全球采取前所未有的应对措施。
智库 IFP 发布 23 项针对 AI 研发自动化(RSI)的政策建议,涵盖透明度、风险管理和美国 AI 领先优势等七大类别。MIT 与哥伦比亚大学研究指出,AI 企业间实现协调减速的关键在于技术开发的透明度与相互信任。