构建通往自主工业 AI 的安全路径
AVEVA 首席技术官 Arti Garg 强调,随着基础模型、物理 AI 和智能体 AI 加速工业应用,必须建立负责任的安全治理框架。该框架强调安全、效率及人类监督,主张 AI 应辅助而非替代关键决策中的人类。同时需通过 IEEE 工作组制定标准,量化并管理 AI 对环境的影响,以实现可持续的自动化。
AVEVA 首席技术官 Arti Garg 强调,随着基础模型、物理 AI 和智能体 AI 加速工业应用,必须建立负责任的安全治理框架。该框架强调安全、效率及人类监督,主张 AI 应辅助而非替代关键决策中的人类。同时需通过 IEEE 工作组制定标准,量化并管理 AI 对环境的影响,以实现可持续的自动化。
Simon Willison 呼吁 API 和云服务默认启用硬性预算上限,以自动切断超额使用并防止意外高额账单。AWS 近期推出按月支出限额功能,项目达上限即暂停;Google Cloud 此前已上线 Spend Caps。
OpenAI 发布 GPT-6.1 Sol,定价为输入输出各 2/10 美元每百万 token,在 DeepSWE v1.1 上超越 GPT-6 Sol 6.4 分。
MIT Technology Review 发布报告指出,企业 AI 正从工具转向自主智能体运营模式。全球 AI 投资预计 2026 年达 2.5 万亿美元,但多数企业面临数据孤岛与整合滞后。报告强调,通过可组合架构与主权控制实现数据就绪,而非单纯追求数据量,是构建可复合智能的关键。
伯克利 AI 研究提出,随着 AI 推理成本急剧下降,数据系统需应对智能体主导的新挑战。智能体执行的高并发异构查询存在大量冗余,数据系统可通过多查询优化、近似查询及主动反馈机制提升效率。此外,还需构建能可靠管理智能体状态与协调的新系统,并探索让智能体自主合成可信数据系统的方法。
Hugging Face 发布系列文章第二篇,分析中国开源AI生态在“DeepSeek时刻”后的架构与硬件选择。MoE成为默认架构,多模态与智能体并行发展,0.5B-30B小模型因灵活部署受青睐,Apache 2.0许可降低使用门槛。重点转向国产硬件适配,华为昇腾、寒武纪等实现推理零日支持,蚂蚁、百度、智谱等开始使用国产芯片进行训练,标志着竞争从模型性能转向系统设计与生态构建。
Hugging Face 发布机器学习总监洞察系列第四期,收录 Javier Mansilla、Shaun Gittens 等四位总监的行业见解。Mercado Libre 总监 Javier Mansilla 分享了机器学习在电商领域的应用,涵盖欺诈预防、推荐系统及基础设施优化,并指出需关注用户体验与长期技术债务。