部分数学家呼吁抵制OpenAI,反思AI批量生成证明对数学界的冲击
美国数学会(AHM)发表声明呼吁抵制OpenAI,批评其批量发布未经整理的AI证明是“展示力量而非学术”,并指出这可能导致数学研究生态的不可逆损害。菲尔兹奖得主陶哲轩等25位顶尖数学家签署声明,警告AI解题速度远超人类验证能力,可能破坏数学界对概念理解的追求。
推荐理由:文章梳理了数学家对AI批量生成证明的抵制与反思,揭示了AI加速解题对学科生态的深层冲击。
美国数学会(AHM)发表声明呼吁抵制OpenAI,批评其批量发布未经整理的AI证明是“展示力量而非学术”,并指出这可能导致数学研究生态的不可逆损害。菲尔兹奖得主陶哲轩等25位顶尖数学家签署声明,警告AI解题速度远超人类验证能力,可能破坏数学界对概念理解的追求。
推荐理由:文章梳理了数学家对AI批量生成证明的抵制与反思,揭示了AI加速解题对学科生态的深层冲击。
OpenAI发布数百个数学难题解法,但被普林斯顿大学数学与AI顾问组(AGMAI)指出未达到数学界标准。主要问题在于缺乏人类对结果的真正理解,且仅42%的证明经过了形式化验证。剑桥与国王学院的研究进一步指出,OpenAI的自然语言证明与Lean代码之间存在至少两处差异,引发对AI自主形式化验证可靠性的质疑。
Periodic Labs 创始人 Liam Fedus 和 Ekin Dogus Cubuk 在访谈中阐述了构建“合成超级智能”的愿景,主张通过强化学习让 AI 智能体在物理实验中进行材料发现。
以太坊研究者警告AI辅助数学可能加速破解加密钱包签名系统,建议将资金转移至从未签署过交易的地址以隐藏公钥。Vitalik Buterin对此表示认同但提醒谨慎操作,主张长期采用仅依赖哈希函数的架构。
Hacker News 用户 Jake Boggan 评论 OpenAI 在 openai/math 帖子中宣布解决 Barnette 猜想。他提到自己曾花费数千小时研究该问题,甚至曾以为已解决,得知被证明后感到复杂情绪。
大语言模型并不具备真正的推理能力,其表现出的“思考”仅是基于概率的联想与模式补全。与 AlphaGo 通过搜索机制构建并评估游戏树不同,当前模型缺乏显式的认知状态记录,且无法将知识与推理过程分离。这种缺陷导致模型在医疗等高风险领域难以追溯错误根源,亟需借鉴 AlphaGo 架构开发具备真正推理能力的新方法。
科学家Michael Levin提出“柏拉图心智空间”理论,认为心智是非物理模式,通过生物或机器接口进入物理世界。文章探讨了该理论对AI对齐和哲学问题的启示,并提及Xenobots等实验。此外,本期还讨论了太空TPU以及智谱启动外部RSI循环。
Google DeepMind回顾了过去15年在游戏AI领域的研究历程,从DQN到AlphaGo再到SIMA智能体。文章宣布与Fenris Creations展开合作,利用EVE Online的复杂环境研究持续学习、记忆和长期规划等前沿AI能力。
智库 IFP 发布 23 项针对 AI 研发自动化(RSI)的政策建议,涵盖透明度、风险管理和美国 AI 领先优势等七大类别。MIT 与哥伦比亚大学研究指出,AI 企业间实现协调减速的关键在于技术开发的透明度与相互信任。
Google DeepMind 回顾 AlphaGo 十年影响力,其突破开启了现代 AI 时代并推动 AGI 发展。AlphaGo 的搜索与强化学习技术衍生出 AlphaFold 2,成功预测 2 亿种蛋白质结构并获诺贝尔奖。此外,相关技术已应用于 AlphaProof 数学推理、AlphaEvolve 算法发现及 AI 共科学家等前沿科学领域。