Import AI 469:DiG-bench 评测 AI 发现能力;RSI 模拟器;Zuck 的技术悲观主义
DiG-bench 基准测试显示 Opus 5 和 Fable 5 在 70 个隐藏规则游戏中表现最佳,但仅能攻克 Tier 7 的 0.2 任务,远逊于人类。Paradigm Research 推出 RSI 模拟器,模拟 AI 公司递归自我改进的研发过程。Inherent 发布 Faraday,通过监督前沿模型培养 AI 科学家的研究品味。
DiG-bench 基准测试显示 Opus 5 和 Fable 5 在 70 个隐藏规则游戏中表现最佳,但仅能攻克 Tier 7 的 0.2 任务,远逊于人类。Paradigm Research 推出 RSI 模拟器,模拟 AI 公司递归自我改进的研发过程。Inherent 发布 Faraday,通过监督前沿模型培养 AI 科学家的研究品味。
Google Research发布Science One Framework及Chain-of-Evidence (CoE) 框架,旨在解决AI自主科研中的可验证性问题。该框架通过构建完整的证据链,实现了零虚假引用和完全可复现的实验分数,同时在MLE-Bench和Parameter-Golf等前沿基准上达到SOTA性能。
推荐理由:提出Chain-of-Evidence框架与CoE Audit,通过强制证据链解决AI科研幻觉,在保持前沿性能的同时实现零虚假引用。
ABBEL 框架将摘要转化为自然语言信念状态,并通过信念评分监督信息内容,解决长程交互中上下文压缩导致的性能下降问题。在 CollabBench 协作编码环境中,该框架将模型与全上下文设定的性能差距缩小约 50%,同时训练步数减少 50%。
IBM Research发布ScarfBench基准,评估AI智能体在企业Java框架迁移中的表现。测试显示,尽管编译成功率较高,但最强智能体的行为保持成功率不足10%。研究指出,迁移难点在于配置与依赖管理,且智能体对自身完成度存在过度自信。
推荐理由:通过构建真实企业级Java迁移场景,揭示AI智能体在行为保持上的局限,提供可复现的评估基准。
Google Research 发布 DS-STAR,这是一款能自动处理多样化异构数据并生成可执行代码的数据科学智能体。该框架通过数据文件分析、LLM 验证和顺序规划机制,在 DABStep、KramaBench 和 DA-Code 基准测试中均取得最先进性能。DS-STAR 在 DABStep 上的准确率从 41.0% 提升至 45.2%,并在该基准的公共排行榜上排名第一。
Hugging Face 发布 3LM 基准测试,专门评估阿拉伯语大语言模型在 STEM 学科和代码生成领域的表现。该基准包含 865 道原生 STEM 选择题、1,744 道合成高难度题目及基于 HumanEval+ 和 MBPP+ 翻译的代码任务。测试显示 Qwen2.5-72B-Instruct 在 STEM 选择题中表现最佳,GPT-4o 在代码生成任务中得分最高。