AI Papers, May 16
今天的候选里 agent 与长程推理相关工作很多,但真正值得花时间的主要集中在三类:agent 后训练的 credit / distillation 机制,开放训练与真实运行时评测基础设施,以及记忆、因果和不确定性评估。下面只保留我认为有研究价值的条目;若只是把现有 agent 套到垂直任务上、或贡献主要是工程包装的工作,已尽量不收。
必读
Self-Distilled Agentic Reinforcement Learning
arXiv:2605.15155
工作简介: 这篇提出 SDAR,把 On-Policy Self-Distillation 用作 agent RL 的 gated auxiliary objective,而不是直接和 GRPO 硬混合。方法让带 privileged context 的 teacher 分支提供 token-level dense signal,并通过 sigmoid gate 强化正向 token、软化负向 teacher rejection;在 ALFWorld、WebShop、Search-QA 上跨 Qwen2.5/Qwen3 系列验证。
简评: 这很贴近 Fred 关注的 trajectory-level supervision 与长程 agent 后训练:它承认 RL 仍是主干,但试图补足 trajectory reward 过粗的问题。真正值得看的点不是单个 benchmark 涨分,而是它对“dense distillation 在多轮交互中为何不稳定、如何门控”的建模;局限是仍依赖 teacher/privileged context 质量,且 negative rejection 的语义是否可靠还需要更细的失效分析。
Orchard: An Open-Source Agentic Modeling Framework
arXiv:2605.15040
工作简介: Orchard 是一个面向 scalable agentic modeling 的开源框架,核心是 Orchard Env:统一 sandbox 生命周期、agent harness 与训练/评测 pipeline。论文给出三条 recipe:Orchard-SWE 用 107K 蒸馏轨迹、credit-assignment SFT 和 Balanced Adaptive Rollout 做 coding agent;Orchard-GUI 训练 4B computer-use agent;Orchard-Claw 面向个人助理任务。
简评: 这篇的重要性在于把 agent 训练从“脚本化 orchestration”往可复用环境层、数据层和 RL pipeline 推了一步,尤其对开放 agent 后训练生态有实际价值。需要谨慎的是结果很依赖蒸馏来源、harness 设计与 benchmark 选择;但如果代码和环境层稳定,这类基础设施会比单个模型分数更值得跟踪。
值得关注
Achieving Gold-Medal-Level Olympiad Reasoning via Simple and Unified Scaling
arXiv:2605.13301
工作简介: 论文给出一个把 post-trained reasoning backbone 转成 olympiad-level solver 的统一 recipe:先用 reverse-perplexity curriculum 做 SFT,学习严谨 proof-search 和 self-checking;再通过两阶段 RL,从 verifiable rewards 过渡到 proof-level RL;最后用 test-time scaling 提升解题率。作者在 30B-A3B backbone 上训练 SU-01,并报告 IMO/IPhO 级别表现与超过 100K token 的稳定长轨迹推理。
简评: 如果结果可复现,它说明“长证明轨迹 + 分阶段 RL + 测试时扩展”仍是数学/科学推理的强路线,也与停止准则、长轨迹可靠性直接相关。但摘要里缺少对数据污染、判分协议、test-time budget 与失败模式的细节;建议重点看实验设置,而不是只看“金牌级”口号。
MemEye: A Visual-Centric Evaluation Framework for Multimodal Agent Memory
arXiv:2605.15128
工作简介: MemEye 专门评估 multimodal agent memory 是否真的保存了后续推理所需的视觉证据,而不是靠 caption 或文本痕迹走捷径。它用“决定性视觉证据粒度”和“证据使用方式”两个维度构建 8 类生活场景任务,并用 ablation gates 检查 answerability、shortcut resistance、visual necessity 与 reasoning structure。
简评: 这篇的价值在于把长期记忆评测从“能不能答对”推进到“是不是保留了细粒度视觉证据、是否能追踪状态演化”。对 Fred 关注的 agent memory reliability 很相关;不足是 benchmark 规模与生活场景覆盖可能仍有限,但其验证门控设计值得借鉴。
WildClawBench: A Benchmark for Real-World, Long-Horizon Agent Evaluation
arXiv:2605.10912
工作简介: WildClawBench 提供 60 个真人编写的双语、多模态、长程 agent 任务,运行在真实 CLI harness 与 Docker runtime 中,而不是 mock API 或短程 sandbox。任务平均约 8 分钟、20+ tool calls,并结合规则检查、环境状态审计和 LLM/VLM judge 做混合评分。
简评: 这是今天最贴近“agent 真实可靠性”的评测工作之一:它把 harness、工具副作用和长程执行纳入评价,能暴露静态 QA benchmark 看不到的问题。60 个任务规模不大,judge 仍可能引入噪声,但“native-runtime evaluation”方向很重要,也能帮助分析不同 harness 对同一模型的影响。
FutureSim: Replaying World Events to Evaluate Adaptive Agents
arXiv:2605.15188
工作简介: FutureSim 用按时间顺序到达的真实新闻和问题解析,重放 2026 年 1–3 月世界事件,让 agent 在知识截止之后预测未来事件并随新信息更新判断。论文在原生 agent harness 中评估 frontier agents,并用 accuracy 与 Brier skill score 衡量开放环境中的适应与不确定性校准。
简评: 这篇很适合关注 long-horizon adaptation、memory、search 和 probabilistic reasoning 的读者:它不是问模型“知道什么”,而是看它如何随时间吸收证据并更新预测。挑战在于真实新闻流的可控性和问题选择偏差,但作为开放世界 agent 评测范式很有启发。
Causal Foundation Models with Continuous Treatments
arXiv:2605.15133
工作简介: 论文面向 continuous treatment setting,训练一个因果 foundation model,使其能在未见任务上从 observational data 重建 individual treatment-response curves。方法设计连续处理变量的数据生成先验,合成因果训练语料,并用 transformer 做 in-context reconstruction,以摊销昂贵的 Bayesian posterior inference。
简评: 这是今天少数真正数学/因果味道较重的工作,重点从二元 treatment 推到连续 treatment,对药量、价格、政策强度等问题更自然。值得看其 synthetic prior 是否足够覆盖真实 causal mechanisms;如果 prior 偏窄,foundation model 的“泛化”可能只是对模拟族的插值。
Beyond Mode-Seeking RL: Trajectory-Balance Post-Training for Diffusion Language Models
arXiv:2605.13935
工作简介: 这篇研究 diffusion language models 的后训练,指出 reward-driven updates 会导致 trajectory locking:概率质量集中到少数 denoising paths,损害重复采样下的解空间覆盖。作者提出 TraFL,用 trajectory-balance objective 将策略训练到一个由 reward 倾斜、reference model 锚定的目标分布,并在数学推理和代码生成上测试。
简评: 它的有趣之处是把 GFlowNet/trajectory balance 思路带入 diffusion LM post-training,目标不是单纯 mode-seeking,而是保持多样正确轨迹的覆盖。对 Fred 关注的 trajectory-level analysis 和 probabilistic reasoning 有价值;但是否能扩展到大型真实 diffusion LM、以及 learned normalization 的稳定性,还需要更多证据。
开源发布
- Orchard:开源 agentic modeling 框架,若 repo 完整释放,值得关注其 Orchard Env、SWE/GUILayout/Claw recipes 和 RL harness 是否可复用。论文链接:arXiv:2605.15040。
- WildClawBench:真实 CLI runtime 下的长程 agent benchmark,摘要称释放任务、代码和容器化工具,适合作为 agent harness 可靠性测试集。论文链接:arXiv:2605.10912。
- MemLens / MemEye 系列方向:今天多篇工作同时指向 multimodal long-term memory 的视觉证据保存问题;MemLens 明确给出 GitHub:https://github.com/xrenaf/MEMLENS,可与 MemEye 的视觉证据粒度框架对照阅读。
今天略过但可扫一眼
- MemLens:和 MemEye 主题高度相近,侧重多 session multimodal conversations、长上下文 LVLM 与 memory-augmented agents 的系统比较;若要系统做 multimodal memory benchmark,可与 MemEye 一起看。
- CANTANTE:把 multi-agent prompt optimization 明确写成 credit-assignment 问题,用 contrastive rollouts 分解系统级 reward;想做 agent 系统自动调参时值得扫。
- DESBench:用工业调度研究 hierarchy/heterarchy/holonic coordination 的结构性取舍;更像 benchmark paper,但问题设定比普通 multi-agent toy tasks 更实在。