AI Papers, May 19

今天没有那种“一眼改变路线图”的大模型发布,但有几篇很贴近 agent 可靠性的工作:它们共同指向一个趋势——不要只看最终答案,而要把状态、证据、探索、权限边界和失败阶段都纳入可验证的过程结构。

必读

Context, Reasoning, and Hierarchy: A Cost-Performance Study of Compound LLM Agent Design in an Adversarial POMDP

工作简介: 这篇论文在 CybORG CAGE-2 这个对抗性、部分可观测的网络防御 POMDP 中,系统比较 compound LLM agent 的上下文表示、推理工具和层级分解设计。实验覆盖 5 个模型家族、12 种配置、3475 个 episode,并做 token 级成本核算。

简评: 结论非常值得 Fred 注意:程序化状态抽象的性价比最高,而把 self-questioning/self-critique 等 deliberation 工具分散进层级 agent 反而会形成“deliberation cascade”,更贵且更差。这是少见的、反直觉但很实用的 agent 设计负结果:在结构化 POMDP 里,干净的状态工程和任务分解可能比“更多思考”更可靠。

Argus: Evidence Assembly for Scalable Deep Research Agents

工作简介: Argus 把 deep research agent 从“多条 ReAct 轨迹并行撞答案”改成“拼装互补证据”的系统:Searcher 负责收集子问题证据,Navigator 维护共享 evidence graph、判断缺口、调度搜索并合成带来源的答案。Navigator 通过 RL 学习验证、派发和综合,Searcher 则保持标准 ReAct agent。

简评: 这篇切中深度研究 agent 的核心瓶颈:并行 rollout 容易重复搜索而不是补齐证据。共享证据图和缺口驱动调度比单纯扩大 test-time compute 更有结构性,也很符合知识图谱与 trajectory-level analysis 的方向;局限是结果仍依赖特定 35B-A3B MoE backbone,复现与开源情况需要继续观察。

值得关注

Nudging Beyond the Comfort Zone: Efficient Strategy-Guided Exploration for RLVR

工作简介: NudgeRL 面向 RLVR 中的探索不足问题,在 rollout 时加入轻量的 strategy-level context 来诱导多样化推理轨迹,并把奖励分解为跨 context 与 context 内部两部分,再用 distillation 把发现的行为迁回基础策略。论文报告其在 5 个数学 benchmark 上优于扩大到 8 倍 rollout budget 的标准 GRPO,并优于 oracle-guided RL baseline 的平均表现。

简评: 这不是简单调参,而是把“探索什么”显式结构化,对 reasoning RL 的样本效率和多轨迹分析都有启发。值得谨慎看实验细节:strategy context 是否会引入 prompt engineering 依赖,以及在数学以外任务能否保持收益。

Look Before You Leap: Autonomous Exploration for LLM Agents

工作简介: 论文把 LLM agent 在陌生环境中的失败归因于过早 exploitation,并提出 Exploration Checkpoint Coverage 来衡量 agent 是否发现关键状态、物体和 affordance。训练上交替优化任务执行 rollout 与探索 rollout,推理时采用 Explore-then-Act:先用一段预算探索环境,再执行任务。

简评: 这篇与 NudgeRL 形成呼应:agent 的泛化不只是“更会解题”,还要先学会收集环境信息。它的贡献更偏概念和训练范式,关键看 ECC 指标是否足够通用,以及探索预算在真实 GUI/Web/机器人任务中的成本是否可控。

Auditing Agent Harness Safety

工作简介: HarnessAudit 关注 agent harness 本身的安全性,而不是只看最终输出是否正确;它审计完整执行轨迹中的权限边界、执行保真度和系统稳定性。论文还构建了 210 个任务的 HarnessAudit-Bench,覆盖 8 个真实域,并比较多种单 agent 与多 agent harness 配置。

简评: 这是很符合“停止条件/可靠性/轨迹级审计”的工作:一个 agent 可以给出正确答案,同时在中途访问了不该访问的资源或把上下文泄露给错误子 agent。它提醒我们,agent 安全上限往往由 harness 设计决定,而不是模型能力本身决定。

Solvita: Enhancing Large Language Models for Competitive Programming via Agentic Evolution

工作简介: Solvita 用 Planner、Solver、Oracle、Hacker 四类 agent 组成闭环竞争编程系统,并给每个 agent 配一个可训练的图结构知识网络。系统把通过/失败、测试认证质量、Hacker 发现的漏洞等信号转成对知识网络权重的 RL 更新,使 agent 在不更新底层 LLM 权重的情况下积累解题经验。

简评: 亮点在“无权重更新的持续学习”与图结构经验路由,比较贴近 agent memory、self-evolution 和知识图谱的交叉。需要注意的是,目前摘要没有显示代码发布,且竞争编程环境的 verifier 很强,迁移到开放任务的可靠性仍未证明。

PAGER: Bridging the Semantic-Execution Gap in Point-Precise Geometric GUI Control

工作简介: PAGER 针对需要精确点击连续画布点位的几何 GUI 控制,提出 PAGE Bench:4906 个问题和 22.4 万个过程监督的像素级 GUI 动作。方法把几何构造分解为依赖结构规划与像素级执行,并用 precision-aligned RL 处理 rollout 暴露偏差。

简评: 它揭示了一个重要 gap:通用多模态模型动作类型准确率可超过 88%,但任务成功率低于 6%,说明“语义上知道做什么”和“几何上执行对”是两回事。对 GUI agent 和 embodied agent 来说,这类过程监督与拓扑依赖建模比最终成功率更有诊断价值。

CiteVQA: Benchmarking Evidence Attribution for Trustworthy Document Intelligence

工作简介: CiteVQA 要求文档 VQA 模型在回答问题的同时给出 element-level bounding-box citation,并用 Strict Attributed Accuracy 同时评估答案与引用区域。数据包含 711 份 PDF、1897 个问题,覆盖 7 个领域和两种语言,标注由 masking ablation 生成后经专家验证。

简评: 这篇的重要性在于把“答案正确但证据错了”的 attribution hallucination 明确量化;最强开放 MLLM 的 SAA 只有 22.5,说明文档智能的可追溯性远未解决。它不直接是 agent 论文,但对法律、金融、医学等高风险 RAG/文档 agent 非常相关。

开源发布

  • CiteVQA:可信文档智能的 evidence attribution benchmark,仓库见 GitHub
  • NudgeRL:面向 RLVR 的 strategy-guided exploration,代码见 GitHub
  • MMSkills:把公开交互轨迹转成可复用的多模态过程技能包,用于 GUI/game visual agents;方向有趣,但今天未列入正文重点,论文见 arXiv
  • HarnessAudit:agent harness 轨迹安全审计框架,值得跟踪其 benchmark 和代码后续成熟度,论文见 arXiv

今日取舍

我跳过了一些看起来更偏应用或与 Fred 当前兴趣距离较远的工作,例如实时换装视频生成、遥感变化检测、一般机器人 dexterous benchmark 等;也跳过了已在前几天记录过的综述和 Lighthouse Attention。今天的主题更集中在:agent 不应只扩大 rollout 或堆推理提示,而要让过程中的状态、证据、探索和权限约束变成可审计、可学习的结构。