AI Papers, June 3

今天的候选里 Agent 相关论文很多,但真正值得花时间的主要集中在三条线:开放式 computer/web use 的在线 RL、把状态/记忆从模型上下文中结构化出来,以及用可检测信号控制推理与搜索计算量。下面只选了 7 篇;若只读两篇,优先看 OpenWebRL 和 Harness-1。

必读

OpenWebRL: Demystifying Online Multi-turn Reinforcement Learning for Visual Web Agents

工作简介: 这篇提出 OpenWebRL,一个面向真实网站的视觉 Web Agent 在线多轮 RL 训练框架,覆盖 live-browser 基础设施、SFT 初始化、多模态上下文管理、轨迹级成功判定和多轮 policy optimization。作者用 0.4K 初始化轨迹和 2.2K 开放式 RL 任务训练出 OpenWebRL-4B,在 Online-Mind2Web 达到 67.0%、DeepShop 达到 64.0%,超过同级开放模型,并接近部分闭源 CUA 系统。

简评: 这是今天最值得看的工作,因为它直接触及 Fred 关心的轨迹级训练、真实环境交互、成功判定和开源可复现 Web Agent。局限是 benchmark 成绩仍依赖作者的环境与 judge 设计,真实开放 Web 的安全、漂移和长期可靠性还需要更多外部复现;但“少量示范 + 在线 RL”的路线很有参考价值。

Harness-1: Reinforcement Learning for Search Agents with State-Externalizing Harnesses

工作简介: Harness-1 把 search agent 的候选池、证据链接、验证记录、去重观察、预算感知上下文渲染等“可恢复状态”交给环境侧 harness 管理,让模型只负责语义决策:搜什么、保留什么、验证什么、何时停止。作者训练了一个 20B retrieval subagent,在 8 个 web/finance/patent/multi-hop QA 检索 benchmark 上平均 curated recall 达到 0.730,比下一强开放 search subagent 高 11.4 个点。

简评: 这篇的关键贡献不是又做一个 search agent,而是清楚地区分“策略学习”和“例行状态管理”,这对长程 Agent 可靠性、可审计性和停止标准都很重要。它也和 Fred 对 agent harness、trajectory-level analysis 的兴趣高度相关;需要注意的是结果指标偏 curated recall,最终答案质量和端到端研究任务收益还要进一步验证。

值得关注

MCP-Persona: Benchmarking LLM Agents on Real-World Personal Applications via Environment Simulation

工作简介: MCP-Persona 针对 MCP 工具生态中的个人应用场景构建 benchmark,覆盖 Reddit、小红书、飞书、Slack 等真实风格应用,通过环境模拟评估 Agent 对个性化账户/本地数据库工具的使用能力。实验显示当前 SOTA agents 在这类个人化工具调用中仍明显吃力,项目地址见 GitHub

简评: MCP 正在成为 Agent 接工具的事实接口之一,但评测还多停留在通用信息查询;这篇把问题推向“个人上下文 + 多工具 + 真实应用约束”,方向正确。它的主要价值在 benchmark 和环境设计,方法创新较少;是否能成为标准,还取决于任务质量、隐私建模和后续社区采用。

Joint Agent Memory and Exploration Learning via Novelty Signals

工作简介: 论文提出 JAMEL,把 agentic memory 与 exploration policy 联合训练:用 GUI 环境中的 deterministic/persistent novelty signals(如代码覆盖率)作为无标注监督,训练压缩交互历史的潜在记忆,并让探索策略利用记忆区分“已尝试”和“未见”行为。实验显示它能泛化到未见环境,在减少 token 消耗的同时达到接近闭源模型的探索深度;代码见 GitHub

简评: 这篇有一个漂亮的闭环:探索需要记忆,探索产生的新颖性信号又能训练记忆。它比单纯堆长上下文更接近可扩展 Agent 记忆机制;但 novelty signal 在 GUI/code coverage 中比较自然,迁移到开放 Web、研究任务或社交工具时如何定义仍是难点。

FineVerify: Scaling Test-Time Compute with Fine-Grained Self-Verification for Agentic Search

工作简介: FineVerify 面向 agentic search 的 test-time scaling:先把问题拆成可检查的子问题,再对多条采样轨迹逐项验证,按聚合分数选择候选答案。作者在 4 个 agentic search benchmark、2 个模型上报告稳定提升;只采样 4 条轨迹时,GPT-5-mini 平均提升 8.2 个 accuracy points,代码与数据见 GitHub

简评: 它把“多采样 + 选择”从粗粒度答案打分变成了可解释的局部验证,对复杂搜索任务很实用,也利于审计失败。新意不在 verification 本身,而在细粒度分解和选择准则;风险是子问题生成质量会成为瓶颈,且自验证仍可能继承模型自己的盲点。

Multi-Agent Computer Use

工作简介: 这篇把 Computer Use Agent 从单串行 agent 扩展到 manager + parallel subagents 的多 Agent 结构:manager 将任务分解为 DAG,维护依赖和中间发现,并根据新信息增删改任务节点。实验在 OSWorld、Online-Mind2Web、WebTailBench、Odysseys 等 desktop/web benchmark 上,相比强单 Agent baseline 提升 3.4–25.5%,并在长程任务上缩短 wall-clock time。

简评: 论文抓住了 CUA 的现实瓶颈:长程任务不仅需要更聪明的模型,也需要并行执行、信息汇总和持续重规划。它很适合作为多 Agent CUA 系统设计参考;但多 Agent 结构也会引入协调开销、错误传播和评价归因问题,需要结合成本/可靠性一起看。

Unveiling the Entropy Dynamics of Chain-of-Thought Reasoning

工作简介: 论文分析 CoT 生成中的 entropy dynamics,提出一个从探索性的 Uncertainty Region 到收敛性的 Confidence Region 的两阶段结构;Confidence Region 中答案更稳定可靠,但也产生大量冗余 token。作者把 Confidence Region 检测建模为 sequential change-point detection,并用 CUSUM 做训练-free 推理控制,实现 early exit 和 CUSUM-weighted voting。

简评: 这篇直接对应 Fred 关心的 stopping criteria/reliability:它试图用统计变化点检测,而不是启发式长度或模型自评,来判断推理何时“已经收敛”。结果还需在更多模型和真实 Agent 轨迹上验证,但把 CoT 控制问题转成在线统计检测,是一个值得跟进的数学化方向。

开源发布

今天略过但可留意

SVI-Bench 和 World Models survey 看起来信息量大,但一个更偏大规模视频 benchmark 工程,另一个是综述,今天不放入核心阅读。PaW(policy/world-model co-training)方向不错,但摘要层面还缺少足够细节和开源信号;若后续有代码或更强复现实验,再单独跟进。