AI Papers, June 18
今天没有特别多“范式级”新工作,但有几篇很贴近 agent 与 reasoning 基础设施:一类在追问如何把 test-time/latent computation 做得更高效,另一类在把 agent 的检索、技能、轨迹数据和并发可靠性做成更可分析的系统。
必读
LoopCoder-v2: Only Loop Once for Efficient Test-Time Computation Scaling
工作简介: 这篇工作研究 Parallel Loop Transformer 的 loop-count 选择,并从头训练了一组 7B code models(18T tokens)来比较不同 loop 数的效果。结果显示“两次 loop”在代码生成、代码推理、agentic software engineering 和 tool-use benchmark 上收益最大,例如 SWE-bench Verified 从 43.0 提升到 64.4,而三次及以上 loop 反而退化。
简评: 亮点不只是一个 coding model,而是给 latent/test-time computation scaling 提供了清晰的 gain–cost 解释:额外 loop 的表征 refinement 会被 cross-loop positional mismatch 的成本吞掉。对 Fred 关注的“何时继续想、何时停止”很相关,因为它把计算深度的非单调性变成可诊断的架构问题。
Dr-DCI: Scaling Direct Corpus Interaction via Dynamic Workspace Expansion
工作简介: Direct Corpus Interaction 让 agent 通过 shell-like corpus operations 做搜索、过滤、比较和验证,但在大语料上直接跑全局命令会慢且不稳定;Dr-DCI 改成由检索器动态扩展本地 workspace,agent 只在逐步拉入的相关文档集合上执行 DCI 操作。论文在 BrowseComp-Plus、Wiki-18 QA 等设置中报告了更高准确率、更少工具调用和更低成本,并展示从 100K 到 20M 文档规模的可扩展性。
简评: 这篇很像把 RAG 和可执行证据操作之间的接口重新设计了一遍:retrieval 负责 recall,workspace 内的 DCI 负责 precision 和约束验证。它对 deep research agents 很实用,也比单纯“训练一个搜索 agent”更接近可靠系统工程。
值得关注
OpenClaw-Skill: Collective Skill Tree Search for Agentic Large Language Models
工作简介: 论文提出 Collective Skill Tree Search,用多个模型共同生成、评估和组合 agent skills,形成结构化、可迁移的技能树;随后用这些技能和 skill-augmented data 训练 OpenClaw-Skill。评估聚焦长程规划、工具使用和动态环境交互,并引入 Collective Skill Reinforcement Learning 来避免模型只围绕单一技能产生同质解。
简评: 自动技能构建是 agent 能否长期积累经验的关键问题,这篇的价值在于把“技能”从零散 prompt/经验条目推进到可搜索、可评估、可迁移的树结构。摘要层面仍偏系统宣称,真正说服力要看 benchmark 覆盖和技能节点是否能跨模型复用。
Verified Detection and Prevention of Concurrency Anomalies in Multi-Agent Large Language Model Systems
工作简介: 这篇把多 agent LLM 系统共享 memory、vector index、tool registry 时的状态交互建模为 long-running read-generate-write 操作,并用 TLA+ 形式化 stale-generation、phantom-tool、causal-cascade、tool-effect reordering 四类并发异常。作者还用 Verus 证明检测器的 soundness/completeness,并给出 Rust runtime 原型,复现 deer-flow 的 lost update 和 LangGraph ToolNode 的工具效果重排问题。
简评: 这是今天最“数学/系统可靠性”取向的一篇:它不是再做一个 agent benchmark,而是把经典隔离级别和形式化验证带入 LLM agent runtime。限制是 deterministic-generation 假设和工程原型需要更多真实系统验证,但方向非常值得关注。
S1-DeepResearch: Beyond Search, Toward Real-World Long-Horizon Research Agents
工作简介: 论文提出一个 deep research agent 的轨迹构造范式,结合 graph-grounded task formulation、agentic trajectory rollout 和 multi-dimensional trajectory verification,合成覆盖信息获取、知识综合、规划、文件理解、报告写作和技能使用的长程轨迹。基于此训练的 S1-DeepResearch-32B 在 20 个 benchmark 的五类能力维度上超过同规模开源模型,并在若干 deep research benchmark 上接近前沿闭源模型。
简评: 这篇抓住了 search agent 到 research agent 的差别:不只是找到答案,而是整合证据、组织文件、产出结构化报告。风险在于“合成轨迹 + 自建验证”的评价闭环可能高估泛化,但 trajectory-level training/verification 的方向很贴近 Fred 的兴趣。
Rethinking the Role of Efficient Attention in Hybrid Architectures
工作简介: 作者系统分析 full attention 与 sliding-window/recurrent efficient attention 混合架构中的能力分工,发现 efficient attention 主要影响 long-context capability 的形成速度,而长程检索最终主要由 full attention 承担。论文还提出 “Large-Window Laziness”:较大的 SWA window 反而会延迟 full-attention 层中 retrieval heads 的形成,并展示只在 full-attention 层使用 NoPE 可改善长上下文表现。
简评: 这不是又一个高分模型,而是对 hybrid LLM architecture 的机制解释,尤其有助于理解为什么一些“更大窗口/更强局部上下文”的设计并不总是更好。它和 LoopCoder-v2 一起提醒我们:高效结构的局部收益可能改变优化轨迹,从而产生反直觉的全局效果。
ExpRL: Exploratory RL for LLM Mid-Training
工作简介: ExpRL 试图用 RL 做 reasoning mid-training:参考解不直接作为 SFT 目标,而是隐藏给 policy,只用来生成 problem-specific grading rubrics,由 LLM judge 对 on-policy reasoning traces 给 outcome-level 或 process-level dense rewards。作者在数学推理任务上报告 ExpRL 比 SFT、sparse-reward GRPO 和 self-distillation 更适合作为后续 sparse RL 的初始化。
简评: 这篇的核心吸引力在于把“人类解答”从模仿目标改成奖励脚手架,强调 partial progress 和中间 reduction 的信用分配。潜在问题是 LLM judge 与 rubric 质量会成为瓶颈,但它提供了一个比纯 SFT 更探索性的 reasoning pre-RL 路线。
ProCUA-SFT Technical Report
工作简介: ProCUA-SFT 针对 computer-use agents 构造了 3.1M step-level SFT samples,来自 93K 条合成桌面轨迹和 2,484 种应用组合;任务生成、可行性检查和轨迹执行都由同一个 VLM 完成,以减少 planner–actor gap。作者报告 UI-TARS 7B 在 ProCUA-SFT 上 fine-tune 后 OSWorld 从 26.3% 提升到 45.0%,而在 AgentNet 上继续训练会负迁移。
简评: 这篇说明 GUI agent 的数据质量和上下文布局一致性可能比“人类轨迹数量”更重要。它属于数据/训练管线型进展,novelty 不如上面几篇理论性强,但对实际 CUA 能力提升很有参考价值。
开源发布
今天候选里有若干模型和数据发布线索,但 Ling/Ring 2.6、Nemotron 3 Ultra、DreamX-World 1.0 已在前一日记录过;为避免重复,今天不再展开。新的条目中,Dr-DCI、ExpRL、ProCUA-SFT 等工作声称或显示有代码/数据资源,但摘要信息不足以单独作为重大开源发布处理。