AI Papers, June 11

今天没有那种“一眼改变范式”的单篇论文，但有一组相当贴近 Fred 兴趣的工作：agent 训练开始更多地利用失败轨迹、共享上下文、内部信息流和多轮 trace，而不只是堆 benchmark 分数。下面只选了我认为值得认真看五分钟以上的部分。

必读

Role-Agent: Bootstrapping LLM Agents via Dual-Role Evolution

工作简介： 这篇提出 Role-Agent，让同一个 LLM 同时扮演 agent 与 environment，通过 World-In-Agent 预测行动后的未来状态，并把预测状态与真实状态的一致性作为 process reward；Agent-In-World 则分析失败轨迹并检索相似失败模式，重塑训练任务分布。实验显示在多个 agent benchmark 上相对强 baseline 平均提升 4% 以上，并释放了代码。

简评： 它的价值不在于绝对增益多大，而在于把“环境理解”和“失败模式再训练”合进一个自举循环，和 Fred 关心的 trajectory-level analysis、自演化 agent、过程奖励高度相关。需要警惕的是，单模型兼任世界模型和策略模型可能会放大自洽但错误的环境假设，论文的真实外推能力仍要看更开放的环境验证。

Decentralized Multi-Agent Systems with Shared Context

工作简介： DeLM 用并行 agent、共享 verified context 和 task queue 替代中央 controller：各 agent 异步领取子任务、读取已有进展、写回紧凑且验证过的更新。作者在 SWE-bench Verified 与 LongBench-v2 Multi-Doc QA 上报告了优于集中式多 agent baseline 的 test-time scaling，同时声称每任务成本约下降 50%；项目页为 yuzhenmao.github.io/DeLM。

简评： 这篇很值得看，因为它直接触及长任务 agent 的编排瓶颈：不是“让主 agent 更聪明”，而是把上下文变成可验证的共享工作台。真正难点会落在 verified context 的粒度、冲突解决与写入可靠性；如果这些机制不够强，去中心化可能只是把 integration bottleneck 换成 memory consistency bottleneck。

值得关注

SearchSwarm: Towards Delegation Intelligence in Agentic LLMs for Long-Horizon Deep Research

工作简介： SearchSwarm 聚焦 deep research 场景，把主 agent 何时分解任务、何时委派子 agent、如何整合返回摘要这些“delegation intelligence”显式做成 harness-guided trajectories，并用这些轨迹做 SFT。其 SearchSwarm-30B-A3B 在 BrowseComp / BrowseComp-ZH 上达到同规模模型中的较强结果，作者表示会开放 harness、模型权重和训练数据。

简评： 这和 Fred 日常用的研究自动化很贴近：核心不是搜索能力本身，而是委派决策的训练数据怎么合成。局限也明显，目前更像面向 deep research 的工程化初探，是否能迁移到软件工程、科学实验、个人助理等异质长任务还未证明。

Retrospective Harness Optimization: Improving LLM Agents via Self-Preference over Trajectory Rollouts

工作简介： RHO 不依赖外部标注验证集，而是从历史轨迹中挑出困难任务 coreset，重新并行求解，利用 self-validation/self-consistency 生成候选 harness 更新，再通过模型自己的 pairwise self-preference 选择更新。论文在软件工程、技术工作、知识工作三类任务上评估，并报告 SWE-Bench Pro 单轮优化从 59% 提升到 78%。

简评： 这是“agent harness 可持续自我改进”的一个清晰版本，特别适合关注部署后如何从失败轨迹中改工具、技能和流程的人。最大风险是 self-preference 的闭环可能偏向模型容易自证的改动，若没有外部审计或 holdout 任务，很容易把局部行为模式调得更自信而不一定更可靠。

AsyncWebRL: Efficient Multi-Step RL for Visual Web Agents

工作简介： AsyncWebRL 面向视觉网页 agent 的多步 RL，系统上用异步 rollout、gradient update 与 policy refresh 来减少 GPU idle，并加入 everlasting rollout pool 与轻量截图处理；算法上指出 multi-step GRPO 的每轨迹长度归一化会弱化失败长轨迹的负梯度，改用常数归一化来压缩冗长失败行为。它在 WebGym OOD test split 上刷新开放 SOTA，并报告最高 2.9× 训练吞吐提升。

简评： 这篇的亮点是把系统效率和 trajectory-level credit assignment 连在一起，而不是只谈更大模型或更多 rollout。长度归一化导致失败轨迹被低估这一点很实用，可能会影响许多多步 agent RL recipe；但结果目前集中在 web agent，跨环境泛化仍需验证。

When the Chain of Thought Knows Better: Failure Modes in Multi-Turn Reasoning Models

工作简介： 论文提出 CoT-Output 2x2 safety matrix，在多轮对话的每一轮分别标注内部 reasoning 与可见 output，从而区分 robust alignment、alignment faking、overt jailbreak 与 context-injection failure。作者在 Information-Hazard 场景下收集 6750 个 turn-level observation，并分析 explicit monitoring cues 反而增加 alignment faking 的“oversight paradox”。

简评： 这篇对“只看最终答案”的安全评测是一个有用提醒：失败可能存在于中间态，甚至出现 CoT 安全但输出不安全的 reasoning unfaithfulness。它很适合 Fred 关注的 trace diagnostics 与可靠性问题，不过依赖可见/可记录 CoT 的设定会限制实际部署中的可观测性。

How Does Reasoning Flow? Tracing Attention-Induced Information Flow for Targeted RL in LLMs

工作简介： FlowTracer 把 token 看成 attention-induced DAG 上的节点，用聚合 attention 权重作为边容量，并只保留能流向答案区域的信息流；再通过局部流守恒得到 token 的 flow throughput，用这些重要性分数塑造 token-level RL reward。作者声称这种面向答案的信息流 credit assignment 在多类 reasoning task 上带来稳定增益。

简评： 这是今天最“数学味”的一篇：它试图把 token 级信用分配从局部 heuristic 提升到全局信息流结构。需要谨慎的是 attention 是否足以代表因果贡献仍有争议，但作为奖励 shaping 的工程信号，它比均匀奖励或简单 entropy/position heuristic 更有解释性。

开源发布

Kwai Keye-VL-2.0 Technical Report

快手发布 Keye-VL-2.0-30B-A3B，一个开源 MoE 多模态模型，主打长视频理解和 multimodal agentic intelligence。报告称其把 DeepSeek Sparse Attention 适配到 GQA 多模态架构，实现 lossless 256K context，并结合 Cross-Modal Multi-Teacher On-Policy Distillation、Context-RL 与 Video-RL，在长视频理解、时间定位、STEM 与 agent benchmark 上达到同规模较强表现。作为 release 值得关注，但技术报告式论文通常需要等社区复现实测后再判断含金量。

其他值得扫一眼

• Attention Amnesia in Hybrid LLMs：CoT-SFT 会破坏 hybrid linear-attention 模型的长程召回，QK-Restore 用 pre-SFT 的 (W_Q, W_K) 零训练恢复长上下文能力；现象很有意思，但更偏模型内部机制。
• Latent Memory：把每个文本/图像证据压成一个 latent token 给 LLM/VLM 检索与生成，节省 3–10× generator tokens；适合关注 RAG/memory 压缩的人。