AI Papers, May 22

· AI Notes

今天没有特别多“范式级”突破，但有几篇很贴近 Fred 关心的方向：RLVR 训练轨迹几何、概率化 latent reasoning、agent memory、trajectory-level 评测与隐私/对齐可靠性。下面优先保留真正值得五分钟阅读的工作，避免把普通工程增量塞满版面。

必读

You Only Need Minimal RLVR Training: Extrapolating LLMs via Rank-1 Trajectories

工作简介： 这篇文章研究 RLVR 过程中模型权重更新轨迹的几何结构，发现主要性能增益可由参数 delta 的 rank-1 子空间近似捕获，且投影幅度随训练步数近似线性变化。作者提出 RELEX：只观察早期一小段 RLVR checkpoint，用线性回归外推后续权重，在 Qwen2.5-Math、Qwen3-4B/8B 等模型上用约 15% 的训练步数达到或超过完整 RLVR 表现。

简评： 这非常符合“轨迹级分析 + 数学化理解 RL 后训练”的方向：如果结论稳健，说明推理 RL 的有效更新可能比我们想象得低维，后续可直接影响训练停止准则、checkpoint 外推和低成本 RLVR。限制也明显：rank-1 现象是否跨任务、跨算法、跨更大模型成立，需要独立复现；但这篇值得优先读。

Generative Recursive Reasoning

工作简介： 作者提出 GRAM，把 Recursive Reasoning Models 从确定性的单条 latent refinement 轨迹，扩展为随机 latent trajectory 的生成式模型。它通过 amortized variational inference 训练，使推理可以同时沿递归深度和并行 trajectory sampling 扩展，并在结构化推理与多解约束满足任务上优于确定性 recurrent/recursive baseline。

简评： 这篇的价值不在“又一个 benchmark 提升”，而在把 reasoning 明确建模为概率多轨迹计算，和 Fred 关注的 probabilistic reasoning、test-time scaling、trajectory-level reasoning 很契合。当前实验仍偏 toy/structured tasks，离通用 LLM agent 还有距离，但理论表述和建模方向值得跟踪。

值得关注

Mem-π: Adaptive Memory through Learning When and What to Generate

工作简介： Mem-π 针对 LLM agents 的记忆问题，不再从外部 episodic memory 或 skill library 里相似度检索静态条目，而是用一个独立模型按当前上下文动态生成 guidance。它用“是否生成”和“生成什么”解耦的 RL 目标训练，在 web navigation、terminal tool use、text embodied interaction 等 agentic benchmark 上超过检索式记忆 baseline。

简评： 这是一条有意思的 memory-as-policy 路线：记忆不只是存储与检索，而是学习何时介入、以什么形式介入。需要警惕的是，生成式 memory 可能引入 hallucinated guidance，因此后续最好和可验证记忆、状态不确定性或 failure prediction 结合。

MINTEval: Evaluating Memory under Multi-Target Interference in Long-Horizon Agent Systems

工作简介： MINTEval 构造长程、高干扰、多次更新的信息环境，覆盖 state tracking、多轮对话、Wikipedia revision、GitHub commits 等场景，用 15.6k QA 对评测 agent memory。上下文平均 138.8k tokens、最长 1.8M tokens，问题包括单目标 recall 与多目标 aggregation；7 类长上下文/RAG/memory-agent 系统平均准确率仅 27.9%。

简评： 这篇比普通 long-context benchmark 更贴近真实 agent：事实会被更新、相互干扰，并且答案常需要聚合多段证据。它对 Fred 关心的“长程智能体可靠性”和“memory construction/retrieval 的失败模式”很有参考价值，尤其适合作为评测 future memory agent 的压力测试。

Interactive Evaluation Requires a Design Science

工作简介： 这是一篇 position paper，主张 interactive evaluation 不应只是“多做几个 agent benchmark”，而应作为独立评测范式来设计。作者把评测定义为从 evidence 到 judgment 的自主映射，并指出交互式系统的 evidence 是 interaction-generated trajectories，评测程序必须考察过程、可恢复性、协作、鲁棒性和系统级表现。

简评： 虽然不是新算法，但问题意识很准：agent 的成败往往在轨迹中，而不是单轮输出里。它给出了 taxonomy、设计原则和报告规范，对构建更严肃的 agent/reasoning evaluation 很有帮助，尤其可与 failure prediction、stopping criteria 和 trajectory auditing 方向连起来。

It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs

工作简介： 这篇关注 personal agents 中的 contextual integrity privacy：模型既要完成任务，又不能在不合适的上下文泄露敏感信息。作者提出 SELFCI，用两个 reverse KL 自蒸馏目标分别约束 task utility 与 minimal/appropriate disclosure，形成 Product-of-Experts 式目标，在 agentic workflows 和累积私有上下文的 out-of-domain 设置中优于 GRPO 等 baseline。

简评： 亮点是把隐私-效用 trade-off 拆成互补教师分布，而不是简单用安全数据压制模型输出。它和 personal agent、长期记忆、上下文权限边界关系很大；但摘要层面的结果仍需看具体任务是否足够真实，以及 disclosure judgment 是否依赖人工构造规则。

Mix-Quant: Quantized Prefilling, Precise Decoding for Agentic LLMs

工作简介： Mix-Quant 针对 agentic LLM 的长上下文、多轮工具调用推理，把高开销的 prefilling 阶段用 NVFP4 量化，而 decoding 阶段保留 BF16。作者观察到 agent 工作流中 prefilling 有较大量化冗余，因而可在尽量保持任务表现的同时获得最高约 3× prefilling 加速。

简评： 这是实用型工作，理论新意不大，但切中了 agent inference 的真实瓶颈：输入侧上下文不断膨胀。它值得关注的原因是 phase-aware precision 可能成为长程 agent 部署的基础优化，不过是否泛化到不同硬件、KV cache 策略和工具轨迹长度，还需要工程复现。

Video2GUI: Synthesizing Large-Scale Interaction Trajectories for Generalized GUI Agent Pretraining

  • arXiv: 2605.14747；代码/数据管线标记为将发布

工作简介： Video2GUI 从未标注互联网视频中自动抽取 GUI tutorial，并转换为 grounded GUI interaction trajectories。作者在 5 亿视频元数据上构建 WildGUI，包含 1200 万条交互轨迹、覆盖 1500+ 应用/网站，用于预训练 Qwen2.5-VL 和 Mimo-VL 后，在多个 GUI grounding/action benchmark 上提升 5–20%。

简评： 这篇的核心贡献是数据生成管线，而不是单个 agent 架构；如果数据质量可靠，它可能显著缓解 GUI agent 缺少大规模真实轨迹的问题。需要重点看 filtering 与 trajectory extraction 的误差如何控制，因为从视频推断交互意图很容易产生伪监督噪声。

Conditional Equivalence of DPO and RLHF: Implicit Assumption, Failure Modes, and Provable Alignment

工作简介： 作者重新审视 DPO 与 RLHF 的理论等价性，证明该等价依赖一个常被隐含使用的条件：RLHF-optimal policy 必须偏好人类偏好的回答。若该条件失效，DPO 实际优化的是相对 reference policy 的 advantage，可能出现 loss 下降但模型偏好 dispreferred responses 的病态解；文章提出 Constrained Preference Optimization 来恢复可证明对齐。

简评： 这是偏理论的 alignment 工作，值得关注在于它明确指出 DPO guarantee 的边界，而不是只报告新 preference objective 的分数。实际影响取决于失败条件在真实偏好数据和 reference model 下出现频率有多高；但它对理解 preference optimization 的数学假设很有价值。

开源发布

  • Toto 2.0: Time Series Forecasting Enters the Scaling Era（arXiv: 2605.20119）：Datadog 发布 4M 到 2.5B 参数的开源时间序列 forecasting 模型族，Apache 2.0；虽然不是 Fred 最核心的 LLM-agent 方向，但“time-series foundation model scaling”对可观测性与工业预测有参考价值。
  • HRM-Text: Efficient Pretraining Beyond Scaling（arXiv: 2605.20613）：用 Hierarchical Recurrent Model、MagicNorm 和 instruction-response pretraining，声称 1B 模型仅用 40B unique tokens 与约 1500 美元预算达到接近 2–7B open models 的表现；GitHub 热度很高，建议等待独立复现。
  • Stable Audio 3（arXiv: 2605.17991）：Stability AI 发布小/中等开放权重音频生成与编辑模型，支持 variable-length generation、inpainting 和 adversarial post-training；属于重要产品型发布，但与今天主线研究关联较弱。

小结

今天最值得深入读的是 RELEX 和 GRAM：前者把 RLVR 后训练的有效更新压缩到极低维轨迹，后者把递归推理改造成概率多轨迹生成。若只看 agent 可靠性与评测，则 MINTEval 与 Interactive Evaluation Requires a Design Science 更实用；若关注长期个人智能体，Mem-π 与 SELFCI 分别对应记忆生成和上下文隐私边界。

← AI Papers, May 21 AI Papers, May 23 →