AI Papers, May 25
今天没有出现那种明显改变研究路线的“必看大作”,但有几篇工作贴近 Fred 关心的方向:智能体在真实工具环境中的 RL、把连续感知信号保留在 latent 空间中做推理、以及对奖励/长上下文/世界模型记忆的更精细工程化处理。以下只选未在日志中出现、且值得花几分钟判断其价值的论文。
必读
Spreadsheet-RL: Advancing Large Language Model Agents on Realistic Spreadsheet Tasks via Reinforcement Learning
工作简介: 这篇论文把电子表格自动化作为真实软件智能体任务来做 RL:构建从在线论坛收集 start-goal spreadsheet 的数据管线、一个 Microsoft Excel 风格的 Spreadsheet Gym,以及面向金融和供应链等场景的 Domain-Spreadsheet benchmark。实验中,RL 后的 Qwen3-4B-Thinking-2507 在 SpreadsheetBench 上 Pass@1 从 12.0% 提升到 23.4%,在新 benchmark 上从 8.4% 提升到 17.2%。
简评: 这不是单纯 prompt engineering,而是把 GUI/工具使用、可验证结果和多步操作放进一个相对真实的工作流,对“office agent”研究很有参考价值。局限是绝对成功率仍然低,说明真实软件环境下的 credit assignment、工具路由和状态表示还远未解决。
LatentOmni: Rethinking Omni-Modal Understanding via Unified Audio-Visual Latent Reasoning
工作简介: 论文认为显式文本 CoT 会把连续音视频证据过早压缩成离散语言,从而损失时间对齐和细粒度感知信息;因此提出在文本推理中交替插入 audio-visual latent states,并用 feature-level supervision 与 Omni-Sync Position Embedding 保持跨模态时间一致性。作者还构建了 LatentOmni-Instruct-35K,用于监督这种音视频交错推理轨迹。
简评: 这篇值得关注的点在于它把“推理中间态”从纯语言扩展到 latent sensory state,和近来关于 CoT 是否忠实、是否过度语言化的讨论相呼应。它的证据主要来自多模态 benchmark,是否能形成更可解释、更可控的推理机制还需要进一步验证。
值得关注
AutoRubric-T2I: Robust Rule-Based Reward Model for Text-to-Image Alignment
工作简介: 这篇工作为文生图对齐自动学习显式 rubric:先从偏好对中合成 reasoning traces 和候选规则,再让 VLM judge 按规则打分,最后用 (\ell_1)-regularized logistic regression 选择最有判别力的规则。作者声称只用不到 0.01% 的标注偏好数据,就能得到比若干 reward model 更强、更可解释的奖励信号,并可用于 Flow-GRPO 后训练。
简评: 亮点是把 reward model 从黑盒标量变成可审计的规则集合,适合 Fred 关心的可靠性、可解释评价和后训练信号设计。不过它仍依赖 VLM judge 与偏好对的质量,自动生成的 rubric 是否跨域稳定,是判断其真实价值的关键。
Full Attention Strikes Back: Transferring Full Attention into Sparse within Hundred Training Steps
工作简介: 作者观察到 full-attention LLM 本身已经存在稀疏性:只有少数 head 真正需要完整长上下文,长程检索可由低维子空间驱动,且有效 token budget 应随 query 动态变化。基于这些观察,RTPurbo 只为 retrieval heads 保留完整 KV cache,并用轻量 token indexer 做动态稀疏注意力,数百步适配后在 1M context 下报告最高 9.36× prefill 加速和约 2.01× decode 加速。
简评: 如果结果稳健,这对长上下文 agent 很实用:它避免从头训练 sparse model,而是把已有 full-attention 模型“转译”为稀疏推理模型。需要谨慎的是,目前摘要中的核心论断偏工程经验,真正的泛化性要看模型规模、任务类型和实现开源后的复现。
WorldKV: Efficient World Memory with World Retrieval and Compression
工作简介: WorldKV 面向自回归视频扩散/世界模型中的长期一致性问题:被滑窗挤出的 KV cache chunk 存入 GPU/CPU memory,之后按 camera/action correspondence 检索相关 chunk 放回注意力窗口;同时用 key-key similarity 对 chunk 内 token 做压缩。它是 training-free 方法,在 Matrix-Game-2.0 和 LingBot-World-Fast 上报告接近或超过 full-KV 的 memory fidelity,同时吞吐约为 full-KV 的 2×。
简评: 这篇和 agent/world model 的“外部记忆”问题有直接关系:不是只做文本记忆,而是让可交互视频世界在回访旧视角时保持一致。它的限制也明显——检索依据依赖相机/动作对应,在更抽象的环境记忆或非几何场景中未必直接适用。
Diversed Model Discovery via Structured Table Discovery
工作简介: 论文把模型搜索视为“既要任务相关、又要结果多样”的比较式检索问题,利用 model cards 中的结构化表格而非只看文本语义相似度。其 StructuredSemanticSearch 结合 unionability、joinability、keyword search 等 table discovery 操作,并提出 nugget-based evaluation 来衡量检索结果的证据覆盖和多样性。
简评: 这篇不算大模型核心算法,但对模型库、模型卡和结构化证据检索很有启发,接近知识图谱/结构化信息管理问题。它提醒我们:随着模型生态爆炸,AI 系统需要的不只是 semantic search,而是可比较、可审计的 evidence retrieval。
RiT: Vanilla Diffusion Transformers Suffice in Representation Space
工作简介: RiT 在冻结 DINOv2 representation space 中训练 vanilla Diffusion Transformer,用 x-prediction 做 flow matching,并分析了 pixel、SD-VAE、DINOv2 特征空间在 intrinsic dimensionality、effective rank、conditioning、kurtosis 等几何统计上的差异。作者报告 ImageNet 256×256 上 FID 1.45(无 guidance)/1.14(CFG),并且 5–10 个 Heun steps 就能达到较好质量。
简评: 这篇的价值在于它给“为什么 representation space 比 pixel/VAE latent 更适合生成建模”提供了比较数学化的经验解释,而不是只报 FID。它和 Fred 偏好的“有几何/概率直觉支撑的模型设计”比较契合,但仍属于图像生成方向,优先级低于 agent/reasoning 论文。
开源发布
- Spreadsheet-RL、LatentOmni、AutoRubric-T2I、WorldKV、RiT 等都附带代码或项目页;今天未发现需要单独作为“重大开源发布”强调的新基础模型。