AI Papers, June 15
今天没有特别“改写范式”的单篇论文;更值得看的,是几篇把智能体可靠性、轨迹可执行性、蒸馏信号可信度和模型生态透明度做得更细的工作。以下已跳过近日重复收录的论文,保留少量真正值得花时间看的新条目。
必读
SG-OPD: Sign-Gated On-Policy Distillation via Sign-Consistency Gating and Phased Teacher Sampling
工作简介: 这篇论文研究 on-policy distillation:学生模型在自己的轨迹上学习强教师的逐 token 偏好,但作者指出它依赖两个常被破坏的假设——学生轨迹与教师轨迹足够对齐、教师每个 token 的偏好都可靠。SG-OPD 引入二值 verifier 作为信任信号,一方面在冷启动阶段混入 verifier 认可的教师 rollout,另一方面用 sign-consistency gate 只在教师方向与 verifier-correct 方向一致时放大蒸馏更新,在不一致时降低信任。
简评: 这很贴近 Fred 关注的“轨迹级可靠性”和“停止/信任准则”:它不是再堆一个 RL 算法,而是把 teacher signal 的局部可信度显式建模。局限是目前实验主要在竞赛数学推理上,是否能迁移到工具调用、多步 agent 轨迹,还需要更强的环境验证。
WebChallenger: A Reliable and Efficient Generalist Web Agent
工作简介: WebChallenger 是一个面向 Web navigation 的通用 agent 框架,核心不是换更大的模型,而是构造 PageMem:从 DOM 生成层次化页面表示、摘要和元素行为记忆。系统用分治式观察、一次性网站探索记忆、以及复合动作 workflow 来减少无效视觉/文本 token 和重复交互,在 WebArena、VisualWebArena、Online-Mind2Web、WorkArena 上用开源模型接近部分前沿闭源系统。
简评: 这类工作的重要性在于把“网页智能体能力”重新落到 harness 与状态表示设计,而不是单纯模型规模;PageMem 也像一种可复用的结构化环境记忆。需要谨慎的是,论文声称的通用性仍依赖 DOM 可解析性和网站结构稳定性,面对高度动态、反自动化或视觉主导页面时可能会打折。
值得关注
Evoflux: Inference-Time Evolution of Executable Tool Workflows for Compact Agents
工作简介: Evoflux 针对小模型工具智能体在 MCP-style 工具目录中生成“看似合理但不可执行”workflow 的问题,把工具使用看成可执行图的 inference-time repair。它通过结构化编辑、执行反馈、自适应搜索强度、meta-guided redesign 和多样性剪枝来演化 typed workflow graph,在 MCP-Bench 上显著提高小 planner 的可执行率。
简评: 这篇对 agent 很有启发:如果工具目录动态变化且 teacher trace 稀缺,单纯 SFT/DPO 可能不如执行驱动的搜索可靠。缺点是成功率从约 3% 提到 17–24% 仍然偏低,说明 compact tool agent 的 schema grounding、依赖追踪和错误恢复还远未解决。
Robust-U1: Can MLLMs Self-Recover Corrupted Visual Content for Robust Understanding?
工作简介: Robust-U1 问一个很直接的问题:多模态大模型面对真实图像破损时,能否先自我恢复视觉内容,再进行理解?方法分为三步:SFT 学初始重建,随后用 SSIM 与 CLIP similarity 双奖励做 RL 对齐,最后在推理时同时利用破损输入和恢复图像完成 VQA/理解任务。
简评: 新意在于把 robustness 从黑箱特征对齐或纯文本解释,推进到显式视觉恢复机制,并给出恢复质量与推理性能之间的联系。它更偏多模态鲁棒性工程,不是通用 reasoning 突破;但对“模型是否知道自己看坏了、能否修复后再判断”这个可靠性问题很值得关注。
Risk Under Pressure: Compute-Aware Evaluation of Adversarial Robustness in Language Models
工作简介: 论文指出常见 jailbreak/对抗鲁棒性评测只报告固定查询预算下的 attack success rate,会掩盖不同攻击的计算成本差异。作者提出以累计 FLOPs 表示 computational pressure,画 risk-compute curves,并用相关指标衡量攻击成功所需平均压力,在十个模型、三类攻击、两个安全 benchmark 上分析 alignment、模型规模和攻击迁移的影响。
简评: 这是一个很实用的评测视角:安全风险不只是“能不能攻破”,还包括“以多低成本攻破”。它与 Fred 关注的 reliability/停止准则相邻,因为风险曲线比单点 ASR 更适合做部署决策;但 FLOPs 只是攻击努力的代理变量,真实攻击者的成本还包括数据、prompt 搜索经验和系统访问条件。
Which Models Are Our Models Built On? Auditing Invisible Dependencies in Modern LLMs
工作简介: 这篇提出 ModSleuth,一个从公开 artifact 中递归重建 LLM 依赖图的 agentic 系统,用 source-grounded evidence 区分直接/间接依赖、不同 pipeline 角色,以及名称、版本、仓库之间的实体对齐。作者在四个公开材料丰富的 LLM release 上恢复了 1,060 个可溯源依赖,并构建依赖图以暴露许可证、多跳训练-评测耦合和文档不一致。
简评: 这不是模型能力论文,但对 AI 研究生态很重要:现代模型越来越依赖上游模型生成数据、筛选语料和充当 judge,依赖图本身已经复杂到需要 agentic 审计。它的难点也很明确——“什么算依赖”带有规范性,自动抽取再强也离不开清晰的依赖本体和证据标准。
Rethinking Psychometric Evaluation of LLMs: When and Why Self-Reports Predict Behavior
工作简介: 作者重新审视用心理测量问卷预测 LLM 行为的可靠性,比较粗粒度 Big Five 与更贴近具体行为的 Theory of Planned Behavior。实验覆盖四类行为任务和 11 个前沿 LLM,并改变会话上下文与身份诱导,发现自我报告与行为的一致性是选择性的:同一会话中 TPB 可达到类人一致性,但跨会话、强 prompt priming 场景下会明显崩塌。
简评: 这篇的价值在于提醒大家不要把 LLM 的“人格问卷分数”当成稳定属性;行为预测需要任务特定、上下文匹配的测量工具。它对 agent 评估也有借鉴意义:很多所谓偏好、意图、人格探针,可能只是当前上下文下的短暂表态。
N-GRPO: Embedding-Level Neighbor Mixing for Enhanced Policy Optimization
工作简介: N-GRPO 试图改进数学推理 RL 中 rollout 多样性不足的问题:token-level sampling 容易生成表面不同但语义重复的轨迹,而随机 embedding noise 又会破坏语义。方法是在 GRPO 中混合 anchor token 与其语义近邻的 embedding,在局部语义流形内增加探索多样性,并在 DeepSeek-R1-Distill-Qwen 系列上测试数学与 OOD 泛化。
简评: 这是一个小而有意思的探索机制,关注“生成不同但仍有效的解题轨迹”,比单纯调采样温度更有结构。是否真正带来可解释的 trajectory diversity、以及对非数学 agent 任务是否有效,还需要更多开放复现。
开源发布
- MiniMax MSA kernel / MiniMax-M3:MiniMax Sparse Attention 论文已在前两日收录;今天可补充关注其开源 kernel 与 MiniMax-M3 模型页面。Kernel: https://github.com/MiniMax-AI/MSA ,Model: https://huggingface.co/MiniMaxAI/MiniMax-M3
- Robust-U1:视觉自恢复鲁棒理解代码已公开,适合跟进 MLLM robustness 复现实验。https://github.com/jqtangust/Robust-U1
- WebChallenger:Web agent harness 与 PageMem 框架已开源,适合对比 DOM-grounded 记忆与传统 screenshot/HTML agent。https://github.com/jayoohwang1/webchallenger
小结
今天的主线不是单点 SOTA,而是“让模型/智能体的轨迹更可审计、更可执行、更知道何时该信任信号”。SG-OPD、Evoflux、WebChallenger 和 ModSleuth 分别从蒸馏、工具执行、网页状态表示和模型依赖审计切入,都在推动更可靠的 AI 系统工程。