2026-10-02 | CS.LG机器学习 | 共 270 篇
[机构]信息由AI分析生成,可能存在错误,仅供参考,以论文实际显示为准
快速导航
1. 深度学习架构与训练方法 27 篇
2. 表示学习、自监督与对比学习 8 篇
3. 强化学习与序列决策 41 篇
4. 生成模型与概率建模 15 篇
5. 优化、泛化与理论分析 16 篇
6. 高效学习、压缩与部署 2 篇
7. 联邦学习、隐私与安全 4 篇
8. 鲁棒性、不确定性与可信学习 14 篇
9. 图学习与结构化数据 4 篇
10. 迁移、元学习与持续学习 9 篇
11. 数据集、基准与评测 15 篇
12. 机器学习应用 13 篇
13. 其他/综合机器学习 102 篇
1. 深度学习架构与训练方法 | 27 篇
1. Beyond Diagonal State Space Models: Exact Non-Abelian Group Tracking, Solvability Barriers, and Geometric Physical Manifolds
超越对角状态空间模型:精确非阿贝尔群跟踪、可解性障碍与几何物理流形
AI 总结:本文提出非交换状态空间模型(NC-SSM)系列,通过李群提升和等距变换,解决了对角SSM在非可解群上的优化退化问题,实现了精确群跟踪、流形保持和长程记忆,并在多项基准上显著超越现有方法。
链接:https://arxiv.org/abs/2610.00329
2. MoRA: MoE Pruning via Router Bias Learning and Expert Approximation
MoRA:通过路由器偏置学习与专家近似进行MoE剪枝
AI 总结:本文提出MoRA框架,通过可学习路由器偏置和专家近似机制进行结构化MoE剪枝,在多个模型上移除25%和50%专家,并在九个零样本基准上超越现有剪枝算法。
链接:https://arxiv.org/abs/2610.00367
3. FAER: Auditable Utility-Aligned Trajectory Replay for Language Model Post-Training
FAER:面向语言模型后训练的可审计、效用对齐的轨迹重放
AI 总结:针对重放选择与学习效用脱节的问题,提出可审计的FAER框架,通过学习器感知选择器与审计契约提升后训练质量,在GSM8K上达到0.6624。
链接:https://arxiv.org/abs/2610.00385
4. WIPSNet: Deep Learning for Paediatric Wheeze Detection from Overnight Impedance Pneumography
WIPSNet:基于夜间阻抗呼吸描记术的儿科喘息检测深度学习
AI 总结:针对夜间阻抗呼吸描记术的儿科喘息检测,提出WIPSNet(3D ResNet)处理连续小波尺度图,在15名患者队列上AUC达0.783,优于EVI等基线,证明时频表示与3D卷积的有效性。
链接:https://arxiv.org/abs/2610.00398
5. The Conflict Between Logic and Memory: Learning Higher-Order Interactions in Shallow MLPs
逻辑与记忆的冲突:在浅层MLP中学习高阶交互
AI 总结:本研究通过合成任务考察浅层MLP在拟合训练数据与学习高阶规则之间的分离,发现优化器与干扰权重学习显著影响高阶交互规则的实现。
链接: https://arxiv.org/abs/2610.00403
6. The Life Cycle of a Massive Activation: Stochastic Birth, Weight-Decay-Driven Growth, and Competitive Consolidation
大规模激活的生命周期:随机诞生、权重衰减驱动的增长与竞争性巩固
AI 总结:本研究通过训练轨迹分析与受控干预,揭示大规模激活(注意力汇聚点)的生命周期,发现权重衰减因果控制其规模更替,并建立平衡模型,确立其为训练时调节激活幅度的关键杠杆。
链接:https://arxiv.org/abs/2610.00423
7. One-Step Generative Modeling via Training Dynamics Action
通过训练动力学动作的一步生成建模
AI 总结:提出TDAction,通过软终端控制选择传输目标,优化训练动力学以实现一步生成,在ImageNet上无需蒸馏达到FID低于1.1。
链接:https://arxiv.org/abs/2610.00518
8. Evaluating Hybrid Quantum-Classical Models for Reduced-Order Brain Deformation Dynamics
评估用于脑变形动力学降阶建模的混合量子-经典模型
AI 总结:本研究评估混合量子-经典模型用于脑变形场降阶预测,发现经典网络在静态回归和时间预测中均优于量子变体,确立降阶物理场学习为QML测试平台。
链接:https://arxiv.org/abs/2610.00554
9. Redundancy Meets Synergy: Dependency-aware Expert Selection for MoE via Submodular Optimization
冗余与协同:基于子模优化的MoE依赖感知专家选择
AI 总结:针对MoE专家选择忽视依赖关系的问题,提出DS-MoE框架,利用差分子模优化解耦冗余与协同,并设计MM算法高效选择专家子集,实验验证其性能优于现有基线。
链接:https://arxiv.org/abs/2610.00558
10. Beyond Affine Transformations: A Soft Dominance Layer for Coordinate-Wise Neural Computation
超越仿射变换:用于坐标级神经计算的软支配层
AI 总结:本文提出软支配层作为仿射变换的替代,通过可微不等式比较实现坐标级计算,初步实验显示其可训练性但准确率低于MLP基线,需进一步验证。
链接:https://arxiv.org/abs/2610.00563
11. Match the Distribution, Not the Compute: Post-Training Multi-Token Prediction Heads
匹配分布,而非计算量:训练后的多令牌预测头
AI 总结:本文研究在冻结推理模型上通过轻量级训练后处理实现多令牌预测加速,提出链感知验证松弛和自适应控制器,显著提升吞吐量并保持准确性。
链接:https://arxiv.org/abs/2610.00888
12. HADRec: A Hierarchy-Aware Drug Recommendation Framework by Fusing Molecular Knowledge and Electronic Health Record
HADRec:一种融合分子知识与电子健康记录的层级感知药物推荐框架
AI 总结:针对现有药物推荐忽略分子结构和ATC层级的问题,提出HADRec框架,融合分子知识与EHR,采用层级预测器与一致性约束,在MIMIC-III和IV上达到最优性能,且校准良好、推理临床对齐。
链接:https://arxiv.org/abs/2610.00984
13. Neural scaling laws and evolution of learnable activation functions of Kolmogorov-Arnold networks
Kolmogorov-Arnold网络的可学习激活函数的神经缩放定律与演化
AI 总结:本研究探讨KANs的神经缩放定律及激活函数随数据量增加的演化,发现断裂缩放行为,并为高效应用KANs提供定量指导。
链接:https://arxiv.org/abs/2610.00985
14. Looping Beyond Twice: A Scalable Recipe for Looped Mixture-of-Experts
超越两次循环:可扩展的循环混合专家模型配方
AI 总结:针对循环MoE扩展受限的问题,提出LOOM方法,通过稳定循环状态和多样化专家选择,实现9-12次循环,显著提升困惑度和零样本准确率。
链接:https://arxiv.org/abs/2610.01153
15. Learning Rate Transfer for Hybrid Transformer-SSM Architectures
学习率迁移用于混合Transformer-SSM架构
AI 总结:本研究探讨混合Transformer-SSM架构的学习率迁移,发现仅用μP处方即可在多种规模下实现近零LR迁移差距,归因于全局更新-权重不变性与AdamW局部平衡,并验证其跨配置及生产模型的有效性。
链接:https://arxiv.org/abs/2610.01172
16. Prediction-powered Neural Architecture Search
预测驱动的神经架构搜索
AI 总结:本文提出PPNAS,一种预测驱动的神经架构搜索方法,通过融合少量真实性能标签与大量零成本代理信息,利用序数信息构建成对排序监督并去偏,在有限评估预算下实现最先进性能。
链接:https://arxiv.org/abs/2610.01317
17. AF-Muon: An AdamW-Free Muon Optimizer for Tied-Embedding Models
AF-Muon:用于权重共享嵌入模型的免AdamW Muon优化器
AI 总结:AF-Muon提出免AdamW的Muon扩展,针对权重共享词汇表采用有限容量线性最小化预言机,在九种设置中优于混合Muon和Sign,节省约20%状态内存。
链接:https://arxiv.org/abs/2610.01395
18. Why Does Train-Validation Separation Emerge? Update-Pressure Density Dynamics in Pretrained Backbones
为什么训练-验证分离会出现?预训练骨干中的更新压力密度动力学
AI 总结:本文提出更新压力密度动力学解释训练-验证分离现象,通过条件局部模型和固定训练探针揭示梯度分配异质性,并在ResMLP、NLP模型及ResNet-18上验证,发现私有特征占比增加会扩大准确率差距。
链接:https://arxiv.org/abs/2610.01425
19. Calibrating Prediction Timeliness Through Multi-Objective Hyperparameter Optimization for Remaining Useful Life Prediction
通过多目标超参数优化校准剩余使用寿命预测的时效性
AI 总结:本研究将优化目标作为设计变量,通过多目标超参数优化(NSGA-II 与熵-CRITIC 加权)在 C-MAPSS 和 BackBlaze 基准上校准 RUL 预测的时效性,显著减少方向性不平衡,并揭示架构性能的配置依赖性。
链接:https://arxiv.org/abs/2610.01530
20. Generalization in Neural Networks Through the Lens of Magnitude Potential
通过量级势视角理解神经网络的泛化
AI 总结:本文提出基于度量量级理论的量级势概念,用于分析神经网络泛化,其比率与记忆化分数相关,能检测决策边界变化并提供顿悟的几何指标,且不受神经坍缩抑制影响。
链接:https://arxiv.org/abs/2610.01633
21. MiLoop: Selective Memory Propagation for Neural Combinatorial Optimization
MiLoop:面向神经组合优化的选择性记忆传播
AI 总结:MiLoop提出纯强化学习的构造性框架,通过选择性记忆传播实现动态嵌入,无需解标签或剪枝,在100至千万节点实例上展现强泛化能力。
链接:https://arxiv.org/abs/2610.01685
22. Inferring Multi-Timescale Neural Dynamics with Switching Linear Dynamical Systems
推断具有切换线性动力系统的多时间尺度神经动力学
AI 总结:针对神经活动多时间尺度识别难题,提出多时间尺度切换线性动力系统(MTS-SLDS),结合多滞后矩初始化与状态条件拉普拉斯EM推断,从潜在转移矩阵特征值提取时间尺度,在合成和神经实验中准确恢复时间尺度与切换结构。
链接:https://arxiv.org/abs/2610.01786
23. Stochastic Rounding in Low-Precision Transformer Inference: A Variable-Precision Emulation Study of a Small GPT-2
低精度Transformer推理中的随机舍入:小型GPT-2的可变精度模拟研究
AI 总结:本研究通过可变精度模拟,发现低精度Transformer推理中随机舍入与就近舍入的效果取决于网络位置,混合配置可显著降低困惑度。
链接:https://arxiv.org/abs/2610.01889
24. Asynchronous LLM Post-Training: Group-Mass Capping and Convergence Analysis
异步LLM后训练:组质量上限与收敛性分析
AI 总结:该研究提出异步GRPO的收敛分析,并设计GMC-GRPO方法通过组质量上限最小化偏差,改善延迟项阈值依赖性,实验验证其鲁棒性。
链接:https://arxiv.org/abs/2610.01896
25. Universal interpolation for deep residual self-attention networks
深度残差自注意力网络的通用插值
AI 总结:本文证明仅用两个冻结的高斯初始化单头残差softmax注意力块,即可在连续和有限深度下实现任意序列集合间的通用插值,并刻画了因果掩码的限制。
链接:https://arxiv.org/abs/2610.01981
26. Every Ablation Is a Dose: Counterweights and the Semblance of Self-Repair
每一次消融都是一次剂量:配重与自我修复的表象
AI 总结:本研究提出消融可视为剂量,揭示语言模型自我修复实为配重效应,通过仿射定律预测修复响应,并在多个模型上验证。
链接:https://arxiv.org/abs/2610.02173
27. Generative modeling of intrinsically disordered protein regions by reinforcing sparse autoencoder features
通过强化稀疏自编码器特征的内在无序蛋白区域生成建模
AI 总结:本文提出IDiom模型和RL-SAE方法,用于内在无序蛋白区域的可解释设计,显著提升功能特征激活率。
链接:https://arxiv.org/abs/2610.02189
2. 表示学习、自监督与对比学习 | 8 篇
28. How Many Categories Are Enough? Distribution-Free Certification Limits for Few-Shot Anomaly Thresholds
多少个类别才够?少样本异常阈值的无分布认证界限
AI 总结:本研究推导少样本异常检测阈值认证所需类别数量的理论下界,提出CRESS协议,证明仅靠少量源类别无法支持可迁移的可靠性声明。
链接:https://arxiv.org/abs/2610.00236
29. IrekoGPT: Turning Structured Pruning into Post-Hoc Slimmable LLMs
IrekoGPT:将结构化剪枝转化为事后可瘦身的大语言模型
AI 总结:IrekoGPT通过保留投影矩阵并逐层校准,将预训练大语言模型转化为推理时可调宽度的可瘦身模型,在Llama和Qwen上优于PCA方法,尤其在高压缩率下。
链接:https://arxiv.org/abs/2610.00426
30. Reformulation-Contrastive Learning for Mixed Integer Programs
混合整数规划的重表述对比学习
AI 总结:针对混合整数线性规划,提出重表述对比学习框架ReMILP,利用等价重表述作为自监督信号,学习变量和约束的通用表示,在多个预测任务中展现有效性与可迁移性。
链接:https://arxiv.org/abs/2610.00730
31. Increasing Width Allows Greedy Layer-wise Training to Rival End-to-End Backpropagation in Self-Supervised Learning
增加宽度使得贪心逐层训练在自监督学习中能与端到端反向传播相媲美
AI 总结:本研究探讨自监督学习中网络宽度与深度对贪心逐层训练和端到端反向传播的影响,发现宽网络中贪心训练性能可媲美甚至超越端到端训练,并揭示表征几何差异为潜在机制。
链接:https://arxiv.org/abs/2610.00753
32. Structure-agnostic Causal Representation Learning
结构无关的因果表示学习
AI 总结:提出SaCRL框架,无需先验结构知识即可联合识别因果结构并学习不变表示,通过HSIC软优化实现结构选择,在多个基准上取得最优性能。
链接:https://arxiv.org/abs/2610.00968
33. Learning Commute-Time-Preserving World Models for Planning
学习保持通勤时间的世界模型用于规划
AI 总结:针对现有世界模型在潜在空间中因各向同性表示而破坏通勤时间缩放的问题,提出CTWM模型,结合位移预测器与对数行列式正则化器,在可逆动力学下恢复正确缩放,以更少参数在连续目标到达任务中达到或超越基线性能。
链接:https://arxiv.org/abs/2610.01373
34. Beyond Linear Concepts: Discovering and Aligning Non-Linear Concept Manifolds in Large Language Models
超越线性概念:发现并对齐大型语言模型中的非线性概念流形
AI 总结:本研究将非线性多维概念发现适配至LLM激活,提出概念对齐分数,发现跨层、跨模型及训练阶段的概念流形结构,揭示句法到语义的转变及训练依赖的多语言共享。
链接:https://arxiv.org/abs/2610.01821
35. Higher-Order Molecular Grammars for Generative and Foundation Models in Chemistry
用于化学中生成模型和基础模型的高阶分子文法
AI 总结:本文提出高阶文法表示(HGR),将分子解析为规则序列以高效编码高阶拓扑,并构建富环基准RingDiv,在生成和表示学习任务中均取得领先性能。
链接:https://arxiv.org/abs/2610.02186
3. 强化学习与序列决策 | 41 篇
36. Integrating Fairness and Explainability in a Multiple Instance Reinforcement Learning System
在多重实例强化学习系统中整合公平性与可解释性
AI 总结:本研究提出一个结合强化学习多重实例学习、对抗性去偏和偏好条件超网络的多目标框架,用于学生风险预测,发现偏好条件无法稳定控制公平性与性能的权衡,需显式梯度平衡机制。
链接:https://arxiv.org/abs/2610.00035
37. Uncertainty-Aware RL-Controlled Adaptive 3D Mapping
不确定性感知的强化学习控制自适应三维建图
AI 总结:提出基于语义熵、几何曲率和纹理丰富度的自适应体素细化框架,并引入强化学习智能体在用户指定内存预算下学习细分策略,实现更高精度和更好的内存-精度权衡。
链接:https://arxiv.org/abs/2610.00188
38. Bellman-Certified Rounding for Sparse Policy Deployment in MDPs
MDP中稀疏策略部署的Bellman认证舍入
AI 总结:针对MDP中稀疏策略部署,提出Bellman认证舍入方法,利用包络和加权曲率积分提供候选特定保证,显著提升认证覆盖率并降低界限与损失比。
链接:https://arxiv.org/abs/2610.00325
39. The Weakest Link: Distilling LLM Reasoning with Worst-Case Constrained Reinforcement Learning
最薄弱环节:基于最坏情况约束强化学习的大语言模型推理蒸馏
AI 总结:针对LLM推理蒸馏中奖励黑客与平均化缺陷,提出最坏情况约束RL方法,通过无增强MDP变换保留硬约束,显著扩展准确率-保真度帕累托前沿,实现最高严格推理成功率。
链接:https://arxiv.org/abs/2610.00332
40. T2SPO: Trajectory-to-Step Policy Optimization for Agentic Reinforcement Learning
T2SPO:面向智能体强化学习的轨迹到步骤策略优化
AI 总结:提出T2SPO方法,利用成功轨迹提供步骤级反馈,通过TabPFN估计剩余距离辅助信用分配,在ALFWorld和WebShop上提升智能体任务成功率。
链接:https://arxiv.org/abs/2610.00388
41. MatrixReward: Reward from Rubric Matrix for Open-Ended Generation
MatrixReward:基于评分矩阵的开放式生成奖励机制
AI 总结:MatrixReward通过构建逐标准胜率矩阵并利用列离散度与相关性生成数据依赖的权重,结合理想轮廓距离计算奖励,在开放式问答基准上以63.02分超越基线约2%。
链接:https://arxiv.org/abs/2610.00389
42. Forking: Sudden Overfitting Under Replay
分叉:重放下的突然过拟合
AI 总结:本文研究数据重放下模型出现的分叉过拟合现象,揭示其机制源于n-gram模块放大重复更新效应,并指出这是自动研究代理技巧的意外副产品,需谨慎对待其结果。
链接:https://arxiv.org/abs/2610.00394
43. Make Sparse Rewards Count: Density-Aware Reward Aggregation for Multi-Reward RL
让稀疏奖励发挥作用:面向多奖励强化学习的密度感知奖励聚合
AI 总结:针对多奖励强化学习中奖励稀疏导致的学习不均衡问题,提出密度感知奖励聚合(DARA),通过逆平方根密度校正加权奖励信号,加速工具调用与数学推理任务的学习,减少训练步数。
链接:https://arxiv.org/abs/2610.00574
44. ALER: Adaptive Learnable Experience Rewriting for Reinforcement Learning
ALER:用于强化学习的自适应可学习经验重写
AI 总结:针对部分可观测强化学习中信息过时问题,提出ALER智能体,结合LSTM与槽记忆,通过可学习重写和融合机制,在多个基准上显著提升成功率。
链接:https://arxiv.org/abs/2610.00592
45. Exploring More, Reasoning Better: Stepwise Risk-Sensitive GRPO for Diffusion Language Models
探索更多,推理更优:面向扩散语言模型的逐步风险敏感GRPO
AI 总结:提出StepRS-GRPO,通过逐步调整风险系数改进扩散语言模型的强化学习,提升数学推理的准确率、覆盖率和答案多样性。
链接:https://arxiv.org/abs/2610.00661
46. Scalable Multi-Task Inverse Reinforcement Learning
可扩展的多任务逆强化学习
AI 总结:提出一种低秩假设下的多任务逆强化学习方法,通过汇集多智能体数据缓解覆盖需求,实现可扩展的奖励恢复与策略迁移,并在实验中展现出更低遗憾和计算优势。
链接:https://arxiv.org/abs/2610.00758
47. Learning Goal-Reaching Quasimetric Geometry From Finite-Time Reachability
学习从有限时间可达性中获取目标到达的拟度量几何
AI 总结:针对目标条件强化学习,提出ReQRL方法,利用有限时域可达性约束价值梯度,解耦动力学可达性与边界几何,在OGBench上表现优于或媲美现有方法。
链接:https://arxiv.org/abs/2610.00778
48. SHARPO: Segment-Level Credit Assignment for Agentic Reinforcement Learning
SHARPO:智能体强化学习中的段级信用分配
AI 总结:SHARPO提出段级信用分配机制,通过师生对数概率差距改进GRPO优势,在ALFWorld和WebShop上超越现有基线。
链接:https://arxiv.org/abs/2610.00838
49. Cross-Benchmark Transfer from RL on Agentic Coding Tasks
基于智能体编码任务强化学习的跨基准迁移
AI 总结:本研究通过专家构建的智能体编码任务进行强化学习后训练Kimi K2.7 Code模型,显著提升了六个外部基准的pass@1,并验证了所学技能可跨基准迁移,同时缩短了轨迹并避免了常见失败模式。
链接:https://arxiv.org/abs/2610.00890
50. When Do Biological Reasoning Models Use Their Biological Inputs?
生物推理模型何时使用其生物输入?
AI 总结:本研究通过扰动输入和证据冲突测试六个生物推理模型,发现Evo2和ESM3对BioReason系列贡献有限,而其他模型受益于生物输入,揭示后训练策略未确保基础模型表示有效参与推理。
链接:https://arxiv.org/abs/2610.00898
51. Sharpen Before You Adapt: Data-Free Entry-State Sharpening for Test-Time Reinforcement Learning
先锐化再适应:测试时强化学习的数据无关入口状态锐化
AI 总结:提出在测试时强化学习前进行数据无关的入口状态锐化,以入口熵为控制信号,实验表明可显著提升TTRL的适配效率与最终性能。
链接:https://arxiv.org/abs/2610.00903
52. Rate-Optimal Algorithm for Adversarial Linear CMDPs
对抗性线性约束马尔可夫决策过程的最优速率算法
AI 总结:针对未知转移的对抗性线性约束MDP,提出结合自适应FTRL、收缩值估计和指数Lyapunov函数的新原始-对偶算法,实现最优$\tilde{O}(\sqrt{K})$遗憾与约束违反,无需Slater条件。
链接:https://arxiv.org/abs/2610.00927
53. Adapter Thickets: Splitting an RLVR Budget Beats Concentrating It
适配器丛:分割RLVR预算优于集中使用
AI 总结:本研究证明RLVR预算集中训练单个适配器会因错误相关性增加而损害多数投票,提出将预算分割为多个适配器丛,在多种设置下显著提升投票准确率。
链接:https://arxiv.org/abs/2610.00991
54. Does Scaling Reinforcement Learning Really Require More Training?
扩展强化学习真的需要更多训练吗?
AI 总结:本研究提出策略空间扩展方法SURGE,利用强化学习历史中的检查点组合生成更强策略,无需额外训练或推理计算,在数学和编码基准上超越原生最优检查点。
链接:https://arxiv.org/abs/2610.01133
55. Context-Aware Error Mitigation Orchestration for Hybrid Quantum Reinforcement Learning on NISQ Systems
面向NISQ系统上混合量子强化学习的上下文感知错误缓解编排
AI 总结:提出APGEM,一种上下文感知的错误缓解编排框架,动态选择ZNE、PEC、CDR或REM策略,在NISQ设备上提升量子强化学习的鲁棒性,在CVRP上达到Oracle策略效用的94%。
链接:https://arxiv.org/abs/2610.01253
56. IQS-BO: In-Context Query Selection for Bayesian Optimisation
IQS-BO:贝叶斯优化的上下文内查询选择
AI 总结:提出IQS-BO,一种基于先验数据拟合网络的上下文内查询选择方法,通过监督学习在合成先验上学习查询决策,以低成本实现贝叶斯优化,并匹配或超越现有方法。
链接:https://arxiv.org/abs/2610.01269
57. Minimax Optimal Regret for Causal Logistic Bandits with Counterfactual Fairness
因果逻辑强盗问题中具有反事实公平性的极小极大最优遗憾
AI 总结:针对带反事实公平约束的因果逻辑强盗,证明覆盖条件必要性,提出匹配上下界,算法达到极小极大最优遗憾。
链接:https://arxiv.org/abs/2610.01377
58. Reusing Past Samples in Proximal Policy Optimization: When and How Does It Help?
在近端策略优化中重用历史样本:何时以及如何发挥作用?
AI 总结:本研究在多重重要性加权框架下提出wPPO-U和wPPO-BH两种PPO变体,通过重用近期窗口样本并推导策略改进下界,系统探究数据重用对提升样本效率与最终性能的时机与方式。
链接:https://arxiv.org/abs/2610.01399
59. Towards Optimal Policy Improvement
迈向最优策略改进
AI 总结:本文从第一性原理定义最优策略改进,将其转化为求解诱导MDP,并在近似评估约束下提出最优贪心化算子,经多算法实验验证可提升总体性能。
链接:https://arxiv.org/abs/2610.01566
60. Iterative Policy Refinement through Semantic Rollout Analysis
通过语义回滚分析的迭代式策略精化
AI 总结:提出闭环框架,利用LLM分析策略回滚的表格数据,迭代精化结构化策略,无需人工指令,在赛车和开门任务上性能提升最高15%,计算量减少75%。
链接:https://arxiv.org/abs/2610.01652
61. Function-Structured Reinforcement Learning with Executable Verifiers for Mathematical Reasoning
函数结构化强化学习与可执行验证器用于数学推理
AI 总结:提出函数结构化图强化学习(FSG-RL),结合函数图、Python代码和多验证器反馈,通过GRPO优化策略,在数学推理基准上将最终答案准确率从43.25%提升至67.50%。
链接:https://arxiv.org/abs/2610.01729
62. iADD: Improving Alignment and Diversity in Diffusion Policy Optimization
iADD:提升扩散策略优化中的对齐性与多样性
AI 总结:本文提出iADD方法,通过理论分析证明仅更新后段时间步有害于多样性,并基于增量式Feynman-Kac训练实现扩散策略优化中对齐性与多样性的最佳权衡,实验验证了显著性能提升。
链接:https://arxiv.org/abs/2610.01789
63. Flowing Faster to Coordinate: One-Step Online Multi-Agent Flow Policies
更快流动以协调:一步式在线多智能体流策略
AI 总结:本文提出一步式流模型OMAF,结合Transformer流策略与近似路径得分代理,实现高效在线多智能体协调,在10个任务上回报提升3.4倍、样本效率提升10.5倍。
链接:https://arxiv.org/abs/2610.01882
64. Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents
基于选择的结构化推理:面向高效多模态搜索智能体
AI 总结:本文提出基于选择的结构化推理(SSR),将多模态智能体的推理从开放式生成改为选择预定义候选,在保持任务性能的同时显著降低推理延迟,适用于小型模型。
链接:https://arxiv.org/abs/2610.01892
65. Same Reward, Different Skills: When Multimodal RL Learns to Look
相同奖励,不同技能:多模态强化学习何时学会观察
AI 总结:本研究提出视觉可解析性设计规则,证明多模态强化学习仅在视觉证据为必要且任务可学习时才能学会观察,并通过反事实坐标实验验证了该规则的有效性。
链接:https://arxiv.org/abs/2610.01908
66. Sharp Non-Asymptotic Analysis of the Penalized Challenger in $β$-EB-TCI for Bernoulli Bandits
β-EB-TCI 中带惩罚挑战者的尖锐非渐近分析(针对伯努利臂)
AI 总结:本文对伯努利臂的 β-EB-TCI 算法进行尖锐非渐近分析,证明其停止时间上界并给出期望样本复杂度,同时指出处理相等次优均值证明策略的局限。
链接:https://arxiv.org/abs/2610.01951
67. Do Your Own Research: Learning to Forecast by Learning to Search
自己做研究:通过学习搜索来学习预测
AI 总结:提出基于2100多个Polymarket问题的智能体预测环境,用Brier分数奖励的GRPO训练Qwen3.5模型,使校准提升30-40%,搜索次数下降,并以5%推理成本超越Claude Opus等前沿模型。
链接:https://arxiv.org/abs/2610.01955
68. Bellman Meets Lyapunov: Unsupervised Reinforcement Learning via Mastering Chaos
Bellman 遇见 Lyapunov:通过掌控混沌实现无监督强化学习
AI 总结:本文提出 Forward CIP(F-CIP),一种仅由系统动力学定义、无需选择信息变量的无监督强化学习目标,可无监督发现平衡等原始行为,并结合简单奖励产生跳跃、奔跑等协调步态。
链接:https://arxiv.org/abs/2610.02012
69. On Language Drift during RLVR Post-Training
关于RLVR后训练中的语言漂移
AI 总结:本文证明RLVR后训练中语言漂移由优化压力导致且无法在不牺牲性能的前提下约束,并实验验证其仅在新颖推理任务中出现。
链接:https://arxiv.org/abs/2610.02015
70. CARM: Cancellation-Aware Response Masking for LLM Reinforcement Learning
CARM:面向大语言模型强化学习的取消感知响应掩码
AI 总结:针对LLM强化学习中响应偏离策略导致的概率比率符号抵消问题,提出取消感知响应掩码(CARM),通过取对数比率绝对值防止漂移被掩盖,并在数学推理与代码基准上显著提升性能。
链接:https://arxiv.org/abs/2610.02039
71. Linear Programming Representations and Strongly Polynomial Algorithms for Robust Markov Decision Processes
鲁棒马尔可夫决策过程的线性规划表示与强多项式算法
AI 总结:本文提出鲁棒马尔可夫决策过程的线性规划表示,通过编码鲁棒策略迭代步骤构造单一LP,并给出强多项式算法及改进的复杂度界。
链接:https://arxiv.org/abs/2610.02131
72. Finetuning with Sampling: SFT Learns Better Than You Think
带采样的微调:SFT 比你想象的更有效
AI 总结:提出一种MCMC采样算法,将离策略数据逐步转为在策略数据,使SFT在科学技能、数学推理等任务上媲美甚至超越RL后训练,泛化更强且遗忘更少。
链接:https://arxiv.org/abs/2610.02140
73. Faynt: Scaling and Optimizing Policies for Competitive Melee
Faynt:面向竞技《任天堂明星大乱斗DX》的策略扩展与优化
AI 总结:Faynt提出10M和75M参数的Transformer策略,通过强化学习、蒸馏和课程训练,在《任天堂明星大乱斗DX》中实现对26个角色的统一控制,以98.4%胜率击败专精对手,并开源权重与基准。
链接:https://arxiv.org/abs/2610.02144
74. When Do Intrinsic Rewards Lead to Exploration?
内在奖励何时导致探索?
AI 总结:本文提出反事实信息作为探索标准,证明现有内在奖励在简单环境中获取反事实信息时是帕累托次优的,并给出成功条件及改进目标。
链接:https://arxiv.org/abs/2610.02159
75. From Gradients to Capabilities: Understanding Multi-Teacher On-Policy Distillation
从梯度到能力:理解多教师同策略蒸馏
AI 总结: 本研究通过分析Qwen3-1.7B多教师同策略蒸馏中的梯度、优化器更新和精度影响,揭示了损失平均、Adam一阶矩、BF16舍入及KL梯度截断对参数更新和任务性能的作用。
链接:https://arxiv.org/abs/2610.02179
76. FERPO: Forward Entropy-Regularized Policy Optimization
FERPO:前向熵正则化策略优化
AI 总结:针对评论家动作梯度不可靠的问题,提出前向熵正则化策略优化(FERPO),利用前向KL目标与自归一化重要性采样改进策略,促进探索,在MuJoCo和ManiSkill上表现优异且更新更快。
链接:https://arxiv.org/abs/2610.02198
4. 生成模型与概率建模 | 15 篇
77. Energy Time-Series Imputation with Differentially Private Diffusion Models via Clipping-Aware Objective Conditioning
能量时间序列插补:基于裁剪感知目标条件化的差分隐私扩散模型
AI 总结:本文提出一种基于裁剪感知目标条件化的差分隐私扩散模型,用于能量时间序列插补,通过v预测和动态加权提升插补效用。
链接:https://arxiv.org/abs/2610.00209
78. Specificity-Aware Diffusion Steering via Variance-Reduced Sequential Monte Carlo
特异性感知扩散引导:基于方差缩减的顺序蒙特卡洛方法
AI 总结:针对扩散模型特异性感知生成中负参考分布与正分布重叠导致质量退化的问题,提出基于重叠目标的目标设计及方差缩减顺序蒙特卡洛采样方法,有效抑制非期望区域并提升采样稳定性。
链接:https://arxiv.org/abs/2610.00395
79. NEUROTOKEN: Joint Source and Directional AAD with Envelope Decoding via Conditional Flow Matching
NEUROTOKEN:基于条件流匹配的包络解码联合源与方向听觉注意解码
AI 总结:NEUROTOKEN通过条件流匹配联合建模源与方向听觉注意解码,利用共享EEG前端和似然比评分,在多个数据集上显著提升准确率并缩小方差。
链接:https://arxiv.org/abs/2610.00397
80. Metacognitive Reasoning in Energy Based Models using Instance Based Learning Theory
基于实例学习理论的能量模型中的元认知推理
AI 总结:本文提出MERITED框架,结合基于实例的学习理论与能量模型,实现基于不确定性的动态计算分配,并开源191M参数推理模型。
链接:https://arxiv.org/abs/2610.00399
81. Beyond Unimodal Bases: Pullback Geometry for Multimodal Data
超越单峰基底:多模态数据的拉回几何
AI 总结:本文提出一种基于高斯混合潜分布的拉回几何,用于多模态数据,通过责任加权期望精度定义度量,在归一化流中自适应学习分量,实验证明能减少传输变形并提高插值真实性。
链接:https://arxiv.org/abs/2610.00708
82. Clock Diffusion: Efficient Semi-Autoregressive Continuous Diffusion Language Models
时钟扩散:高效半自回归连续扩散语言模型
AI 总结:提出时钟扩散框架,通过位置相关噪声调度实现半自回归连续扩散语言模型,支持变长生成和键值缓存,在OpenWebText和GSM8K上达到最优性能,并引入高效采样器缓存抓取。
链接:https://arxiv.org/abs/2610.00894
83. Variational Streaming Flow: Probabilistic Forecasting in Physical Time
变分流:物理时间中的概率预测
AI 总结:变分流(VSF)通过学习条件潜在分布,在物理时间中实现高效概率预测,兼具流匹配的灵活性与流(SF)的计算效率,在长时程和分叉动力学中表现优越,并可集成到JEPA世界模型提升任务成功率。
链接:https://arxiv.org/abs/2610.00976
84. Counterfactual Generation via Flow Matching: Coupling-Sensitive End-to-End Rates
通过流匹配的反事实生成:耦合敏感的端到端速率
AI 总结:本文提出一种基于流匹配的反事实生成方法,结合双鲁棒目标与学习耦合,并给出耦合敏感的KL界和端到端保证,实验显示随机采样器在有限步数下优于确定性采样器。
链接:https://arxiv.org/abs/2610.01193
85. EP-Flow: Disordered Crystal Structure Prediction without Site-Level Annotations
EP-Flow: 无序晶体结构预测无需位点级标注
AI 总结:EP-Flow提出一种基于熵多面体流的无序晶体结构预测方法,无需位点级标注,通过联合生成占据、坐标和晶格参数,在基准上达到最优性能。
链接:https://arxiv.org/abs/2610.01315
86. Feature Selective Model Collapse in Diffusion Models: Total Replacement versus Fixed-Budget Training
扩散模型中的特征选择性模型坍缩:完全替换与固定预算训练
AI 总结:该研究探讨扩散模型在固定预算训练下,用合成数据替换真实数据导致模型坍缩,但保留部分特征,而完全替换则快速退化,揭示了两种协议下特征保留的差异。
链接:https://arxiv.org/abs/2610.01318
87. Learned End-to-End Guidance Schedules for Diffusion Models
扩散模型的学习端到端引导调度
AI 总结: 本文提出LEEGS方法,通过学习时间依赖的引导调度,以更少的采样步骤实现扩散模型在数据质量与需求满足间的平衡,并在多种引导任务上以更低计算成本达到或超越基线性能。
链接:https://arxiv.org/abs/2610.01502
88. pCoMole: Pareto-Constrained Molecule Editing with Discrete Flows
pCoMole:基于离散流的帕累托约束分子编辑
AI 总结:pCoMole提出基于离散流匹配的帕累托约束分子编辑框架,通过可行性门控和Doob-h变换实现多目标优化与硬约束下的序列编辑,并在GFP、Cas9和肽模拟物上验证了有效性。
链接:https://arxiv.org/abs/2610.01663
89. Debias Anything: Fairness with Diversity without Supervision in Diffusion Models
去偏一切:扩散模型中无需监督的公平性与多样性
AI 总结:本文提出一种通用适配器方法,联合优化扩散模型的公平性与多样性,无需敏感属性标注,通过文本提示方向和语义不一致性分数实现,实验证明在同等公平性下提升质量与多样性。
链接:https://arxiv.org/abs/2610.01815
90. Graph Representation via Elements of Discrete Morse and Cobordism Theories
通过离散莫尔斯理论和协边理论元素进行图表示
AI 总结:本文提出利用离散莫尔斯理论和协边理论工具,通过MG-Diff流程增强图扩散模型,提供理论稳定性保证,并展示其在时空图预测和图再生中的有效性。
链接:https://arxiv.org/abs/2610.01937
91. Relative Transitions, Not Absolute Destinations: A Transfer-and-Ground Framework for Target-Trajectory-Free Human Mobility Generation
相对转移,而非绝对目的地:面向无目标轨迹人类移动生成的迁移与落地框架
AI 总结:提出Nomad框架,通过相对转移替代绝对目的地,分离移动行为学习与位置落地,实现无目标轨迹的城市间移动生成,在十城市迁移实验中优于基线。
链接:https://arxiv.org/abs/2610.02033
5. 优化、泛化与理论分析 | 16 篇
92. How Far is Adam from Natural Gradient Descent?
Adam 与自然梯度下降相距多远?
AI 总结:本文通过几何度量分析Adam与自然梯度下降的偏差,发现其优化能力源于结构近似误差与动量平滑的平衡,而非追踪自然梯度路径。
链接:https://arxiv.org/abs/2610.00004
93. Sharp Oracle-Regret Tradeoffs for Projection-Free Online Convex Optimization
投影自由在线凸优化的尖锐Oracle-遗憾权衡
AI 总结:本文刻画了仅能访问线性优化Oracle的在线凸优化中,维度无关的最小最大遗憾为$\Theta(GD\max\{\sqrt T,T/(1+\min\{Q,BT\})^{1/4}\})$,并提出匹配的计数近似梯度方法,同时给出光滑损失下的曲率相关下界。
链接:https://arxiv.org/abs/2610.00254
94. Exact information accounting for SGD methods
SGD方法的精确信息核算
AI 总结:本文提出SGD及其变体的精确信息论恒等式,将单步遗憾分解为内在时间与比较器信息项,统一解释收敛、逃逸、泛化等现象,并在真实网络上区分优化器。
链接:https://arxiv.org/abs/2610.00446
95. Learning the identity: a case study of how SGD selects among functional decompositions
学习恒等映射:SGD如何在函数分解中进行选择的案例研究
AI 总结:本研究以深度线性残差网络学习恒等函数为例,通过熵损失理论解析SGD在众多等价分解中偏好特定解的原因,并验证了理论预测。
链接:https://arxiv.org/abs/2610.00615
96. Misalignment of Low-Loss Regions Causes Grokking
低损失区域错位导致顿悟(Grokking)现象
AI 总结:本文提出基于模式连通性和低损失区域几何的分析框架,发现训练与验证划分导致的低损失区域错位是顿悟现象产生的根源,并通过反例挑战现有解释。
链接:https://arxiv.org/abs/2610.00620
97. Learning Linear Systems under Heavy-Tailed Noise: A Non-Asymptotic Analysis from A Single Trajectory
重尾噪声下线性系统的学习:单轨迹的非渐近分析
AI 总结:本文针对重尾噪声下指数稳定线性系统,基于单条轨迹的最小二乘估计,建立了非渐近样本复杂度界,并推广到亚指数和亚高斯噪声,且证明外生输入模型的误差界维度因子与模型阶数无关。
链接:https://arxiv.org/abs/2610.00637
98. Optimal Transport Reweighting for Robust Learning under Spurious Correlations and Label Noise
最优传输重加权用于虚假相关与标签噪声下的稳健学习
AI 总结:针对虚假相关与标签噪声下的子群体偏移问题,提出基于最优传输的POTER重加权框架,通过传输几何度量样本重要性,仅需单阶段ERM训练,在标准基准上实现最先进的组内最差精度。
链接:https://arxiv.org/abs/2610.01028
99. CAGE-NAS: Certified Functional Descent for Efficient Model Growth
CAGE-NAS:用于高效模型增长的认证函数下降
AI 总结:CAGE-NAS通过功能空间中的可容许性准则决定何时扩展神经网络,利用认证功能梯度下降和切空间正则化投影,在精确认证下生成超越99.8百分位性能的架构。
链接:https://arxiv.org/abs/2610.01173
100. Fully Online Decentralized Learning in Stochastic Games with Unknown Independent Chains
随机博弈中具有未知独立链的完全在线分散学习
AI 总结:针对未知独立链随机博弈,提出完全在线分散的镜像下降算法,以O(T^{-1/2})遗憾率逼近平稳NE,避免指数复杂度,并给出近似粗相关均衡保证。
链接:https://arxiv.org/abs/2610.01181
101. Low-Budget Active Learning through Entropic Optimal Transport
低预算主动学习通过熵正则最优传输
AI 总结:本文提出利用熵正则最优传输(Sinkhorn散度)进行低预算主动学习中的核心集选择,在特征空间直接操作,获得无维度样本复杂度与高效梯度计算,实验优于现有启发式方法。
链接:https://arxiv.org/abs/2610.01199
102. Mixture-Trained Merging for Unified Multi-Objective Models
混合训练合并:面向统一多目标模型
AI 总结:针对多目标统一模型后训练易受顺序影响及朴素合并失效的问题,提出混合训练合并(MTM),通过目标偏置数据混合训练分支并迭代优化,在代码、数学等任务上优于朴素合并并保持行为分离。
链接:https://arxiv.org/abs/2610.01238
103. Model validation in machine learning: A scenario-based guide from hold-out splits to nested group cross-validation in biomedical and applied research
机器学习中的模型验证:从留出法分割到嵌套分组交叉验证的基于场景的指南——面向生物医学与应用研究
AI 总结:本文以场景化指南形式系统比较多种机器学习验证方法,指出无普适最优方案,强调独立单元须匹配部署目标且数据依赖操作须排除性能估计观测。
链接:https://arxiv.org/abs/2610.01284
104. Tight Transition Time Bounds for Separable Logistic Regression at the Edge of Stability
可分离逻辑回归在稳定性边缘的紧致过渡时间界
AI 总结:本文否证了逻辑回归在稳定性边缘过渡时间与步长无关的猜想,证明最坏情况过渡时间为$(\log\eta)^{\min\{n-2,d-2\}}$量级,并通过归纳控制样本变化构造匹配实例。
链接:https://arxiv.org/abs/2610.01459
105. In-context Learning of Single-index Targets: Comparing Kernel and Feature Learners
单指标目标的情境学习:核学习器与特征学习器的比较
AI 总结:本文比较核学习器与特征学习器在单指标任务上的情境学习,用复制方法预测误差并绘制相图,揭示架构选择、数据特性与上下文长度对非线性情境学习的影响。
链接:https://arxiv.org/abs/2610.01712
106. Scientific Discovery under Validation Congestion via Multi-Fidelity Pairwise Rankings
验证拥堵下的科学发现:基于多保真度成对排序的方法
AI 总结:针对候选物多而实验验证能力有限的验证拥堵问题,提出PRISMS框架,利用多保真度专家成对排序进行科学设计筛选,无需大量实验数据,显著提升筛选效率和优化性能。
链接:https://arxiv.org/abs/2610.01827
107. Cost-augmented Schrödinger bridges on graphs are exactly solvable: a Feynman-Kac tilt replaces learned control
图上的代价增强薛定谔桥是精确可解的:Feynman-Kac 倾斜替代学习控制
AI 总结:本文提出图上的代价增强薛定谔桥可通过Feynman-Kac倾斜精确求解,无需学习控制,交替端点重缩放即可高效计算,并在蛋白质折叠和路网任务中验证了效果。
链接:https://arxiv.org/abs/2610.02195
6. 高效学习、压缩与部署 | 2 篇
108. Distillation of Tabular Foundation Models into Efficient Predictors
表格基础模型蒸馏为高效预测器
AI 总结:本研究针对表格基础模型推理成本高的问题,提出一种知识蒸馏方案,利用完整训练集作为教师上下文训练轻量级学生模型,在TabArena和TALENT上显著提升性能并实现3-21倍推理加速。
链接:https://arxiv.org/abs/2610.01435
109. CrossGMN: Graph Metanetworks for Cross-Architecture Weight-Space Transformations
CrossGMN:用于跨架构权重空间变换的图元网络
AI 总结:针对跨架构权重空间变换,提出CrossGMN图元网络,通过对称保持的跨网络消息传递实现等变算子,具备普适性,在模型压缩中加速蒸馏最高8.89倍并支持跨数据集迁移。
链接:https://arxiv.org/abs/2610.01649
7. 联邦学习、隐私与安全 | 4 篇
110. From Task Mixtures to Specialized Experts
从任务混合到专用专家
AI 总结:针对客户端内外部数据混合的复合异质性,提出FedSEE方法,通过任务对齐路由将输入分配给专用专家,利用凸规划恢复任务专家,实验显示性能提升2.9点,最差服务四分位数提升3.7点。
链接:https://arxiv.org/abs/2610.00580
111. Latent Information Sharing for Accelerating Federated Learning
潜在信息共享加速联邦学习
AI 总结:本文提出一种潜在信息共享方案,通过共享少量隐藏层激活值缓解客户端漂移,在保持收敛与隐私的同时提升联邦学习训练效率与精度。
链接:https://arxiv.org/abs/2610.01126
112. FedSAP: Federated Learning with Structured Adaptive Partitioning for Multi-Domain Heterogeneous Edge Devices
FedSAP:面向多域异构边缘设备的结构化自适应分区联邦学习
AI 总结: 针对异构边缘设备联邦学习中的资源与域偏移问题,提出FedSAP框架,通过结构化剪枝实现三态通道分配,隔离域敏感更新,在Digits和Office-Caltech上超越基线并支持高剪枝率。
链接:https://arxiv.org/abs/2610.01638
113. SAGE: Similarity-Based Cleaning of Poisoned Training Data from Verified Examples
SAGE:基于相似性的从已验证示例中清洗投毒训练数据
AI 总结:针对数据投毒攻击,提出SAGE方法,利用少量已验证示例(含干净与投毒)通过相似性加权预测检测投毒,在七种攻击基准上验证了有效性。
链接:https://arxiv.org/abs/2610.01788
8. 鲁棒性、不确定性与可信学习 | 14 篇
114. "very likely" Means "uncertain"? How LLMs Diverge from Humans in Linguistic Uncertainty Quantification
“非常可能”意味着“不确定”吗?LLM在语言不确定性量化中与人类的差异
AI 总结:本文研究LLM与人类在语言不确定性量化上的差异,提出优化算法METHODNAME,直接从LLM输出学习标记-不确定性映射,实现标记级置信度语义比较,揭示系统性差异。
链接:https://arxiv.org/abs/2610.00083
115. Uncertainty-Aware Learning from Multi-Expert Interval Targets
不确定性感知的多专家区间目标学习
AI 总结:提出一种保留多专家区间标签、分离标签内不精确性与专家间差异并验证预测不确定性成分的方法,在海冰浓度任务上相比硬标签降低MAE 31%。
链接:https://arxiv.org/abs/2610.00102
116. Benchmarking System One decision models against trained classifiers and language models for automated decision gates
基准测试系统一决策模型与训练分类器及语言模型在自动化决策门控中的表现
AI 总结:本研究基准测试系统一决策模型、训练分类器及语言模型在自动化决策门控中的表现,发现模型排名依赖条件,并提出了条件依赖的设计规则。
链接:https://arxiv.org/abs/2610.00346
117. OmniMed-Jev: Calibrating LVLM Confidence for Trustworthy Medical Multimodal Decisions via System One
OmniMed-Jev:通过系统一校准LVLM置信度以实现可信的医疗多模态决策
AI 总结:OmniMed-Jev通过将医疗决策表示为候选集上的概率分布,校准LVLM置信度,大幅降低校准与可靠性误差,同时保持点预测性能,使报告概率真实反映决策准确性。
链接:https://arxiv.org/abs/2610.00381
118. Learning Transferable Skills using Goal-Conditioned Bisimulation
使用目标条件双模拟学习可迁移技能
AI 总结:提出一种基于目标条件双模拟的无监督技能发现方法,学习动作感知时间表示并仅条件于关键状态特征,实现跨布局的可迁移技能,并在实证中展现强分布外泛化。
链接:https://arxiv.org/abs/2610.00676
119. Signal-Noise Factorization Isolates Nuisance Variation into Removable Subspaces
信号-噪声分解将干扰变异隔离到可移除子空间
AI 总结:本研究提出信号-噪声分解正则化,在CIFAR-100和BloodMNIST上提升性能,通过将噪声隔离到可移除子空间,显著改善分布外图像失真下的模型准确率。
链接:https://arxiv.org/abs/2610.00751
120. Rethinking Data Augmentation under Covariate Shift: Invariant-Guided Diffusion and Prototype Reweighting
重新思考协变量偏移下的数据增强:不变性引导扩散与原型重加权
AI 总结:针对协变量偏移下数据增强的误导生成与结构不稳定问题,提出IGDPR框架,结合不变性引导扩散与原型重加权,提升数据质量与学习稳健性。
链接:https://arxiv.org/abs/2610.00873
121. Towards Fast and Disentangled Counterfactuals for Visual Foundation Models
面向视觉基础模型的快速解耦反事实生成
AI 总结:提出解耦扩散自编码器(DiDAE),通过闭式编辑解耦字典方向生成反事实,无需梯度,速度提升2000倍,能修复下游分类器并识别虚假相关性。
链接:https://arxiv.org/abs/2610.00895
122. Dataset Identity, Not Novelty: The Source of an Inflated OOD Detection Gain
数据集身份,而非新颖性:OOD检测增益虚高的来源
AI 总结:该研究揭示OOD检测中报告的增益主要源于数据集身份识别而非新颖性,通过留出整个OOD数据集测量膨胀,并提供闭式解以预测哪些拟合会虚高。
链接:https://arxiv.org/abs/2610.01096
123. Autoregressive Drillhole Modelling Under Distribution Shift
分布偏移下的自回归钻孔建模
AI 总结:针对钻孔建模中自回归预测未被充分探索的问题,提出DrillBench基准,结合大规模预训练与空间检索,在保持局部性能的同时提升跨空间和跨省偏移下的泛化能力。
链接:https://arxiv.org/abs/2610.01204
124. Robust Evidential Learning Through Latent Consistency
通过潜在一致性实现鲁棒的证据学习
AI 总结:CLEAR是一种轻量级事后方法,通过校准潜在空间几何并检测潜在冲突,在不重训练的情况下增强证据深度学习对分布外和对抗输入的鲁棒性,显著提升AUROC并保持性能。
链接:https://arxiv.org/abs/2610.01384
125. Let the Heads Talk: Beyond Diagonal Graph Attention
让头对话:超越对角图注意力
AI 总结:本研究通过箭图表示将层神经网络中的矩阵值传输与多头注意力联系起来,提出拓扑注意力(Top-A),学习跨头非对角路由,在关系推理等任务上验证了边条件跨头通信作为独立计算原语的价值。
链接:https://arxiv.org/abs/2610.01494
126. Range-GRPO: Policy Optimization via Pairwise Relations among Reward Intervals
Range-GRPO:通过奖励区间间的成对关系进行策略优化
AI 总结:针对LLM后训练中奖励不确定性未显式建模的问题,提出Range-GRPO半监督框架,通过成对比较保形校准的奖励区间进行策略优化,理论证明区间坍缩时退化为GRPO,实验显示在分布内外性能最优且资源消耗更少。
链接:https://arxiv.org/abs/2610.01548
127. Distributionally Robust Schrödinger Bridge
分布鲁棒薛定谔桥
AI 总结:针对初始分布偏移问题,提出分布鲁棒薛定谔桥(DRSB),通过最小化最坏情况目标学习单一控制器,实验证明其鲁棒性优于标准SB。
链接:https://arxiv.org/abs/2610.02043
9. 图学习与结构化数据 | 4 篇
128. Coupling Perception and Reasoning in Federated Multimodal Graph Foundation Models
联邦多模态图基础模型中的感知与推理耦合
AI 总结:针对联邦多模态图基础模型中编码器与GNN适配不兼容的问题,提出FedCORE框架,通过共享低维潜在状态联合优化感知与推理,将配对差距从30.6降至5.9,降幅80.7%。
链接:https://arxiv.org/abs/2610.00277
129. RelICL: Training-free Relational Learning with Tabular Foundation Models
RelICL:基于表格基础模型的无训练关系学习
AI 总结:本文提出RelICL方法,利用表格基础模型通过模式图逐步传播信息,解决深度特征合成中的特征爆炸与交互盲区问题,在RelBench任务上与最强DFS方法性能相当。
链接:https://arxiv.org/abs/2610.01725
130. Higher-Order Positional Encodings for Graph Representation Learning
用于图表示学习的高阶位置编码
AI 总结:本文提出高阶位置编码,利用霍奇拉普拉斯算子将高阶拓扑信息注入标准图模型,理论证明其可混合图拉普拉斯频率,实验表明能提升图变换器预测性能。
链接:https://arxiv.org/abs/2610.01903
131. Effective Resistance and Graph Neural Network Reliability in Tissue-Specific Interactomes
有效电阻与组织特异性相互作用组中的图神经网络可靠性
AI 总结: 本研究利用有效电阻作为信号,在24个组织特异性相互作用组中探究其与图神经网络节点损失的关系,发现残差信号可解释额外损失,且效应随深度增强。
链接:https://arxiv.org/abs/2610.02175
10. 迁移、元学习与持续学习 | 9 篇
132. RACE: Residual-Aware Test-Time Adaptation for Neighbor-Rich Time-Series Foundation Model Forecasting
RACE:面向邻居丰富时间序列基础模型预测的残差感知测试时自适应
AI 总结:针对邻居丰富的时间序列预测中邻居残差冲突问题,提出RACE两阶段框架,通过检索对齐邻居残差并训练轻量门控,在不修改骨干网络下提升四个TSFM在两个域上的全部指标。
链接:https://arxiv.org/abs/2610.00405
133. Score the Update, Not the Token: Descent-Aligned Routing for Combinatorial LoRA Experts
对更新评分而非对令牌评分:面向组合LoRA专家的下降对齐路由
AI 总结:提出VANE路由方法,通过评分专家更新与下降方向的对齐而非令牌本身,在LoRA专家组合中实现更优性能,以更少参数超越现有基线。
链接:https://arxiv.org/abs/2610.00493
134. Analysis of Quantized and Efficiently Adapted Protein Language Models
量化与高效适配蛋白质语言模型的分析
AI 总结:本研究系统评估了4比特量化与QLoRA在多种蛋白质语言模型上的效果,证明其能大幅降低内存需求并保持性能,为内存受限场景提供高效适配策略。
链接:https://arxiv.org/abs/2610.00665
135. Reward as Observation: Learning Reward-Based Policies for Rapid Adaptation
奖励作为观测:学习基于奖励的策略以实现快速适应
AI 总结:本文提出仅以奖励和动作为条件的策略,实现观测空间完全不同的环境间零样本迁移,并验证其在多种环境中的有效性及对观测策略训练的指导作用。
链接:https://arxiv.org/abs/2610.00729
136. Localizing Transfer Between Memorization Tasks
记忆任务之间迁移的定位
AI 总结:本研究通过随机映射记忆任务间的迁移实验,发现等价与非等价两种迁移模式,并定位其分别源于最后一层的幅度驱动和其他层的结构驱动效应,深化了对迁移学习机制的理解。
链接:https://arxiv.org/abs/2610.00771
137. Langevin-Informed Transfer Learning: Replacing Target Samples by Black-Box Feedback
Langevin 信息迁移学习:用黑盒反馈替代目标样本
AI 总结:提出 Langevin 信息迁移学习(LITL),利用黑盒反馈从有偏源样本恢复目标 Langevin 动力学,学习谱结构与投影漂移,具备有限样本保证,并在分子模拟、生成模型和神经网络潜在引导中验证了有效性。
链接:https://arxiv.org/abs/2610.01522
138. FedFit: Federated Fine-Tuning of LLMs via Vector-Bank Parameterization and Quantization
FedFit:基于向量库参数化与量化的联邦大语言模型微调
AI 总结:针对联邦微调LLM的通信开销与LoRA聚合困境,提出FedFit,采用不相交共享向量库参数化与交替优化,结合残差谱聚合和块级量化,实现高达100倍压缩且性能相当。
链接:https://arxiv.org/abs/2610.01537
139. Learning to Predict Distributions over Weight Updates for Test-Time Adaptation
学习预测测试时自适应的权重更新分布
AI 总结:本文提出分布性超网络,根据查询预测LoRA权重更新分布,通过蒙特卡洛采样实现测试时扩展,性能优于确定性超网络及token采样基线。
链接:https://arxiv.org/abs/2610.01934
140. Learn the Directions, Normalize the Gains: Post-Training Normalization for LoRA
学习方向,规范化增益:LoRA 的后训练归一化
AI 总结:针对LoRA适配失衡问题,提出后训练归一化方法LoRA-Norm,通过频谱再平衡和核范数恢复重平衡增益,无需额外训练,提升特化与能力保持。
链接:https://arxiv.org/abs/2610.02067
11. 数据集、基准与评测 | 15 篇
141. SW-KAN: Kolmogorov-Arnold Networks with Stieltjes-Wigert q-Orthogonal Polynomials
SW-KAN:基于Stieltjes-Wigert q-正交多项式的Kolmogorov-Arnold网络
AI 总结:本文提出SW-KAN,采用Stieltjes-Wigert q-正交多项式解决KAN中域不匹配问题,通过平滑映射和高效递推实现优越的精度-效率权衡,在资源受限条件下表现稳健。
链接:https://arxiv.org/abs/2610.00050
142. Generalized Biomedicine Discovery
广义生物医学发现
AI 总结:针对医学图像开放世界偏移(长尾、异常、层级分类),提出GBD基准与SCAN方法,通过预测抑制、惊异显著性和互补适应,在保留临床知识的同时提升新颖概念发现。
链接:https://arxiv.org/abs/2610.00120
143. SimplexUQ: An Evaluation Framework and Benchmark for Conformal Uncertainty on Simplex-Valued Predictions
SimplexUQ:针对单纯形值预测的共形不确定性评估框架与基准
AI 总结:SimplexUQ 是首个针对单纯形值预测的共形不确定性基准,通过 12 个任务比较现有包装器,揭示全局校准掩盖局部覆盖不均,并强调包装器选择应基于诊断而非通用排名。
链接:https://arxiv.org/abs/2610.00523
144. Attention Kernels for Learning Maps Between Heavy-Tailed Measures
重尾测度间学习映射的注意力核
AI 总结:本文针对重尾测度上的算子学习,提出用增长更慢的注意力核替代softmax以避免集成坍缩,并通过两个基准验证了该方法的有效性。
链接:https://arxiv.org/abs/2610.00564
145. MIKASA-Robo-VLA: Benchmarking Memory in VLA Models for Long-Horizon Manipulation
MIKASA-Robo-VLA:用于长时程操控的VLA模型记忆基准测试
AI 总结:提出MIKASA-Robo-VLA基准,含90个语言操控任务,多数需记忆隐藏线索,发布22,500条轨迹,基线π0.5在14任务上成功率0.211,揭示VLA模型记忆局限。
链接:https://arxiv.org/abs/2610.00604
146. WOMBAT: Whitebox Oracle for Molecular Benchmarking and Attribution Testing
WOMBAT:用于分子基准测试和归因测试的白盒预言机
AI 总结:WOMBAT通过手工设置权重的白盒GNN基准,提供归因真值,用于识别和评估GNN解释器的错误,并展示了如何使Integrated Gradients产生分散归因。
链接:https://arxiv.org/abs/2610.00713
147. Benchmarking Generative Models for Weather Data Assimilation on Real Station Observations
基于真实站点观测的天气数据同化生成模型基准测试
AI 总结:该研究首次在真实站点观测上对生成式天气数据同化进行受控基准测试,发现生成先验优于3D-Var,全梯度引导最有效,扩散与流匹配性能相当,并建立了标准化基准。
链接:https://arxiv.org/abs/2610.00728
148. TrueMuse: A Benchmark for Data Attribution in Text-to-Music Models
TrueMuse:文本到音乐模型数据归因的基准
AI 总结:针对文本到音乐模型数据归因缺乏可靠基准的问题,提出受控数据集TrueMuse,通过微调三个扩散模型构建,涵盖四种归因设置,系统评估现有黑盒方法,发现归因仍具挑战性,需更可靠通用的方法。
链接:https://arxiv.org/abs/2610.00835
149. Don't Waste the Noise: Importance-Guided Perturbation Allocation under Joint Global and Local Constraints
不要浪费噪声:联合全局与局部约束下的重要性引导扰动分配
AI 总结:针对共享预算和局部约束下的对抗扰动分配问题,提出基于固定梯度先验的重要性引导分配机制,在不扩大预算下重分配扰动至敏感区域,显著提升攻击成功率。
链接:https://arxiv.org/abs/2610.00861
150. Reliability-aware short-term roll prediction for unmanned surface vehicles via multi-task learning and adaptive centralization
无人水面艇的可靠性感知短期横摇预测:基于多任务学习与自适应中心化
AI 总结:针对无人水面艇横摇预测可靠性不足的问题,提出多任务学习与自适应中心化方法,实现准确预测与置信度量化,并在真实数据上验证了泛化能力。
链接:https://arxiv.org/abs/2610.00996
151. How Much Can Language Models Gain from Test-Time Computation?
语言模型能从测试时计算中获得多少收益?
AI 总结:本文提出SELF-POT基准,统一预算下评估测试时计算收益,发现选择规则和失败处理显著影响性能,公开示例选择提升编程正确率并节省成本。
链接:https://arxiv.org/abs/2610.01110
152. Auto-Formalizing Neuro-Symbolic Predictors
神经符号预测器的自动形式化
AI 总结:本研究提出auto-nesy-bench基准,利用大语言模型自动将文本知识形式化为符号约束,集成到神经符号预测器中,实验表明生成公式接近专家水平且能提升下游预测准确性。
链接:https://arxiv.org/abs/2610.01519
153. Beyond Pointwise Error: A Multi-Metric Evaluation of Spatial Climate Downscaling
超越逐点误差:空间气候降尺度的多指标评估
AI 总结:针对气候降尺度评估中单一指标误导排名的问题,提出多指标基准,比较五种方法在ERA5数据上的表现,揭示空间保真度与细尺度变率的权衡,强调多指标评估的必要性。
链接:https://arxiv.org/abs/2610.01579
154. Invent a Dataset: Measuring dataset generation abilities with zero seed
发明数据集:衡量零种子数据集生成能力
AI 总结:针对零数据场景,提出基于提示的Invent-A-Dataset系统,从描述生成高质量多样化后训练数据,在五个前沿API上质量提升17%、多样性提升19%,显著改善下游模型性能。
链接:https://arxiv.org/abs/2610.01674
155. The Missing Primitive: Diagnosing and Repairing Mathematical Reasoning in Large Language Models
缺失的原语:诊断与修复大语言模型中的数学推理
AI 总结:本文提出数学原语概念和\hlei{}基准,诊断LLMs数学推理的四个维度,发现“发现”是主要瓶颈,并引入原语优先的自蒸馏框架\abs{},有效提升模型数学推理能力。
链接:https://arxiv.org/abs/2610.02191
12. 机器学习应用 | 13 篇
156. The Hidden Costs of 99% Accuracy: A Trustworthiness Audit of the Telco Customer Churn Benchmark
99%准确率的隐藏代价:Telco客户流失基准的可信度审计
AI 总结:本研究审计IBM Telco客户流失基准,揭示SMOTE泄漏、特征冗余、校准失效和成本阈值偏差等可信度问题,提出四部分报告清单以提升模型评估可靠性。
链接:https://arxiv.org/abs/2610.00118
157. Deep Learning for Anomaly Detection in Railway Systems: A Structured Survey
深度学习在铁路系统异常检测中的应用:结构化综述
AI 总结:本文对铁路系统异常检测的深度学习方法进行结构化综述,提出统一分类法,并构建面向决策的框架以指导检测范式和部署配置的选择。
链接:https://arxiv.org/abs/2610.00363
158. M$^2$Weather: A Benchmark for Joint Multi-Station and Multi-Variable Weather Forecasting
M$^2$Weather:联合多站点多变量天气预报的基准
AI 总结:针对现有研究分离处理站点间空间依赖与变量间物理耦合的问题,本文提出M$^2$Weather基准,涵盖多尺度站点数据与统一协议,并设计即插即用适配器,验证了联合建模及补全缺失关系可提升预报精度。
链接:https://arxiv.org/abs/2610.00370
159. STCFormer: Adaptive Spatio-Temporal Modeling with Dynamic Cluster Transformer for Station-based Weather Forecasting
STCFormer:用于站点天气预报的自适应时空建模与动态聚类Transformer
AI 总结:STCFormer提出一种自适应时空Transformer,通过动态聚类和簇引导注意力平衡局部与全局信息,在八个天气预测任务上取得最优性能。
链接:https://arxiv.org/abs/2610.00377
160. Do Better Scores Mean Better Physics? Physics-Grounded Explanations for Sim2Real Neural Operators
更好的分数意味着更好的物理吗?Sim2Real 神经算子的物理基础解释
AI 总结:本文针对 NACA4418 翼型流动,通过输入干预和压力测试证明神经算子预测误差与物理统计误差不一致,提出应补充物理诊断指标。
链接:https://arxiv.org/abs/2610.00415
161. Generalist Representation, Specialist Detection: TS-Router for Time-Series Anomaly Detection
通用表示,专用检测:TS-Router 用于时间序列异常检测
AI 总结:提出TS-Router框架,利用预训练时间序列表示估计各异常检测器能力并自适应选择专家,无需目标标签,在16个基准上取得最佳平均排名。
链接:https://arxiv.org/abs/2610.00978
162. Detect, Explain, Interpret: An End-to-End Benchmark for Time Series Anomaly Detection, Explainability and Interpretability
检测、解释、解读:时间序列异常检测、可解释性与可解读性的端到端基准
AI 总结:针对现有时间序列异常检测基准忽视可解释性与可解读性的问题,提出完全注释的SHAD基准,含215个真实云存储系统的高维时间序列,并评估检测、可解释性及可解读性基线方法。
链接:https://arxiv.org/abs/2610.01168
163. Have an LLM Write Your Anomaly Detector: Autonomous Discovery of Compact, Interpretable Detectors for Time Series
让大语言模型编写异常检测器:自主发现紧凑、可解释的时间序列检测器
AI 总结:本文利用大语言模型自主编写紧凑、可解释的时间序列异常检测程序,在TSB-AD基准上超越强基线,无需训练网络或GPU,实现精度、效率与可解释性的统一。
链接:https://arxiv.org/abs/2610.01223
164. Beyond Demographic Balance: Multi-Metric and Intersectional Evaluation of Fairness in MIMIC-IV Mortality Prediction
超越人口统计学平衡:MIMIC-IV死亡率预测中公平性的多指标与交叉性评估
AI 总结:本研究针对MIMIC-IV死亡率预测,提出多指标与交叉性评估框架,揭示公平性干预在不同指标和亚组分辨率下评估差异显著,强调需结合干预目标与估计可靠性进行综合评估。
链接:https://arxiv.org/abs/2610.01645
165. Anomaly Detection and Localization for the Pantograph-Catenary System
受电弓-接触网系统的异常检测与定位
AI 总结:本文提出一种结合GPS坐标对齐定位与集体异常检测的框架,用于受电弓-接触网系统健康监测,并在意大利铁路真实数据集上验证了其性能。
链接:https://arxiv.org/abs/2610.01721
166. Physics-Refined Spatiotemporal Forecasting on Open-Boundary Hydrologic Graphs
开放边界水文图上的物理精化时空预测
AI 总结:针对开放边界水文图预测中的边界强迫缺失与误差累积问题,提出含幽灵节点代理和双物理精化器的计算框架,提升长时域预测精度与稳定性。
链接:https://arxiv.org/abs/2610.01765
167. Pooling Helps, Learned Weighting Hurts In-Context: Decomposing Group Attention
池化有帮助,学习权重在上下文学习中反而有害:分解组注意力
AI 总结:本研究分解组注意力机制,发现均匀池化在多变量和上下文学习预测中普遍有益,而学习权重在上下文学习中常有害,仅统一第一块注意力即可改善所有测试配置。
链接:https://arxiv.org/abs/2610.01831
168. SoftServe: A Scalable Quasi-Newton Method for Deep Learning
SoftServe:一种用于深度学习的高可扩展拟牛顿方法
AI 总结:SoftServe提出一族无需线搜索的拟牛顿方法,通过正定曲率估计和Newton-Schulz迭代实现大规模深度学习优化,在病态任务上优于Adam等基线。
链接:https://arxiv.org/abs/2610.02182
13. 其他/综合机器学习 | 102 篇
169. Reverse Item Response Theory for Sparsity-Robust Ranking in Fragmented Cancer Drug-Response Matrices
逆向项目反应理论用于碎片化癌症药物反应矩阵中的稀疏鲁棒排序
AI 总结:本文提出逆向项目反应理论,将癌症类型视为受试者、药物视为项目,在GDSC2数据上估计耐药性与药物活性,在碎片化缺失下优于简单平均,实现鲁棒排序。
链接:https://arxiv.org/abs/2610.00002
170. FourierQK: Filter Shape, Admissibility and the Leakage-Coverage Law
FourierQK:滤波器形状、容许性与泄漏-覆盖定律
AI 总结:本研究通过受控消融实验探究FourierQK中滤波器形状的影响,发现带通结构、容许性和频谱覆盖是关键,最优带宽带来显著增益,并提出了泄漏-覆盖定律,为双向和自回归注意力提供了设计指导。
链接:https://arxiv.org/abs/2610.00009
171. Fast Polynomial Transcendentals for LLMs
面向大语言模型的快速多项式超越函数
AI 总结:本研究针对GPU硬件演进中特殊函数单元瓶颈,提出用短多项式程序替代LLM中的sigmoid、tanh等超越函数,在GB200上实现最高8%的训练吞吐提升,且模型行为影响极小。
链接:https://arxiv.org/abs/2610.00049
172. Format-Aware Fusion for Fast FP4 Pretraining
格式感知融合用于快速FP4预训练
AI 总结:提出格式感知融合方法,协同设计量化生产者与缩放域和消费者布局,在FP4预训练中实现高达37.9K tokens/s/GPU的速度,同时保持接近bfloat16的训练损失。
链接:https://arxiv.org/abs/2610.00053
173. Nous: Learning and Certifying Memory Decisions Before Source Calibration
Nous:在源校准之前学习并认证记忆决策
AI 总结:本文提出Nous框架,证明在隐马尔可夫模型中,学习并认证智能体记忆决策所需的记录数可比源校准少二次方量级,并通过MiniGrid实验验证了无需源校准即可可靠认证决策改进。
链接:https://arxiv.org/abs/2610.00094
174. One Mastery Threshold Does Not Fit All Knowledge Tracing Models
一个掌握阈值并不适用于所有知识追踪模型
AI 总结:本研究探讨不同知识追踪模型下掌握阈值设定的差异,发现同一阈值在不同模型间决策差异大,需根据模型和教学优先级重新校准,以平衡表现、练习与进阶。
链接:https://arxiv.org/abs/2610.00095
175. Classification Based on Association Rules Algorithm for Breast Cancer
基于关联规则算法的乳腺癌分类
AI 总结:本文提出一种基于加权分类的关联规则数据挖掘方法用于乳腺癌分类,通过规则生成、剪枝和预测三个核心算法实现,并在测试样本上验证了其可行性和性能。
链接:https://arxiv.org/abs/2610.00174
176. Four Ways to Grow a Classifier and Why One of Them Cannot Learn
四种生长分类器的方法及其中一种为何无法学习
AI 总结:本文研究四种构造性分类器生长方法,发现将叶节点变为门以加深软决策树时,新门梯度恒为零而无法学习,并提出随机扰动修复;其他方法各有收益,如拟合残差减小网络、分裂最大误差叶节点提升稀疏性。
链接:https://arxiv.org/abs/2610.00180
177. Useful to Whom? Sample Value Is Defined Only Relative to the Learner
对谁有用?样本价值仅相对于学习器定义
AI 总结:本研究通过冻结子集实验证明,核心集选择中易先与覆盖标准的交叉边界随学习器结构变化,而非仅由数据决定,并识别出影响边界的网络因素,强调策略评估需结合目标学习器。
链接:https://arxiv.org/abs/2610.00221
178. Constant-Memory Recall: Learned Associations in a Fixed Matrix State
恒定记忆召回:固定矩阵状态中的习得关联
AI 总结:本研究探讨固定大小循环记忆的召回能力,提出带固定键偏置的DeltaNet变体,在32 KiB状态下以99.95%准确率召回32个键值对,但基线模型失败,无法比较记忆效率。
链接:https://arxiv.org/abs/2610.00232
179. Contingent Exposure Routing for Financial AI: Outage Risk and the Cost of Indivisible Decisions
金融AI的应急暴露路由:中断风险与不可分割决策的成本
AI 总结:针对金融AI故障切换中的决策错误分担问题,提出基于市场影响矩阵的应急路由方法,推导不可分割决策的风险界限,实验显示风险降低达10.53%,提供可审计的压力测试框架。
链接:https://arxiv.org/abs/2610.00239
180. The Null Is the Hard Part: Exact Tests for Memorization in Generative Models
空假设是难点:生成模型中记忆性的精确检验
AI 总结:针对生成模型记忆性审计缺乏空假设的问题,提出两种精确置换检验方法,并推荐尺度限制统计量,在MemBench上实现精确认证。
链接:https://arxiv.org/abs/2610.00251
181. Verification Pulses and the Cost of Escaping Wrong Consensus
验证脉冲与逃离错误共识的代价
AI 总结:本研究分析外部验证预算的时序与寻址对逃离错误共识的影响,推导关键预算窗口,并通过实验证明风险校准的重置调度优于随机检查。
链接:https://arxiv.org/abs/2610.00256
182. Attention Manifolds: Steering or Blocking Language Models by Editing Learned B-Spline Surfaces
注意力流形:通过编辑学习的B样条曲面来引导或阻断语言模型
AI 总结:本工作提出注意力流形,即学习得到的B样条曲面,通过调制值维度来增强或阻断Transformer注意力,在降低困惑度的同时实现可编辑的模型引导与安全控制。
链接:https://arxiv.org/abs/2610.00257
183. Large Language Bayes Is Not Reparameterisation-Invariant
大型语言模型贝叶斯方法不具备重参数化不变性
AI 总结:本研究揭示大型语言模型贝叶斯方法因依赖证据下界而缺乏重参数化不变性,导致权重差异显著且方向反转,并影响模型后验,提出需验证重参数化以避免错误合并模型。
链接:https://arxiv.org/abs/2610.00265
184. MOVE: Multimodal Open-world Verification and Expansion for Graph Learning
MOVE:面向图学习的多模态开放世界验证与扩展
AI 总结:提出MOVE框架,通过多模态证据验证与选择性扩展类别空间,解决多模态图学习中开放世界新类别识别与扩展问题,平均提升11.87%。
链接:https://arxiv.org/abs/2610.00268
185. Stable and Counterfactually Robust Physical World Models from Imposed Structure and Learned Physics
由施加结构与学习物理得到的稳定且反事实鲁棒的物理世界模型
AI 总结:本研究探究世界模型所需硬编码的通用物理结构,提出从学习能量与固定可逆算子生成动力学的方法,在多个物理系统中实现稳定性、干预正确性及对扰动的鲁棒性,并以少量参数高效恢复本构关系。
链接:https://arxiv.org/abs/2610.00280
186. Partial AUC Maximization from Positive-unlabeled Data
从正例-未标注数据中最大化部分AUC
AI 总结:本文提出一种仅从正例和未标注数据中最大化部分AUC的方法,无需负例数据,通过经验风险最小化框架推导估计器并实验验证其有效性。
链接:https://arxiv.org/abs/2610.00284
187. Manifold-Constrained Initial Noise Optimization for Efficient Generative Model Alignment
流形约束的初始噪声优化用于高效生成模型对齐
AI 总结:提出ZeNOVA,一种无梯度的初始噪声优化方法,通过退火软值引导、流形约束超球朗之万动力学和Metropolis-Hastings跳跃,在图像和视频生成模型中实现稳定高效的奖励对齐。
链接:https://arxiv.org/abs/2610.00365
188. When Do Attention-Head Ablations Support Causal Claims? Projection-Level Confounds, Floor Effects, and Matched Controls
注意力头消融何时支持因果主张?投影层混杂、地板效应与匹配对照
AI 总结:本研究通过GPT-2 small和DistilGPT2实验表明,注意力头消融的因果推断需注意干预位置、连续指标和匹配对照,否则结论可能不可靠。
链接:https://arxiv.org/abs/2610.00373
189. A First Glance at Jev for Network Traffic Classification: Accuracy, Processing Time, and Cost
Jev在网络流量分类中的初探:准确性、处理时间与成本
AI 总结:本研究首次实证评估Jev模型在网络流量分类中的表现,发现标记示例显著提升其准确率,但整体仍逊于传统树集成模型,且成本更低。
链接:https://arxiv.org/abs/2610.00376
190. Fusion techniques of time frequency-based images to predict the outcome of rTMS depression therapy
基于时频图像融合技术预测rTMS抑郁症治疗结果
AI 总结:针对rTMS抑郁症疗效预测,提出时频图像拼接与混合融合技术及轻量级CNN,在片段级验证中表现优异,但严格受试者分离下性能崩溃,揭示评估方法的关键影响。
链接:https://arxiv.org/abs/2610.00380
191. EvoGen-Harness: Learning Where and How to Evolve Image-Generation Harnesses
EvoGen-Harness:学习在何处以及如何演化图像生成外部系统
AI 总结:提出EvoGen-Harness框架及Trace方法,通过失败归因引导多职责外部系统演化,在多个基准上显著提升冻结文本到图像生成器的性能。
链接:https://arxiv.org/abs/2610.00383
192. Interpretable Synthetic Medical Tabular Data Generation for Clinical Decision Support Using Fuzzy Cognitive Maps
使用模糊认知图的可解释合成医学表格数据生成,用于临床决策支持
AI 总结:本文提出基于模糊认知图的合成医学表格数据生成框架,通过可解释模糊集和因果边权重保留临床依赖,在TSTR协议下达到高准确率和隐私保护,为临床决策支持提供透明高效方案。
链接:https://arxiv.org/abs/2610.00391
193. Representation Transitions Reveal Emerging Safety Risks in Multi-Turn LLM Agents
表示转变揭示多轮LLM智能体中新兴的安全风险
AI 总结:针对多轮LLM智能体攻击,提出DART运行时框架,通过去噪表示转变检测并归因有害行为,在六个模型上将攻击成功率从84%降至25%,优于现有防御。
链接:https://arxiv.org/abs/2610.00400
194. VANDAM: Viewing a nucleotide sequence with DNA molecular priors
VANDAM:利用DNA分子先验查看核苷酸序列
AI 总结:VANDAM框架通过引入DNA分子先验扩展基因组基础模型训练,提升下游任务性能,并泛化到其他分子特性。
链接:https://arxiv.org/abs/2610.00411
195. EchoPress: Query-Agnostic KV Cache Pruning via Virtual Context Reconstruction
EchoPress:通过虚拟上下文重建实现查询无关的KV缓存剪枝
AI 总结:EchoPress提出无需训练的KV缓存剪枝方法,通过虚拟上下文重建近似注意力分数,在保持准确率的同时大幅降低压缩开销和预填充时间。
链接:https://arxiv.org/abs/2610.00412
196. Source Identification Is Not Fitness Testing: Measuring the Limits of Synthetic-Data Attribution
来源识别不是适应性测试:衡量合成数据归因的极限
AI 总结:本研究通过金融风险文本实验证明,合成数据来源归因在改写后准确性大幅下降,且来源信息与数据训练价值无关,二者是独立问题,现有方法均不足以支撑递归训练。
链接:https://arxiv.org/abs/2610.00417
197. CommunityKV: Efficient Long-Context Decoding via Graph Partitioning
CommunityKV:通过图分区实现高效长上下文解码
AI 总结:针对长上下文解码中自注意力二次成本和KV缓存传输瓶颈,提出基于图划分的CommunityKV框架,将稀疏注意力视为社区检测,实现高效流式检索,吞吐量提升达1.71倍。
链接:https://arxiv.org/abs/2610.00418
198. XOR-Trellis: Ultra-Low-Complexity Dequantization and Curvature-Aware Hadamard-Free LLM Quantization
XOR-Trellis:超低复杂度反量化与曲率感知的无Hadamard大语言模型量化
AI 总结:本文提出XOR-Trellis,通过超低复杂度反量化器和曲率感知目标,实现无需Hadamard变换的高质量超低位宽LLM量化,兼顾并行重建效率与精度。
链接:https://arxiv.org/abs/2610.00432
199. Every Batch Is Its Own Validation Set: Leave-One-Out Gradient Matching for Online Data Selection in LLM Fine-Tuning
每个批次都是其自身的验证集:用于大语言模型微调中在线数据选择的留一法梯度匹配
AI 总结:针对在线批次选择中样本内梯度匹配的偏差问题,提出留一法梯度匹配(LOOM),通过移除Gram矩阵对角线实现无偏估计,在多个微调任务上显著优于全批次训练及其他选择器。
链接:https://arxiv.org/abs/2610.00436
200. One pool, many targets: a conservation layer and what archival data can identify
一个池,多个靶标:守恒层与档案数据能识别什么
AI 总结:针对有限RISC池守恒缺失问题,提出可微平衡层,通过理论分析和档案数据审计,证明耦合在现有数据中无额外预测价值,贡献守恒算子和测试所需信息。
链接:https://arxiv.org/abs/2610.00445
201. Gumbel Straight Flow: Distilling Autoregressive Models into One-step Flow Maps
Gumbel Straight Flow:将自回归模型蒸馏为单步流映射
AI 总结:提出Gumbel Straight Flow(GSF),利用自回归模型的噪声-数据耦合构建连续流映射,通过流映射半群目标实现高质量少步采样,在多项基准上超越现有少步语言生成方法。
链接:https://arxiv.org/abs/2610.00497
202. Denoising Surface: Modeling and Predicting Inference Cost for Diffusion LLM Serving
去噪表面:扩散LLM服务中的推理成本建模与预测
AI 总结:针对扩散LLM服务中推理成本预测不准确的问题,提出去噪工作负载表面(DWS)模型,保留二维块-步骤结构,通过粗到细训练实现轻量级预测,显著降低预测误差并优化调度延迟。
链接:https://arxiv.org/abs/2610.00499
203. Random Recursive Models
随机递归模型
AI 总结:随机递归模型通过随机采样层池中的层进行递归计算,实现灵活层复用,在推理任务中以更少参数匹配或超越基线,并支持深度变化和测试时扩展。
链接:https://arxiv.org/abs/2610.00541
204. Geometry-Dependent Bounds for Online Non-Monotone DR-Submodular Maximization
几何相关的非单调DR次模最大化在线界
AI 总结:针对非单调DR次模函数的在线最大化,提出几何相关界,改进遗憾系数至4/9,并给出匹配下界与多项式情形下的精确系数。
链接:https://arxiv.org/abs/2610.00545
205. Right In-Place (RiP) Convolution: A Simple, General, and Near-Optimal Strategy for Memory-Efficient CNN Inference
原位右对齐(RiP)卷积:一种简单、通用且近乎最优的CNN推理内存高效策略
AI 总结:针对CNN推理中的激活内存瓶颈,提出原位右对齐(RiP)卷积,修正了现有最优公式的缺陷,推广至任意卷积参数,在保持位完全相同输出的同时平均节省24.8%内存,并提升微控制器上可部署模型数量。
链接:https://arxiv.org/abs/2610.00586
206. Group-Invariant Statistics Determine Embedding Geometry: Harmonic Analysis of Representations from Bach to the Night Sky
群不变统计量决定嵌入几何:从巴赫到夜空表示论的调和分析
AI 总结:本文证明词共现统计的群不变性决定嵌入几何,将圆与品客流形推广至任意有限群、紧致群及齐次空间,并在月份、和弦及天体表示中验证了不可约表示结构。
链接:https://arxiv.org/abs/2610.00647
207. ORBIT-FMIB: Tracking Order-Resolved Epistatic Information Through ESM-2
ORBIT-FMIB:通过ESM-2追踪阶序解析的上位性信息
AI 总结:本研究提出ORBIT-FMIB诊断框架,通过Walsh分解和神经依赖估计探究ESM-2是否保留高阶上位性信息,重复实验表明证据不足,方向性问题仍待解决。
链接:https://arxiv.org/abs/2610.00672
208. LabBook: Harnessing Experimental History for Efficient LLM-Driven Discovery
LabBook:利用实验历史实现高效的LLM驱动发现
AI 总结:本文提出LabBook,一种智能体维护的实验历史记忆,通过分离完整历史保留与选择性上下文构建,在49个Frontier-CS问题上改善了质量-成本权衡,并在多个任务上保持竞争力。
链接:https://arxiv.org/abs/2610.00675
209. Curvature Under Attack in hZACH-ViT: Gauge Symmetry, Boundary Saturation, and Adversarial Failure
hZACH-ViT 中的曲率攻击:规范对称性、边界饱和与对抗失败
AI 总结:本研究在 hZACH-ViT 中考察曲率对对抗鲁棒性的影响,发现庞加莱头的曲率与尺度、边界效应共同作用,降低曲率虽提升干净性能却显著增加攻击成功率,表明其鲁棒性并非内在属性。
链接:https://arxiv.org/abs/2610.00680
210. Grand Canonical Generators
巨正则系综生成器
AI 总结:提出巨正则系综生成器(GCG),扩展玻尔兹曼生成器至巨正则系综,通过两种设计联合采样粒子数与构型,并在Lennard-Jones流体和沸石吸附中准确重现可观测量。
链接:https://arxiv.org/abs/2610.00683
211. SkillSpec: Consensus-Gated Agent Skill Evolution via Representation Specialization
SkillSpec: 基于共识门控与表示特化的智能体技能演化
AI 总结:SkillSpec通过共识门控演化与表示特化两阶段框架,提升LLM智能体技能的可重用性与成功率,在六个基准上平均提升6.89%。
链接:https://arxiv.org/abs/2610.00704
212. Initialization Improves LLM-Driven Discovery
初始化提升大语言模型驱动的发现
AI 总结:本研究提出通过初始并行探索阶段初始化迭代优化,以提升大语言模型驱动的发现任务的成功率,并在多个框架和任务中验证了其一致收益。
链接:https://arxiv.org/abs/2610.00707
213. JEPA-TTT: Persistent Test-Time Training of Latent World Models for Planning under Dynamics Shifts
JEPA-TTT:动态变化下潜在世界模型的持续测试时训练用于规划
AI 总结:针对测试时动态变化导致世界模型预测不可靠的问题,提出JEPA-TTT方法,通过持续自监督测试时训练调整潜在动态预测器,在多种动态变化下显著降低预测误差并提升规划性能。
链接:https://arxiv.org/abs/2610.00722
214. Pre-training interventions, ex post facto: Grafting model beliefs across checkpoints
预训练干预的事后应用:跨检查点嫁接模型信念
AI 总结:提出嫁接方法,在预训练检查点训练SDF适配器并应用于后训练模型,以低成本实现预训练干预,减少现实漂移并保持信念强度。
链接:https://arxiv.org/abs/2610.00767
215. Training-Aware Target Coverage for Synthetic Data Selection
训练感知的目标覆盖用于合成数据选择
AI 总结:本文提出训练感知的目标覆盖(TATC)方法,基于线性理论量化合成数据对目标任务的边际价值,在微调中通过选择有益候选并扩展目标相关覆盖,在数学推理任务上优于其他选择方法。
链接:https://arxiv.org/abs/2610.00814
216. Quantifying the Impact of Ambulance Ramping: A Multi-Year Analysis of Victorian Emergency Medical Services Cases
量化救护车滞留的影响:维多利亚州紧急医疗服务案例的多年分析
AI 总结:本研究通过分析维多利亚州285万次救护车出勤数据,量化了救护车滞留的规模与动态,发现累计损失149万小时,且滞留与医院到达并发性相关,为医院状态感知的救护车路由提供了经验依据。
链接:https://arxiv.org/abs/2610.00818
217. On-the-fly Weight Generation: A Hypernetwork Proof of Concept on ARC-1D
即时权重生成:ARC-1D上的超网络概念验证
AI 总结:本研究以ARC-1D为测试平台,证明超网络能从少量演示即时生成专用模型参数,形成结构化权重空间,支持组合泛化及对未见变换的泛化,移除任务标识符可提升泛化。
链接:https://arxiv.org/abs/2610.00820
218. AnyJev Technical Report
AnyJev 技术报告
AI 总结:AnyJev 通过一次预填充从指令调优语言模型中读取类型化决策,无需训练即可纠正标签和位置偏差,并在多个模型上提升准确率,同时减少预填充次数以加速服务。
链接:https://arxiv.org/abs/2610.00831
219. Fixing a Model That Learned Worse Cancer Means Lower Risk: Monotonic Constraints in Bladder Cancer Recurrence Prediction
修复一个学习到癌症更严重意味着风险更低的模型:膀胱癌复发预测中的单调约束
AI 总结:本研究针对膀胱癌复发预测中模型学习到与医学直觉相反的关系(更严重癌症预测更低风险)的问题,提出反事实方向测试和单调约束框架,在不损失性能的情况下检测并修复此缺陷,确保模型符合临床预期。
链接:https://arxiv.org/abs/2610.00858
220. In CEM, a World Model Is Also a Proposal Mechanism
在CEM中,世界模型也是一种提案机制
AI 总结:本文研究CEM中世界模型评分误差对决策和候选生成的双重影响,通过四种模型和十二个单元实验,发现评分器差异大于候选池差异,并验证了环境排序更新可降低最终成本。
链接:https://arxiv.org/abs/2610.00921
221. Platonic Task Arithmetic
柏拉图式任务算术
AI 总结:本文提出柏拉图式任务向量与通用任务描述符,通过最小二乘或低秩适配器实现跨异构模型的任务知识迁移与组合,保留74-80%性能。
链接:https://arxiv.org/abs/2610.00929
222. GUI-HARVEST: Self-Improving GUI Agents through Evidence-Driven Harness Evolution
GUI-HARVEST:通过证据驱动的工具链进化实现自改进的GUI智能体
AI 总结:提出GUI-HARVEST,一种自动工具链优化器,通过证据驱动的诊断和验证,使冻结骨干的GUI智能体自我改进,在多个基准上显著提升性能。
链接:https://arxiv.org/abs/2610.00948
223. Auditable Algebraic Counting Field for Cryptic-Pocket Detection from Apo Structures
可审计代数计数场用于从Apo结构中检测隐秘口袋
AI 总结:提出可审计代数计数场ACF,从Apo结构预测隐秘口袋残基,无需序列搜索或语言模型,在外部集合上超过P2Rank,并提供可检查的预测路径。
链接:https://arxiv.org/abs/2610.00988
224. SLIM: Simplex-Lattice Interpolation Merging
SLIM:单纯形格插值合并
AI 总结:SLIM通过混料设计构建二次代理模型优化LLM合并系数,以最少评估实现准确预测和竞争性合并性能。
链接:https://arxiv.org/abs/2610.01037
225. Kernelized Activation Steering
核化激活引导
AI 总结:提出核化激活引导(KAS)框架,将激活引导提升至再生核希尔伯特空间,实现局部自适应非线性引导,在越狱大语言模型和图像风格控制等任务中优于或媲美现有方法。
链接:https://arxiv.org/abs/2610.01062
226. GLoC-EHR: Evidence-Cited Clinical Reasoning over Global Context and Local EHR Events
GLoC-EHR:基于全局上下文与局部EHR事件的证据引证临床推理
AI 总结:GLoC-EHR是一种多模态语言模型,通过全局和局部记忆编码EHR轨迹,经GRPO训练实现证据引证推理,在MIMIC-IV任务上取得最高宏AUROC,并成功迁移至EHRSHOT。
链接:https://arxiv.org/abs/2610.01076
227. Parameter-Efficient Distributionally Robust Adaptation of Tabular Foundation Models under Subpopulation Shift
表格基础模型在子群体偏移下的参数高效分布鲁棒适应
AI 总结:针对子群体偏移下表格基础模型对弱势群体表现不佳的问题,提出无需真实群体标注的参数高效鲁棒适应框架DR-TFM,仅更新0.016%参数,在多个基准上显著提升最差群体准确率。
链接:https://arxiv.org/abs/2610.01143
228. Persistent Depth Ordering amid Shifting Block-Bypass Responses in Language Model Pretraining
语言模型预训练中移位块旁路响应下的持久深度排序
AI 总结:本研究通过追踪预训练过程中不同检查点的块旁路响应,发现深度排序保持稳定但幅度变化,且变化集中在重复位置,表明层敏感性有结构但非静态,单检查点干预需结合训练演化背景。
链接:https://arxiv.org/abs/2610.01165
229. Rethinking the Information Bottleneck: Structured Decomposition under Label-Induced Partitions
重新思考信息瓶颈:标签诱导划分下的结构化分解
AI 总结:针对标准信息瓶颈无法独立调节标签相关与组内信息的问题,提出基于标签诱导划分的双瓶颈公式,通过条件KL分解控制干扰变异,在低数据分类和密集预测中取得一致改进。
链接:https://arxiv.org/abs/2610.01175
230. Supervise What Decides Success: Criterion-Aligned Auxiliary Losses for Latent World-Model Planning
监督决定成功的关键:面向潜在世界模型规划的准则对齐辅助损失
AI 总结:针对潜在世界模型规划中潜在状态误差导致决策失败的问题,提出将成功准则量作为辅助训练目标,仅此损失即在两个任务上显著提升成功率,表明成功准则可直接作为训练目标。
链接:https://arxiv.org/abs/2610.01224
231. Not All Is Lost: Repairing Lossy User Preference States of Personalization Encoders
并非一切尽失:修复个性化编码器的有损用户偏好状态
AI 总结:提出REPAIR方法,通过比较缓存表示与偏好状态来修复个性化编码器的有损状态,在冻结编码器和任务头的情况下提升推荐和生成性能。
链接:https://arxiv.org/abs/2610.01270
232. Clifford Sheaf Neural Networks
Clifford 层状神经网络
AI 总结:提出 Clifford 层状神经网络(CSNN),一种等变层状网络,通过 K 项三明治结构定义限制映射,实现图级等变回归,并刻画了映射族的表达能力与条件数。
链接:https://arxiv.org/abs/2610.01322
233. Robust Non-Clairvoyant Scheduling with Classification Models
基于分类模型的鲁棒非先知调度
AI 总结:针对非先知单机调度中无法实现常数竞争比的问题,提出利用分类模型混淆矩阵构建排列不确定性集的鲁棒框架,并给出最优非自适应策略及可超越它的自适应与随机算法。
链接:https://arxiv.org/abs/2610.01343
234. Discrete Wasserstein Flows for One-Step Generative Modeling
离散Wasserstein流用于一步生成建模
AI 总结:提出基于离散Wasserstein几何的KL梯度流框架,通过马尔可夫跳跃实现有限状态空间上的一步生成建模,验证了动力学一致性与生成器跟踪能力。
链接:https://arxiv.org/abs/2610.01355
235. Port-Hamiltonian Neural Networks for Systems with Multiple Asymptotically Stable Equilibria
具有多个渐近稳定平衡点的端口-哈密顿神经网络
AI 总结:针对端口-哈密顿神经网络只能表示单一吸引子系统的局限,提出将哈密顿函数参数化为Bregman散度乘积,实现多稳定平衡点建模,并提升收敛速度1.8-8.5倍。
链接:https://arxiv.org/abs/2610.01356
236. From Redundancy to Minimality: Fixed-Point-Guided Hierarchical Reduction of Learned Piecewise-Linear Dynamics
从冗余到最小化:不动点引导的学习分段线性动力学的层次化约简
AI 总结:本文提出不动点引导的层次化约简方法,通过先训练冗余AL-RNN再逐步线性化约简,实现最小动力学表示,并在蔡氏系统上将成功率从20%提升至约71%。
链接:https://arxiv.org/abs/2610.01369
237. Action-On-Item Preference Flow: A Shared Event Schema for Predictive and Generative Personalization
项目上的动作偏好流:用于预测性和生成性个性化的共享事件模式
AI 总结:本文提出项目上的动作偏好流模式,通过共享更新机制统一处理不同交互历史,并实现预测性与生成性个性化,实验验证了跨源学习的有效性。
链接:https://arxiv.org/abs/2610.01375
238. Least-time Gradient Flow
最小时间梯度流
AI 总结:提出最小时间梯度流,通过正则化使风险按指定动力学精确衰减,证明最优解存在唯一且为线性缩放摆线,并给出接近零风险时的最优速率指数。
链接:https://arxiv.org/abs/2610.01426
239. ibUMAP: Coherent and Scalable Field Evaluation for UMAP Optimization
ibUMAP:用于UMAP优化的连贯且可扩展的场评估
AI 总结:ibUMAP通过同步场评估和FFT加速,解决了UMAP随机负采样导致的嵌入不稳定问题,在CPU和GPU上实现数倍加速并保持质量。
链接:https://arxiv.org/abs/2610.01445
240. Repurposing Obsolete Representations for Post-Deployment Adaptation
重新利用过时表示以进行部署后适应
AI 总结:针对部署后任务过时问题,提出深度重新利用(DR)框架,通过估计潜在几何结构、移除过时组件并解析修复映射,无需梯度更新即可消除过时行为,同时保持保留任务准确率,且适应速度比现有遗忘方法快60倍。
链接:https://arxiv.org/abs/2610.01453
241. Streaming algorithms for robust max-min diversification
鲁棒最大最小多样化的流式算法
AI 总结:针对鲁棒最大最小多样化问题,提出一种确定性基于核心集的流式算法,在内部点-离群点分离假设下返回恰好 $k$ 个内部点,达到 $(2+\varepsilon)$ 近似,内存和更新代价与 $n$ 无关。
链接:https://arxiv.org/abs/2610.01456
242. FedMIX-P: Mixing Local and Global Preconditioners for Federated Vision and Language Model Training
FedMIX-P:面向联邦视觉与语言模型训练的局部与全局预条件子混合方法
AI 总结:FedMIX-P通过每步混合共享与局部预条件子,降低联邦训练中的算子不匹配,理论保证O(R^{-1/2})平稳性,实验在视觉与语言任务上提升准确率最高19.47个百分点。
链接:https://arxiv.org/abs/2610.01515
243. Exact Distinguishability in Non-Markovian Decision Processes
非马尔可夫决策过程中的精确可区分性
AI 总结:本研究针对非马尔可夫决策过程,提出PEC算法在线性时间内判定模型可区分性,并证明等价模型后验几率不变,实验表明该算法能恢复失效的可区分性假设。
链接:https://arxiv.org/abs/2610.01527
244. QK-Wanda: Coupling Queries and Keys for Unstructured Pruning
QK-Wanda:耦合查询与键进行非结构化剪枝
AI 总结:QK-Wanda通过耦合查询与键的删除成本进行非结构化剪枝,无需梯度更新,在多个大模型上降低QK重建误差并提升下游性能,同时揭示局部重建预测模型质量的局限。
链接:https://arxiv.org/abs/2610.01554
245. Two Routes to the Middle: Placement Search and Brain Readouts Converge on Where Continual Learners Should Specialize
通往中间层的两条路径:放置搜索与脑读出在持续学习者的专业化层选择上趋于一致
AI 总结:本文提出LS-B方法,利用fMRI脑读出信号指导持续学习者的适配器放置,无需搜索即可在中间层实现高效专业化,性能接近全适配器且存储大幅降低。
链接:https://arxiv.org/abs/2610.01590
246. Permutation-Robust Decision Modeling with Candidate-Independent Block-Causal Attention
排列鲁棒的决策建模:候选无关的块因果注意力
AI 总结:针对候选顺序影响决策评分的问题,提出候选无关块因果注意力,阻断跨候选信息流并重置位置,在多个骨干上降低排列敏感性且保持决策质量。
链接:https://arxiv.org/abs/2610.01601
247. Exposing the Cost of Deep Learning Audio Development
揭示深度学习音频开发的成本
AI 总结:本文提出基于Grid5000日志估算深度学习音频项目开发阶段能耗的方法,发现开发能耗是训练最佳模型的3至256倍,呼吁全生命周期报告能耗。
链接:https://arxiv.org/abs/2610.01619
248. MCIR: A Feature Dependence-Aware Explainability Method with Reliability Guarantees
MCIR:一种具有可靠性保证的基于特征依赖的可解释性方法
AI 总结:MCIR-M提出一种依赖感知的全局特征重要性方法,通过条件化强依赖邻居计算归一化比率,在多重共线性下提供稳定排序,并在合成与真实基准上验证了其有效性。
链接:https://arxiv.org/abs/2610.01641
249. Artifact Annotations Partially Substitute for Per-User Calibration: SAFE-EDA and a Normalization-Controlled Evaluation of Wrist-EDA Affect Recognition
伪影标注部分替代逐用户校准:SAFE-EDA 及腕部 EDA 情感识别的归一化控制评估
AI 总结:本研究通过控制归一化来源,评估了基于伪影标注预训练的 SAFE-EDA 模型在腕部 EDA 情感识别中的效果,发现预训练增益仅在未使用用户自身数据时显著,且伪影监督优于自监督,强调了报告归一化选择的重要性。
链接:https://arxiv.org/abs/2610.01692
250. Learning PDE Dynamics between Submanifolds Using Green's Observation Operators
利用格林观测算子学习子流形之间的PDE动力学
AI 总结:本文提出格林观测算子(GObO),通过将周围介质映射为受限格林核,实现子流形间PDE动力学的零样本预测,误差较黑盒替代模型降低4-8倍,且支持跨分辨率迁移与非线性修正。
链接:https://arxiv.org/abs/2610.01697
251. Removing spurious minima for planar features by skip connections
通过跳跃连接去除平面特征的伪局部极小值
AI 总结:本研究证明在教师-学生设置中,可学习的线性跳跃连接能消除浅层ReLU网络的伪局部极小值,即使过参数化也无法移除的伪极小值可被跳跃连接去除,且学生特征位于教师特征张成空间内。
链接:https://arxiv.org/abs/2610.01728
252. Fixed-point neural samplers on discrete spaces
离散空间上的定点神经采样器
AI 总结:本文提出离散吉布斯迭代神经采样器,一种定点神经采样器,解决现有离散神经采样器的模式崩溃、无收敛保证和依赖特定参考过程等问题,实现高效可扩展学习,并扩展到高维系统和合金相图估计。
链接:https://arxiv.org/abs/2610.01739
253. Evidence-Gated Research: Statistically Controlled Model Adoption in Adaptive Search
证据门控研究:自适应搜索中的统计受控模型采纳
AI 总结:提出证据门控研究(EGR)作为自适应搜索中模型采纳的统计控制层,通过冻结挑战者并构建随时有效证据来控制错误发现率,实验表明其比现有方法节省56.1%的决策证据且无持久虚假采纳。
链接:https://arxiv.org/abs/2610.01751
254. SkillEvoLean: Mutation-enhanced skill evolution for Lean provers
SkillEvoLean:面向 Lean 证明器的突变增强技能进化
AI 总结:提出突变增强的技能自进化框架SkillEvoLean,通过渐进式与突变式更新共同进化求解策略和参考知识,在多个数学基准上显著提升Lean证明成功率。
链接:https://arxiv.org/abs/2610.01799
255. A Safe Prototype Is Not a Safety Direction: Reference Dependence and Prompt Confounds in Response-Safety Embeddings
安全原型并非安全方向:响应安全嵌入中的参考依赖与提示混杂
AI 总结:本研究证明安全响应平均嵌入作为原型无法可靠区分安全与不安全响应,而显式安全减不安全参考方向在多个数据集上显著提升性能,表明类均值是位置而非安全方向。
链接:https://arxiv.org/abs/2610.01801
256. MECHVAR: Variance-Guided Mechanism Discrimination for Autonomous Machine Learning Experiment Selection
MECHVAR:方差引导的机制判别用于自主机器学习实验选择
AI 总结:MECHVAR提出一种基于后验加权方差的轻量级获取规则,用于有限库自主机器学习实验选择,在保持可审计性的同时实现高效评分,并在多个中等错误设定下优于先确认策略。
链接:https://arxiv.org/abs/2610.01819
257. A foundation for systematic analysis of transformers and RNNs for tractography
用于纤维束成像的系统性分析Transformer和RNN的基础
AI 总结:本研究系统评估RNN和Transformer在纤维束成像中的性能,引入生成-验证阶段实现流线级监督,在ISMRM2015数据集上达到最高性能,并量化了训练数据缺陷的影响。
链接:https://arxiv.org/abs/2610.01894
258. Latent JEPA: Abstract Future Prediction for Latent Reasoning in Chemistry
潜在JEPA:化学中潜在推理的抽象未来预测
AI 总结:本研究提出潜在JEPA框架,结合自回归学习与联合嵌入预测,通过训练连续潜在思维预测未来视图,在ChemCoTBench上提升分子优化及编辑反应指标,验证抽象未来预测作为连接潜在推理与科学结果的学习原则。
链接:https://arxiv.org/abs/2610.01947
259. SIEVE: Selective attention-value Suppression for Vision-Language Models Unlearning
SIEVE:面向视觉-语言模型遗忘的选择性注意力值抑制
AI 总结:SIEVE通过抑制遗忘样本的注意力值并匹配保留样本表示,实现了视觉-语言模型中对个人可识别信息的选择性遗忘,在保持保留知识的同时达到最先进性能。
链接:https://arxiv.org/abs/2610.01962
260. FastCI: Efficient GPU-Intensive CI for LLM Training Frameworks
FastCI:面向LLM训练框架的高效GPU密集型持续集成
AI 总结:FastCI通过运行时证据选择受影响测试、剪除等价上下文测试、优先高风险测试并优化工作负载,将LLM训练框架CI延迟降低77.5%,GPU资源减少63.9%,并提高覆盖率保持率。
链接:https://arxiv.org/abs/2610.01967
261. Sim+Real: Joint Simulation - Experiment Training Improves Balanced Prediction in Physical Systems
Sim+Real:联合仿真-实验训练提升物理系统平衡预测
AI 总结:针对仿真到实验微调导致仿真性能下降的问题,提出联合训练多目标学习方法,在RealPDEBench四个流体系统上实现最佳平衡预测并保留仿真知识。
链接:https://arxiv.org/abs/2610.01974
262. The Curvature of Regret in Contextual Linear Optimization
遗憾曲率在线性优化中的研究
AI 总结:本研究针对线性优化中决策聚焦学习的非光滑问题,证明平均后曲率局部二次,给出闭合形式及可计算近似,并应用于场景生成,实验显示30.8%的遗憾改进。
链接:https://arxiv.org/abs/2610.01980
263. BranchIP: Learning Adaptive Equivariant Computation for Interatomic Potentials
BranchIP:学习等变计算的自适应分配用于原子间势
AI 总结:BranchIP通过自适应张量积计算和蒸馏损失,在保持物理精度下加速MLIPs达2.4倍并减少内存2.6倍,同时增强模型可解释性。
链接:https://arxiv.org/abs/2610.02013
264. Foundations without Fundamentals: Zero-Shot Blind Spots in Time Series FMs
无基础的基础:时间序列基础模型中的零样本盲区
AI 总结:本文通过SimpleTimeBench诊断套件发现,主流时间序列基础模型在基本时间模式及外生协变量利用上存在零样本盲区,微调反而损害泛化能力,揭示预训练规模与基本推理间的差距。
链接:https://arxiv.org/abs/2610.02058
265. Are We Recovering Mechanisms? Objective-Level Recovery Gaps in Mechanistic Interpretability
我们是否在恢复机制?机械可解释性中的目标级恢复差距
AI 总结:本研究揭示机械可解释性中目标级恢复差距:干预定义的忠实度可能偏好行为复现较差的电路,导致发现算法错误排序,恢复信号可修复多数错误排序。
链接:https://arxiv.org/abs/2610.02098
266. Local Support Learning
局部支持学习
AI 总结:本文提出局部支持学习(LSL),通过门控机制使梯度更新局部于当前数据分布,解决大规模预训练模型(高达70亿参数)在多个训练阶段中的灾难性遗忘,同时高效保留预训练与微调能力。
链接:https://arxiv.org/abs/2610.02126
267. Muon meets Tamed Langevin: Momentum Preconditioning beyond Convex and gradient-Lipschitz Potentials
Muon 遇上驯化的 Langevin:超越凸与梯度-Lipschitz 势的动量预处理
AI 总结:针对非凸且非梯度-Lipschitz 势的矩阵空间 Gibbs 采样,提出非二次动能驱动的欠阻尼 Langevin 系统,实现动量预处理,证明测度不变性与指数收敛,并保证离散化算法的稳定性。
链接:https://arxiv.org/abs/2610.02158
268. Decoding Looped Transformers Better for (Almost) Free
更好地解码循环Transformer(几乎免费)
AI 总结:本文提出LoopCD,一种无需训练的对比解码框架,利用循环Transformer的中间状态作为引导信号,在减少推理计算的同时提升解码质量,并支持循环次数减半。
链接:https://arxiv.org/abs/2610.02185
269. Trust the Direction, Search the Step: Zero-and-First-Order Methods for LLM Fine-Tuning
信任方向,搜索步长:用于大语言模型微调的零阶与一阶混合方法
AI 总结:针对大语言模型微调中的步长选择难题,提出零阶与一阶混合优化框架ZFO,解耦方向与步长,利用两次额外评估构建局部模型自适应选步,理论保证收敛,实验显示优于固定步长基线。
链接:https://arxiv.org/abs/2610.02190
270. TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning
TACO:用于大语言模型微调的三元绝对最大值逐列单稀疏优化器
AI 总结:TACO是一种新型优化器,通过逐列选择最大绝对值项的符号计算最速下降方向,大幅减少优化器状态内存,实现单GPU上30-32B模型的全参数微调,且保持精度和效率。
链接:https://arxiv.org/abs/2610.02199