2026-07-07 | CS.LG机器学习 | 共 234 篇
[机构]信息由AI分析生成,可能存在错误,仅供参考,以论文实际显示为准
快速导航
1. 深度学习架构与训练方法 41 篇
2. 表示学习、自监督与对比学习 9 篇
3. 强化学习与序列决策 27 篇
4. 生成模型与概率建模 15 篇
5. 优化、泛化与理论分析 20 篇
6. 高效学习、压缩与部署 11 篇
7. 联邦学习、隐私与安全 10 篇
8. 鲁棒性、不确定性与可信学习 3 篇
9. 图学习与结构化数据 11 篇
10. 迁移、元学习与持续学习 7 篇
11. 数据集、基准与评测 12 篇
12. 机器学习应用 41 篇
13. 其他/综合机器学习 27 篇
1. 深度学习架构与训练方法 | 41 篇
1. QuantFlow: A Federated Mamba-Based Post-Transformer Foundation Model for Time-Series Forecasting
QuantFlow:一种基于联合曼巴的用于时间序列预测的后Transformer基础模型
AI 总结:研究针对时间序列预测,提出结合多种技术的概率预测框架QuantFlow,用反向序列嵌入等进行处理,经实验验证其在多数据上效果好,且联合学习可保护隐私。
链接:https://arxiv.org/abs/2607.02632
2. GRAFT: Grafted Reference Audio for Fine-grained Pronunciation in Zero-shot Text-to-Speech
GRAFT:用于零样本文本到语音中细粒度发音的嫁接参考音频
AI 总结:研究针对文本到语音神经编解码器语言建模中单词发音问题,提出GRAFT机制,通过短语音样本控制单词发音,经语音转换训练,提升发音效果,在多语言基准测试中表现出色。
链接:https://arxiv.org/abs/2607.02633
3. A Granularity-Aware EEG Feature Framework for Psychopathology Dimension Prediction
一种用于精神病理学维度预测的粒度感知脑电图特征框架
AI 总结:开发粒度感知脑电图特征管道,将多尺度描述符组织到不同层级,用健康脑网络队列评估对四种精神病理学维度的预测,树模型等有改进,多尺度特征含相关信号,粒度感知选择或为有用策略。
链接:https://arxiv.org/abs/2607.02670
4. LiNO: Lifting based multiresolution neural operator
LiNO:基于提升的多分辨率神经算子
AI 总结:研究旨在设计有效表示多尺度特征的算子,提出基于第二代小波提升方案的LiNO。通过参数化提升变换从数据学习多分辨率分解,在多个基准测试中性能出色,为科学机器学习提供方向。
链接:https://arxiv.org/abs/2607.02715
5. Safe Inference-Time Alignment via Lagrangian Reward Augmentation
通过拉格朗日奖励增强实现安全推理时对齐
AI 总结:研究提出拉格朗日奖励增强框架,从含奖励与成本模型的约束目标出发,经对偶化将问题转化为一维凸问题,校准对偶变量获增强奖励,提升推理时对齐的有益性与无害性权衡。
链接:https://arxiv.org/abs/2607.02781
6. Induction Heads Interpolate N-Grams
归纳头对N元语法进行插值
AI 总结:研究在k阶马尔可夫链上训练的变压器中的归纳头,识别出两种互补平滑机制,构建实现这两种机制的解缠变压器,结果表明训练后的变压器能恢复预测注意力模式,优于经典基于计数的基线。
链接:https://arxiv.org/abs/2607.02800
7. Training Hybrid Block Diffusion Language Models with Partial Bidirectionality
使用部分双向性训练混合块扩散语言模型
AI 总结:针对大语言模型高吞吐量长上下文生成挑战,提出BDLM Mamba-attention混合模型,通过限制反向Mamba扫描到活动去噪块解决缓存问题,在长上下文推理中吞吐量有显著提升。
链接:https://arxiv.org/abs/2607.02805
8. Observable- and Positional-Encoding-Dependent Symmetry Readout from Neural Network Weights
基于神经网络权重的可观性和位置编码相关对称性读出
AI 总结:研究训练神经网络权重的事后分析,核心方法是通过精确可观性层次来阐述权重对称性与训练参数、位置编码及读出可观性的关系,主要贡献是揭示位置编码设计对事后权重层读出结构的影响。
链接:https://arxiv.org/abs/2607.03108
9. Rethinking Neural Nonlinearity as Gating
将神经非线性重新思考为门控
AI 总结:研究表明神经非线性可通过输入条件阈值门控实现,标准激活函数是阈值门控实例,验证了跨模型转换的等效性,还提出定理,其在硬件实现上有优势,能提升模型多方面表现。
链接:https://arxiv.org/abs/2607.03148
10. The Multiscale Single-Index Model: A Stylized Model for Hierarchical Feature Learning
多尺度单指标模型:用于分层特征学习的程式化模型
AI 总结:研究多尺度单指标模型用于分层学习,在特定假设下分析目标的维纳混沌,通过埃奇沃思展开进行细粒度分析,建立浅层网络近似下界,证明在线SGD在相关目标上的样本复杂度。
链接:https://arxiv.org/abs/2607.03347
11. Co-Adaptive Multi-Task LoRA: Transfer-Aware, Label-Free Control of Domain Participation
协同自适应多任务LoRA:领域参与的迁移感知、无标签控制
AI 总结:研究多任务学习中领域如何共享低秩适配器,提出CoDA控制器,利用无标签探针数据生成能力信号和跨域亲和力,通过求解熵正则化二次规划设置领域参与度,提升多任务学习性能。
链接:https://arxiv.org/abs/2607.03522
12. Teacher Supervision over Representation Equivalence Classes
教师对表示等价类的监督
AI 总结:研究知识蒸馏中教师表示的等价类问题,指出预训练表示在正交和各向同性缩放等价类下才是可识别的,核心方法是关注类不变量,主要贡献是统一多种知识蒸馏方法并验证框架。
链接:https://arxiv.org/abs/2607.03572
13. Differentiate the Evaluator, Not the Program: An Efficient Runtime Representation for Neuro-Symbolic Learning
区分评估器,而非程序:神经符号学习的高效运行时表示
AI 总结:研究神经符号学习中程序与参数协同搜索瓶颈,提出原生可微虚拟机(NDVM),将符号结构与可微数值状态分离,实现运行时差异化,提升搜索效率。
链接:https://arxiv.org/abs/2607.03574
14. When Geometry Aligns: Dihedral Hidden-State Transformations in UNet, ViT, and DiT Architectures
当几何对齐时:UNet、ViT和DiT架构中的二面体隐藏状态变换
AI 总结:研究通过将二面体群基于反射的元素应用于中间隐藏状态作为受控内部干预,对比几何一致和不一致变体,分析特征稳定性和几何漂移,发现一致变换可提高稳定性,为稳定隐藏状态干预确立关键原则。
链接:https://arxiv.org/abs/2607.03580
15. Modular Foundation Models for Time-Series Perception in Digital Twins
数字孪生中用于时间序列感知的模块化基础模型
AI 总结:针对数字孪生和PHM系统中时间序列感知挑战,提出基于预训练表示编码器集合的模块化基础模型,利用自监督学习,引入选通机制,支持多下游任务,消融研究验证各部分作用,实验有竞争力。
链接:https://arxiv.org/abs/2607.03585
16. A Structural Interpretation of GELU and Threshold-Transmission Activations via the First-Order Loss Function
通过一阶损失函数对GELU和阈值传输激活的结构解释
AI 总结:基于高斯互补一阶损失函数对GELU给出互补解释,将损失核算与前向信号传输分离,推广到阈值传输族,实验表明校准或学习的均匀阈值门有竞争力且能改进。
链接:https://arxiv.org/abs/2607.03664
17. Foundations of Equivariant Deep Learning: Unifying Graph and Sheaf Neural Networks
等变深度学习基础:统一图神经网络和层神经网络
AI 总结:扩展几何深度学习利用更丰富对称结构,开发等变神经网络,刻画线性等变映射,构建层并证明连续等变映射的通用逼近定理,还扩展到范畴等变神经网络,给出等变神经网络通用形式及定理。
链接:https://arxiv.org/abs/2607.03798
18. Parametric Memory Decoding for Zero-Shot Routing in LoRA-Based External Parametric Memory
基于LoRA的外部参数内存中用于零样本路由的参数内存解码
AI 总结:研究基于LoRA的外部参数内存零样本路由问题,提出参数内存解码框架PMD及其实例化PMDRouter,通过将路由重构为外部参数内存激活解码来改进,实验表明PMDRouter性能强。
链接:https://arxiv.org/abs/2607.04118
19. Binary Iterative Method for Non-targeted Adversarial Attack
非目标对抗攻击的二进制迭代方法
AI 总结:研究非目标对抗攻击,提出二进制迭代方法,用分治范式优化参数和超参数,在图像分类任务中相比其他基于梯度的方法表现更优。
链接:https://arxiv.org/abs/2607.04145
20. Geometry of Ordinal Representations in Language Models
语言模型中序数表示的几何结构
AI 总结:研究在多个语言模型中测试序数任务,发现当序数变量可从令牌身份局部计算时会出现具有位置细胞特征平铺的一维流形,几何计算与架构有关,激活修补证实流形子空间集中任务相关信息。
链接:https://arxiv.org/abs/2607.04167
21. On Preserving Geometrical Invariance for Superpixel Image Classification using Graph Transformer
使用图变换器保持超像素图像分类的几何不变性
AI 总结:研究超像素图像分类,针对卷积神经网络和视觉变换器计算复杂问题,提出基于图变换器的SuperGT框架,能捕捉长距离依赖并保持平移/旋转不变性,在CIFAR-10数据集上表现优于基线。
链接:https://arxiv.org/abs/2607.04262
22. ManifoldFlow: SPD-Relaxed Stiefel Layers with Learnable Singular Spectrum
流形流:具有可学习奇异谱的对称正定松弛斯蒂费尔层
AI 总结:研究提出ManifoldFlow,通过\(W = Q S^{1/2}\)在斯蒂费尔流形上学习有界正谱,放松固定谱斯蒂费尔层约束,在部分实验中可学习的对称正定谱表现更好。
链接:https://arxiv.org/abs/2607.04535
23. Minimum Block Width for Universal Approximation by Residual Neural Networks with Inner Width One
具有内部宽度为一的残差神经网络通用逼近的最小块宽度
AI 总结:研究残差神经网络通用逼近性质,针对特定激活函数建立块宽度上下界,证明内部宽度为1时在紧致域上实现\(L^p\)逼近的最小块宽度,还给出特定块宽度网络能实现一致逼近及宽度小于某值不能逼近所有目标函数的结论。
链接:https://arxiv.org/abs/2607.04597
24. Hierarchical Scaffolding Enables Human-Like Cognitive Selectivity under Data Scarcity
分层脚手架在数据稀缺情况下实现类人认知选择性
AI 总结:受人类高效学习启发,引入基于认知心理学的分层学习框架SCALA,从粗概念结构引导模型到细粒度识别,有效提升数据稀缺时的准确率、泛化能力及新类别获取速度。
链接:https://arxiv.org/abs/2607.04709
25. Trust Region Policy Distillation
信任区域策略蒸馏
AI 总结:研究将不稳定的策略蒸馏转化为稳定训练范式,核心方法是动态构建近端教师,贡献为增强训练稳定性、样本效率等,且无额外计算开销。
链接:https://arxiv.org/abs/2607.04751
26. Multi-Turn On-Policy Distillation with Prefix Replay
基于前缀重放的多轮在线策略蒸馏
AI 总结:研究用于智能体任务的在线策略蒸馏,提出重放前缀在线策略蒸馏方法,复用预收集教师轨迹作重放前缀,解决多轮在线策略蒸馏的前缀陷阱问题,提高效率且保持或提升精度。
链接:https://arxiv.org/abs/2607.04763
27. Compressed Computation under $L^4$ Loss is likely Computation in Superposition
$L^4$损失下的压缩计算可能是叠加中的计算
AI 总结:研究神经网络能否在叠加中计算更多函数,以压缩计算设置为玩具模型,用$L^4$损失训练单隐藏层ReLU网络,发现其能在叠加中计算所有特征,还逆向工程该解决方案并验证。
链接:https://arxiv.org/abs/2607.04800
28. Layer-Parallel Inference Reduces Encrypted Nonlinear Depth in Transformers
层并行推理减少了Transformer中加密的非线性深度
AI 总结:研究结构化牛顿层并行性(SNLP)能否使Transformer层间组合更适合全同态加密(FHE),通过基于切比雪夫多项式近似的模拟框架测量误差积累,结果表明SNLP可减少推理步骤并降低误差放大。
链接:https://arxiv.org/abs/2607.04819
29. Pretraining Curricula Enable Selective Fine-tuning
预训练课程实现选择性微调
AI 总结:研究预训练课程如何影响学习、泛化和微调选择性,对比平衡与不平衡预训练方式,发现不平衡预训练促进上下文学习并提高拒绝微调选择性,还扩展到合成语言学习任务。
链接:https://arxiv.org/abs/2607.04846
30. When Do Foundation Models Pay Off? A Break-Even Analysis of Pretrained Time Series Forecasters
基础模型何时能取得成效?预训练时间序列预测器的盈亏平衡分析
AI 总结:研究何时投资时间序列基础模型能有回报,通过对比基础模型和传统基线在不同训练集规模下的表现,给出部署规则和决策框架,助从业者决策。
链接:https://arxiv.org/abs/2607.04919
31. Input Pathways Shape Few-Shot, Not Zero-Shot, Binding in Tiny Transformers: A Fully-Enumerable Study
输入路径塑造少样本而非零样本绑定在微型变压器中:一项完全可枚举的研究
AI 总结:研究信息输入方式对变压器组合信息绑定的影响,用完全可枚举的有限分解世界研究约6-10K参数变压器,发现端点不变性、少样本绑定的双因素解释、训练早期的双重解离及失败剖析等结果。
链接:https://arxiv.org/abs/2607.04926
32. Train Smarter, Not Longer: Memorization-Guided Data Reuse for Efficient LLM Training
更智能而非更长时间训练:用于高效大语言模型训练的记忆引导数据复用
AI 总结:研究大语言模型训练范式,通过观察模型‘记忆窗口’信号,提出记忆引导数据复用范式,自适应决定数据复用时间和方式,为记忆感知训练计划奠定基础,助于用有限高质量数据更智能训练。
链接:https://arxiv.org/abs/2607.04969
33. Qantara: Bridge-Flow Training for Multi-Paradigm JEPA Control
Qantara:用于多范式联合嵌入预测架构控制的桥流训练
AI 总结:研究针对联合嵌入预测架构(JEPAs)单一推理范式问题,提出Qantara,通过端到端联合训练目标,同一检查点服务三种推理范式,提升控制性能,推动JEPAs从单范式规划器向多范式控制器转变。
链接:https://arxiv.org/abs/2607.04978
34. The Map Behind the Flow: Finite-Step Gradient Descent as a Dynamical System
流动背后的映射:作为动力系统的有限步梯度下降
AI 总结:研究固定步长梯度下降作为离散动力系统,在可精确求解模型层次中,从深度线性链平衡标量约简出发,分析其动力学行为及对学习的影响,指出学习率是训练动力学的结构参数。
链接:https://arxiv.org/abs/2607.04993
35. Beyond Modality Fusion: Deep Ensembles for Multimodal Classification
超越模态融合:用于多模态分类的深度集成
AI 总结:研究多模态分类,对比深度集成与模态融合网络,证明单模态网络深度集成可有效分类,提出选模型数量方法,还给出合成框架探索优化挑战,估计集成渐近性能。
链接:https://arxiv.org/abs/2607.05019
36. FAST: A Holistic Framework for Optimizing Memory-I/O, Computation, and Sampling in Temporal GNN Training
FAST:用于在时间图神经网络训练中优化内存I/O、计算和采样的整体框架
AI 总结:研究针对时间图神经网络训练中内存I/O、不规则计算和时间邻居采样瓶颈,提出FAST框架,通过联合优化采样、内存I/O和计算加速训练,介绍了相关技术并经实验验证其有效性。
链接:https://arxiv.org/abs/2607.05095
37. Localized LoRA-MoE: Block-wise Low-Rank Experts With Adaptive Routing
局部化LoRA-MoE:具有自适应路由的逐块低秩专家模型
AI 总结:研究针对大语言模型等依赖参数高效微调方法的局限,提出融合局部空间分块与动态上下文条件路由的Localized LoRA-MoE框架,介绍两种架构范式并证明其能解决静态基线优化死锁问题。
链接:https://arxiv.org/abs/2607.05114
38. PDEFlow: Autonomous Agentic PDE Pipelines for Neural Operator Learning and Solver-Free Inference
PDEFlow:用于神经算子学习和无求解器推理的自主智能偏微分方程管道
AI 总结:PDEFlow框架将用户的常微分方程和偏微分方程描述转化为基于求解器的神经算子管道,经多步骤实现问题规范、数据生成、算子训练及推理,能跨问题类别训练神经算子并提供无求解器预测。
链接:https://arxiv.org/abs/2607.05134
39. Physiological Noise Augmentation Improves Non-Invasive Brain-to-Speech
生理噪声增强改善非侵入性脑机语音
AI 总结:针对非侵入性脑机语音解码中因信噪比低致误码率高的问题,提出生理噪声增强方法,借鉴自动语音识别,用独立成分分析分解脑记录数据,经缩放和重新混合生成训练示例,提升解码精度。
链接:https://arxiv.org/abs/2607.05165
40. Advances in Neural Controlled Differential Equations
神经控制微分方程的进展
AI 总结:研究针对神经控制微分方程(NCDEs)训练与可扩展性问题,通过对数NCDEs、线性NCDEs、结构化线性NCDEs三种方法,提升计算速度与经验性能,减少训练时间并达最优表现。
链接:https://arxiv.org/abs/2607.05280
41. TabPack: Efficient Hyperparameter Ensembles for Tabular Deep Learning
TabPack:用于表格深度学习的高效超参数集成
AI 总结:研究表格深度学习中高效的多层感知器集成,提出TabPack,通过并行采样训练不同超参数的MLP并动态选成员,降低对传统调参依赖,默认设置性能与传统方法相当,减少调参工作量和计算资源。
链接:https://arxiv.org/abs/2607.05380
2. 表示学习、自监督与对比学习 | 9 篇
42. MABLE: Masked Autoencoding with Bi-Lipschitz Decoding for Embeddings and Graph Metric Learning
MABLE:用于嵌入和图度量学习的具有双利普希茨解码的掩码自动编码
AI 总结:提出MABLE框架,结合掩码重建与固定余弦相似度损失,用双利普希茨特征解码器等方法学习节点和图嵌入,应用于地理空间矿物勘探数据,在多项研究中展现优势。
链接:https://arxiv.org/abs/2607.02990
43. WeightCLIP: Aligning Datasets and Models for Weight Space Learning
WeightCLIP:为权重空间学习对齐数据集和模型
AI 总结:提出WeightCLIP方法,通过自动编码器和数据集编码器对神经网络及数据集样本编码,用对比目标对齐二者表征,学习数据集对齐的潜在空间,用于不同下游任务,还引入潜在细化过程。
链接:https://arxiv.org/abs/2607.03551
44. PIEFS: Physics-Informed Eigenfunction Features with Learnable Scaling
PIEFS:具有可学习缩放的物理信息本征函数特征
AI 总结:提出PIEFS框架,基于修正狄利克雷能量,通过经验Gram正交性、监督线性读出和狄利克雷惩罚训练标量坐标映射,能产生任务自适应坐标,实验支持其为紧凑监督光谱表示法并指出未来方向。
链接:https://arxiv.org/abs/2607.03692
45. Masked Generative-Contrastive Representation Learning for Cross-Dataset EEG-Based Emotion Recognition
用于跨数据集基于脑电图的情绪识别的掩码生成对比表示学习
AI 总结:提出掩码生成对比表示学习框架MGCRL用于跨数据集脑电图情绪识别,基于区域感知时空编码器,整合生成与对比学习,通过关键设计实现跨数据集泛化的细粒度和全局判别表示。
链接:https://arxiv.org/abs/2607.04139
46. Covert Trait Propagation Is Representation Alignment: Mechanistic Evidence from Hidden-Channel Distillation
隐蔽特征传播即表示对齐:来自隐藏通道蒸馏的机制证据
AI 总结:研究在MNIST的MLP蒸馏设置下,证明学生模型能继承教师数字分类能力,共享初始化使输出投影成为坐标关键,KL梯度重塑输入投影,隐蔽特征传播通过隐藏表示对齐实现,实验支持该机制。
链接:https://arxiv.org/abs/2607.04432
47. KinEMbed: Decoding Kinematics from Electromyography via Cross-Modal Contrastive Learning
KinEMbed:通过跨模态对比学习从肌电图中解码运动学
AI 总结:研究从表面肌电图解码手部运动学这一挑战,提出跨模态对比学习框架KinEMbed训练双编码器,用于手部运动学回归,在NinaPro DB8数据集上优于基线方法。
链接:https://arxiv.org/abs/2607.04820
48. Geometry-Aware Bayesian Quantification via Compositional Data Analysis
通过成分数据分析实现几何感知贝叶斯量化
AI 总结:研究适应标签转移中估计目标标签分布问题,基于对数比率表示和艾奇逊几何引入几何感知KDE模型及收缩正则化,推导点估计和贝叶斯推理程序,实验表明该方法有竞争力。
链接:https://arxiv.org/abs/2607.04977
49. Platonic Projection Structures: Operator-Induced Observability in Representation Learning
柏拉图投影结构:表示学习中的算子诱导可观测性
AI 总结:通过柏拉图投影结构刻画表示学习中的可观测性,该结构基于算子理论框架分析部分观测下的表示可达性,给出系统表示并通过商几何表征可观测性,还揭示输出解释性局限并统一相关视角。
链接:https://arxiv.org/abs/2607.05175
50. How Far is Too Far? Defining the Distance Threshold for Verification Siamese Networks
多远才算太远?定义验证孪生网络的距离阈值
AI 总结:研究如何定义验证孪生网络的距离阈值。基于孪生网络距离分布可由双峰函数近似的假设,提出无监督方法确定阈值,无需标注样本,在多数据集上评估,准确率达94%,媲美等错误率方法。
链接:https://arxiv.org/abs/2607.05329
3. 强化学习与序列决策 | 27 篇
51. Trading Confidence: Comprehensive Uncertainty Estimation in Algorithmic Trading
交易信心:算法交易中的综合不确定性估计
AI 总结:针对传统强化学习模型在金融交易动态环境中难以应对不确定性问题,提出含分布、认知和随机不确定性估计的框架,用多种方法增强估计,实验表明该框架下的强化学习智能体在收益和风险管理上表现更优。
链接:https://arxiv.org/abs/2607.02864
52. Reward Granularity in RLVR: Comparing Process and Outcome Reward Structures for Mathematical Reasoning in Small Language Models
强化学习中的奖励粒度:比较用于小语言模型数学推理的过程奖励和结果奖励结构
AI 总结:研究在小语言模型中通过强化学习提升数学推理能力,系统比较五种奖励条件,发现过程奖励能显著提高准确率和推理痕迹保真度,奖励粒度是重要设计决策。
链接:https://arxiv.org/abs/2607.02869
53. Dynamic Regret for Non-Stationary Linear Bandits via Misspecification Reductions
通过错误设定减少实现非平稳线性带型问题的动态遗憾
AI 总结:研究含特定轮次可行决策集的非平稳线性带型问题,针对现有方法局限,从统一错误设定减少视角,分块关联动态遗憾与固定参数线性带型基准,得出最优动态遗憾依赖。
链接:https://arxiv.org/abs/2607.02891
54. Integrating Physics-Informed Neural Networks for Safe Reinforcement Learning in a 1-DoF Helicopter System
在单自由度直升机系统中集成物理信息神经网络以实现安全强化学习
AI 总结:研究在单自由度直升机系统中,将可微物理模型嵌入近端策略优化(PPO)的行动者损失函数,通过模拟短期未来轨迹惩罚安全违规,减少约束违规并保持目标跟踪。
链接:https://arxiv.org/abs/2607.03125
55. ACPO: Adaptive Credit Policy Optimization via Fine-Grained Surrogate Entropy
ACPO:通过细粒度替代熵实现自适应信用策略优化
AI 总结:研究针对强化学习中稀疏奖励致令牌级信用分配难的问题,提出基于模式局部替代熵的ACPO框架,通过不对称调制策略更新改进信用分配,实验表明其优于多种强化学习基线。
链接:https://arxiv.org/abs/2607.03126
56. Anticipatory Reinforcement Learning for Trajectory Tracking
用于轨迹跟踪的预期强化学习
AI 总结:研究工业控制中深度强化学习因纯反应控制存在滞后和超调问题,引入预测公式扩充状态空间,用近端策略优化评估配置,仿真降误差,零样本转移到硬件有差距,简单配置可达复杂模型最佳性能。
链接:https://arxiv.org/abs/2607.03132
57. Sample-Efficient Pareto Front Modeling for Energy-Aware Reinforcement Learning Using Bayesian Optimization
用于能源感知强化学习的样本高效帕累托前沿建模:基于贝叶斯优化
AI 总结:解决能源感知强化学习中多目标问题,将权重选择过程转化为多目标贝叶斯优化问题,对比标准均匀网格搜索基线评估样本效率,结果表明该方法性能更优,能高效发现帕累托前沿。
链接:https://arxiv.org/abs/2607.03140
58. Amortising Bayesian Experimental Design for Sequential Information Gathering in LLMs
用于大语言模型中顺序信息收集的摊销贝叶斯实验设计
AI 总结:研究大语言模型在顺序决策中信息收集问题,提出摊销顺序信息收集方法,将贝叶斯实验设计融入模型策略,经实验验证该方法能有效提升成功率并降低推理成本。
链接:https://arxiv.org/abs/2607.03426
59. No Time Like the Present: Agentic Test-Time Training for LLM Agents
机不可失:大语言模型智能体的测试时训练
AI 总结:研究多轮智能体情节中的连续测试时训练,提出智能体测试时训练方法,通过token级重加权减少重复文本损失,构建并发服务系统,提升了在ALFWorld和SWE-bench Lite上的成功率。
链接:https://arxiv.org/abs/2607.03441
60. CDCP: Conditional Diffusion Model with Contextual Prompts for Multi-task Offline Safe Reinforcement Learning
CDCP:用于多任务离线安全强化学习的带上下文提示的条件扩散模型
AI 总结:针对多任务离线安全强化学习面临的挑战,提出CDCP模型。通过重新审视需求建立目标,用扩散模型转化问题,设计策略并引入新方法,提升性能与安全性,提供灵活成本约束解决方案。
链接:https://arxiv.org/abs/2607.03903
61. Mask-based Predictive Representations for Reinforcement Learning
基于掩码的强化学习预测表示
AI 总结:针对视觉深度强化学习中高维图像输入问题,受自然语言处理等启发,提出基于掩码预测的自监督任务作辅助,结合transformer提升强化学习样本效率,在多控制基准测试中优于现有方法。
链接:https://arxiv.org/abs/2607.04153
62. On the effectiveness of reward functions in reinforcement learning for confidence calibration of large language models
关于强化学习中奖励函数对大语言模型置信度校准的有效性
AI 总结:研究大语言模型用强化学习训练以提升推理准确性和表达置信度时,奖励函数的设计问题。提出不可破解置信奖励方案概念并定义相关奖励方案谱,指出实际数据集中存在的问题及最佳校准奖励方案因数据集和应用而异。
链接:https://arxiv.org/abs/2607.04332
63. RL Forgets! Towards Continual Policy Optimization
强化学习会遗忘!迈向持续策略优化
AI 总结:研究持续训练中强化学习易遗忘问题,引入MRCL基准测试,提出持续策略优化框架CPO,通过参数移动正则化减少遗忘,多模型规模实验验证了其有效性。
链接:https://arxiv.org/abs/2607.04364
64. Learning Task-Sufficient World Models by Synergizing Agentic Exploration and Structured Modeling
通过协同能动探索和结构化建模学习任务充分的世界模型
AI 总结:研究如何让智能体学习特定于任务、最小且足以决策的世界模型表示,通过智能体与世界模型闭环协同,智能体主动探索收集信息轨迹,世界模型学习结构化表示,提升样本效率和泛化能力。
链接:https://arxiv.org/abs/2607.04409
65. Operator-on-F complements value-equivalence: a planning-time diagnostic for latent world models
算子对F补充值等价性:潜在世界模型的规划时诊断
AI 总结:研究针对基于模型的强化学习中世界模型评估问题,引入算子对F诊断,通过模型自身预测器比较模型与环境的k步潜在前推,揭示其与规划回报的强关联及在跨架构比较中的作用,补充而非替代值等价性诊断。
链接:https://arxiv.org/abs/2607.04464
66. Regime-Conditional Stabilisation of LLM-Augmented Cooperative Multi-Agent Reinforcement Learning
大语言模型增强的合作多智能体强化学习的状态条件稳定化
AI 总结:研究大语言模型与合作多智能体强化学习集成时训练动态,指出非策略学习中动态更新奖励权重违反平稳假设。提出基于阶段的冻结计划和指数移动平均平滑两种稳定策略并评估,揭示奖励信号平稳性是必要设计约束。
链接:https://arxiv.org/abs/2607.04470
67. Two Black Boxes, One Solver: Encoder Probing and Decoder Attribution for Neural Multi-Attribute VRP under Hard-Mask and Recourse Decoders
两个黑箱,一个求解器:硬掩码和追索解码器下神经多属性车辆路径规划问题的编码器探测与解码器归因
AI 总结:研究神经自回归求解器解决多属性车辆路径规划问题,通过线性探测等方法打开编码器黑箱,用三种归因方法打开解码器黑箱,从多方面对解释进行评分,发现多种影响及特性。
链接:https://arxiv.org/abs/2607.04487
68. A Few Teacher Steps Go a Long Way: Cost-Efficient On-Policy Data Augmentation for Agent Post-Training
教师的少量步骤作用显著:智能体训练后基于策略的数据增强的成本效益
AI 总结:研究针对大语言模型智能体,将基于策略的数据构建视为预算分配问题,通过特定方式形式化设计空间,在多个任务中实验表明少量教师步骤在学习者诱导情境下更具成本效益。
链接:https://arxiv.org/abs/2607.04574
69. Beyond the Need for Speed: Energy-Aware Code Generation via Simulation-Guided Reinforcement Learning
超越速度需求:通过模拟引导强化学习实现能源感知代码生成
AI 总结:研究针对代码模型忽视软件能源效率问题,用确定性架构模拟构建数据集,经监督微调与闭环强化学习训练能源感知代码模型,引入新指标评估,提升能源效率,揭示问题并开源数据,助力社区。
链接:https://arxiv.org/abs/2607.04577
70. RSPO: Reward-Swap Policy Optimization for Multi-Turn LLM Agents
RSPO:用于多轮语言模型智能体的奖励交换策略优化
AI 总结:研究多轮语言模型智能体训练问题,针对稀疏结果奖励训练收敛慢等问题,提出奖励交换策略优化方法,利用密集过程奖励信息,确保轨迹多样性和目标与真实奖励一致性,提升模型性能。
链接:https://arxiv.org/abs/2607.04713
71. RL-Ballast: Ship Ballast Water Path Planning and Clog Prediction via Reinforcement Learning
RL-Ballast:通过强化学习进行船舶压载水路径规划和堵塞预测
AI 总结:针对船舶压载水控制问题,提出基于图的深度强化学习框架RL-Ballast,将阀门排列问题转化为可行路径,利用堆叠水箱水位等近似部分可观测环境,能自适应规划路径并进行堵塞诊断。
链接:https://arxiv.org/abs/2607.04906
72. Non-Convex Sparse Reinforcement Learning via Non-Monotone Inclusions
通过非单调包含关系的非凸稀疏强化学习
AI 总结:研究针对强化学习中高效特征选择及非单调包含关系理论。核心方法是用非凸投影极小极大凹惩罚增强传统正则化。贡献是给出收敛条件,数值测试显示该方法在非凸正则化LSTD问题上优于现有方法。
链接:https://arxiv.org/abs/2607.04990
73. Relational Multi-Agent Reinforcement Learning for Dynamic Pricing in High-Speed Railway Markets
高速铁路市场动态定价的关系型多智能体强化学习
AI 总结:针对高铁市场动态定价问题,提出实体图建模法,将环境表示为运营单元图。基于此扩展多智能体双延迟深度确定性策略梯度算法,经关系图卷积网络处理实体特征,实验表明该框架能提升收益与稳定性。
链接:https://arxiv.org/abs/2607.05179
74. Adaptive Inference Batching using Policy Gradients
使用策略梯度的自适应推理批处理
AI 总结:研究强化学习能否学习优于传统启发式的自适应批处理和路由策略,在离散事件模拟器上训练智能体,发现在单GPU设置下RL优势有限,多GPU异构路由中RL可显著提升性能。
链接:https://arxiv.org/abs/2607.05272
75. TREK: Distill to Explore, Reinforce to Refine
TREK:通过蒸馏探索,强化优化
AI 总结:研究针对GRPO在硬提示上难推进的问题,提出TREK方法,借助蒸馏 扩大探索支持,先识别低通过率提示,获取候选解,经前向KL将验证模式纳入学生支持,再用GRPO优化,在多项任务上有提升。
链接:https://arxiv.org/abs/2607.05339
76. CompactionRL: Reinforcement Learning with Context Compaction for Long-Horizon Agents
CompactionRL:用于长视野智能体的上下文压缩强化学习
AI 总结:针对长视野智能体受上下文窗口限制问题,提出CompactionRL策略,通过令牌级损失归一化和跨轨迹广义优势估计,联合优化任务执行与摘要生成,在编码任务上有性能提升。
链接:https://arxiv.org/abs/2607.05378
77. Weak-to-Strong Generalization via Direct On-Policy Distillation
通过直接策略蒸馏实现从弱到强的泛化
AI 总结:研究从弱到强的强化学习方法,在小模型便宜地进行强化学习,然后用学到的改进更强目标模型,提出直接策略蒸馏,转移教师策略转变,直接复用弱模型监督信号,提升目标模型。
链接:https://arxiv.org/abs/2607.05394
4. 生成模型与概率建模 | 15 篇
78. Post-Generation Curation of Synthetic Images via Homogeneous-Heterogeneous Splitting
通过同构-异构分割对合成图像进行生成后筛选
AI 总结:研究给定固定合成图像池,能否通过选择信息子集提高下游效用。基于生成器倾向,将真实类别分为同构和异构子集,用保真度-多样性标准评分,该方法与生成器无关且无需再训练,效果良好。
链接:https://arxiv.org/abs/2607.02637
79. On the Design Space of Discrete Diffusion Online Adaptation for Molecular Optimization
关于分子优化的离散扩散在线适应设计空间
AI 总结:研究离散扩散模型的适应问题,通过控制实验发现获取、奖励塑造、模型去偏等方法互补,重放稳定学习,有效性惩罚限制小分子探索,给出反馈高效的分子优化实用方法,优于离线微调等基线。
链接:https://arxiv.org/abs/2607.02834
80. A Bayesian Framework for Evaluating Scenario Compatibility in Generative Population Synthesis
用于评估生成性人口合成中情景兼容性的贝叶斯框架
AI 总结:研究情景目标与生成模型的兼容性问题,提出基于集成的贝叶斯更新框架,通过人口感知条件变分自编码器学习分布,用有效样本量量化兼容性,为情景可行性和结构一致性评估提供诊断模型。
链接:https://arxiv.org/abs/2607.03190
81. Statistically Meaningful Geometry (SMG) Beyond the Euclidean Paradigm, with Application to Generative AI
超越欧几里得范式的统计有意义几何(SMG)及其在生成式人工智能中的应用
AI 总结:研究大规模过参数化模型问题,引入SMG框架,将确定性参数模型提升到无限维非参数Orlicz统计流形,建立双重推理范式,证明可抑制生成幻觉并消除灾难性遗忘。
链接:https://arxiv.org/abs/2607.03329
82. PedestrianDiffusion: Multimodal Generative Denoising and Dense State Estimation for Inertial Navigation
行人扩散:用于惯性导航的多模态生成去噪和密集状态估计
AI 总结:针对消费级惯性导航受MEMS随机噪声限制问题,提出PedestrianDiffusion框架,将密集6D状态估计转化为连续条件去噪过程,引入零样本语义条件机制,用ODE求解器提升性能,在多基准测试中达先进水平。
链接:https://arxiv.org/abs/2607.03349
83. Mixture-of-Gaussians-Guided Schedule Design for Brownian Bridge Diffusion Models
用于布朗桥扩散模型的高斯混合引导调度设计
AI 总结:研究为布朗桥扩散模型开发调度设计框架,基于高斯混合先验分析其反向动力学,得出理想后验和去噪器,据此制定两个调度设计目标,揭示权衡并证明通用调度存在,实验验证其价值。
链接:https://arxiv.org/abs/2607.03517
84. Reflected Schrödinger Bridge Matching
反射薛定谔桥匹配
AI 总结:研究如何训练反射薛定谔桥,提出部分无模拟框架,类似流匹配训练,采用新采样方法和回归目标,耦合高维图像数据集验证,训练和推理时增加时间可忽略,性能保持或提升。
链接:https://arxiv.org/abs/2607.03626
85. Tensor-Train Joint Modeling for Few-Step Discrete Diffusion
用于少步离散扩散的张量训练联合建模
AI 总结:研究离散扩散少步生成潜力受限问题,用张量分解进行联合分布建模,支持多种分解方式,提出迭代边际推理程序,通过微调预训练模型大幅提升少步生成效果。
链接:https://arxiv.org/abs/2607.03788
86. Stable Global Weighting of Flow Mixtures using Simplex Exponential Moving Average
使用单纯形指数移动平均对流混合进行稳定全局加权
AI 总结:研究归一化流在不同后验几何中泛化问题,提出AMF-VI-sEMA两阶段框架,基于单纯形指数移动平均更新实现稳定全局加权,能自适应分配容量,避免组件崩溃,实验效果优于之前方法。
链接:https://arxiv.org/abs/2607.03809
87. Asymptotic-Preserving A Posteriori Analysis of Diffusion and Flow-Matching Samplers
扩散与流匹配采样器的渐近保持后验分析
AI 总结:研究将最小标准差视为奇异摄动参数,通过后验审计确定固定步长采样器的渐近保持性,分析不同时钟在终端层的稳定性及准确性,在特定模型上验证确定性和随机采样器特性,并用于EDM CIFAR-10检查点分析。
链接:https://arxiv.org/abs/2607.04113
88. Signal or Noise? Understanding Generative Models for Real-World Sensor Time Series
信号还是噪声?理解用于现实世界传感器时间序列的生成模型
AI 总结:研究针对现实世界传感器时间序列生成模型碎片化问题,引入SensorGen大规模研究,评估五个主要家族的生成模型,发现流匹配模型性能强、信号属性重要、生成信号有实用价值。
链接:https://arxiv.org/abs/2607.04245
89. One Framework for All: Cross-Modal Membership Inference for Generative Models
一框架适用于所有:生成模型的跨模态成员推理
AI 总结:研究生成模型的跨模态成员推理问题,基于生成模型输出分布可近似训练数据分布的特性,在共享嵌入空间建模,通过似然比测试推理,贡献统一框架,性能优于现有方法。
链接:https://arxiv.org/abs/2607.04339
90. MARLIN: De Novo Molecular Structure Elucidation from Tandem Mass Spectra without a Ground-Truth Formula
MARLIN:从串联质谱中进行从头分子结构解析,无需真实分子式
AI 总结:研究针对无分子式的串联质谱,提出MARLIN方法,通过自监督编码器和语言模型生成候选结构,用质量壳约束等确保准确性,在无真实分子式情况下表现出色,能可靠解析结构。
链接:https://arxiv.org/abs/2607.04774
91. FUSE: FK-Steered Multi-Modal Flow Matching for Efficient Simulation-Based Posterior Estimation
FUSE:用于基于高效模拟的后验估计的FK引导多模态流匹配
AI 总结:研究基于模拟的推理中多模态建模问题,提出FUSE方法,采用双轨架构和FK引导采样策略,提升样本质量,在标准基准和系外行星轨道估计任务中表现优于现有方法。
链接:https://arxiv.org/abs/2607.05252
92. What Does a Discrete Diffusion Model Learn?
离散扩散模型学到了什么?
AI 总结:研究离散扩散模型学到了什么,通过严格推导连续时间马尔可夫链(CTMC)的ELBO,证明了Oracle Distance定理,给出其唯一优化器及不可约成本,还分析了有token分解噪声序列的情况。
链接:https://arxiv.org/abs/2607.05381
5. 优化、泛化与理论分析 | 20 篇
93. CuBAS: Information Geometric Curvature-Based Adaptive Sampling for Supervised Classification
CuBAS:基于信息几何曲率的监督分类自适应采样
AI 总结:介绍基于q态Potts马尔可夫随机场模型的监督分类自适应数据选择框架CuBAS,通过局部曲率编码数据分布几何复杂性,构建训练子集,实验证明其优于随机采样和基于不确定性的基线。
链接:https://arxiv.org/abs/2607.03145
94. Joint distribution of upstream runoff governs downstream river-discharge prediction uncertainty in distributed ML models
分布式机器学习模型中上游径流联合分布对下游河流量预测不确定性的影响
AI 总结:研究分布式水文模型中从集总到分布式概率预测转变的新要求,以日本为例,通过训练概率径流LSTM及路由方案,发现需关注径流不确定性空间联合结构,简单分位数匹配可恢复分散性。
链接:https://arxiv.org/abs/2607.03217
95. Unbiased Alignment for Large Language Models with Noisy Preferences
具有噪声偏好的大语言模型的无偏对齐
AI 总结:研究大语言模型与人类偏好对齐问题,针对真实偏好数据集中噪声大的问题,提出无偏对齐理论框架,引入新损失函数,能直接从噪声数据集无偏训练模型,实验表明优于现有基线。
链接:https://arxiv.org/abs/2607.03248
96. On the Convergence of Adam, Revisited
再谈Adam算法的收敛性
AI 总结:研究在线优化中投影Adam算法,通过特定线性函数序列证明任意时刻衰减参数下平均遗憾值有界非零,结果扩展到多种Adam变体及相关序列。
链接:https://arxiv.org/abs/2607.03519
97. Implicit Bias of SGD in Multivariate ReLU Networks: Effective Width Collapse
多元ReLU网络中随机梯度下降的隐式偏差:有效宽度坍缩
AI 总结:研究训练多元回归的宽两层ReLU网络时噪声随机梯度下降的隐式偏差,用Wasserstein梯度流近似训练动力学,刻画平稳测度结构及预测器,表明网络虽无限超参数化但有效宽度坍缩,其复杂度由训练数据组合几何决定。
链接:https://arxiv.org/abs/2607.03613
98. Validation-Induced Shapley Shifts: How Validation Structure Distorts Data Valuation
验证诱导的沙普利值偏移:验证结构如何扭曲数据评估
AI 总结:研究发现对验证集的微小改变会致沙普利值分布方向偏移,训练样本沙普利值向零压缩,追踪至噪声诱导邻域重排效应,用KNN-沙普利框架验证,提出策略减轻扭曲。
链接:https://arxiv.org/abs/2607.03675
99. Adversarial LassoNet: Robust Feature Selection via Stability-Driven Sparse Learning
对抗拉索网络:通过稳定性驱动的稀疏学习进行鲁棒特征选择
AI 总结:针对高维机器学习中传统方法在噪声下不稳定的问题,提出对抗拉索网络,集成对抗扰动与拉索网络分层稀疏机制及一阶近似,实验表明其提升了分布外鲁棒性与特征支持再现性。
链接:https://arxiv.org/abs/2607.03839
100. A Unified Framework for Quantized and Continuous Strong Lottery Tickets
量化与连续强彩票假说的统一框架
AI 总结:研究强彩票假说在量化设置下的情况,通过分析离散设置下的随机子集和问题,得出量化情况下的强彩票假说保证,改进失败概率边界并统一相关文献。
链接:https://arxiv.org/abs/2607.03860
101. A Gradient Flow Perspective on Minimum MMD Estimation
最小最大均值差异估计的梯度流视角
AI 总结:针对最小最大均值差异(MMD)估计优化问题理解不足,提出预处理梯度下降(PGD)方案,在特定条件下建立渐近全局收敛性,实证表明该方案在多问题上优于标准梯度下降。
链接:https://arxiv.org/abs/2607.03871
102. Directional Curvature from Armijo Backtracking: A Low-Cost Sharpness Probe and a Calibration-Free Learning-Rate Safeguard for Adam
基于阿米尔乔回溯的方向曲率:Adam的低成本锐度探测和无校准学习率保障
AI 总结:研究利用阿米尔乔回溯线搜索获取损失函数局部锐度信息,通过接受步长估算方向曲率,给出低成本在线稳定性边界读数,还能给出学习率上限保障Adam对大初始学习率的鲁棒性。
链接:https://arxiv.org/abs/2607.03998
103. OmniOpt: Taxonomy, Geometry, and Benchmarking of Modern Optimizers
OmniOpt:现代优化器的分类法、几何结构及基准测试
AI 总结:针对大规模模型训练的优化器选择受多种因素制约且方法零散,介绍OmniOpt,通过五阶段元管道、规范约束线性最小化预言机等构建统一分类法和跨域基准测试,为优化器选择提供操作坐标系。
链接:https://arxiv.org/abs/2607.04033
104. MDL Meets Latent Confounders: LNML-based Causal Discovery
MDL 与潜在混杂因素:基于 LNML 的因果发现
AI 总结:研究非线性机制和潜在混杂因素下的因果发现难题,提出基于最小化运气归一化最大似然(LNML)码长的因果发现框架,用贪心算法确定变量对因果关系,能准确恢复因果关系并检测潜在混杂因素。
链接:https://arxiv.org/abs/2607.04133
105. Structure-Specific Representational Priors Causally Control the Grokking Delay
特定结构的表征先验因果性地控制顿悟延迟
AI 总结:研究通过向单层变压器学习模块化加法中注入不同结构内容的表征先验,因果性测试顿悟延迟是否衡量形成任务结构化表征的时间,发现只有真实结构能加速顿悟,证明顿悟延迟是形成正确表征结构的时间。
链接:https://arxiv.org/abs/2607.04333
106. How Many Initial Points Does Bayesian Optimization Need?
贝叶斯优化需要多少初始点?
AI 总结:研究贝叶斯优化初始点数量选择问题,发现初始点数量与总成本呈U型关系,不同超参数和采集函数都存在此权衡,汤普森采样是例外,还给出实用建议。
链接:https://arxiv.org/abs/2607.04356
107. Knowledge-Informed Local Causal Discovery of Optimal Adjustment Sets
最优调整集的知识驱动局部因果发现
AI 总结:针对局部因果发现难以在数据稀缺时识别有效调整集的问题,提出b-LOAD算法,将先验边约束融入局部结构学习,动态扩展发现边界,可扩大可识别因果查询集,提升因果效应估计。
链接:https://arxiv.org/abs/2607.04447
108. Reliability and Identifiability in Persona-Trained Monte Carlo: Variance Decomposition, Stability Bounds, and the Identifiability of Heterogeneous News Reaction
个性化训练蒙特卡罗中的可靠性与可识别性:方差分解、稳定性界限及异质新闻反应的可识别性
AI 总结:研究个性化训练蒙特卡罗估计市场结果泛函分布的统计理论,分解估计器方差,给出无偏估计,推导计算预算分配,给出稳定性界限和异质新闻反应识别理论等。
链接:https://arxiv.org/abs/2607.04627
109. Probably Correct Optimal Stable Matching under Two-Sided Uncertainty
双边不确定性下可能正确的最优稳定匹配
AI 总结:研究双边市场稳定匹配的序贯学习问题,在半带反馈结构下,通过处理双边不确定性和利用部分偏好信息,采用纯探索视角,提出算法并分析样本复杂度,还扩展到遗憾最小化。
链接:https://arxiv.org/abs/2607.04824
110. Sensitivity Sampling with Predictions for k-Means Clustering
基于预测的k均值聚类敏感性采样
AI 总结:研究k均值聚类问题,利用预测近似输入点重要性以降低基于敏感性的方法运行时间,证明相关理论对更粗敏感性近似成立,提出自然预测器并通过实验验证其优势。
链接:https://arxiv.org/abs/2607.04949
111. Functional Bilevel Optimization for Predictive Fairness
用于预测公平性的函数式双层优化
AI 总结:研究连续高维敏感属性时的公平性问题,通过DPVar考虑平均人口统计学均等,提出FBO和ITD算法解决函数式双层问题,在合成数据等上表现优。
链接:https://arxiv.org/abs/2607.05098
112. Grokking Is Conditional and Fragile: A Fully-Tractable, Multi-Seed Study at 12K Parameters
理解是有条件且脆弱的:对12K参数的完全可处理多种子研究
AI 总结:研究11856参数的Llama风格变压器在模运算中的理解现象,通过多种子速率衡量,发现理解是有条件且脆弱的相变,受训练集覆盖度影响,还介绍了权重衰减等情况及多种子控制的作用。
链接:https://arxiv.org/abs/2607.05104
6. 高效学习、压缩与部署 | 11 篇
113. Less Tokens, Better Forecasts: Sparse Residual Routing for Efficient Weather Prediction
更少令牌,更优预测:用于高效天气预报的稀疏残差路由
AI 总结:研究针对现有基于ViT的天气预报模型计算冗余问题,提出无参数插件路由模块Sparse-Reslim,通过稀疏令牌处理兼顾固定网格要求,提升预报精度并大幅降低成本。
链接:https://arxiv.org/abs/2607.02829
114. Variable Bit-width Quantization: Learning Per-Group Precision for "Bigger-but-Smaller" Language Models
可变比特宽度量化:为“更大但更小”的语言模型学习每组精度
AI 总结:研究提出可变比特宽度量化(VBQ),通过Gumbel-Softmax松弛为每组64个权重学习分辨率,经交替优化联合训练。VBQ能实现强异构分配,有更好存储效率和推理加速,还揭示了深层自修复量化误差机制。
链接:https://arxiv.org/abs/2607.02893
115. OmniFocus: Query-Guided Modality-Balanced Token Compression for Omni-Modal Large Language Models
OmniFocus:用于全模态大语言模型的查询引导模态平衡令牌压缩
AI 总结:研究全模态大语言模型推理成本高的问题,提出无训练的查询引导令牌压缩方法OmniFocus,独立评估音视频重要性,实现模态对称压缩,提升性能。
链接:https://arxiv.org/abs/2607.03050
116. LACE-SVD: Loss-Aware SVD with Cumulative Error Correction for LLM Compression
LACE-SVD:用于大语言模型压缩的带累积误差校正的损失感知奇异值分解
AI 总结:针对大语言模型参数规模增长需求,提出LACE-SVD框架,先依候选压缩率估算损失增加量分配秩预算,再用局部更新和误差校正优化模型,降低累积误差传播,效果优于现有方法。
链接:https://arxiv.org/abs/2607.03057
117. AdaptiveSD A Stability-Aware, Runtime-Adaptive Speculative Decoding Framework with Multi-Policy Orchestration for CPU-Constrained LLM Inference
AdaptiveSD:一种用于CPU受限的大语言模型推理的、具有多策略编排的稳定性感知、运行时自适应推测解码框架
AI 总结:针对小量化GGUF语言模型在设备推理中面临的问题,提出AdaptiveSD框架,由四个组件协同工作,基于多关键指标评估,可确保模型在多种场景下稳健可靠执行。
链接:https://arxiv.org/abs/2607.03876
118. Quantize the Target, Quantize the Drafter: Efficient Inference with Qwen3.5-4B
量化目标,量化草稿生成器:使用Qwen3.5 - 4B进行高效推理
AI 总结: 研究旨在在资源受限的NVIDIA A10G GPU上实现Qwen3.5 - 4B的低延迟服务。核心方法是结合量化目标模型与推测性解码,通过量化感知蒸馏恢复精度,训练专用草稿生成器加速解码,还用量化等减少开销。贡献是实现加速并满足质量阈值,排名第三。
链接:https://arxiv.org/abs/2607.04244
119. HiFA4: Training-Free 4-bit FlashAttention on Ascend HIF4 NPUs for LLM Inference
HiFA4:用于大语言模型推理的昇腾HIF4 NPU上的免训练4位FlashAttention
AI 总结:HiFA4是一种训练后算子级设计,在昇腾NPU上用4位HIF4 Cube GEMM执行QK^T和PV进行大语言模型推理,结合Smooth-QK和P-Reordering机制,减少量化决策漂移,提升准确率。
链接:https://arxiv.org/abs/2607.04302
120. SAD-LoRA: Spectral Alignment for Low-Rank Knowledge Distillation
SAD-LoRA:低秩知识蒸馏的谱对齐
AI 总结:提出SAD-LoRA方法用于低秩知识蒸馏,从数据加权学生空间参考更新中选择权重子空间,通过可微主角度损失训练,减少子空间错位,提升对齐效果,提高秩效率。
链接:https://arxiv.org/abs/2607.04306
121. Full-Stack FP4: Stable LLM Pretraining with Quantized Projections, Optimizers, and Attention
全栈FP4:通过量化投影、优化器和注意力进行稳定的语言模型预训练
AI 总结:研究针对4位预训练中优化器状态等未充分探索的问题,提出全栈FP4框架。通过模块精度策略解决稳定性瓶颈,如用LoRA-SVD抑制量化噪声,设计优化器变换,采用混合精度方案,实现稳定高效的端到端预训练。
链接:https://arxiv.org/abs/2607.04422
122. Lyapunov-Guided Training for Hardware-Safe Neural Networks Under Fixed-Point Arithmetic
定点运算下硬件安全神经网络的李雅普诺夫引导训练
AI 总结:针对定点运算中低精度神经网络的问题,提出李雅普诺夫稳定量化框架,通过层状李雅普诺夫函数监测隐藏状态能量,应用单调投影确保状态稳定,实验表明该方法可抑制激活溢出并恢复稳定学习。
链接:https://arxiv.org/abs/2607.04531
123. KVpop -- Key-Value Cache Compression with Predictive Online Pruning
KVpop——基于预测在线剪枝的键值缓存压缩
AI 总结:研究键值缓存增长瓶颈,介绍KVpop通过直接监督保留或丢弃决策学习固定预算键值逐出策略,有新计分器及延迟内存计分器,在数学推理任务中压缩缓存时性能优于基线。
链接:https://arxiv.org/abs/2607.05061
7. 联邦学习、隐私与安全 | 10 篇
124. Federated Learning for Object Detection: Enabling Collaborative Drone Learning Without Centralizing Data
用于目标检测的联邦学习:实现无需集中数据的协作式无人机学习
AI 总结:研究将联邦学习应用于无人机目标检测,通过本地保留图像数据实现隐私保护,在KIIT - MiTA数据集上实现联邦目标检测管道,对比单无人机和集中式基线,结果显示该方法可实现分布式无人机机群的可扩展、高性能且隐私保护的目标检测。
链接:https://arxiv.org/abs/2607.02636
125. Decentralised Federated Learning over Temporal Networks: The Role of Heterogeneities
时间网络上的去中心化联邦学习:异质性的作用
AI 总结:研究去中心化联邦学习中结构和时间异质性的作用,通过映射揭示其与随机游走扩散过程的关系,指出忽视异质性会使收敛不切实际地快,分析现实网络发现异质性常致扩散和收敛变慢。
链接:https://arxiv.org/abs/2607.03171
126. FedAvg for HAR: Exploring the Tradeoff Between Personalized and Generalization Accuracy
用于HAR的FedAvg:探索个性化与泛化精度之间的权衡
AI 总结:研究联邦学习中模型个性化与泛化能力的权衡,设计实现多种测试场景,将FedAvg算法用于人类活动识别领域进行实验,呈现结果以了解权衡情况。
链接:https://arxiv.org/abs/2607.03334
127. FedACT: Federated Adaptive Coordinate Trust Modulation for Robust Transformer Training under Data Heterogeneity
FedACT:数据异构下用于稳健Transformer训练的联邦自适应坐标信任调制
AI 总结:研究数据异构下联邦Transformer训练问题,提出FedACT方法,先形成全局校正自适应方向,再依坐标信任分数重分配更新幅度,实验表明其优于基线,能提升跨客户端方向一致性。
链接:https://arxiv.org/abs/2607.03763
128. FedSPM: Routing-Enabled Federated Learning under Dual Heterogeneity via Semiparametric Mixture
FedSPM:通过半参数混合在双重异质性下实现支持路由的联邦学习
AI 总结:针对路由预测联邦学习中未考虑客户端内潜在亚群致双重异质性影响路由和预测的问题,提出FedSPM框架,用特定客户端潜在组件表示客户端,结合分类预测与路由特征分布,开发算法并证明收敛,实验验证其有效性。
链接:https://arxiv.org/abs/2607.04085
129. FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering
FedFFT:通过频谱扰动滤波驯服联邦 SAM 中的客户端漂移
AI 总结:研究联邦学习中客户端漂移问题,从频域新视角提供实验证据,提出 FedFFT 方法,过滤 SAM 扰动低频成分,无需额外通信,实验表明该方法在多基准和骨干网络中表现出色。
链接:https://arxiv.org/abs/2607.04170
130. SpecGradFilter: A Spectral Gradient Filtering Framework for Taming Federated Heterogeneity
SpecGradFilter:用于驯服联邦异构性的谱梯度滤波框架
AI 总结:研究联邦学习中统计异构性问题,从频域视角发现漂移谱偏差,提出SpecGradFilter框架,通过抑制低频信号驯服异构性,实验证明其在高非IID设置下性能优且通信开销小。
链接:https://arxiv.org/abs/2607.04189
131. Channel-Adaptive Robust Aggregation for Over-the-Air Federated Learning in Heterogeneous Networks
异构网络中用于空中联邦学习的信道自适应鲁棒聚合
AI 总结:针对物联网等隐私保护、数据密集型应用需求,提出CHARGE-FL框架,基于信道动态和应用就绪情况自适应调度聚合,结合优化策略与预编码机制,提升无线条件下的精度、稳定性和收敛性。
链接:https://arxiv.org/abs/2607.04218
132. F-ACVAE: A Federated Adaptive Conditional Variational Auto-Encoder for Privacy-Preserving Intrusion Detection in IoT Networks
F-ACVAE:用于物联网网络中隐私保护入侵检测的联邦自适应条件变分自编码器
AI 总结:针对物联网设备网络中入侵检测面临的挑战,提出F-ACVAE框架,通过选择性参数聚合实现跨设备协作训练,引入新策略增强稳定性,实验表明其检测性能高且通信开销低。
链接:https://arxiv.org/abs/2607.04698
133. Towards Personalized Differentially Private Learning for Decentralized Local Graphs
面向去中心化局部图的个性化差分隐私学习
AI 总结:研究去中心化局部图隐私学习问题,提出PPGNN框架,含个性化扰动机制和加权校准策略,能平衡隐私保护与数据效用。
链接:https://arxiv.org/abs/2607.04777
8. 鲁棒性、不确定性与可信学习 | 3 篇
134. Weighted Conformal Prediction for Lab-to-Track Thermal Transfer in EV Motorsport Powertrains
电动汽车赛车动力系统中从实验室到赛道热传递的加权共形预测
AI 总结:研究电动汽车动力系统热波动预测中实验室到赛道的转移问题,采用共形预测方法,实施EnbPI并校准,引入加权EnbPI提升覆盖率,应用于F1遥测数据作诊断,指出共形域适应有前景但未完全解决问题。
链接:https://arxiv.org/abs/2607.02722
135. Robustness Meets Uncertainty: Evidential Adversarial Training for Robust Selective Classification
稳健性与不确定性相遇:用于稳健选择性分类的证据对抗训练
AI 总结:研究安全关键应用中分类器的稳健性与可靠性,通过选择性分类视角探讨差距,引入统一基准,提出证据对抗训练方法,提升稳健性与不确定性权衡,优于现有对抗训练方法。
链接:https://arxiv.org/abs/2607.03075
136. Counterfactual Methods for Detecting Unfairness in Anti-Money Laundering Algorithms
反洗钱算法中检测不公平性的反事实方法
AI 总结:研究利用反事实方法,通过合成数据集构建账户国家及平均行为等特征,提升多种机器学习模型预测性能,并通过反事实路径特定效应分析评估潜在不公平性,揭示预测准确性与公平性的权衡。
链接:https://arxiv.org/abs/2607.05101
9. 图学习与结构化数据 | 11 篇
137. Poisson-Gamma Modeling of Inter-Relational Dependencies in Dynamic Knowledge Graphs
动态知识图谱中关系间依赖的泊松-伽马建模
AI 总结:针对动态知识图谱的时间和关系依赖建模难题,提出PGRE模型,用泊松-伯努利公式表示多关系时间链接,引入伽马分布潜变量,通过伽马马尔可夫过程建模潜变量时间演化,实验表明该模型在链接预测上性能良好。
链接:https://arxiv.org/abs/2607.02872
138. Heterogeneous Graph Condensation via Role-Aware Clustering
通过角色感知聚类实现异构图压缩
AI 总结:针对大规模异构图上HGNN训练计算量大的问题,提出HGC - RC框架。先经轻量级传播提取节点嵌入,再用角色感知混合聚类策略,最后重构紧凑异构图,有效加速HGNN训练且不牺牲性能。
链接:https://arxiv.org/abs/2607.03097
139. A Near-Linear-Time Solver for Graph $p$-Laplacian Semi-Supervised Learning via Continuation in $p$
通过在p中延续求解图p - 拉普拉斯半监督学习的近线性时间求解器
AI 总结:研究图p - 拉普拉斯半监督学习问题,提出通过在p中进行阻尼弦牛顿延续求解,将其转化为源形式非线性拉普拉斯流,能有效解决现有问题,给出时间和内存优势及对比结果。
链接:https://arxiv.org/abs/2607.03503
140. Graph Classification via Network Usable Information: From Representation Evaluation to Structure Selection
通过网络可用信息进行图分类:从表示评估到结构选择
AI 总结:提出NetinfoGC框架,将网络可用信息范式扩展到图级学习。基于传播机制和经典结构描述符构建图表示,用聚类一致性估计网络可用信息,通过稀疏组LASSO正则化选择结构描述符,实验验证其有效性。
链接:https://arxiv.org/abs/2607.03587
141. Target-Aware Interaction-Guided Reinforcement Learning for Black-Box Node Injection Attacks on Graph Neural Networks
针对图神经网络的黑盒节点注入攻击的目标感知交互引导强化学习
AI 总结:研究针对图神经网络黑盒节点注入攻击问题,提出TIRBA方法,将攻击建模为马尔可夫决策过程,通过设计目标感知交互编码器、引入类中心引导机制和采用拓扑差异感知状态值评估来联合优化节点特征生成与边构建,性能优于现有方法。
链接:https://arxiv.org/abs/2607.04091
142. Physics-Informed Graph Learning with Uncertainty Awareness for Open-Set Domain Generalization in Fault Diagnosis
用于故障诊断中开放集域泛化的具有不确定性感知的物理信息图学习
AI 总结:针对旋转机械故障诊断面临的未知故障类型和工况变化导致的域转移挑战,提出PGU - OD框架,通过设计物理信息谱注意力模块、构建不确定性感知自适应图学习机制及开发相关损失函数和推理策略,提升故障诊断性能。
链接:https://arxiv.org/abs/2607.04188
143. Measuring What Matters: A Unified Evaluation Framework for GNN Explainability
衡量重要因素:GNN可解释性的统一评估框架
AI 总结:研究为G-XAI引入统一量化基准框架,无需真实假设,形式化表格可解释性指标,通过大规模基准研究确定跨指标和任务的帕累托前沿解释器并给出可用性指南。
链接:https://arxiv.org/abs/2607.04600
144. Active Learning on Adversarially Corrupted Graphs
对抗性损坏图上的主动学习
AI 总结:针对恶意实体篡改网络的场景定义模型,设计主动学习算法,通过少量标签查询高效找出损坏顶点子集,所设计算法依对手能力和图的顶点扩展多项式地确定查询复杂度。
链接:https://arxiv.org/abs/2607.04869
145. Hyperparameter Transfer in Graph Neural Networks
图神经网络中的超参数转移
AI 总结:研究图神经网络超参数转移,开发并验证适用于多种优化器的转移参数化,通过理论分析和实验表明其能实现稳定特征更新、学习率转移及性能提升,为不同任务和场景缩放图神经网络提供实用方法。
链接:https://arxiv.org/abs/2607.05017
146. MeGA-MP: Metric Graph Advection Message Passing -- A Physics-Informed Message Passing Operator for Advection-Dominated Metric Graphs
MeGA-MP:度量图平流消息传递——一种用于平流主导度量图的物理信息消息传递算子
AI 总结:针对平流主导的度量图,提出物理信息消息传递算子,将线性平流编码为归纳偏差,纯平流时可恢复精确动力学,结合MLP等可处理现实中的平流-反应动力学,性能优于基线。
链接:https://arxiv.org/abs/2607.05167
147. GeoFlow: Geo-Aware Modeling of Inter-Area Relationships in Origin-Destination Flow Prediction and Generation
GeoFlow:源-目的地流量预测与生成中区域间关系的地理感知建模
AI 总结:研究源-目的地流量建模,提出GeoFlow框架,通过增强区域表示、采用融合编码器和解码器来建模,还与流量匹配模型结合用于生成,提升预测准确性、生成保真度和多样性。
链接:https://arxiv.org/abs/2607.05257
10. 迁移、元学习与持续学习 | 7 篇
148. Labeled-Data-Free Meta-Learning: Efficient Task Generation Using Pre-trained Models and Unlabeled Data
无标签数据的元学习:使用预训练模型和无标签数据进行高效任务生成
AI 总结:研究无标签数据的元学习,提出新设置,通过预训练模型给无标签数据赋软标签生成元训练任务,引入任务加权机制,实验表明可降低计算成本、提高泛化能力。
链接:https://arxiv.org/abs/2607.02850
149. Transfer Learning in High-dimensional Ising Models
高维伊辛模型中的迁移学习
AI 总结:针对高维伊辛模型估计中目标样本量有限及利用未知相关辅助二元数据集困难的问题,提出迁移学习方法Trans-Ising,结合源筛选规则与两阶段估计程序,经理论分析和实验验证效果良好。
链接:https://arxiv.org/abs/2607.03005
150. Do ECG Foundation Models Transfer to Rare Cardiac Diseases? Evidence from Brugada Syndrome Detection
心电图基础模型能否迁移到罕见心脏疾病?来自Brugada综合征检测的证据
AI 总结:研究通过在两个队列上评估九种心电图基础模型,探讨其对罕见病检测的作用,采用多种策略和配置,发现预训练对某些架构必要但效果有限,挑战了大规模预训练能编码有意义表征的假设。
链接:https://arxiv.org/abs/2607.03009
151. NeuroOnline: Bridging Pretraining and Online Adaptation for EEG Foundation Models
NeuroOnline:为脑电图基础模型搭建预训练与在线适应的桥梁
AI 总结:研究脑电图基础模型,提出NeuroOnline框架,集成多视图一致性学习和上下文感知表示调制机制,统一表示对齐和动态适应,实验表明其在在线设置中性能优于基线。
链接:https://arxiv.org/abs/2607.03925
152. FlatManifold: Robust Continual Learning under Severe Label Noise and Domain Shifts via Intrinsic Manifold Flattening
FlatManifold:通过内在流形扁平化在严重标签噪声和域转移下进行稳健的持续学习
AI 总结:研究在非平稳流环境中持续学习应对复杂域转移与严重标签噪声的挑战,提出FlatManifold框架,利用核技巧和投影,通过流形扁平化及相关正则化防止遗忘,有效减轻噪声影响。
链接:https://arxiv.org/abs/2607.05201
153. Target-Guided Selective Reweighting for Physics-Informed Neural Network Inverse Problems: A Transfer Learning Approach
用于物理信息神经网络反问题的目标引导选择性重加权:一种迁移学习方法
AI 总结:针对物理信息神经网络反问题中的不适定优化等问题,提出目标引导选择性重加权PINN方法,通过迁移源PINN权重偏置,利用目标分数计算和高斯混合模型等进行表示修正,提升目标参数恢复能力。
链接:https://arxiv.org/abs/2607.05271
154. Learning Only What Valid Adapters Can Express: Subspace-Constrained Adaptation Against Fine-Tuning Poisoning
仅学习有效适配器能表达的内容:针对微调中毒的子空间约束自适应
AI 总结:研究针对微调中毒的替代方法,即子空间约束自适应。通过实验发现适配器功能相关内容在低维共享子空间,受限梯度自适应在清洁数据上效果好,能抵御中毒数据和部分后门攻击,且机制以可塑性换特性。
链接:https://arxiv.org/abs/2607.05300
11. 数据集、基准与评测 | 12 篇
155. Auditing the Audit: Five Failure Modes in Benchmark-Validity Audits
审核审核:基准有效性审核中的五种失败模式
AI 总结:研究治理框架要求的基于扰动的构造有效性审核的脆弱性,指出五种管道失败类型并通过案例展示,提出六点尽职调查关卡,定位其为保证级证据的协议。
链接:https://arxiv.org/abs/2607.02586
156. Evaluating Time Series Foundation Models for Electricity Price Forecasting: Contamination Risk, Distributional Shifts, and Covariate Dependence
评估用于电价预测的时间序列基础模型:污染风险、分布变化和协变量依赖性
AI 总结:针对电价预测中时间序列基础模型在协变量驱动、非平稳设置下泛化不足的问题,提出双数据集基准框架,评估其多方面表现,发现该模型有竞争力但性能依赖协变量支持,简单集成有潜力。
链接:https://arxiv.org/abs/2607.02623
157. Out-of-Distribution Generalization of Risk Aversion in Language Models
语言模型中风险规避的分布外泛化
AI 总结:研究训练人工智能在资源方面规避风险能否泛化至高风险场景。通过引入RiskAverseOOD基准测试,用多种方法使模型在低风险时规避风险,发现其能部分泛化至高风险,不同规模和模型家族也有类似效果,但一致性不足。
链接:https://arxiv.org/abs/2607.02755
158. A harmonised dataset for Earth system foundation models
用于地球系统基础模型的统一数据集
AI 总结:研究针对地球系统基础模型训练数据缺乏统一资源的问题,构建WorldTensor数据集,整合多类数据到标准网格,为训练和评估模型提供资源,推动多模态地球系统基础模型发展。
链接:https://arxiv.org/abs/2607.03298
159. Towards Diverse and Comprehensive Benchmarks for Mutual Information Estimation
迈向用于互信息估计的多样化和全面基准
AI 总结:针对现有互信息估计基准多针对简化低维分布,该研究提出统一基准框架,包含两类互补测试,用于评估三类估计器,发现无通用优胜者并分析特定情况下的估计障碍及提出新测试。
链接:https://arxiv.org/abs/2607.03487
160. Rethinking AI-Generated Text Detection: A Strong Baseline and the Distribution-Shift Problem That Remains
重新思考人工智能生成文本检测:一个强大的基线和仍然存在的分布转移问题
AI 总结:从基线优先视角重新审视人工智能生成文本检测,发现普通微调RoBERTa能匹配或超越专门检测器。分布转移是挑战,研究两种轻量级域适应方法应对,指出检测进展应兼顾分布内性能和分布转移下的鲁棒性。
链接:https://arxiv.org/abs/2607.03680
161. Punching Above Their Weight: Classification-Head Fine-Tuning of Tiny Language Models (TLMs) for Verifiable Multiple-Choice Tasks
超越自身能力:用于可验证多项选择题任务的微小语言模型的分类头微调
AI 总结:研究如何使参数约3B以下的微小语言模型适应可验证多项选择题任务,比较三种基于LoRA的微调范式,分类头微调在特定规模下表现更优,微调后的模型与大模型有竞争力。
链接:https://arxiv.org/abs/2607.03801
162. A Unified Algebraic Framework for Classification Performance Evaluation
用于分类性能评估的统一代数框架
AI 总结:提出统一代数框架评估分类性能,涵盖多种设置。以二值指示矩阵表示标签,结合三种聚合算子,可自动扩展二值性能度量到所有设置,还适应多种情况,建立了理论结果并经实证验证。
链接:https://arxiv.org/abs/2607.04028
163. Score Distributions, Not Cells: Evaluating Single-Cell Perturbations Under Class Overlap
分数分布,而非细胞:评估类重叠下的单细胞扰动
AI 总结:研究单细胞扰动数据类重叠问题,提出跨总体评分法,将分类器逐细胞概率向量平均形成总体概况来排序候选扰动,称其为分类器判别分数(CDS),能可靠识别真实扰动。
链接:https://arxiv.org/abs/2607.04595
164. URSA: Chemistry-Aware Benchmark for Utilitarian Retrosynthesis Assessment
URSA:用于功利性逆合成评估的化学感知基准测试
AI 总结:研究针对药物发现中合成规划任务,介绍URSA评估框架,能从形式和化学合理性角度评估合成路线,全面评估传统及基于大语言模型的逆合成解决方案,发现大语言模型在解决合成规划任务上不如专业模型。
链接:https://arxiv.org/abs/2607.04688
165. CollabEval: Statistically Efficient Collaborative Model Evaluation via Matrix Completion
CollabEval:通过矩阵补全实现统计高效的协作模型评估
AI 总结:提出CollabEval方法,将模型评估视为矩阵补全问题,利用不同模型历史运行间的依赖关系,借助预测驱动推理构建分数矩阵低秩近似,以减少置信区间大小和点估计均方误差。
链接:https://arxiv.org/abs/2607.05046
166. Choosing a parallel heterogeneous ensemble method for tabular classification
为表格分类选择并行异构集成方法
AI 总结:在56个表格分类任务上比较并行集成方法并得出使用建议,后在28个任务上验证,该建议集表现出色。发现混合和堆叠不一致但相互独立,硬投票概率分类弱,稳健软投票概率分类成功。
链接:https://arxiv.org/abs/2607.05103
12. 机器学习应用 | 41 篇
167. CoFEND: A Cross-Modal Fusion End-to-End Network for Cold-Start Drug-Drug Interaction Prediction
CoFEND:用于冷启动药物-药物相互作用预测的跨模态融合端到端网络
AI 总结:针对新药冷启动药物-药物相互作用预测难题,提出CMF-ELN。利用多模态信息构建知识图谱,设计图自动编码器融合跨模态相似性,采用两阶段可解释性方案,提升预测准确性与机制解释性。
链接:https://arxiv.org/abs/2607.02928
168. Missingness as Signal: Channel-Independent Spectrogram Learning for Clinical Time Series Prediction
缺失作为信号:用于临床时间序列预测的通道无关频谱图学习
AI 总结:针对重症监护室临床时间序列预测难题,提出CISM框架,将临床变量转化为频谱图,通过变量对齐编码保留变量身份,使缺失流与频谱图表示对齐,实验证明该方法效果好,强调建模观测模式的重要性。
链接:https://arxiv.org/abs/2607.02938
169. A Precedent-Guided Co-Scientist for Side-Effect-Aware Drug Redesign
一种用于副作用感知药物重新设计的先例引导协同科学家
AI 总结:提出PRECEDE用于副作用感知药物重新设计,将重新设计视为基于证据的推理,由LLM编排,定位为人监督的科学工作流,可审核、证伪且受先前药理学限制。
链接:https://arxiv.org/abs/2607.02944
170. Back to Basics: Improving Molecular Understanding in LLMs via SMILES-Graph Translation
回归基础:通过SMILES-图翻译提升大语言模型中的分子理解
AI 总结:研究针对分子大语言模型缺乏可靠结构基础的问题,提出MolBasic框架,通过SMILES-图翻译加强结构理解,用多级结构感知基准和渐进学习方案,提升了结构理解及下游任务表现。
链接:https://arxiv.org/abs/2607.03007
171. STELLA: Efficient Sensor-to-LLM Translation for On-Device Human Activity Recognition
STELLA:用于设备端人类活动识别的高效传感器到语言模型翻译
AI 总结:研究设备端人类活动识别难题,提出STELLA框架,通过轻量级分层分词器压缩传感器数据,投影到预训练语言模型嵌入空间,结合自然语言提示打分,支持设备端个性化,提升性能。
链接:https://arxiv.org/abs/2607.03089
172. Stacked LoRA for Subject-Adaptive EEG Foundation Models in Motor Imagery Decoding
用于运动想象解码中主题自适应脑电基础模型的堆叠式LoRA
AI 总结:脑机接口的脑电图解码面临受试者间差异大的挑战。基于现有脑电基础模型,研究不同低秩适应策略对运动想象分类的影响,提出堆叠式LoRA框架,有效减轻受试者间差异,在多数组合中获最佳准确率。
链接:https://arxiv.org/abs/2607.03094
173. Understanding electricity consumption behaviour through Inverse Reinforcement Learning
通过逆强化学习理解电力消费行为
AI 总结:研究将家庭视为与复杂环境交互的主体,用逆强化学习将其消费行为表示为模型隐含奖励函数,观察奖励函数在社会经济和气候冲击下的变化,测试框架并发现冲击对不同消费群体冷却行为的异质影响。
链接:https://arxiv.org/abs/2607.03176
174. OpFlow: Learning Opportunity-Conditioned Choice Potentials for Robust OD Flow Prediction
OpFlow:学习机会条件下的选择潜力以进行稳健的OD流预测
AI 总结:研究OD流预测问题,提出OpFlow机制约束框架,通过学习行中心选择潜力并结合诱导分配与校准的原点规模重构流,在分布转移下提升预测稳健性。
链接:https://arxiv.org/abs/2607.03200
175. PhenoNEST: A Neuro-Symbolic Framework for Ontology-Aware Multimodal Plant Phenotyping and Trait Discovery
PhenoNEST:用于本体感知多模态植物表型分析和性状发现的神经符号框架
AI 总结:提出构建多模态粒状知识图谱框架,以弥合语义鸿沟,通过蒸馏野外记录提取实体和关系,结合模型与本体对齐,经视觉语言模型生成软图,引入节点连接多模态子图,成功映射野外观察,助力小麦育种。
链接:https://arxiv.org/abs/2607.03245
176. From Global to Local: Efficient Regional Weather Downscaling with Global Weather Foundation Model
从全局到局部:利用全球天气基础模型进行高效区域天气降尺度
AI 总结:研究旨在实现准确区域天气预报,提出基础模型驱动降尺度框架,通过在预训练天气模型骨干上增加多尺度预测头学习区域细化,以低成本提升精度,优于传统方法。
链接:https://arxiv.org/abs/2607.03279
177. CSympNet-ID: conformal-symplectic map learning for linearly damped Hamiltonian systems
CSympNet-ID:用于线性阻尼哈密顿系统的共形辛映射学习
AI 总结:针对线性阻尼哈密顿系统,提出CSympNet-ID框架,直接从快照对学习一步流映射,通过构建保证离散共形辛性,其架构含辛神经核心与缩放层,给出相关因式分解及密度结果,实验效果良好。
链接:https://arxiv.org/abs/2607.03339
178. LLM-Guided Transportation Hub Capacity Planning with Textual Business Inputs
基于文本业务输入的大语言模型引导的交通枢纽容量规划
AI 总结:研究提出用大语言模型代理依自然语言业务描述迭代提出枢纽容量决策的框架,核心机制是思维链推理协议,经反馈回路验证决策,在实际货运网络中表现优于传统模型。
链接:https://arxiv.org/abs/2607.03651
179. Phase-Preserving Trimodal Transformer for Tropical Forest Biomass Estimation Using Optical and PolInSAR Data
用于利用光学和极化干涉合成孔径雷达数据进行热带森林生物量估计的保相三模态变压器
AI 总结:针对成熟热带森林地上生物量估计难题,提出保相三模态变压器,融合光学与极化干涉合成孔径雷达数据,用复值编码器和动态协同注意力机制,还推导校准模型,效果优于基线,为热带生物群落碳储量测绘提供框架。
链接:https://arxiv.org/abs/2607.03663
180. Social Networks of LLM Agents
大语言模型智能体的社交网络
AI 总结:研究大语言模型智能体群体中集体信念形成问题,介绍SNLA框架,该框架考虑智能体实际影响力,理论与实证验证窄注意力导致羊群效应,宽注意力在特定条件下恢复群体智慧行为。
链接:https://arxiv.org/abs/2607.03695
181. SAVER: Stochastic Adaptive Variance-Driven Exploration and Reconstruction for Low-Dose Computed Tomography
SAVER:用于低剂量计算机断层扫描的随机自适应方差驱动探索与重建
AI 总结:研究针对低剂量CT中减少辐射剂量与保证图像质量的挑战,提出SAVER框架,基于数据统计方差实时选投影角度,经实验验证其在重建保真度及抗噪性上表现优,能依信息重分配剂量提升诊断质量。
链接:https://arxiv.org/abs/2607.03761
182. Conservative Subject Invariant EMG-based Gesture Recognition
基于保守主题不变的肌电图手势识别
AI 总结:研究基于表面肌电图的手势识别中跨主体泛化难题。提出保守多目标学习框架,采用多头架构联合优化手势分类等,引入自适应加权机制,在两个数据集上评估,提升跨主体泛化性能。
链接:https://arxiv.org/abs/2607.03783
183. NeSy-CSA: A Neuro-Symbolic Framework for Open-Ended Critical Scenario Attribution
NeSy-CSA:一种用于开放式关键场景归因的神经符号框架
AI 总结:研究如何理解场景测试中关键场景的成因,提出神经符号框架NeSy-CSA,通过选择相关因素缩小归因空间,经证据图使推理可追溯,结合符号与神经推理,提升关键场景归因有效性。
链接:https://arxiv.org/abs/2607.03847
184. Transformers with Physics-Informed Encodings and Simulation-Based Inference for Robust Detection of Eccentric Binary Black Holes in Pulsar Timing Array Data
具有物理信息编码和基于模拟推理的变压器用于脉冲星计时阵列数据中偏心双黑洞的稳健检测
AI 总结:研究利用含物理信息编码框架的Transformer从脉冲星计时阵列数据高效推断相对论轨道上偏心双黑洞,用生成模型在模拟推理框架中推断后验分布,相比无物理基线有改进。
链接:https://arxiv.org/abs/2607.03904
185. GlacierCastAI: Predicting Glacier Retreat from Multi-Modal Satellite Imagery and Climate Signals
GlacierCastAI:从多模态卫星图像和气候信号预测冰川退缩
AI 总结:研究将冰川边界预测重构为多模态时空预测问题,融合多源数据,用特定架构预测冰川边界,对比传统基线及实验条件,发现气候信号有预测信息,深度学习模型优于传统基线。
链接:https://arxiv.org/abs/2607.04117
186. CertMix: Certified, Data-Efficient Metamaterial Design by Affine Mixing of Aligned Neural-Implicit Weight Spaces
CertMix:通过对齐神经隐式权重空间的仿射混合实现经认证的数据高效超材料设计
AI 总结:研究机械超材料逆设计,提出CertMix框架,以神经隐式场表示单元细胞,利用对齐权重空间中弹性张量与混合系数的近似线性关系,通过仿射混合求解设计问题,实现数据高效且准确的设计。
链接:https://arxiv.org/abs/2607.04123
187. Exploring Convolutional Neural Processes for Weather Downscaling
探索用于天气降尺度的卷积神经过程
AI 总结:该项目研究卷积条件神经过程用于将ERA5-Land每日最高气温从约11公里分辨率降尺度到瑞士约1公里分辨率,基于特定架构改进,最佳模型效果良好,还做了消融研究,指出关键挑战。
链接:https://arxiv.org/abs/2607.04190
188. NKI-Agent: Domain-Specific Fine-Tuning and Agentic Tool Use for Neuron Kernel Generation
NKI-Agent:用于神经元内核生成的特定领域微调与智能体工具使用
AI 总结:针对新兴AI加速器,介绍NKI-Agent系统,结合特定领域监督微调与编译验证修复智能体循环生成NKI内核,适配框架、构建基准并评估,显示工具使用关键及不同模型表现,为强化学习奖励设计提供指导。
链接:https://arxiv.org/abs/2607.04395
189. Environmental Drivers of Respiratory Disease: A District Level Analysis
呼吸道疾病的环境驱动因素:地区层面分析
AI 总结:该研究通过构建2014 - 2024年斯里兰卡25个行政区面板数据集,用XGBoost模型分析环境因素与呼吸道疾病关系,发现空气质量是主因,还得出风险指数及高风险地区,为政策提供定量依据。
链接:https://arxiv.org/abs/2607.04416
190. A Deep Learning-based surrogate model for Severe Accidents in nuclear reactors using ASTEC
基于深度学习的使用ASTEC的核反应堆严重事故替代模型
AI 总结:研究如何用基于深度学习的替代模型加速核反应堆严重事故模拟器,结合自动编码器降维和神经常微分方程进行时间步长计算,训练数据来自ASTEC模拟器,能快速预测多物理变量。
链接:https://arxiv.org/abs/2607.04450
191. LeukocyteCount: Automatic Identification and Counting for leukocytes using Deep Learning
白细胞计数:使用深度学习自动识别和计数白细胞
AI 总结:研究针对传统白细胞计数和分类方法的不足,提出基于机器学习的自动化解决方案,采用集成Yolov5、微调的预训练MobileNetV2模型和逻辑回归分类器的混合模型,实现白细胞精准识别、计数和分类。
链接:https://arxiv.org/abs/2607.04486
192. Beyond travel mode: urban context shapes active mobility's mental health effects over time
超越出行方式:城市环境随时间塑造主动出行对心理健康的影响
AI 总结:研究主动出行对心理健康的影响,用因果机器学习等方法分析英国成年人数据,发现主动出行对焦虑等的个体影响有不平等,且随时间扩大,受城市环境强烈影响,未考虑个体和环境差异会加剧健康不平等。
链接:https://arxiv.org/abs/2607.04520
193. Predicting Therapeutic Outcome via Aligning Patient-Specific Knowledge Graph and Gene-Level Perturbation Representations
通过对齐患者特异性知识图谱和基因水平扰动表示来预测治疗结果
AI 总结:针对临床响应标签和治疗后分子图谱稀缺阻碍治疗反应预测的问题,提出PREDIKTOR框架,结合个性化网络视图与可转移转录组扰动视图预测临床药物反应,提升性能并支持精准肿瘤学。
链接:https://arxiv.org/abs/2607.04557
194. Machine Learning for Depression Screening and Intervention: an Original Circadian Rhythm Score-based Methodology
用于抑郁症筛查和干预的机器学习:一种基于昼夜节律评分的原创方法
AI 总结:研究针对大规模行为数据筛查抑郁症的挑战,提出昼夜节律评分(CRS),构建可解释筛查框架及干预推理方法,通过实验验证其有效性,为抑郁症筛查和干预提供框架。
链接:https://arxiv.org/abs/2607.04648
195. A Physics-Regulated Neural Framework for Learning 3D Grain Growth Dynamics
用于学习3D晶粒生长动力学的物理调节神经框架
AI 总结:提出3D-PRIMME模型学习三维晶粒生长动力学,仅用两个连续时间步训练,能准确再现线性粗化定律并保留拓扑统计,可应用于大幅增加的系统规模,学习到与尺度无关且时间稳定的局部演化规则。
链接:https://arxiv.org/abs/2607.04680
196. Predicting Drafted Deck Strength for "Magic: the Gathering"
预测《万智牌》构筑套牌的强度
AI 总结:研究《万智牌》的Draft构筑模式,提出基于编码器的模型生成集上下文的卡牌嵌入编码决策序列,在大规模真实数据上比线性基线有持续改进,为套牌强度预测建立首个学习基准。
链接:https://arxiv.org/abs/2607.04782
197. Representing and Detecting Label Ambiguity in IMU-Based Exercise Evaluation
基于惯性测量单元的运动评估中标签模糊性的表示与检测
AI 总结:研究家庭理疗中运动评估问题,提出自动生成标签分布的方法,用Kullback-Leibler目标训练网络,与单热交叉熵基线对比,该方法在多数据集表现优且能可靠检测模糊性。
链接:https://arxiv.org/abs/2607.04842
198. Enhancing the Forecasting Capability of Multi-Model Blending Algorithms for Extreme Precipitation via Joint Use of Station and Gridded Observations
通过联合使用站点和格点观测增强多模型融合算法对极端降水的预测能力
AI 总结:研究针对数值天气预报模型对极端降水预测的挑战,提出基于U-Net的两阶段框架,引入站点-网格联合监督机制融合多模型预测,提升了极端降水预测能力,展现数据驱动空间校正能力。
链接:https://arxiv.org/abs/2607.04862
199. Lightweight ML-Based Automatic Sleep Staging Framework with Constrained CNN and Mamba for Small-Sample EEG Datasets
基于轻量级机器学习的自动睡眠分期框架:用于小样本脑电数据集的约束卷积神经网络和曼巴算法
AI 总结:针对小样本脑电数据自动睡眠分期面临的挑战,提出GamSleepNet框架,结合改进Gabor核与可学习滤波器提取特征,用曼巴架构构建网络,引入新损失和训练策略,验证了最佳数据集大小,提升了挑战性睡眠阶段识别准确率。
链接:https://arxiv.org/abs/2607.04934
200. Data-Driven Soft Labeling Scales DNA Read Classification to Whole-Body Cell-Type Deconvolution
数据驱动的软标签将DNA读取分类扩展到全身细胞类型反卷积
AI 总结:针对细胞类型反卷积难题,提出数据驱动软标签估计读取的条件细胞类型分布,集成到新框架Syto,在人体39种细胞类型图谱上表现出色,为大型细胞类型面板建模奠基,软标签方案可用于多对多映射场景。
链接:https://arxiv.org/abs/2607.04987
201. ImputeECG: Deep Learning Reconstruction of Complete 12-Lead Electrocardiograms from Incomplete Recordings for Cardiac Assessment
ImputeECG:用于心脏评估的从不完整记录中深度学习重建完整12导联心电图
AI 总结:研究针对不完整心电图记录,开发掩码条件下的一维Transformer自动编码器ImputeECG,在模拟不完整设置下训练并评估,证明其能有效完成心电图重建,提升下游诊断性能。
链接:https://arxiv.org/abs/2607.05009
202. Uncertainty-aware damage identification in short-span bridges via physics-informed variational autoencoder
通过物理信息变分自编码器进行短跨桥梁的不确定性感知损伤识别
AI 总结:针对基于振动的土木基础设施损伤识别难题,提出物理信息高斯copula变分自编码器框架,嵌入数值特征值求解器并采用高斯copula,减少参数空间,验证表明能准确恢复后验分布,为桥梁损伤诊断提供可靠工具。
链接:https://arxiv.org/abs/2607.05025
203. SMART: A Machine Learning and Monte Carlo Framework for Rapid Analysis of Stochastic Transistor Aging and Process Variation in Digital Circuits
SMART:用于数字电路中随机晶体管老化和工艺变化快速分析的机器学习与蒙特卡罗框架
AI 总结:针对深纳米CMOS技术下数字电路可靠性受BTI和PV影响,传统方法难应对大设计的问题,提出SMART框架,集成机器学习与蒙特卡罗模拟,快速高保真分析,经实验验证效果显著。
链接:https://arxiv.org/abs/2607.05187
204. Video-based detection of cessation of breathing in pre-term infants using machine learning
基于机器学习的早产儿呼吸停止视频检测
AI 总结:研究利用机器学习,从早产儿视频中提取呼吸运动生成信号,训练仅摄像头及混合模型,发现仅摄像头模型可检测呼吸停止,混合模型精度更高,证明视频信号可辅助检测,提升监测鲁棒性。
链接:https://arxiv.org/abs/2607.05230
205. CanniUplift: A Holistic Framework for Mitigating Seller and Incentive Cannibalization in E-commerce Uplift Modeling
CanniUplift:电子商务提升建模中减轻卖家和激励相互蚕食的整体框架
AI 总结:电商个性化激励分配重要,传统模型在复杂多卖家环境中失效。提出CanniUplift框架,用平台级全局对齐捕捉跨店替代,基于兑换分解去噪处理激励噪声,机制建模用户行为与当前激励互动,实验证明有效。
链接:https://arxiv.org/abs/2607.05242
206. Air Quality Downscaling with Station-Guided Pseudo-Supervision
基于站点引导伪监督的空气质量降尺度
AI 总结:研究针对欧洲高分辨率PM₂.₅降尺度问题,提出站点引导框架,利用多源信息联合超分辨率和偏差校正CAMS光栅,引入传播策略,有效恢复细粒度空间结构并减轻偏差。
链接:https://arxiv.org/abs/2607.05292
207. Biologically Informed Deep Neural Networks for Multi-Omic Integration, Pathway Activity Inference and Risk Stratification in Cancer
用于癌症多组学整合、通路活性推断和风险分层的生物信息深度神经网络
AI 总结:研究多组学整合挑战,提出通路活性自动编码器,嵌入先验知识兼顾可解释性与表征能力,应用于乳腺癌生存预测和亚型分类,分析各层影响及正则化效果,展示框架价值。
链接:https://arxiv.org/abs/2607.05306
13. 其他/综合机器学习 | 27 篇
208. Bootstrap Flow-Map Tree Sampling Enables Online Feedback Driven Search
引导流图树采样实现在线反馈驱动搜索
AI 总结:针对有限采样预算下的探索难题,介绍计算高效的引导流图树(BFMT)采样框架,可在预算约束下进行历史感知全局搜索与对齐,能高效分配预算,实验表明其性能远超基线方法。
链接:https://arxiv.org/abs/2607.02915
209. In-span learning: adapting reduced-order models using their own predictions
跨度内学习:利用自身预测调整降阶模型
AI 总结:研究降阶模型在线动力学偏离训练数据时精度下降的问题,提出通过在当前降子空间内利用模型自身预测,经增量奇异值分解获得轨迹 informed 谱预处理器,使模型更有效吸收未来跨度外校正。
链接:https://arxiv.org/abs/2607.02937
210. Individual Parameters in Weight-Sparse Transformers Appear Interpretable
权重稀疏变压器中的单个参数似乎具有可解释性
AI 总结:研究单个权重能否在整个训练分布中全局理解,引入自动语言模型管道描述权重何时重要并验证,发现稀疏变压器中可解释权重比例更高。
链接:https://arxiv.org/abs/2607.02964
211. Rank-Order N-of-M Codes for Sparse Distributed Memory: Disentangling Representation and Learning Effects in Noise Robustness Against Contemporary Neuromorphic Architectures
用于稀疏分布式内存的秩排序N选M码:在针对当代神经形态架构的噪声鲁棒性中解开表示和学习效应
AI 总结:研究针对大语言模型持续学习受限问题,评估秩排序N选M编码替代稀疏分布式内存阈值二进制编码器。通过重新实现验证架构等效,实验表明其在容量和误码率鲁棒性上有优势,还分析了编码能量,为相关架构提供指导。
链接:https://arxiv.org/abs/2607.02967
212. Can Model Merging Improve Aggregation in DiLoCo?
模型合并能否改善分布式局部计算优化(DiLoCo)中的聚合?
AI 总结:研究分布式学习中局部随机梯度下降(SGD)/DiLoCo的伪梯度聚合与模型合并的类比,评估多种模型合并方法,发现Iso-C可改进DiLoCo,在此基础上提出IsoLoCo,实证表明其性能优于DiLoCo。
链接:https://arxiv.org/abs/2607.03011
213. Out-of-distribution Neural Inference in Dynamical Ising Models
动态伊辛模型中的分布外神经推理
AI 总结:研究通过从格劳伯磁化轨迹重建动力学伊辛模型的相互作用图这一反问题,探讨神经网络分布外性能是否反映可转移物理规则学习。发现不同架构训练有不同统计策略,指出分布内高精度和分布外鲁棒性不一定意味着学到动力学与结构规则。
链接:https://arxiv.org/abs/2607.03039
214. SHiPPO: Recurrent Memory with Transported Polynomial Projections
SHiPPO:具有传输多项式投影的循环记忆
AI 总结:介绍SHiPPO,一种传输投影记忆先验,将HiPPO系数记忆提升到移动通道框架。给出其在固定或实现的右传输路径下的特性,以及在选择性SSM执行中的相关推导和标准等,支持其作为基于机制的传输记忆先验。
链接:https://arxiv.org/abs/2607.03055
215. Spectral Rewiring for Exploration, Purification, and Model Merging
用于探索、提纯和模型合并的频谱重布线
AI 总结:研究强化学习中参数更新瓶颈,提出子空间对齐重布线方法,保留频谱核心去除正交分量,可提纯训练更新、实现模型合并,提升推理和跨域性能,是无训练机制提升性能。
链接:https://arxiv.org/abs/2607.03065
216. Reduced-Order Models: The Mother of World Models
降阶模型:世界模型之母
AI 总结:探讨世界模型的功能结构早于现代自监督学习,在模型降阶和控制文献中就已独立发展。追溯其在三个领域的发展,对比传统降阶模型与学习型世界模型的优缺点,指出在关键系统中部署世界模型的障碍及统一两者的研究议程。
链接:https://arxiv.org/abs/2607.03198
217. Transition Information Density: Morphological Trajectories, Synesthetic Perception, and Structured Interpolation in Neural Training (or: The Synesthetic AI)
过渡信息密度:神经训练中的形态轨迹、联觉感知和结构化插值(或:联觉人工智能)
AI 总结:介绍过渡信息密度及位置标识,基于联觉等实证背景研究。通过结构化插值训练的探针在语音/语言和语义描述媒介中维度更低,贡献相关定义、框架及实验设计,区分轨迹结构等因素。
链接:https://arxiv.org/abs/2607.03210
218. How Much of the Routing Gap Is Real? Decomposing the Router-to-Oracle Gap into Reproducible Specialist Advantage and Single-Draw Label Noise
路由差距中有多少是真实的?将路由器到预言机的差距分解为可重现的专家优势和单次抽取标签噪声
AI 总结:研究大语言模型中路由差距,将预言机期望分解为可重现部分和选择下限,证明单次抽取标签噪声是差距一部分,提出多样本预言机评估协议,多数差距是可恢复专家优势。
链接:https://arxiv.org/abs/2607.03436
219. Best-of-Better-$N$: Generating Pre-Aligned Responses with In-Context Learning
最佳中的更优N:通过上下文学习生成预对齐响应
AI 总结:提出Best-of-Better-$N$框架应对响应质量限制问题,利用检索高奖励示例及重写步骤,通过上下文学习使预训练模型输出分布向高奖励区域转移,在安全对齐和数学推理基准测试中有更好表现。
链接:https://arxiv.org/abs/2607.03453
220. Aligning Language Models with Selective Prediction
通过选择性预测使语言模型对齐
AI 总结:研究聚焦提升语言模型可靠性,采用选择性预测策略,在模型训练后对齐阶段,提出基于强化学习的框架RLSR,以风险-覆盖曲线下面积为目标,在域内域外任务中风险-覆盖权衡表现更好。
链接:https://arxiv.org/abs/2607.03528
221. MPSelectTune: Prompt-type Selection for Fine-tuning improves Concept Unlearning in LLMs
MPSelectTune:微调中的提示类型选择可提高大语言模型中的概念遗忘能力
AI 总结:研究大语言模型中去除有害概念难题,提出对抗方法用联合提示预测主任务和概念任务,MPSelectTune两阶段方法可提升平均遗忘性能,实验显示能提高主任务精度并降低概念精度。
链接:https://arxiv.org/abs/2607.03932
222. Order-based Causal Discovery for Multistage Processes
多阶段过程的基于顺序的因果发现
AI 总结:针对多阶段过程中现有因果发现方法的不足,提出基于顺序的因果发现方法OCDM。通过结合过程知识和新算法推断因果结构,并用新剪枝技术消除伪边,实验证明其优于现有方法。
链接:https://arxiv.org/abs/2607.03971
223. MANCE: Manifold Aware Concept Erasure
MANCE:流形感知概念擦除
AI 总结:提出流形约束假设,在新概念擦除方法MANCE中实例化,利用分类器信号迭代更新表示,投影概念移除更新到估计流形,经多设置评估,其改进泄漏结果,MANCE+和MANCE++有更好权衡,MANCE++达非线性概念擦除最优。
链接:https://arxiv.org/abs/2607.03973
224. Knowing When to Stop: Predicting Execution-Consistency Convergence in Text-to-SQL
知道何时停止:预测文本到SQL执行一致性收敛
AI 总结:研究预测文本到SQL结果执行一致性收敛的停止时机,训练轻量级1-D模型观察一致性轨迹来决定是否继续运行,在多数据集上验证方法能自适应停止点,还展示了训练增强及噪声注入下的效果。
链接:https://arxiv.org/abs/2607.03991
225. When Does Small Data Work? Accuracy and Efficiency Trade-offs Between Tabular Foundation Models and Conventional Methods for Crowd-State Classification at Hajj and Umrah
小数据何时起作用?朝觐和副朝人群状态分类中表格基础模型与传统方法之间的准确性和效率权衡
AI 总结:研究在朝觐和副朝人群状态分类中,测试表格基础模型在标签稀缺时的作用,将其与传统机器学习方法比较,评估不同模型,揭示标签数量影响模型选择及两种方法在准确性和效率上的权衡。
链接:https://arxiv.org/abs/2607.04013
226. Reward-Gated On-Policy Distillation
奖励门控策略蒸馏
AI 总结:研究如何进行策略蒸馏,核心方法是引入奖励门控策略蒸馏(RG-OPD)利用验证器反馈决定是否信任教师逻辑,主要贡献是在推理和编码基准测试中表现出色,优于其他蒸馏方法。
链接:https://arxiv.org/abs/2607.04037
227. A Unified Framework for In-Context Learning with Causal and Masked Language Models
一种用于上下文学习的因果和掩码语言模型统一框架
AI 总结:研究上下文学习,提出统计学习框架,将自回归和掩码预训练目标置于共同风险分析中,在特定条件下得出推理时MASK和自回归目标的同阶上界等成果,做了实验验证。
链接:https://arxiv.org/abs/2607.04081
228. Dictionaries, Not Darwin: Set-Level Selection Beats LLM Evolution in Scientific Equation Discovery
字典,而非达尔文:在科学方程发现中,集合级选择优于大语言模型进化
AI 总结:研究大语言模型用于科学方程发现的进化循环是否有效,发现其效果不佳。提出PTB-Search方法,通过提取可重用术语并进行集合级稀疏选择,在科学发现中表现优于单术语约简,用更少调用预算取得更好结果。
链接:https://arxiv.org/abs/2607.04108
229. DynaVieW: Schema-Guided World Modeling for Understanding Hierarchical Visual Dynamics
DynaVieW:用于理解分层视觉动态的模式引导世界建模
AI 总结:针对多模态语言模型难以系统建模视频视觉场景时间演变的问题,提出DynaVieW模型,通过学习交错状态转换序列理解视觉动态,在多架构下联合建模,提升下游视觉叙事创作等任务表现。
链接:https://arxiv.org/abs/2607.04112
230. Auto: The AGI Compiler
自动:通用人工智能编译器
AI 总结:研究提出通用人工智能编译器Auto,通过记录智能体行为,提取确定性部分转化为程序或专家,生成带保障的认知二进制文件。在基准测试中表现良好,还量化了失败模式,强调校准和参考保真度对正确性的决定作用。
链接:https://arxiv.org/abs/2607.04542
231. Framework for Grouping Local Process Models
分组局部过程模型的框架
AI 总结:研究局部过程模型发现算法面临的模型爆炸和重复问题,提出分组框架,通过既定相似性度量或上下文比较衡量模型相似性,创建最优样本,经实验证明分组的有用性。
链接:https://arxiv.org/abs/2607.04856
232. Computing Monetary Risk Measures in Linear Time
在线性时间内计算货币风险度量
AI 总结:提出新算法在线性时间计算离散随机变量的货币风险度量,包括用QuickVaR算VaR,借QuickVaR提出QuickDivergence算一类φ-散度风险度量,如CVaR,数值结果显示新算法大幅提速。
链接:https://arxiv.org/abs/2607.05078
233. Latent Programming Horizons in Coding Agents
编码智能体中的潜在编程视野
AI 总结:研究编码智能体解决软件工程任务时语言模型内部对程序的表征,发现其残差流线性编码程序属性,还能提前预测未来编辑结果,即潜在编程视野,且探针可跨基准转移。
链接:https://arxiv.org/abs/2607.05188
234. Noisy-Channel Minimum Bayes Risk Decoding
噪声信道最小贝叶斯风险解码
AI 总结:研究指出最小贝叶斯风险(MBR)解码比最大后验(MAP)解码更优,但设计存在差异。引入噪声信道分解MBR解码,将其分解为四个交互组件,统一解释现有变体,分析表明各信道贡献有特点,适当加权或可改进。
链接:https://arxiv.org/abs/2607.05198