社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

重磅! 创始人亲笔综述, 双重机器学习DML到底该怎么用?

计量经济圈 • 6 月前 • 352 次点击  
图片

凡是搞计量经济的,都关注这个号了

邮件:econometrics666@126.com

所有计量经济圈方法论丛的code程序 , 宏微观数据库和各种软件都放在社群里.欢迎到计量经济圈社群交流访问.

 

2026年4月15日,DML方法原作者Victor Chernozhukov、Christian Hansen等6人联合撰写的最新综述An Introduction to Double/Debiased Machine Learning正式发表在Journal of Economic Literature。

关于DML,1DML,因果森林,GML: 给实证研究者的三把新因果推断钥匙, 来自计量姊妹刊的实证指南. 2.最全! 国内哪些政策适合用队列DID, 模糊断点RDD, 双重机器学习DML进行评估?3.前沿速递! DML, 因果森林, 深度学习, 金融机器学习等正如何深刻改变经济学?4.双重机器学习DML用途, 步骤, 优势, 示例和代码等完整方法, 不信你还不懂, 附code. 5. 使用双重机器学习DML方法进行因果推断和政策评估的案例, 数据和代码分享,6.前沿, 双重机器学习方法DML用于因果推断, 实现它的code是什么?

这是继Chernozhukov et al. (2018)奠基性论文之后,DML作者团队第一次系统回应一个核心问题:DML在实证研究里到底该怎么用,什么时候容易出问题?

国内学者已经在不少顶刊里见过DML。从因果识别、IV估计,到staggered DID,再到文本数据控制变量处理,DML正慢慢变成实证经济学家工具箱里的常用装备。

但真正把它用准、用稳的人并不算多。这篇新综述最有价值的地方,在于把DML在实际应用中的敏感性和陷阱摊开来讲,并给出一套能直接落地的诊断与稳健性检验流程。

本文不展开繁琐的理论推导,只聚焦3件事,DML的核心优势、7类典型应用场景,以及Stata、R、Python的实操代码。

DML很可能会成为未来几年每一位实证经济学研究者都绕不开的工具。比较高效的阅读顺序是,先看原文第2到第3节把原理吃透,再跳到第4到第6节看3个实证案例,最后把配套网站上的复制代码亲手跑一遍。这样学,比看十几篇二手介绍都更扎实。

如果你的下一篇论文还停留在OLS加若干控制变量的主回归框架里,不妨把DML放进附录,做一轮稳健性检验。

1.DML到底解决了什么问题?

传统半参数估计一直面临两难问题。一方面,对干扰参数(nuisance parameter)施加线性等参数化假设,计算与推断都较为简便,但一旦设定偏离真实关系,就容易产生模型错设偏误;另一方面,转向非参数方法能够更灵活地刻画数据结构,更贴近现实,却往往以牺牲统计推断的简洁性为代价,使渐近性质与有效推断变得复杂甚至难以操作。

DML的思路在于,只要识别条件构造得当,就可以借助任意机器学习方法(比如Lasso、随机森林、梯度提升、神经网络)来估计干扰函数,同时依然能够保证目标参数估计量具备一致性与渐近正态性,从而实现灵活建模与可靠推断之间的兼顾。

DML背后主要依赖两个核心机制。

一是Neyman正交得分(Neyman orthogonal score)。它使得矩条件对干扰函数的小幅偏差在一阶上不敏感。直白点讲,就是先把协变量X对目标参数的一阶影响剥离出去,只保留真正用于识别的那部分变异。 

二是交叉拟合(Cross-fitting)。具体做法是将样本随机划分为K折,用折外样本估计干扰函数,再用折内样本估计目标参数,并循环完成该过程。这样可以避免同一份数据既用于拟合、又用于推断所带来的过拟合偏误(overfitting bias)。

这两步缺一不可。作者在文中以MTurk劳动供给弹性的实证为例说明,如果只做其中一步,估计量很可能出现数量级上的偏误。只有将两步同时实施,得到的置信区间才更具可信度。

2.DML的5大优势,可以在下一篇论文里试一试。

第一,能摆脱线性设定的束缚。传统做法常写成,很多时候并非因为经济学理论真这么要求,只为咱们图方便。DML允许是任意函数,把方法设定和经济学假设尽量分开。

第二,能够直接处理文本、图像等非结构化数据。这是DML在当前研究前沿最具吸引力的应用之一。综述中重新讨论了Dube et al. (2020)的做法:作者利用DeBERTa从MTurk任务描述文本中提取embedding,并将其作为高维控制变量纳入DML框架。在传统OLS设定下,这类处理往往难以有效实现。

第三,它也可以作为一种有力的稳健性检验工具。即便主回归仍采用OLS,只要在附录中补充一组DML估计,就能够更有针对性地回应审稿人对函数形式设定的质疑。如果结果保持一致,研究结论的可信度会明显提升;如果不一致,也能更早暴露潜在问题,从而及时调整识别或建模思路。

第四,适用场景非常广泛。综述在Table 1中系统列出了六大类目标参数对应的Neyman正交得分,涵盖线性与偏线性回归、IV与偏线性IV,以及ATE、ATT、LATE和平均结构导数(average structural derivative)等常见因果参数。

附录C进一步扩展到更复杂的情形,例如加权平均潜在结果、包含固定效应的面板IV等,也都可以构造相应的正交得分,从而纳入同一套DML框架中统一处理。

第五,软件生态已经很成熟。目前3个主流生态都有比较完整的实现,包括1.Stata:ddml,2.R:DoubleML、ddml,3.Python:DoubleML。

3.七个典型的应用场景。

综述正文和附录C合起来,基本把应用经济学里常见的目标参数都覆盖到了。

场景1,偏线性回归系数。 。如果你怀疑控制变量应该以更灵活的方式进入模型,就适合用该类设定。对应的干扰函数是和。

场景2,线性IV系数。当工具变量维数较高,或者工具变量与内生变量之间存在明显的非线性关系时,比如降雨量类工具变量,DML可以灵活地估计最优工具。综述里的模拟显示,当工具变量数量时,2SLS偏误高达0.32,而DML配合梯度提升树后,偏误只有-0.01。

场景3,平均处理效应(ATE)。 在非实验数据里,DML通常通过AIPW得分,也就是常说的双稳健得分,估计。综述基于Poterba、Venti和Wise (1995)的401(k)数据所做的模拟表明,IPW和回归调整(RA)估计量的覆盖率都明显低于名义95%,而DML能做到94.4%。

场景4,staggered DID下的组时ATT。 这是综述第5节的重点内容。作者重新分析了Dobkin et al. (2018, AER)关于住院冲击如何影响家庭医疗支出的研究,展示了在Callaway和Sant'Anna (2021)框架下,如何用DML灵活控制年龄、性别、种族、受教育程度等协变量,从而在条件平行趋势假设下识别动态处理效应。

场景5,LATE。对二元工具变量,LATE也可以通过AIPW型正交得分来估计。

场景6,ATT,即估计处理组的处理效应。对应参数是。

场景7,平均结构导数。当处理变量是连续变量时,关心的参数是。这类问题和前面的例子不同,干扰参数是条件密度函数的对数导数。

4.实践中的操作提醒

这篇综述很关键的部分,其实是第6节和第7节。作者非常坦率地指出了DML的局限和常见陷阱,这一部分很值得细看。

提醒1,学习器的选择会显著影响估计结果。在MTurk的实证应用中,作者尝试了12种不同的机器学习器,得到的劳动供给弹性从-0.005到-0.193不等,标准误则在0.02到0.14之间波动。仅仅更换学习器,结论就可能从统计不显著转为显著为负。

提醒2,随机分折本身也会引入额外的随机性。在住院冲击的应用中,不同随机种子下,DML的点估计在3375到3500之间波动。尽管该波动尚不足以改变显著性判断,但它提示我们,单次运行得到的结果不宜直接作为最终结论,更稳妥的做法是进行多次重复并考察结果的稳定性。

作者建议怎么做?

1.把交叉拟合重复S次。综述里常用的是S=5到S=10,然后对点估计和标准误做中位数聚合,



这样的标准误同时把抽样不确定性和样本分割不确定性都算进去了。

2.用多个候选学习器做诊断和对比。最好报告每个学习器的样本外,再用Lei (2020)提出的CVC,即cross-validation with confidence,识别出表现表现最差的学习器,并用stacking或模型平均把多个学习器整合起来。

3.把过程交代清楚。候选学习器有哪些、参数怎么调、诊断指标是什么、样本外多少、CVC的p值是多少、stacking权重怎么分,最好都在正文或附录里透明披露。

提醒3,收敛速率条件并不会自动满足。理论上,DML要求对干扰函数的估计具备足够快的收敛速度(通常需要达到一定的收敛阶),否则其正交化+交叉拟合所带来的推断优势难以兑现。

已有研究,比如Chi et al. (2022)以及Cattaneo, Klusowski, Yu (2025)指出,在高维设定下,默认参数的随机森林和深度决策树未必能够满足该要求,甚至可能无法实现逐点一致性。 

当然,这并不意味着DML方法本身存在问题。

它从侧面揭示了一个现实中的关键环节,即学习器的选择与调参至关重要,直接关系到估计量的有效性与推断的可靠性。

*群友可以到计量社群进下载完整版PDF和数据和代码示例。

1.最全! 我国适合"断点回归"的政策都整理出来了, 让你有做不完的RDD断点政策评 2. 最全! 我国适合"合成控制法"的政策都整理出来了, 让你有做不完的SCM政策评估3.最全106页! 我国适合DID双重差分的政策都整理出来了, 让你有做不完的DID政策 4.最全! 我国适合DDD三重差分的政策都整理出来了, 让你有做不完的DDD政策论 5.最全! 国内哪些政策适合用队列DID, 模糊断点RDD, 双重机器学习DML进行评估?6.最全! 国内哪些政策情景适合用Bartik IV, 空间DID, 模糊DID方法进行评估?

7. 最全! 我国各种X的工具变量IV都整理出来了, 8.最全! 把CFPS研究过的全部自变量X与因变量Y做成数据库了, 全网第一份CFPS选题数据库.9.最全! 把CHFS研究过的全部自变量X与因变量Y做成数据库了, 第一份CHFS金融选题数据库.10.中国健康与养老CHARLS选题库, X与Y的研究组合助你研究老年人问题.11.把CSMAR研究过的自变量X与因变量Y做成数据库了, 第一份公司与金融微观选题数据库.12.三农微观数据选题库, 从此AI轻易助你选择经过检验了的X与Y的不同组合选题.13. CHIP和CEPS选题数据库, 轻松助你选择经过检验了的X与Y的不同组合家庭收入和教育选题.

下面这些短链接文章属于合集,可以收藏起来阅读,不然以后都找不到了。

8年,计量经济圈近2500篇不重类计量文章,

可直接在公众号菜单栏搜索任何计量相关问题,

Econometrics Circle




数据系列:空间矩阵 | 工企数据 | PM2.5 |  市场化指数 | CO2数据 |  夜间灯光 | 官员方言  |  微观数据 | 内部数据
计量系列:匹配方法 | 内生性 |  工具变量 | DID | 面板数据 | 常用TOOL |  中介调节 | 时间序列 | RDD断点 | 合成控制 | 200篇合辑  | 因果识别 | 社会网络 | 空间DID
数据处理: Stata | R | Python | 缺失值 |  CHIP/ CHNS/CHARLS/CFPS/CGSS等 |
干货系列:能源环境 | 效率研究 | 空间计量  | 国际经贸 | 计量软件 | 商科研究 | 机器学习 |  SSCI | CSSCI | SSCI查询 | 名家经验
计量经济圈组织了一个计量社群,有如下特征: 热情互助最多、前沿趋势最多、社科资料最多、社科数据最多、科研牛人最多、海外名校最多。因此,建议积极进取和有强烈研习激情的中青年学者到社群交流探讨,始终坚信优秀是通过感染优秀而互相成就彼此的。
图片
图片

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/195230