百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 博客教程 > 正文

相关性 ≠ 因果性,用图的方式打开因果关系

connygpt 2024-10-16 08:45 9 浏览

选自GitHub

作者:David Salazar

编辑:陈萍、魔王

机器学习方法是预测的有力工具,但是很多领域的工作或研究重视对因果关系的讨论。相关性并不意味着因果关系,那么如何识别因果关系呢?

David Salazar 发布了一系列博客介绍因果关系。在之前的文章中,他将因果关系定义为干预分布(interventional distribution),并介绍了两种识别因果关系的策略:后门准则和前门准则。然而,这些准则并不适用于所有因果关系。

那么一般而言,给定因果模型和不完整的度量集,如何确定因果关系可识别呢?

本文提供了一种答案:利用 c-component (confounded component) 概念开发的图标准(graphical criterion),并通过多个实例进行演示。

马尔可夫模型

当我们可以得到因果模型中所有变量的度量值时,则该因果模型为马尔可夫模型。在这种情况下,调整公式(adjustment formula)就是识别策略:如果 X, Pa(X) 的父代存在度量值,则任意因果关系 X→Y 都是可识别的。

那么,如果你没有观察到 x 的父代呢?

半马尔可夫模型

如果一个未观察到的变量在图中有两个子代,则不符合马尔可夫属性。在这种情况下我们未必能够使用调整公式。例如,如果 X 的某个父代未被观察到,则我们无法将它作为识别策略。不过,我们或许仍可以使用后门或前门准则。

我们来看一个相关示例。在如下例子中,双向虚线表示变量之间的隐藏共同原因(hidden common cause)。U 表示所有未度量变量,V 表示所有观察到的变量。

为了确定 X 对所有其他观测变量 v 的因果关系,我们必须根据观察到的干预前概率来估计干预后的概率 P(v|do(X))。

请记住这里的因果模型同时也是概率模型。特别是,它们导致了联合概率分布的分解。然而,当模型包含未观察到的混杂因素(confounder)时,我们必须将它们边缘化,以获得观测变量的联合概率分布:

在这种情况下,观测值的分解如下:

假设 P(v|do(X=x)) 表示干预,则它可以通过截断上述表达式进行表示,这样我们就不用计算 X 的概率了:

我们能使用观测变量表示 P(v|do(X)) 吗?首先,我们必须了解 confounded component。

confounded component

请注意,在这两个表达式中,未观察到的混杂因素将观察到的变量分成不相交的组:当且仅当两个变量通过双向路径连接时,它们才会被分配到同一组。在每一组中,S_k 被称为 confounded component (c-component)。在这种情况下存在两个 c-component,它们会引起两次因式分解 (c-factor):

注意,在对所有其他变量进行干预的情况下,每个 (c-factor) Q_k 都可以解释为 S_k 中变量的干预后分布。我们可以将联合观测分布表示为 c-factor 的乘积:

反过来,如果将 Q_1 中的 P(x|u_1) 边缘化,则我们可以用 Q_1、Q_2 来定义 P(v|do(X)):

因此,P(v|do(X)) 是可识别的,前提是:a)我们可以根据干预前的概率计算干预后的概率 Q_1、Q_2;b)我们可以将 x 从估计的 Q_1 中边缘化,从而计算 Q_1^x。

事实上,Tian 和 Pearl 的研究《A General Identification Condition for Causal Effects》表明每个 c-factor 都是可识别的。因此,计算 P(v|do(X)) 的唯一条件是「当且仅当 Q_1^x 可识别」。在这种情况下:

因此,我们可以通过对 X 的值求和将 x 从 Q_1 中边缘化。

最后,对 P(v|do(X)) 的估计如下:

识别因果关系的通用标准

首先,请注意,对于任何具有双向路径的图,我们都可以通过划分 c-component 及其各自 c-factor 的方法,来分解联合概率分布:

还需要注意的是,通过干预 x 生成的截断分布可以用 c-factor 来表示:

上式中,一旦从因式分解中删除了 x,则 Q_x^x 是 x 位置的 c-factor。因此,如果 Q_x^x 是可识别的,则 P(v|do(X=x) 也是可识别的。

实际上,Tian 和 Pearl 的研究表明,当且仅当不存在将 X 连接至其子代的双向路径(仅具有双向边的路径)时,Q_x^x 可识别。因此,我们可以得到以下测试,用于确定 P(v|do(X=x) 是否可识别:

当且仅当没有双向路径将 X 连接至它的任何子代时,P(v|do(X=x) 是可识别的。

注意,如果 P(v|do(X=x) 可识别,则 P(Y|do(X=x)) 也是可识别的。因此,这一标准足以确定 P(v|do(X=x) 是否不可识别。假设我们只对单个变量 Y 的因果关系感兴趣,那么我们可以只考虑 Y 的祖代变量的子图,来简化问题。

直观理解

如何直观地理解可识别性测试呢?可识别性的关键不在于阻止 X 和 Y 之间的后门路径,而是阻止 X 与其任何子代(即 Y 的祖代)之间的后门路径。因此,通过阻断这些路径,我们可以确定观察到的关联的哪一部分是虚假的,哪些是真正的因果关系。

接下来,我们来看应用示例。

示例 1

先看上文中的示例。为什么它是可识别的?该示例中所有其他变量都是 Y 的祖代,在这种情况下我们无法简化问题。因此,我们必须查看 X 和它的子代之间是否存在双向路径:

tidy_dagitty(example, layout = "nicely", seed = 2) %>% node_descendants("x") %>%mutate(linetype = if_else(direction == "->", "solid", "dashed")) %>%ggplot(aes(x = x, y = y, xend = xend, yend = yend, color = descendant)) +geom_dag_edges(aes(end_cap = ggraph::circle(10, "mm"), edge_linetype = linetype)) +geom_dag_point() + geom_dag_text(col = "white") +labs(title = "The causal effect of X is identifiable",subtitle = "There's no bi-directed path between X and its descendats")

假设 X 和它的子代之间没有双向路径,则 X 的因果关系是可识别的。

示例 2

non_identifiable_example x ~~~ z,x ~~ y, w ~ x, w ~~ z,y ~ w,y ~~ z)

在本例中,为了确定因果关系是否可识别,我们需要寻找 X 及其子代之间的双向路径。如果没有,则因果关系可识别。

tidy_dagitty(non_identifiable_example, layout = "nicely", seed = 2) %>% node_descendants("x") %>%mutate(linetype = if_else(direction == "->", "solid", "dashed")) %>%ggplot(aes(x = x, y = y, xend = xend, yend = yend, color = descendant)) +geom_dag_edges(aes(end_cap = ggraph::circle(10, "mm"), edge_linetype = linetype)) +geom_dag_point() + geom_dag_text(col = "white")

注意,在 X 和 W(X 的子代之一)之间存在一条经过 Z 的双向路径,根据上文介绍的图标准,其因果关系不可识别。

示例 3

third_example x ~ z2, x ~~ z2, x ~~ y, z2 ~~ y, z3 ~ z2, x ~~ z3, y ~ z1 + z3)

与前面的示例一样,本例中我们仍需在 X 及其子代之间寻找双向路径。

tidy_dagitty(third_example, layout = "nicely", seed = 2) %>% node_descendants("x") %>% mutate(linetype = if_else(direction == "->", "solid", "dashed")) %>% ggplot(aes(x = x, y = y, xend = xend, yend = yend, color = descendant)) + geom_dag_edges(aes(end_cap = ggraph::circle(10, "mm"), edge_linetype = linetype)) + geom_dag_point() + geom_dag_text(col = "white")

注意,X 与其 Y 以外的唯一子代(z1)没有双向路径。因此,其因果关系可识别。

可识别性的必要条件是什么?

对于可识别性,本文提到的测试是充分条件但并非必要条件。那么,是否存在充要条件呢?答案是肯定的,Pearl 和 Shipster(2006)提到了一种算法。它扩展了本文中的想法,根据干预前的概率返回因果关系的估计值。它是完备的且等效于 Pearl 的 do-calculus。

在 R 语言中,使用 causaleffect 软件包能够实现该算法。将其用于第一个示例,得到:

first_example_igraph z_2 -+ x, x -+ z_1, z_2 -+ z_1, z_1 -+ y, y -+ z_1, x -+ y, z_1 -+ y, z_2 -+ y, simplify = FALSE) %>%set.edge.attribute("description", index = c(1, 2, 5, 6), "U")ce plot(TeX(ce), cex = 3)

总结

在半马尔可夫模型中,变量之间存在隐藏共同原因,这些原因可能会破坏识别策略。本文介绍了一种对可识别性的充分测试方法,它基于隐藏共同原因的本质(用双向边来表示)。如果 X 和它的子代(也是 Y 的祖代)之间存在双向路径,则因果关系不可识别。

本文还提供了一个充分必要条件,并展示了如何在 R 语言中使用它。该条件是完备的,当因果关系可识别时,它返回一个估计量,可用于基于观测数据估计因果关系。

相关推荐

自学Python,写一个挨打的游戏代码来初识While循环

自学Python的第11天。旋转~跳跃~,我~闭着眼!学完循环,沐浴着while的光芒,闲来无事和同事一起扯皮,我说:“编程语言好神奇,一个小小的循环,竟然在生活中也可以找到原理和例子”,同事也...

常用的 Python 工具与资源,你知道几个?

最近几年你会发现,越来越多的人开始学习Python,工欲善其事必先利其器,今天纬软小编就跟大家分享一些常用的Python工具与资源,记得收藏哦!不然下次就找不到我了。1、PycharmPychar...

一张思维导图概括Python的基本语法, 一周的学习成果都在里面了

一周总结不知不觉已经自学Python一周的时间了,这一周,从认识Python到安装Python,再到基本语法和基本数据类型,对于小白的我来说无比艰辛的,充满坎坷。最主要的是每天学习时间有限。只...

三日速成python?打工人,小心钱包,别当韭菜

随着人工智能的热度越来越高,许多非计算机专业的同学们也都纷纷投入到学习编程的道路上来。而Python,作为一种相对比较容易上手的语言,也越来越受欢迎。网络上各类网课层出不穷,各式广告令人眼花缭乱。某些...

Python自动化软件测试怎么学?路线和方法都在这里了

Python自动化测试是指使用Python编程语言和相关工具,对软件系统进行自动化测试的过程。学习Python自动化测试需要掌握以下技术:Python编程语言:学习Python自动化测试需要先掌握Py...

Python从放弃到入门:公众号历史文章爬取为例谈快速学习技能

这篇文章不谈江流所专研的营销与运营,而聊一聊技能学习之路,聊一聊Python这门最简单的编程语言该如何学习,我完成的第一个Python项目,将任意公众号的所有历史文章导出成PDF电子书。或许我这个Py...

【黑客必会】python学习计划

阅读Python文档从Python官方网站上下载并阅读Python最新版本的文档(中文版),这是学习Python的最好方式。对于每个新概念和想法,请尝试运行一些代码片段,并检查生成的输出。这将帮助您更...

公布了!2025CDA考试安排

CDA数据分析师报考流程数据分析师是指在不同行业中专门从事行业数据搜集、整理、分析依据数据作出行业研究评估的专业人员CDA证书分为1-3级,中英文双证就业面广,含金量高!!?报考条件:满18...

一文搞懂全排列、组合、子集问题(经典回溯递归)

原创公众号:【bigsai】头条号:程序员bigsai前言Hello,大家好,我是bigsai,longtimenosee!在刷题和面试过程中,我们经常遇到一些排列组合类的问题,而全排列、组合...

「西法带你学算法」一次搞定前缀和

我花了几天时间,从力扣中精选了五道相同思想的题目,来帮助大家解套,如果觉得文章对你有用,记得点赞分享,让我看到你的认可,有动力继续做下去。467.环绕字符串中唯一的子字符串[1](中等)795.区...

平均数的5种方法,你用过几种方法?

平均数,看似很简单的东西,其实里面包含着很多学问。今天,分享5种经常会用到的平均数方法。1.算术平均法用到最多的莫过于算术平均法,考试平均分、平均工资等等,都是用到这个。=AVERAGE(B2:B11...

【干货收藏】如何最简单、通俗地理解决策树分类算法?

决策树(Decisiontree)是基于已知各种情况(特征取值)的基础上,通过构建树型决策结构来进行分析的一种方式,是常用的有监督的分类算法。决策树算法是机器学习中的一种经典算法,它通过一系列的规则...

面试必备:回溯算法详解

我们刷leetcode的时候,经常会遇到回溯算法类型题目。回溯算法是五大基本算法之一,一般大厂也喜欢问。今天跟大家一起来学习回溯算法的套路,文章如果有不正确的地方,欢迎大家指出哈,感谢感谢~什么是回溯...

「机器学习」决策树——ID3、C4.5、CART(非常详细)

决策树是一个非常常见并且优秀的机器学习算法,它易于理解、可解释性强,其可作为分类算法,也可用于回归模型。本文将分三篇介绍决策树,第一篇介绍基本树(包括ID3、C4.5、CART),第二篇介绍Ran...

大话AI算法: 决策树

所谓的决策树算法,通俗的说就是建立一个树形的结构,通过这个结构去一层一层的筛选判断问题是否好坏的算法。比如判断一个西瓜是否好瓜,有20条西瓜的样本提供给你,让你根据这20条(通过机器学习)建立起...