内容正文:
前面我们通过2×2列联表整理成对分类变量的样本观测数据,并根据随机事件频率的稳定性推断两个分类变量之间是否有关联 . 对于随机样本而言,因为频率具有随机性,频率与概率之间存在误差,所以我们的推断可能犯错误,而且在样本容量较小时,犯错误的可能性会较大 . 因此,需要找到一种更为合理的推断方法,同时也希望能对出现错误推断的概率有一定的控制或估算.
8.3.2 独立性检验
考虑以Ω为样本空间的古典概型,设X和Y 为定义在Ω上,取值于{0, 1}的成对分类变量 . 我们希望判断事件{X=1}和{Y=1}之间是否有关联 .
注意到{X=0}和{X=1}, {Y=0}和{Y=1}都是互对立事件,与前面的讨论类似,我们需要判断下面的假定关系
H0: P(Y=1|X=0)=P(Y=1|X=1)
是否成立,通常称H0为零假设或原假设.
这里,P(Y=1| X=0)表示从{X=0} 中随机选取一个样本点,该样本点属于{X=0 , Y=1}的概率; P(Y=1|X=1)表示从{X=1}中随机选取一个样本点,该样本点属于{X=1, Y=1}的概率.
由条件概率的定义可知,零假设
H0: P(Y=1|X=0)=P(Y=1|X=1)
或 P(X=0, Y=1)P(X=1)=P(X=1,Y=1)P(X=0). ①
等价于
注意到{X=0}和{X=1}为对立事件,于是
P(X=0)=1−P(X=1) . 再由概率的性质,我们有
P(X=0, Y=1)=P(Y=1) − P(X=1, Y=1).
由此推得①式等价于 P(X=1)P(Y=1)=P(X=1, Y=1).
因此,零假设H0等价于{X=1}与{Y=1}独立.
根据已经学过的概率知识,下面的四条性质彼此等价:
{X=0}与{Y=0}独立 ; {X=0}与{Y=1}独立;
{X=1}与{Y=0}独立 ; {X=1}与{Y=1}独立.
因此,我们可以用概率语言,将零假设改述为
H0: 分类变量X和Y独立.
如果这些性质成立,我们就称分类变量X和Y独立,这相当于下面四个等式成立;
P(X =0, Y=0 ) = P(X =0)P(Y =0); P(X =0, Y =1) = P(X =0)P(Y =1);
P(X =1, Y =0) = P(X =1)P(Y =0); P(X =1, Y =1) = P(X =1)P(Y =1).
假定我们通过简单随机抽样得到了X和Y的抽样数据列联表,如下表所示.
X Y 合计
Y=0 Y=1
X=0 a b a+b
X=1 c d c+d
合计 a+c b+d n=a+b+c+d
上表是关于分类变量X和Y的抽样数据的2×2列联表:
最后一行的前两个数分别是事件{Y=0}和{Y=1}的频数;
最后一列的前两个数分别是事件{X=0}和{X=1}的频数;
中间的四个数a, b, c, d是事件{X=x, Y=y}(x, y=0, 1)的频数;
右下角格中的数n是样本容量.
对于随机样本,表中的频数a, b, c, d 都是随机变量,而表中的相应数据是这些随机变量的一次观测结果.
思考? 如何基于②中的四个等式及列联表中的数据,构造适当的统计量,对成对分类变量X和Y是否相互独立作出推断?
在零假设H0成立的条件下,根据频率稳定于概率的原理, 由②中的第一个等式, 我们可以用概率P(X=0)和P(Y=0)对应的频率的乘积估计概率P(X=0, Y=0).
而把视为事件{X=0, Y=0}发生的频数的期望值(或预期值).
这样 , 该频数的观测值a和期望值应该比较接近.
综合②中的四个式子,如果零假设H0成立,下面四个量的取值都不应该太大:
反之,当这些量的取值较大时,就可以推断H0不成立.
|a− |, |b− |,
|c − |, |d− | .
③
分别考虑③中的四个差的绝对值很困难, 我们需要找到一个既合理又能够计算分布的统计量, 来推断H0是否成立.
一般来说,若频数的期望值较大,则③中相应的差的绝对值也会较大;而若频数的期望值较小,则③中相应的差的绝对值也会较小.
为了合理地平衡这种影响,我们将四个差的绝对值取平方后分别除以相应的期望值再求和,得到如下的统计量:
该表达式可化简为
统计学家建议,用随机变量 χ2取值的大小作为判断零假设H0