NO.13.tip： 似然比检验

背景

  似然比检验是 Neyman 和 Pearson 提出的一种构造检验的方法。这是一种基于直观想法的方法，有如点估计中的极大似然估计。这是一种基于直观想法的方法，有如点估计中的极大似然估计。用这种方法构造出来的检验，一般来说有比较良好的性质。但是并不能一般地证明，这样构造出的检验必然满足某些常见的最优准则，如 UMP 或 UMPU 之类。这个方法的一个优点是适用面较广，就是说，它对分布族的形式没有什么特殊的要求。

  设样本 $X$ 有概率函数 $f(x,\theta )$ ($\theta \in \Theta$)，${\Theta }_H$ 为 $\Theta$ 的非空真子集。考虑假设检验问题 (3.32)，则统计量 $$LR(x)=\frac{{\sup }_{\theta \in \Theta }f(x,\theta )}{{\sup }_{\theta \in {\Theta }_H}f(x,\theta )}\text{\hspace{1em}(1)}$$ 称为关于该检验问题的似然比。而由下式定义的检验函数 $\phi$： $$\phi (x)=\{\begin{array}{ll}1,& \text{当 }LR(x)>C\text{ 时}\\ \gamma ,& \text{当 }LR(x)=C\text{ 时}\\ 0,& \text{当 }LR(x)<C\text{ 时}\end{array}\text{\hspace{1em}(2)}$$ 其中，$C,\gamma$ 为常数，$0\le \gamma \le 1$，称为检验问题 (1) 的一个似然比检验。

  为了定出 (2) 式中的 $C$ 和 $\gamma$，使它有给定的水平 $\alpha$，就需要知道似然比 $LR(X)$ 在原假设成立时的分布。在简单例子中，似然比的分布可以算出。但在多数情况下，如在例 3.13 中，似然比有很复杂的形状，其精确分布无法求得。1938 年，S. S. Wilks 证明了：若样本 $\mathbf{X}$ 是独立随机样本 $X_1,\cdots ,X_n$，则当样本大小 $n\to \infty$ 时，在原假设成立之下，似然比有一个简单的极限分布。应用这个极限分布，可以近似地决定 (2) 式中的 $C$ 和 $\gamma$。

若 $\Theta$ 的维数 $-{\Theta }_H$ 的维数 $=t>0$，则在原假设 $\theta \in {\Theta }_H$ 成立之下，当样本大小 $n\to \infty$ 时，$2\ln LR(X_1,\cdots ,X_n)$ 有极限分布 ${\chi }_t^2$。

  利用这个定理，可近似决定 (2) 式中的 $C$ 和 $\gamma$。为此，把 $2\ln LR(X_1,\cdots ,X_n)$ 的分布看成确切地等于 ${\chi }_t^2$，则应取 $$C=\exp \left(\frac{1}{2}{\chi }_t^2(\alpha )\right),\gamma =0.\text{\hspace{1em}(3)}$$

当 $C$ 和 $\gamma$ 按 (3) 式取时，由 (2) 式确定的检验 $\phi$ 满足 $$\underset{n\to \infty }{\lim }{\beta }_{\phi }(\theta )=\alpha (\text{一切 }\theta \in {\Theta }_H).\text{\hspace{1em}(4)}$$

常把满足这个条件的检验 $\phi$ 称为有渐近水平 $\alpha$。

源与流

  似然比检验的一项最重要的应用，是处理涉及正态分布参数的假设检验问题。我们以样本t检验为例，进行讲述。

  设有样本 $X_1,\cdots ,X_n\sim N(a,{\sigma }^2)$，$a$ 和 $\sigma$ 都是未知参数，考虑检验问题 $$H:a=a_0\leftrightarrow K:a\ne a_0,\text{\hspace{1em}(5)}$$ 其中，$a_0$ 是给定的已知数。

  现考虑检验问题 (5) 的水平 $\alpha$ 似然比检验。样本 $(X_1,\cdots ,X_n)$ 的似然函数为 $$f(x_1,\cdots ,x_n,a,\sigma )=(\sqrt{2\pi }\sigma {)}^{-n}\exp \left(-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(x_i-a{)}^2\right).\text{\hspace{1em}(6)}$$

考虑到

$$\{\begin{array}{l}\underset{-\infty <a<\infty }{\min }\sum _{i=1}^n(x_i-a{)}^2=\sum _{i=1}^n(x_i-\bar{x}{)}^2,\\ \underset{0<\sigma <\infty }{\max }{\sigma }^{-n}{e}^{-A/{\sigma }^2}={\left(\frac{n}{2A}\right)}^{n/2}{e}^{-n/2}(A>0),\end{array}\text{\hspace{1em}(7)}$$

易算出似然比为

$$\begin{array}{rl}LR(x_1,\cdots ,x_n)& ={\left[\sum _{i=1}^n(x_i-a_0{)}^2/\sum _{i=1}^n(x_i-\bar{x}{)}^2\right]}^{n/2}\\ & ={\left[1+n{\left(|\bar{x}-a_0|/\sqrt{\sum _{i=1}^n(x_i-\bar{x}{)}^2}\right)}^2\right]}^{-n/2}.\end{array}$$

由此知似然比检验有否定域 $\left\{|\bar{X}-a_0|/\sqrt{{\sum }_{i=1}^n(X_i-\bar{X}{)}^2}>C\right\}$。为确定常数 $C$，考虑统计量

$$T=\sqrt{n}(\bar{X}-a_0)/\sqrt{\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2}.\text{\hspace{1em}(8)}$$

由 $t$ 分布的定义，知当 $a=a_0$ 时 $T\sim t_{n-1}$，即自由度为 $n-1$ 的 $t$ 分布。给定 $\alpha \in (0,1)$，可从 $t$ 分布表上，查出满足 $P\left(t_{n-1}>t_{n-1}\left(\frac{\alpha }{2}\right)\right)$ 的值 $t_{n-1}\left(\frac{\alpha }{2}\right)$。由于 $t$ 分布密度关于 0 对称，此值也满足 $P\left(|t_{n-1}|>t_{n-1}\left(\frac{\alpha }{2}\right)\right)=\alpha$。于是得到检验问题 (5) 的水平 $\alpha$ 的似然比检验为

$$\text{当 }|T|>t_{n-1}\left(\frac{\alpha }{2}\right)\text{ 时否定 }H\text{，不然就接受 }H.\text{\hspace{1em}(9)}$$

由 (8) 式定义的统计量 $T$ 称为一样本 $t$ 统计量，而检验 (9) 则称为一样本 $t$ 检验。