# 基本概念

原假设：$H_0$，是被检验的假设，或称零假设

备择假设：$H_1$，与原假设互斥，不一定要和原假设对立

简单假设：假设中$\theta$ 的取值只有一个参数

复合假设：假设中$\theta$ 的取值为区间

由于做检验 = 怀疑，我们更关注于啥时候拒绝原假设，因此记：

• 当$x\in W$（拒绝域）：就拒绝$H_0$，认为$H_1$ 成立；
• 当$x\in W^c$（接受域）：接受$H_0$，认为$H_0$ 成立

检验函数：

$$\varphi(x)=\begin{cases}1,&x\in W\\0,&x\notin W&\end{cases}$$

当$\varphi(x)=1$ 时，拒绝$H_0$；否则接受$H_0$

# 势

第一类错误：弃真，其概率为：

$$\alpha(\theta)=P_\theta\{x\in W\},\theta\in \Theta_0$$

第二类错误：取伪，其概率为：

$$\beta(\theta)=P_\theta\{x\notin W\}=1-P_\theta\{x\in W\},\theta\in\Theta_1$$

检验的势（power） 为：$H_0$ 不成立时拒绝它的概率，
换句话说就是 ——“我拒绝对了” or “杀伐果断，我杀对了”

$$\gamma(\theta)=P_\theta\{x\in W\}=1-\beta(\theta),\theta\in\Theta_1$$

Neyman-Pearson 检验原理就是控制犯第一类错误的概率在给定的范围内，寻找检验使得犯第二类错误的概率尽可能的小（等价于让检验的势尽可能的大）——

我本来就因为怀疑才检验，所以 **“宁可错杀三千，绝不放过一个”**

这样就是给定一个较小的数$\alpha$（$0<\alpha<1$），一般取为 0.01，0.05，0.1 等，然后寻找一个更大的势；我们将$\alpha$ 称为显著性水平

因此，我们捏出一个函数称为势函数，含义为无论哪个假设真正成立，拒绝它的可能性

$$g(\theta)=E_\theta(\varphi(x))= \begin{cases} \alpha(\theta),~ & \theta \in \Theta_{0} \\ \gamma(\theta),~ & \theta \in \Theta_{1} \end{cases}$$

当原假设成立，势函数就是我们要控制的显著性水平；当备择假设成立，势函数就是势的大小

# 似然比检验

# 俩等于问题

检验问题：

$$\begin{align*} &H_0:\;\theta=\theta_0&\\ &H_1:\;\theta=\theta_1& \end{align*}$$

计算似然比：

$$\lambda(x)=\dfrac{p(x_1,x_2,...,x_n,\theta_1)}{p(x_1,x_2,...,x_n,\theta_0)}$$

$\lambda(x)$ 较大时，拒绝原假设$H_0$；拒绝域为$W = \{ x: \lambda(x) \geq c \}$

# 俩区间问题

检验问题：

$$\begin{align*} H_0:\theta\in\Theta_0\\ H_1:\theta\in\Theta_1 \end{align*}$$

计算似然比（其中$\Theta_0 \cup \Theta_1 = \Theta$）：

$$\lambda(x)=\dfrac{\sup_{\theta\in\Theta}\{p(x_1,\cdots,x_n,\theta)\}}{\sup_{\theta\in\Theta_0}\{p(x_1,\cdots,x_n,\theta)\}}$$

$\lambda(x)$ 较大时，拒绝原假设$H_0$；拒绝域为$W = \{ x: \lambda(x) \geq c \}$

• 对于$\mu,\sigma^2$ 未知的正态分布，极大似然估计结果：

$\widehat\mu=\bar x$，$\widehat\sigma^2=\dfrac{1}{n}\sum\limits^n_{i=1}(x_i-\bar x)^2$

• 已知$\mu=\mu_0$，$\sigma^2$ 的极大似然估计为：

$\widehat\sigma_0^2=\dfrac{1}{n}\sum\limits^n_{i=1}(x_i-\mu_0)^2$

# 最优势检验（MPT）

在 俩等于问题 中，在显著性$\alpha$ 上界一定的情况下，势最大的检验函数

问题是否存在 MPT，怎么构造，需要用到 N-P 引理：

• 基础

我们会用到似然比，计算方式：

$$L(x) = \dfrac {p(x, \theta _1)} {p( x, \theta _0) }$$

规定：

1. 当$p(x,\theta_0)=0,p(x,\theta_1)>0$ 时，$L(x)=\infty$；

2. 当$p(x,\theta_0)=p(x,\theta_1)=0$ 时，$L(x)=0$

• 引理内容

（1）存在常数$k\geq0$ 及检验函数满足：

$$\varphi(x)=\begin{cases}1,&L(x)>k\\0,&L(x)<k\end{cases}$$

则检验$\varphi(x)$ 是水平$\alpha$ 的 MPT

且$E_{\theta_0}(\varphi(x))=\alpha$（第一类错误概率取上界）

（2）如果$\varphi(x)$ 是水平为$\alpha$ 的 MPT，则必存在常数$k\geq0$，使得$\varphi(x)$ 满足（1）中的式子；若$\varphi$ 的势满足$E_{\theta_0}(\varphi(x))<1$，则$\varphi(x)$ 满足$E_{\theta_0}(\varphi(x))=\alpha$

• 离散特殊情况

当$L(x)$ 为离散随机变量时，MPT 的检验统计量为：

$$\varphi(x)= \begin{cases} 1,&L(x)>k\\ \dfrac{\alpha-P_{\theta_0}\{L(x)>k\}}{P_{\theta_0}\{L(x)=k\}},&L(x)=k\\ 0,&L(x)<k \end{cases}$$

其中常数$k$ 由以下公式决定：

$$P_{\theta_0}\{L(x)\geq k\} \geq \alpha \geq P_{\theta_0}\{L(x)> k\}$$

永远记住$\alpha$ 由大于和等于两种情况组成

我们首先考虑大于情况，用尽量大的 k 占据$\alpha$；然后在最边界的等于情况下，我们抛一个不均匀骰子，把$\alpha$ 剩余的值匀进去

我不会把 “等于情况” 的所有概率都塞进第一类错误中，那就爆仓了，大于$\alpha$ 了；我选取了 “等于情况” 的概率的一部分，最后塞到显著性为$\alpha$ 就停

# 一致最优势检验（UMPT）

UMPT=MPT 俩区间版

显著性一定，在任何拒绝域，UMPT 检验函数的势都最大！

# 无解情况

首先说一下没有 UMPT 的检验问题：

$$\begin{align*} &H_0:\;\theta=\theta_0&\\ &H_1:\;\theta\neq \theta_0& \end{align*}$$

以教科书的例子，正态分布的$\mu$ 等于或不等于$\mu_0$ 为例

$$\begin{align*} &H_0:\;\mu=\mu_0&\\ &H_1:\;\mu\neq \mu_0& \end{align*}$$

书上用了反证法：

1. 取类似常数函数的$\varphi(x)\equiv \alpha$，含义就是不管咋样，我就抛硬币 ——

没划分接受域拒绝域、不管原假设备择假设，
拒绝原假设的概率均为$\alpha$；
那么显著性和势大小均为$\alpha$；那么 UMPT 检验的势在拒绝域都要$\ge \alpha$

2. 该问题的 UMPT 应该也是以下问题的 MPT——

$$\begin{align*} &H_0:\;\mu=\mu_0&\\ &H_1:\;\mu=\mu_1&(\mu_1>\mu_0) \end{align*}$$

该问题的 MPT 在上一节有解过，MPT 检验函数为：

$$\varphi(x)=\begin{cases} 1,&\bar x\ge \mu_0+\dfrac{\sigma}{\sqrt n}u_{1-\alpha}\\ 0,&\bar x< \mu_0+\dfrac{\sigma}{\sqrt n}u_{1-\alpha} \end{cases}$$

且该 MPT 检验函数的势函数为

$$E_\mu(\varphi^*(x))=\Phi\Big(\dfrac{\sqrt n}{\sigma}(\mu-\mu_0)+u_{\alpha}\Big)$$

这个势函数是根据$\mu$ 严格单调增的

• 当$\mu=\mu_0$，势函数取值$\alpha$；
• $\mu<\mu_0$，势函数小于$\alpha$；
• $\mu>\mu_0$，势函数大于$\alpha$

3. 问题我们的拒绝域包含$\mu<\mu_0$ 和$\mu>\mu_0$，在步骤 1 中我们还推出来 UMPT 的势始终大于等于$\alpha$

矛盾

其实这个反证的本质就是 ——

1. 备择假设$\mu=\mu_1<\mu_0$，MPT 拒绝域为$\{x:\bar x\le \mu_0+\dfrac{\sigma}{\sqrt n}u_{1-\alpha}\}$
2. 备择假设$\mu=\mu_1>\mu_0$，MPT 拒绝域为$\{x:\bar x\ge \mu_0+\dfrac{\sigma}{\sqrt n}u_{1-\alpha}\}$

相应 MPT 拒绝域与备择假设有关，因此 UMPT 就不一定存在

# 单边检验

$$\begin{cases} H_0{:}&\theta=\theta_0;&H_1{:}&\theta>\theta_0\\ H_0{:}&\theta=\theta_0;&H_1{:}&\theta<\theta_0\\ H_0{:}&\theta\leq\theta_0;&H_1{:}&\theta>\theta_0\\ H_0{:}&\theta\geq\theta_0;&H_1{:}&\theta<\theta_0 \end{cases}$$

对单边检验问题：

$$\begin{align*} &H_0:\;\theta\le\theta_0&\\ &H_1:\;\theta> \theta_0& \end{align*}$$

如果样本$x_1,x_2,...,x_n$ 的联合密度$p(x,\theta)$ 是单参数的，
并可表示为：

$$p(x,\theta)=d(\theta)h(x)exp\{c(\theta)T(x)\}$$

其中$c(\theta)$ 是关于$\theta$ 的严格单调增函数，则有：

（1）水平为$\alpha$ 的 UMPT 存在，其检验函数为

$$\varphi^*(x)=\begin{cases}1,&T(x)>c\\r,&T(x)=c\\0,&T(x)<c\end{cases}$$

其中常数$c$ 和$r\in[0,1]$ 由$E_{\theta_0}(\varphi^*(x))=\alpha$ 确定（和 N-P 引理一样）。

（2）水平为$\alpha$ 的 UMPT 的势函数$E_{\theta}\left(\varphi^{*}(x)\right)$ 是$\theta$ 增函数。

（3）如果定理中的$c(\theta)$ 是$\theta$ 的严格单减函数，则只需要将$\varphi^*(x)$ 条件中的不等号改变方向。

基于此，我们进行以下附加转换：

1. 对假设检验问题：$H_0{:}\;\theta=\theta_0;\quad H_1{:}\;\theta>\theta_0$，定理依然成立
2. 剩下两种情况靠负号转换，依然可求 UMPT

# 双边检验

$$\begin{cases} H_0{:}&\theta=\theta_0;&H_1{:}&\theta\neq\theta_0,\\ H_0{:}&\theta_1\leq\theta\leq\theta_2;&H_1{:}&\theta<\theta_1\text{ or }\theta>\theta_2\\ H_0{:}&\theta\leq\theta_1\text{ or }\theta\geq\theta_2;&H_1{:}&\theta_1<\theta<\theta_2 \end{cases}$$

对双边检验问题：

$$\begin{align*} &H_0:\;\theta\leq\theta_1\text{ or }\theta\geq\theta_2\\ &H_1:\;\theta_1<\theta<\theta_2 \end{align*}$$

如果样本$x_1,x_2,...,x_n$ 的联合密度$p(x,\theta)$ 是单参数的，
并可表示为：

$$p(x,\theta)=d(\theta)h(x)exp\{c(\theta)T(x)\}$$

其中$c(\theta)$ 是关于$\theta$ 的严格单调增函数，则有水平为$\alpha$ 的 UMPT 存在，其检验函数为：

$$\varphi^*(x)=\begin{cases} 1&c_1<T(x)<c_2\\ r_i&T(x)=c_i,\;i=1,2\\ 0&T(x)<c_1\mathrm{~or~}T(x)>c_2 \end{cases}$$

其中四个常数$r_i,c_i(i=1,2)$，由$E_{\theta_1}(\varphi^*(x))=E_{\theta_2}(\varphi^*(x))=\alpha$ 确定。

# 最优势无偏检验（UMPUT）

剩下还有两列双边检验没解决：

$$\begin{align*} &H_0:\;\theta=\theta_0;&H_1{:}&\;\theta\neq\theta_0,\\ &H_0:\;\theta_1\leq\theta\leq\theta_2;&H_1{:}&\;\theta<\theta_1\text{ or }\theta>\theta_2 \end{align*}$$

# 无偏检验

对于俩区间检验问题：

$$\begin{align*} H_0:\theta\in\Theta_0\\ H_1:\theta\in\Theta_1 \end{align*}$$

如果检验函数的势函数满足：

$$\begin{cases} g(\theta)\le\alpha\quad for\;all\;\theta\isin\Theta_0\\ g(\theta)\ge\alpha\quad for\;all\;\theta\isin\Theta_1 \end{cases}$$

那么称该检验函数为水平为$\alpha$ 的无偏检验

由于常数函数$\varphi(x)\equiv \alpha$ 的存在，UMPT 肯定都是 UMPUT

那么对于剩下的两类双边检验，有解决方法了 ——

检验函数池打个补丁，除了显著性水平位$\alpha$，还要求都是无偏检验，
那么池子中势最大的检验即为最优势无偏检验（UMPUT）

# 闭区间或否问题

对双边检验问题：

$$\begin{align*} &H_0:\;\theta_1\leq\theta\leq\theta_2\\ &H_1:\;\theta<\theta_1\text{ or }\theta>\theta_2 \end{align*}$$

如果样本$x_1,x_2,...,x_n$ 的联合密度$p(x,\theta)$ 是单参数的，
并可表示为：

$$p(x,\theta)=d(\theta)h(x)exp\{c(\theta)T(x)\}$$

其中$c(\theta)$ 是关于$\theta$ 的严格单调增函数，则有水平为$\alpha$ 的 UMPUT 存在，其检验函数为：

$$\varphi^*(x)=\begin{cases} 1&T(x)<c_1\mathrm{~or~}T(x)>c_2\\ r_i&T(x)=c_i,\;i=1,2\\ 0&c_1<T(x)<c_2 \end{cases}$$

其中四个常数$r_i,c_i(i=1,2)$，由$E_{\theta_1}(\varphi^*(x))=E_{\theta_2}(\varphi^*(x))=\alpha$ 确定。

# 等或不等问题

对双边检验问题：

$$\begin{align*} &H_0:\;\theta=\theta_0&\\ &H_1:\;\theta\neq \theta_0& \end{align*}$$

如果样本$x_1,x_2,...,x_n$ 的联合密度$p(x,\theta)$ 是单参数的，
并可表示为：

$$p(x,\theta)=d(\theta)h(x)exp\{c(\theta)T(x)\}$$

其中$c(\theta)$ 是关于$\theta$ 的严格单调增函数，则有水平为$\alpha$ 的 UMPUT 存在，其检验函数为：

$$\varphi^*(x)=\begin{cases} 1&T(x)<c_1\mathrm{~or~}T(x)>c_2\\ r_i&T(x)=c_i,\;i=1,2\\ 0&c_1<T(x)<c_2 \end{cases}$$

其中四个常数$r_i,c_i(i=1,2)$，由下式确定：

$$E_{\theta_0}(\varphi^*(x))=\alpha\\ E_{\theta_0}(T\varphi^*(x))=\alpha E_{\theta_0}(T)$$