NO.2.tip: 矩估计
背景
矩法也许是最早的求点估计量的方法,至少可以追溯到19世纪末的KarlPearson。此法的优点是使用很简单,从而几乎总是可以求出估计值。尽管令人遗憾的是在很多情况下,矩法导出的估计量还需要改进,但是在其他方法难以实施的时候,它仍然不失为一个很好的工作起点。另外,它也可以作为其他需要循环几次的算法的初始值。
源与流
设\(X_{1},...,X_{n}\)是来\(f(x|\theta_{1},...,\theta_{n})\)为其概率密度函数的总体的样本。矩法估计量这样得到的:令前\(k\)阶的样本句子矩与相应的前\(k\)阶总体矩相等,这样就得到一个联立方程组,求解之,就得到矩统计量。更清楚地说,我们定义 \begin{cases} m_{1}=\frac{1}{n}\sum_{i=1}^{n}X_{i}^{'},\mu_{1}^{'}=EX^{'},\\ m_{2}=\frac{1}{n}\sum_{i=1}^{n}X_{i}^{2},\mu_{2}^{'}=EX^{2},\\ ...\\ m_{k}=\frac{1}{n}\sum_{i=1}^{n}X_{i}^{k},\mu_{k}^{'}=EX^{k}, \end{cases}
在典型的情况下,总体矩\(\mu_{j}^{'}\)是参数\(\theta_{1},...,\theta_{k}\)的一个函数,可以记作\(\mu_{j}^{'}\)。于是\((\theta_{1},...,\theta_{k})\)的矩法估计量\((\tilde{\theta_{1}},...,\tilde{\theta_{k}})\)就可以通过求解下面的关于\((\theta_{1},...,\theta_{k})\)的方程组
\begin{cases}
m_{1} = \mu_{1}^{'}(\theta_{1},...,\theta_{k}),\\
m_{2} = \mu_{2}^{'}(\theta_{1},...,\theta_{k}),\\
...\\
m_{k} = \mu_{k}^{'}(\theta_{1},...,\theta_{k}),\\
\end{cases}
得到。
值得一提的是,在计量经济学的世界中,矩法已是大名鼎鼎的明星。它是工具变量法(Instrumental Variable,IV)和广义矩估计法(Generalized Moment Method,GMM)的基础。在矩估计法中关键是利用了由随机干扰项的条件均值零假设所推出的非条件零均值特性,以及随机干扰项各解释变量间同期不相关特性\[E(X_{i}^{'}\mu_{i})=0\]作为总体矩条件。如果某个解释变量与随机干扰项相关,只要能找到1个工具变量,仍然可以构成一组矩条件,这就是工具变量法。如果存在大于\(k+1\)个变量与随机干扰项不相关,可以构成一组包含大于\(k+1\)个方程的矩条件,这就是广义矩估计法。