第一节最大似然估计.ppt

非经典计量经济学模型估计方法
第一节最大似然估计
计量模型估计方法说明
计量经济学模型(参数模型、均值回归模型、基于样本信息)的3类估计方法
LS、ML、GMM
经典模型的估计—LS
非经典模型的估计—ML、GMM
综合样本信息和先验信息的贝叶斯估计
分位数回归模型,Quantile Regression ,QREG
非参数模型的权函数估计、级数估计等
主要内容
一、最大似然原理
二、线性模型的最大似然估计
三、非线性模型的最大似然估计
四、异方差和序列相关的最大似然估计
五、最大似然估计下的Wald、LM和LR检验
一、最大似然原理
内在机理:当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。该方法更本质地揭示了通过样本估计母体参数的内在机理。在微观计量模型尤其适用。
似然函数:将样本观测值联合概率函数称为样本观测值的似然函数。
极大似然法:通过似然函数极大化以求得总体参数估计量的方法被称为极大似然法。
工作原理:在已经取得样本观测值的情况下,使似然函数取最大值的总体分布参数所代表的总体具有最大的概率取得这些样本观测值,该总体参数即是所要求的参数。
最小二乘法:最合理的参数估计量是使得模型能最好的拟合样本数据;
以正态分布的总体为例,每个总体都有自己的分布参数期望和方差,如果已经得到n组样本观测值,在可供选择总体中,哪个最可能产生这组样本数据?取得n组样本观测值的联合概率,然后选择参数使其最大,和该参数匹配的即为总体。
二、线性模型的最大似然估计
1、一元线性模型的最大似然估计
Yi的分布
Yi的概率密度函数
Y的所有样本观测值的联合概率—似然函数
随机抽取n组样本观测值Yi 。
为什么是这个形式?
对数似然函数
对数似然函数极大化的一阶条件
结构参数的ML估计量
判断L*为海塞矩阵负定,所以有极大值,一阶条件为:
分布参数的ML估计量