《计量经济分析方法与建模》第二版课件-第08章__对数极大似然估计.ppt

《《计量经济分析方法与建模》第二版课件-第08章__对数极大似然估计.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第八章对数极大似然估计极大似然估计法(maximumlikelihood,ML)，是不同于最小二乘法的另一种参数估计方法，是从极大似然原理发展起来的其他估计方法的基础。虽然其应用没有最小二乘法普遍，但在计量经济学理论上占据很重要的地位，因为极大似然原理比最小二乘原理更本质地揭示了通过样本估计母体参数的内在机理，计量经济学理论的发展更多的是以极大似然估计原理为基础的，对于一些特殊的计量经济学模型，只有极大似然方法才是很成功的估计方法。1EViews包含了一些常用方法，如最小二乘法、非线性最小二乘法、加权最小二乘法、TSLS、GMM、ARIMA、ARCH、GARCH等方法，这

2、些方法可以解决可能遇到的大多数估计问题。但是，我们在研究中也可能会碰到一些不在上述之列的特殊的模型，这些模型可能是现存方法的一个扩展，也可能是一类全新的问题。为了能解决这些特殊的问题，EViews提供了对数极大似然估计对象这一工具来估计各种不同类型的模型。对数极大似然估计对象提供了一个一般的，开放的工具，可以通过这个工具极大化相关参数的似然函数对一大类模型进行估计。2使用对数极大似然估计对象估计时，我们用EViews的序列生成器，将样本中各个观测值的对数似然贡献描述为一个未知参数的函数。可以给出似然函数中一个或多个参数的解析微分，也可以让EViews自动计算数值微分。EV

3、iews将寻找使得指定的似然函数最大化的参数值，并给出这些参数估计的估计标准差。在本章，我们将详细论述对数极大似然估计对象，说明其一般特征。并给出了一些可以使用该方法的具体的例子。3§8.1对数极大似然估计的基本原理§8.1.1极大似然估计的基本原理设总体的概率密度函数为P，其类型是已知的，但含有未知参数（向量）。我们的目的就是依据从该总体抽得的随机样本y1,y2,…,yT，寻求对的估计。观测值y1,y2,…,yT的联合密度函数被给定为（8.1.1）其中：y=(y1,y2,…,yT)。将这一联合密度函数视为参数的函数，称为样本的似然函数（likelihoodfun

4、ction）。4极大似然原理就是寻求参数的估计值，使得所给样本值的概率密度（即似然函数）的值在这个参数值之下，达到最大。在当前的情形下，就是寻求的估计值，使得似然函数L(y;)相对于给定的观测值y1,y2,…,yT而言达到最大值，就被称为极大似然估计量。5在L(y;)关于i（i=1,2,…,n，n是未知参数的个数）的偏导数存在时，要使L(y;)取最大值，必须满足,i=1,2,…,n（8.1.2）由上式可解得n1向量的极大似然估计值，而式(8.1.2)也被称为似然函数。6因为L(y;)与ln[L(y;))]在同一点处取极值，所以也可以由,i=1,2,…,

5、n（8.1.3）求得，因为对数可将乘积变成求和，所以，式(8.1.3)往往比直接使用式(8.1.2)来得方便。式(8.1.3)也被称为对数似然函数。7考虑多元线性回归模型的一般形式,t=1,2,…,T(8.1.4)其中k是解释变量个数，T是观测值个数，随机扰动项～，那么yt服从如下的正态分布：～其中(8.1.5)8y的随机抽取的T个样本观测值的联合概率函数为（8.1.6）这就是变量y的似然函数，未知参数向量={1,2,…k,2}。对似然函数求极大值和对数似然函数求极大值是等价的，式(8.1.6)的对数似然函数形式为：（8.1.7）9注意，可以将对数似然函数写成t

6、时刻所有观测值的对数似然贡献和的形式，（8.1.8）这里对数似然的单个贡献（用小写字母表示）由下面的式子给出：（8.1.9）10式（8.1.7）也可用标准正态分布的密度函数表示（8.1.10）式中标准正态分布的对数似然函数为（8.1.11）这里对数似然函数每个观测值的贡献式(8.1.9)又可以由下面的式子给出：（8.1.12）11§8.1.2EViews极大似然对象概述用对数极大似然估计来估计一个模型，主要的工作是建立用来求解似然函数的说明文本。用EViews指定对数极大似然函数的说明是很容易的，因为似然函数的说明只是一系列对序列的赋值语句，这些赋值语句在极大化的过程

7、中被反复的计算。我们所要做的只是写下一组语句，在计算时，这些语句将描述一个包含每个观测值对似然函数贡献的序列。12注意到，我们能将对数似然函数写成所有观测值t的对数似然贡献和的形式，这里单个贡献由下面的式子给出：13以只含一个解释变量的一元线性回归方程为例,t=1,2,…,T假定知道模型参数的真实值，并且想用EViews产生一个包含每个观测值的贡献的序列。14未知参数向量={0,1,2},可以将参数初值赋给系数向量的c(1)到c(3)元素，然后把下面的赋值语句作为EViews的命令或程序来执行。Seriesres=y-