一元线性回归模型的参数估计.doc

《一元线性回归模型的参数估计.doc》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、§2.2一元线性回归模型的参数估计单方程计量经济学模型分为线性模型和非线性模型两大类。在线性模型中，变量之间的关系呈线性关系；在非线性模型中，变量之间的关系呈非线性关系。线性回归模型是线性模型的一种，它的数学基础是回归分析，即用回归分析方法建立的线性模型，用以揭示经济现象中的因果关系。一元线性回归模型是最简单的计量经济学模型，在模型中只有一个解释变量，其一般形式是：i=1,2,…n（2.2.1）其中，为被解释变量，为解释变量，与为待估参数，为随机干扰项。一、一元线性回归模型的基本假设回归分析的主要目的是要通过样本回归函

2、数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。估计方法有多种，其种最广泛使用的是普通最小二乘法（ordinaryleastsquares,OLS）。为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。如果实际模型满足这些基本假设，普通最小二乘法就是一种适用的估计方法；如果实际模型不满足这些基本假设，普通最小二乘法就不再适用，而要发展其它方法来估计模型。所以，严格地说，下面的基本假设并不是针对模型的，而是针对普通最小二乘法的。对模型（2.2.1），基本假设包括对解释变量X的假设，以及对随机扰动项的假

3、设：　假设1：解释变量X是确定性变量，不是随机变量，而且在重复抽样中取固定值。假设2：随机误差项具有０均值、同方差及不序列相关性。即　　　　=0i=1,2,…n=i=1,2,…n　　　　=0i≠ji,j=1,2,…n假设3：随机误差项与解释变量之间不相关。即　　　=0i=1,2,…n假设4：随机误差项服从０均值、同方差、零协方差的正态分布。即　　　　　i=1,2,…n需注意的是，如果假设1、2成立，则假设3成立，因为这时显然有=；另外，如果假设4成立，则假设2成立，因为对两正态分布变量来说，零协方差就意味着两变量相互独

4、立。以上假设也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归模型（ClassicalLinearRegressionModel,CLRM）。另外，在进行模型回归时，还有两个暗含的假设：假设5：随着样本容量的无限增加，解释变量X的样本方差趋于一有限常数。即假设6：回归模型是正确设定的。假设5旨在排除时间序列数据出现持续上升或下降的变量作为解释变量，因为这类数据不仅使大样本统计推断变得无效，而且往往产生所谓的伪回归问题（spuriousregressionproblem）。

5、关于伪回归的确切含义将在第九章中讨论。假设6也被称为模型没有设定偏误（specificationerror），它的确切含义将在第五章中讨论。在实际建立模型的过程中，除了随机误差项的正态假设外，对模型是否满足其他假设都要进行检验。这就是“建立计量经济学模型步骤”中“计量经济学检验”的任务。对于随机误差项的正态假设，根据中心极限定理，当样本容量趋于无穷大时，都是满足的。二、参数的普通最小二乘估计（OLS）已知一组样本观测值（），（i=1,2,…n），要求样本回归函数尽可能好地拟合这组值，即样本回归线上的点与真实观测点的“总

6、体误差”尽可能地小，或者说被解释变量的估计值与观测值应该在总体上最为接近，最小二乘法（Ordinaryleastsquares,OLS）给出的判断标准是：二者之差的平方和=（2.2.2）最小。即在给定样本观测值之下，选择出、能使与之差的平方和最小。为什么用平方和？因为样本回归线上的点与真实观测点之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原理。根据微积分学的运算，当对、的一阶偏导数为0时，达到最小。即可推得用于估计、的下列方程组：(2.2.3）或(2.2.4)解

7、得：(2.2.5）方程组（2.2.3）或（2.2.4）称为正规方程组（normalequations）。记(2.2.5)的参数估计量可以写成：(2.2.6)称为OLS估计量的离差形式（deviationform）。在计量经济学中，往往以小写字母表示对均值的离差。由于、的估计结果是从最小二乘原理得到的，故称为普通最小二乘估计量（ordinaryleastsquaresestimators）。顺便指出，记，则有可得（2.2.7）其中，用到了正规方程组的第一个方程。（2.2.7）式也称为样本回归函数的离差形式。在结束普通最小

8、二乘估计的时候，需要交代一个重要的概念，即“估计量”（estimator）和“估计值”(estimate)的区别。由（2.2.5）式或（2.2.6）式给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估计值”，或者“点估计”，是参数估计量和的一个具体数值；但从另一个角度，仅仅把（2.2.5）或（2.2.6）看成和的一个表