线性回归模型参数估计

《线性回归模型参数估计》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、上次课程回顾一、变量间的关系及回归分析的基本概念二、总体回归函数三、随机扰动项四、样本回归函数（SRF）一、变量间的关系及回归分析的基本概念1、变量间的关系2、回归分析的基本概念回归分析(regressionanalysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。二、总体回归函数（PRF)在给定解释变量Xi条件下被解释变量Yi的期望轨迹称为总体回归线（populationregressionline），或更一般地称为总体回归曲线（populationregressioncurve）。总体回归函数总体回归模型三、随机扰动项随机误差项包括的因

2、素产生并设计随机误差项的原因习题例1、令kids表示一名妇女生育孩子的数目，educ表示该妇女接受过教育的年数。生育率对教育年数的简单回归模型为kids=0+1educ+随机扰动项包含什么样的因素？它们可能与教育水平相关吗？收入、年龄、家庭状况、政府的相关政策等也是影响生育率的重要的因素，在上述简单回归模型中，它们被包含在了随机扰动项之中。有些因素可能与教育水平相关，如收入水平与教育水平往往呈正相关、年龄大小与教育水平呈负相关等。§2.2一元线性回归模型的参数估计一、一元线性回归模型的基本假设二、参数的普通最小二乘估计（OLS）三、最小二乘估计量的性质四、参数

3、估计量的概率分布及随机干扰项方差的估计单方程计量经济学模型分为两大类：线性模型和非线性模型对变量为线性我们所研究的是指对参数为线性的模型对参数为线性一元线性回归模型：只有一个解释变量i=1,2,…,nY为被解释变量，X为解释变量，0与1为待估参数，为随机干扰项回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。估计方法有多种，其种最广泛使用的是普通最小二乘法（ordinaryleastsquares,OLS）。为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。注：实际这些假设与所采用的估计方法紧密相关。一、

4、线性回归模型的基本假设1.对模型设定的假设2.对解释变量的假设3.对随机干扰项的假设1.对模型设定的假设假设1：回归模型的设定是正确的被称为模型没有设定偏误（specificationerror）假设2：回归模型的是线性的被解释变量关于参数是线性的。2.对解释变量的假设假设3：解释变量X是确定性变量，不是随机变量，在重复抽样中取固定值。假设4：随机误差项与解释变量X之间不相关：Cov(Xi,i)=0i=1,2,…,nE(Xi,i)=0假设5：解释变量在所抽取的样本中具有变异性。假设6：随着样本容量的无限增加，解释变量的方差趋于一个非零常数。3.对随机干扰项的假

5、设假设7.随机误差项具有零均值、同方差和不序列相关性：E(i)=0i=1,2,…,nVar(i)=2i=1,2,…,nCov(i,j)=0i≠ji,j=1,2,…,n假设8.服从零均值、同方差、零协方差的正态分布i~N(0,2)i=1,2,…,n仅仅用OLS做参数估计并不需要这一条假设，但做统计推断时需要。以上假设也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归模型（ClassicalLinearRegressionModel,CLRM）。还满足第8条正态性假设的就叫经典正态线性回归模型二、参数

6、的普通最小二乘估计（OLS）给定一组样本观测值（Xi,Yi）（i=1,2,…n）要求样本回归函数尽可能好地拟合这组值.普通最小二乘法（Ordinaryleastsquares,OLS）给出的判断标准是：二者之差的平方和最小。方程组（*）称为正规方程组（normalequations）。记上述参数估计量可以写成：称为OLS估计量的离差形式（deviationform）。由于参数的估计结果是通过最小二乘法得到的，故称为普通最小二乘估计量（ordinaryleastsquaresestimators）。顺便指出，记则有可得（**）式也称为样本回归函数的离差形式。（**）注

7、意：在计量经济学中，往往以小写字母表示对均值的离差。例2.2.1：在上述家庭可支配收入-消费支出例中，对于所抽出的一组样本数，参数估计的计算可通过下面的表2.2.1进行。因此，由该样本估计的回归方程为：三、最小二乘估计量的性质当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。一个用于考察总体的估计量，可从如下几个方面考察其优劣性：（1）线性性，即它是否是另一随机变量的线性函数；（2）无偏性，即它的均值或期望值是否等于总体的真实值；（3）有效性，即它是否在所有线性无偏估计量中具有最小方差。（4）渐近无偏性，即