多元线性回归模型课件.ppt

《多元线性回归模型课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章多元线性回归模型学习目标：熟悉多元线性回归模型的设定。掌握多元线性回归的普通最小二乘估计法和极大似然估计法的原理。掌握多元线性回归参数估计量的性质和模型的各种统计检验方法。了解多元线性回归模型的置信区间的计算方法。熟悉受约束回归的检验方法与检验步骤。熟悉EViews软件进行多元线性回归模型估计的详细步骤。第一节多元线性回归模型及假定第二节多元线性回归模型的参数估计第三节多元线性回归模型的统计检验第四节　多元线性回归模型的置信区间第五节　受约束回归第六节案例分析一、多元线性回归模型其一般形式为：由于习惯上把常数项看成为一个虚变量的

2、系数，在参数估计过程中该虚变量的样本观测值始终取1。这样，模型中解释变量的数目为（K+1）。代表众多影响变化的微小因素。第一节多元线性回归模型及假定当给定一个样本时，上述模型表示为经济意义：与存在线性关系,是的重要解释变量。代数意义：与存在线性关系。几何意义：表示一个多维平面。多元总体回归函数：的总体条件均值表示为多个解释变量的函数；该方程被称为条件期望函数或总体回归函数或简称总体回归。它仅仅表明在给定下的分布的均值与存在着函数关系。多元线性回归模型表示的n个随机方程的矩阵表达式为：其中，以上多元线性回归模型也可表示向量表达式的形式其

3、中，假定1：解释变量是非随机的，即在重复抽样中，解释变量取固定值，且相互之间互不相关。这表明模型中的解释变量和随机干扰项对被解释变量的影响是完全独立的。二、多元线性回归模型的若干假定假定2：随机干扰项与解释变量之间不相关。这个假定说明Xji与随机干扰项ui相互独立，互不相关，它们对被解释变量yi的影响同样也是独立的。假定3：随机干扰项服从零均值，同方差，零协方差。用矩阵形式表示就是随机干扰项的方差—协方差矩阵形如：假定4：随机干扰项服从正态分布。即假定5：正确设定回归模型。与一元回归模型一样，多元回归模型的正确设定也有三个方面的要求：

4、1.选择正确的变量进入模型；2.对模型的形式进行正确的设定；3.对模型的解释变量被解释变量及随机干扰项做了正确的假定。上述假定条件称为多元线性回归模型的经典假定。第二节多元线性回归模型的参数估计一、普通最小二乘法(一)普通最小二乘估计对于多元线性回归模型，利用最小二乘法估计模型的参数，同样应该使残差平方和达到最小，即取最小值。根据多元函数的极值原理，分别对求一阶偏导数，并令其为零。即：得到下列方程组：可写成矩阵形式：得出叫做正规方程组；因而，这就是向量的估计值。(二)随机干扰项方差估计值的普通最小二乘估计随机干扰项的方差的无偏估计为其

5、中，为自由度，这是因为在估计时，必须先求出　，即消耗了个自由度。对于多元线性回归模型于是，的概率函数为因为是相互独立的，所以是随机抽取的n组样本观测值的联合概率，即似然函数为:由于是的单调函数，使极大的参数值也将使极大，即，所以对数似然函数为：可以求出和的估计参数（一）线性性参数估计量是线性估计量，即是随机变量的线性函数。由于可见，参数估计量是被解释变量的线性组合。三、参数估计量的性质（二）无偏性将代入，得（三）最小方差性由于为单位矩阵。例3-1（四）随机干扰项方差估计量的性质由于被解释变量的估计值与观察值之间的残差于是随机干扰项方差

6、的估计量为一、模型的拟合优度检验二、回归方程的显著性检验三、显著性检验第三节多元线性回归模型的统计检验一、模型的拟合优度检验（一）R2检验1.总离差平方和的分解对于有k个解释变量的多元线性回归模型其对应的回归方程为：将与其平均值之间的离差分解如下：总离差平方和:回归平方和:残差平方和：总离差平方和分解为回归平方和与残差平方和两部分。2.多元样本决定系数与拟合优度检验多元样本决定系数:可用回归平方和占总离差平方和的比重来衡量样本回归线对样本观测值的拟合程度。可用回归平方和占总离差平方和的比重来衡量样本回归线对样本观测值的拟合程度。的数值

7、越接近1，表明中总离差平方和中可由样本回归线解释的部分越大，残差平方和越小，样本回归线与样本观测值的拟合程度越高；反之则拟合得越差。3.修正样本决定系数R2的大小与模型中解释变量的数目有关，解释变量的个数越多，它的值就越大，在实际运用中需要对其进行调整。调整的思想是将残差平方和与总离差平方和之比的分子分母分别用各自的自由度去除，变成均方差之比，以剔除解释变量个数对拟合优度的影响。于是，修正的样本决定系数为调整的可决系数与未经调整的可决系数之间存在如下关系：或仅仅说明了在给定的样本条件下，估计的回归方程对于样本观测值的似合优度。在实际应

8、用中，或究竟要多大才算模型通过了检验，没有绝对的标准，要视具体情况而定。模型的拟合优度并不是评价模型优劣的唯一标准，有时为了追求模型的经济意义宁可牺牲一点拟合优度。（二）赤池信息准则和施瓦茨准则赤池信息准则：施瓦茨准则：