第3章多元线性回归模型ppt课件.ppt

《第3章多元线性回归模型ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第3章多元线性回归模型3.1模型的建立及其假定条件3.2最小二乘法3.3最小二乘估计量的特性3.4可决系数3.5显著性检验与置信区间3.6预测3.7案例分析3.1模型的建立及其假定条件1基本的概念在许多实际问题中，我们所研究的因变量的变动可能不仅与一个解释变量有关。因此，有必要考虑线性模型的更一般形式，即多元线性回归模型：t=1,2,…,n在这个模型中，Y由X1,X2,X3,…XK所解释，有K+1个未知参数β0、β1、β2、…βK。这里，“斜率”βj的含义是其它变量不变的情况下，Xj改变一个单位对因变量所产生的影响。例1：其中，Y

2、=在食品上的总支出X=个人可支配收入P=食品价格指数用美国1959-1983年的数据，得到如下回归结果（括号中数字为标准误差）：Y和X的计量单位为10亿美元(按1972不变价格计算).多元线性回归模型中斜率系数的含义上例中斜率系数的含义说明如下：价格不变的情况下，个人可支配收入每上升10亿美元（1个billion），食品消费支出平均增加1.12亿元（0.112个billion）。收入不变的情况下，价格指数每上升一个点，食品消费支出平均减少7.39亿元（0.739个billion）问题：一元线性回归模型斜率系数的经济含义与多元线性回

3、归模型斜率系数的经济含义的区别？回到一般模型描述被解释变量Y的期望值与解释变量X1,X2,…XK线性关系的方程为这个式子为多元线性回归方程,简称总体回归方程对于n组观测值，有其矩阵形式为：其中由于总体回归模型的参数都是未知的,我们可以利用样本观测值对它们进行估计,得到相应的估计的回归方程上式为多元线性回归方程,简称样本回归方程.估计的回归方程的矩阵表达形式为问题：一元线性回归模型的假定条件包括哪些？2模型的假定（1）E(ui)=0,i=1,2,…,n其矩阵表达形式为:E(U)=0(2)随机误差项有相同的方差(3)随机误差项彼此之间

4、不相关i≠j将条件(2)和(3)结合起来,其相应的矩阵表达形式为(4)解释变量与随机误差项彼此不相关i=1,2…kj=1,2,….,n(5)解释变量X1,X2,…,Xk之间不存在精确的(完全的)线性关系,即rank(X)=k+1

5、是选择，使得残差平方和最小。残差为：要使残差平方和为最小，则应有：我们得到如下K+1个方程（即正规方程）：按矩阵形式，上述方程组可表示为：=即上述结果，亦可从矩阵表示的模型出发，完全用矩阵代数推导出来。残差可用矩阵表示为：其中：残差平方和注意到上式中所有项都是标量，且故令用矩阵微分法，我们可得到与采用标量式推导所得结果相同。由上述结果，我们有2离差形式的最小二乘估计量多元线性回归模型的样本容量为n的样本观测值的均值为：得到多元线性回归模型的离差形式：其相应的矩阵表达形式为：得到其正规方程组：并得到　　的最小二乘估计量：3、随机误差

6、项的方差的估计量的无偏估计量是这是因为我们在估计的过程中，失去了（K+1）个自由度。2021/7/31中山学院经济与管理系253.3最小二乘估计量的特性1线性性2无偏性3最小方差性（有效性）高斯-马尔科夫（Gauss-Markov）定理：对于以及标准假设条件（1）-（5），普通最小二乘估计量是最佳线性无偏估计量（BLUE）2021/7/31中山学院经济与管理系26问题：一元线性回归模型的可决系数是怎么样定义的？它的含义是什么？3.4可决系数一．可决系数对于一元线性回归模型我们有其中，=残差平方和28对于多元线性模型我们可用同样的方

7、法定义可决系数：为方便计算，我们也可以用矩阵形式表示29我们有：残差，其中，残差平方和：30而将上述结果代入的公式，得到：这就是决定系数的矩阵形式。31二．修正决定系数：残差平方和的一个特点是，每当模型增加一个解释变量，并用改变后的模型重新进行估计，残差平方和的值会减小。由此可以推论，决定系数是一个与解释变量的个数有关的量：解释变量个数增加减小增大也就是说，人们总是可以通过增加模型中解释变量的方法来增大的值。因此，用来作为拟合优度的测度，不是十分令人满意的。为此，我们定义修正决定系数（Adjusted）如下：32是经过自由度调

8、整的可决系数，称为修正可决系数我们有：（1）（2）仅当K=0时，等号成立。即（3）当K增大时，二者的差异也随之增大。（4）可能出现负值。332021/7/31中山学院经济与管理系34例1.设n=20,k=3,=0.70求。当n=10、n=5时，分别