《经典多元线性回归》PPT课件

《《经典多元线性回归》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、计量经济学Econometrics李平2006年1月主要内容回归分析的基本概念普通最小二乘估计（OLS）假设检验（t检验和F检验）拟合优度（R2）预测多元线性回归模型的拓展案例分析建模过程中应注意的问题回归分析的基本概念回归（Regression）是计量经济学的主要工具回归的现代释义：回归分析是关于研究一个叫做因变量的变量（Y）对另一个或多个叫做自变量的变量（X）的依赖关系;其用意在于通过自变量在重复抽样中的已知或设定值，去估计或预测因变量的总体均值。回归分析的基本概念一个自变量的例子：收入－消费问题XY周家庭收入X8010012014016018

2、0…周家庭消费支出Y657980102110…708493107115…8094103116130……………………共计325462445707678750…条件均值E(Y

3、X)657789101113125…尽管每个收入组中的周消费支出可以变化，甚至低收入组的个别家庭的消费支出高于高收入组中的个别家庭，但从平均来讲，周消费支出随收入的上升而增加。回归分析的基本概念总体回归曲线就是自变量取给定值时因变量的条件期望值的轨迹（PRL），也即是Y对X的回归。总体回归曲线回归分析的基本概念总体回归函数的概念被称为条件期望函数或总体回归函数（PRF），它刻画了

4、Y的均值是怎样随X而变化的。若PRF的函数形式为线性，则为未知的但固定的参数，称为回归系数，分别为截距和斜率系数。回归分析的基本概念注意：线性回归是指对参数为线性的一种回归（即参数只以一次方出现），对自变量X则可以是或不是线性的。因此，是非线性回归模型，而则仍属于线性回归模型。回归分析的基本概念总体回归函数的随机设定随着家庭收入的增加，家庭消费支出平均地说也增加，但对某一个别家庭来说，不一定存在这种关系，如存在低收入组的个别家庭的消费支出高于高收入组中的个别家庭的情况。回归分析的基本概念总体回归函数的随机设定给定收入水平的个别家庭的消费支出聚集在收

5、入为的所有家庭的平均消费支出周围，其离差定义为：其中离差是一个不可观测的可正可负的随机变量，称为随机干扰或随机误差项。回归分析的基本概念随机干扰项的性质说明对收入水平为的个别家庭而言，其它变量对其消费支出的总体影响的期望值为0。回归分析的基本概念样本回归函数的概念实际情况中，通常仅能采集到对应于某些固定X的Y值的一个样本（而非总体），因此要在样本信息的基础上估计总体回归函数PRF。但是从总体中可抽取N个不同的随机样本，会得到N个不同的样本回归线。回归分析的基本概念样本回归函数的概念同样，从总体中可抽取N个不同的随机样本，会得到N个不同的样本回归函数

6、SRF：其中分别是的估计量，表样本残差项，即用样本信息不能解释总体的部分。回归分析的基本概念由于抽样的波动，根据SRF估计出来的PRF充其量只是真实PRF的一个近似的结果。问题是，能否设计一种规则或方法，使得这种近似结果的误差尽可能小？即怎样构造的SRF能使尽可能接近真实的？尽管真实的永远不得而知，但不可思议的是在一系列假设条件下可以通过残差来实现上述目的。回归分析的基本概念多个自变量的回归模型假定多元线性回归模型那么对被解释变量Y与解释变量X2，X3，…，Xk作了n次观测后，讲所得的n组样本代入上式有回归分析的基本概念以矩阵形式表示，有n×k普通

7、最小二乘估计多元线性回归模型假定1：假定1是很自然的，因为ε通常被看作是许多个别影响的总和，而这些影响的符号都是未知的，所以毫无理由来期望其它的均值。换句话说，如果我们没有理由设定干扰项的均值是非零的什么数，我们将把它构造在回归的系统的部分，而在干扰项中只留下ε的未知部分。普通最小二乘估计普通最小二乘估计法（OLS）1、原理：残差平方和最小若矩阵的逆存在，则上述方程有解（设为b）假定2：数据矩阵X列满秩，即矩阵的逆存在。列满秩的隐含意思是各个回归量之间相互独立。对β求导并令其等于0可得n×n普通最小二乘估计普通最小二乘估计法（OLS）2、估计方法优

8、劣的评判无偏性：估计值的均值等于真实值估计值的均值为若无偏，则有假定3：因在假定1之下有若有则有有效性：最小方差假定4：可以证明这就是最小方差。高斯—马尔可夫定理：若前述假定条件成立，OLS估计量是最佳线性无偏估计量。一致性：在有限样本情形中，经典回归模型假定数据X是固定变量，否则最小二乘估计量可能是有偏的。但在大样本情况下，即便X是随机的，只要X满足一些条件，最小二乘估计量将依概率收敛于真实值。1.X的每一列xk不退化。2.随着样本量的增加，个体观测值变得不重要。3.X列满秩。普通最小二乘估计普通最小二乘估计法（OLS）3．最小二乘估计系数的特征

9、若一个多元回归中的变量是无关的，则多元回归的斜率与在多个简单回归中的斜率相同。回归超平面通过数据的均值点，回归拟合值的均值