数学模型与数学建模6.3节课件.ppt

《数学模型与数学建模6.3节课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、§6.3线性回归模型6.3.1多元线性回归模型在回归分析中，如果有两个或两个以上的自变量，就称为多元回归或多重回归。在实际的应用中，多元线性回归比一元线性回归用途更广且实用意义更大。在建立多元线性回归模型时，随机变量与一般变量的多元线性回归模型为：，其中是个未知参数，称为回归常数项，称为回归系数；称为被解释变量（因变量），是个可以精确测量并可控制的一般变量，称为解释变量（自变量）。为随机扰动项，代表主观或客观原因造成的不可观测的随机误差，它是一个随机变量通常假定满足。（1）样本回归模型的建立设，是随机变量与一般变量的n次独立观测

2、值，则此时多元线性模型可表示为：（6.3.1）其中，独立同分布。多元线性回归样本方程为,式中为的估计值。为方便起见，令，则式（6.3.1）可改写为：（6.3.2）且满足，。回归方程可改写为：。多元线性回归方程中回归系数的估计采用最小二乘法。记残差平方和为，根据微积分中求极小值原理，可知残差平方和存在最小值,即：（6.3.3）通过求解这一方程组便可求出的估计值，得。则为残差向量，取（6.3.4）为的估计，也称为的最小二乘估计。可以证明：.进一步可以证明的方差估计为。相应的的标准差为，其中是对角线上第i个元素。（2）显著性检验在多元

3、线性回归分析中，很难用图形来判断E(y)是否随作线性变化，因而显著性检验尤为重要。对多元线性回归方程的拟合程度进行测定、检验回归方程和回归系数的显著性。①拟合优度检验。测定多元线性回归的拟合程度，使用多重判定系数，其定义为：式中SSR为回归平方和，SSE为残差平方和，SST为总离差平方和。当的值范围为，越接近1，回归平面拟合程度越高；反之越接近0，回归平面拟合程度越低。②回归方程的显著性检验（F检验）。所谓回归方程的显著性检验就是检验假设：所有回归系数都等于零，即检验：；不全为0。多元线性回归方程的显著性检验一般采用F检验。F统

4、计量定义为回归平方和的平均与残差平方和的平均（均方误差）之比，对于多元线性回归方程，在成立的条件下：式中，SSR为回归平方和，SSE为残差平方和，为样本，为自变量个数。F统计量服从的是第一自由度为，第二自由度为的F分布。从F统计量的定义式可看出，如果F值较大，则说明自变量造成的因变量的变动远远大于随机因素对因变量造成的影响。另外，从另一个角度来看，F统计量也可以反映回归方程的拟合优度。将F统计量的公式与的公式可得。可见，如果回归方程的拟合优度高，F统计量就越显著；F统计量越显著，回归方程拟合优度就越高。利用F统计量进行回归方程显

5、著性检验的步骤总结如下：Step1提出假设：,不全为0。Step2在成立条件下，计算F统计量，由样本观测值计算F值。Step3根据给定的显著性水平确定临界值，或者计算F值所对应的相伴概率值p。如果（或者），就拒绝原假设，接受备择假设，认为所有回归系数同时与零有显著性差异，自变量与应变量之间存在显著性的线性关系，自变量的变化确实能够反映因变量的线性变化，回归方程显著。如果（或者），则接受原假设，自变量与应变量之间不存在显著性的线性关系，回归方程不显著。③回归系数显著性检验（t检验）回归方程的显著性检验是对线性回归方程的一个整体性检

6、验。如果检验的结果是拒绝原假设，则因变量Y线性地依赖于自变量，这个回归自变量的整体。但是，这并不排除Y并不依赖于其中某些自变量。因此，我们还要对每个自变量逐一做显著性检验，即回归系数的显著性检验。回归系数的显著性检验是检验各自变量对因变量的影响是否显著，从而找出哪些自变量对的影响是重要的，哪些是不重要的。对于多元回归方程，回归系数的显著性检验，即检验假设，在假设成立的条件下，T统计量，式中为的对角线上第j个元素。t检验步骤如下：Step1提出假设；式中，表示零假设，表示备择假设。如果零假设成立，则说明对没有显著性的影响，反之，则

7、说明对有显著性的影响；Step2在成立的前提下，计算回归系数的T统计量Step3给定的显著性水平，确定临界值,或者计算t值所对应的相伴率值p的大小。应注意的是，t检验的临界值是由显著性水平和自由度决定的，对于双侧检验，临界值为。如果（或者）,就拒绝原假设，认为回归系数与零有显著性差异，该自变量和应变量之间存在显著的线性关系，它的变动较好地解释说明应变量的变动，应保留在回归方程中；反之，应剔除出去。例6.3.1近年来，高等学校招生规模急剧扩大，在教育产业化的背景下，选取1985-2003年相关数据对影响我国高校招生人数的各因素及其

8、影响程度的大小进行定量分析。首先将数据EXCEL文件存为csv格式。然后编程如下：X<-read.csv("d:\programFiles\R\chengxu\data2.csv",header=TRUE)y<-X[,2];x1<-X[,3];x2<-X