线性回归分析法

《线性回归分析法》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、一元线性回归分析和多元线性回归分析一元线性回归分析1.简单介绍当只有一个自变量时，称为一元冋归分析（研究因变量y和自变量之问的相关关系）；当自变量冇两个或多个时，则称为多元回归分析（研究因变量;V和自变量&，…，之间的相关关系）。如果回归分析所得到的回归方程关于未知参数是线性的，则称为线性冋归分析；否则，称为非线性冋归分析。在实际预测屮，某些非线性关系也可以通过一定形式的变换转化为线性关系，所以，线性回归分析法成为最基本的、应用最广的方法。这里讨论线性回归分析法。2.回归分析法的基本步骤冋归分析法的

2、基本步骤如下：（1）搜集数据。根据研究课题的要求，系统搜集研究对象冇关特征量的人量历史数据。由于回归分析是建立在大量的数据基础之上的定量分析方法，历史数裾的数量及其准确性都直接影响到回归分析的结果。（2）设定冋归方程。以大量的历史数据为基础，分析其间的关系，根据自变量与因变量之间所表现出來的规律，选择适当的数学模型，设定回归方程。设定回归方程是回归分析法的关键，选择最优模型进行回归方程的设定是运用回归分析法进行预测的基础。（3）确定回归系数。将已知数据代入设定的冋归方程，并用最小二乘法原则计算出冋归系

3、数，确定回归方程。这一步的工作量较大。（4）进行相关性检验。相关性检验是指对已确定的回归方程能够代表CJ变量与因变量之间相关关系的可靠性进行检验。一般有检验、Z检验和F检验三种方法。（5）进行预测，并确定置信区问。通过相关性检验后，我们就可以利用已确定的回归方程进行预测。冈为冋归方程本质上是对实际数据的一种近似描述，所以在进行单点预测的同吋，我们也需耍给出该单点预测值的置信区间，使预测结果更加完善。3.—元线性回归分析的数学模型用一元线性回归方程來描述'和X.之间的关系，即yt=aQ+axxi+A;（

4、/=1，2，…，/?）（2-1）式屮，&和｝；分别是自变量％和因变量），的第/观测值，％和6/,是冋归系数，A2是观测点的个数，Ai*对应于y的第/观测值x.的随机误差。假设随机误差Ai满足如下条件：①服从正态分布；②4的均值为零，即£么＞0;③'的方差等于＜72;④各个间相互独立，即对于任何两个随机误差'和A;,其协方差等于零，即，基于上述假定，随机变量的数学期望和方差分别是£(x)=«o+^i£U)(2-2)一如果不考虑式中的误差项，我们就得到简化的式子y,.=a0+alxl(2-3)该式称为y对

5、％的一元回归模型或一元回归方程，其相应的冋归分析称为一元线性回归分析。依据这•-方程在直角坐标系中所作的直线就称为回归直线。1.回归参数的估计回归模型屮的参数％与4在一般情况下都是米知数，必须根据样木观测数据^，＞，,.；)来估计。确定参数〃。与a值的原则是要使样本的回归直线同观察值的拟合状态最好，即要使得偏差最小。为此，可以采用最小二乘法的办法来解决。对应于每一个；，根据冋归直线方程式(2-3)可以求出一个它就是X.的一个估计值。估计值和观测值之阆的偏差要使模型的拟合状态最好，就是说要使个偏差平方和

6、最小为标准来确定冋归模型。则式(2-1)用矩阵形式表示为为了方便起见，记3?2參，A="A；△2•，B=11•<•A，a=AA••••••參•_al_人1y=Ba+(2-4)设V为误差A的负估值，称为V的改止数或残差，6/为回归参数的估值，则可以写出类似丁•参数T差的误差方程V=Ba-y(2-5根据最小二乘原理=,求CJ由极值，得dVTV=2V,B=0daBPBtV=0(2-6)将误差方程(2-5)代入，即得法方程为BTBa=BTy(2-7)=>•，;=>•，令一2-心£3^卜=JU-4乂-)0=Z

7、人X-'•=1•=1/=!BrB=nnx-2，Bry=nynxSxr+"xJSxy+nxy/=!于是吋得回归参数的最小二乘估值为ft信2)/"-xny1Ax_戏yz/-x1么，+nxya=(BrBYBTy(2-81x=—5XV参数〃。与％的具体表达形式为a^y-xS^/S^(2-9)Aa=^xy/^xx求出参数4与以后，就可以得到一元线性回归模型AAAy=<70+67,X(2-10)由此，只要给定了一个&值，就可以根据回归模型求得一个作为实际值乂的预测值。1.精度分析对于给定的％,.，根据回归模型

8、就可以求出X.的预测值。但是用h來预测.y的精度如何，产生的误差冇多大是我们所关心的。这里采用测量上常用的精度指标来度量冋归方程的可靠性。一个冋归模型的精度或剩余标准离差定义式为由于参数的个数是2,观测值总数是n,多余观测是0/-2),因此式中分母是(m-2)o运用估计平均误差可以对回归方程的预测结果进行区间估计。若观察值围绕冋归直线服从正态分布，且方差和等，则有68.27%的点落在的范围内，冇95.45%的点落在±2cr的范W内，冇99.73%的点落在