资源描述：
《《多元统计》课程实验报告-回归分析》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、《多元统计与程序设计》课程实验报告项目名称：回归分析学生姓名：学生学号：指导教师：完成日期:1实验内容(1)掌握冋归分析和逐步冋归分析的思想和计算步骤；(2)用Matlab实现冋归分析和逐步冋归分析；2模型建立与求解2.1回归分析2.1.1模型的建立设随机变量y与m个自变存在线性关系：y=Pa+Be+氐也+…专陰"+E(211)式(2.1.1)称为回归方程，其中称为回归系数，£为随机变量，称为随机误差，它可理解为y无法用徂表示的是其他各种随机因素造成的误差。要用+Pax2+-+PmXOT来估计随机变量y的均值E(y),即E(y)=+Re+肉巾+…+P„xn
2、i此处假定cMW),y巧。其小，PtfPl/Par-vPni7以是与X1..X2A-AXaa无关的待定系数。设有n组样本观测值数据：其中呦表示第i次试验或第i个样本关于变量列的观测值。于是有:+・・・专PnxXllu4&£yz=Pa+Pix2i+P2x22+-+Pmx2m+e2其中，晁氐屁―Pm为m+1个待定系数，为n个相互独立的且服从同一正态分布的随机变量，式（2.1.2）称为多元（m元）线性回归数学模型。兀12兀21兀22■■■■■■^21式（2.1.2）也可写成矩阵形式，设■■Xnm_y=（yvy2z-zyn）T“血跖…屁产则式（2.1.2）可表示为
3、y-Xp+c（2.1.3）式（2.1.3）称为多元线性回归模型的矩阵形式。2.1.2回归模型中参数卩的确定采用最小二乘法来对回归模型式（2.3）屮的Pa.Pizp^....zPQI作最小二乘估计。设b°,bb2,b3,•…，bm分别是卩片仇川屮"必的最小二乘估计值，于是有y=b0+b,x1+b2x2+•••+bmxm（2.1.4）式（2.1.4）中：夕是y中的一个最小二乘估计。对于每一个试验数据。由式（2.1.4）,可得一个玄，即：九订+•••+»如，i=1,2,…'o这里称y.为实际值yz的回归值。显然，冋归值记与实际值儿有误差，即y,-5i=Z一％+b
4、內1+…+bmxim9i=1,2,•••/当然我们希望记与％值偏离程度越小越好，这样才能使冋归值与实际值儿拟合得最好。这里必与*偏差越小是指每一个必与儿，于是对全部观察值（试验值）有：为此，我们可以应用微分学中求极值的原理来确定b°,»g歼…,bm.［92Jdb()be［敗n=-2Eb-九)Z=1=一2立必一刃)勺=0/=1(2・1.5)(丿=1,2,…，加)叫+/=!”旺］Z/=!(nV*X./?()+(nEX/2/=1丿2宥
5、/=S“1兀/=1b+方2+…・+工m兀/=1叽=£s儿/=1im丿(2.1.6)在此处令•—•“X—…Xncxl/=l〃^XJ/=1一-A〃工/=1〃工?=1〃工/=1n•/兀2;1Xn•/Xpg•“X2•/X£/=1”*”y”工/=1XTX-n/=1it=■11•…1「3."i=l■■X11•••兀21*•••■•・心••••>2■••■/=1兀2川••-S整理化简为:boB=*所以式（2.5）可用矩阵形式表示为（xtx）b=xtyAB=C或如果系数矩阵A满秩，则A"存在，此时有B=A~]C=（XTXyXtY（2.1.7）这里式（2.1.7）即为多元
6、回归方程中参数的最小二乘估计。2.2逐步回归分析2.2.1逐步回归分析形成思路逐步冋归算法是针对多元冋归算法的缺点提出来的。其基本思路是：根据各自变量的重要性，每一步选一个重要的变量进入回归方程。第一步是在所有可供挑选的变量中选出一个变量，使它组成的一元回归方程比其他变量有更大的回归平方和。第二步是在剩下的自变量中选这样一个变量，它与已选入方程的那个变量所组成的二元冋归方程，有更大的冋归平方和。如此下去，使回归方程屮只保留重要的变量。2.2.2逐步回归分析的计算步骤（一）数据准备1.输入模型原始数据口]yilX二x21aaix221t1■--y2•■刊1
7、xnZ■ynj其中，n为样本数，m为自变量数。2.作如下预处理变换（1）求各变量均值(2)求]]=扌£出=(功一Q}(j二1,2,....,m+1)(3)做变换该变换使变换后的数据各变量均值为0,离差平方和为1。（二）建立正规方程组(2.2.1)rrllb1+rl2bfZ+-+rlml/m=rlyaZUi1+r2ZbfZ+十TZmb'm—rZyIII-II^rmlb'l+mZbP++Fmmb°m=rmyrij是相关系数,即r二削_乞殳“血一检U巫石凋U徳-砂弋忆3那-耐（i,j=l,2,…,m,y）式（221）中的左端系数项定为矩阵R<0）,即零步矩阵。为
8、了方便，把R4）扩充为rnirl2―rimrl/⑹」*21r22r
