多元回归与多项式回归

《多元回归与多项式回归》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第九章多元回归与多项式回归学习要求了解多元回归、偏相关系数、通径分析、多项式回归的概念；理解多元回归、多项式回归关系的显著性检验及准确度测定的意义；掌握正规方程组求解求逆紧凑法的步骤及建立最优回归方程、通径分析方法。重点与难点重点：涉及本章统计量的含义，建立最优回归方程及通径分析方法难点：求解求逆紧凑法的应用思考题及作业1、何谓偏回归及偏相关系数、通径系数、及决定系数？2、求解求逆紧凑法的公式有哪些性质？这些性质有何用处？3、试述偏相关系数、复相关系数及简单相关系数的区别？4、习题作业：《标准化综合测试题》第九章1—4题参考书1

2、．贵州农学院(主编).2001.《生物统计附试验设计》教材.中国农业出版社.172~197页2．莫惠栋著.1992.农业试验统计.上海科学技术出版社.467~580页第一节多元回归与多元相关1、阐述多元回归的概念2、重点介绍正规方程组的解法世界上的事情是复杂的，生物现象尤其这样。在生物现象中，变量与变量的关系往往不是简单的一对一的关系，而是很多变量相互之间都有关联。在极大多数的实际问题中，一个变量不是受一个而是受多个变量的影响。要研究一个依变量与多个自变量间的关系，就需要用多元回归分析和多元相关分析的方法。线性回归是最基本的回归

3、关系。这里介绍的多元回归，也是多元线性回归。多元线性回归与一元线性回归的原理完全相同，只是计算方法比较复杂而已。一、配置多元回归方程的一般方法设y为一依变量，它受xl、x2、x3……xm的m个自变量的影响，我们可以在它们之间配置一个线性回归方程如下：=b0+b1x1+b2x2+b3x3+……bmxm（9—1）其中b0为常数项，（9—2）b1、b2、b3…bm为y对xl、x2、x3…xm的偏回归系数。b1=by1.2，3……m，b2=by2.1，3……m，b3=by3.1，2……m，……，bm=bym.1，2，3……(m－1)。b

4、1=by1.2，3……m表示当x2、x3……xm诸变量都固定时，自变量xl变化一个单位而使依变量y平均改变的值，这就是y对x1的偏回归系数，或称为回归系数。其余各偏回归系数都具有相应的含义。b1、b2、b3…bm还是利用最小二乘法来确定，即选取这样的b1、b2、b3…bm，使离回归平方和（剩余平方和）。SSE=SS离回归=∑(y－)2=∑[y－(b0+b1x1+b2x2+b3x3+……bmxm)]2(9—3)达到极小值。用求偏微分的方法可得出b1、b2、b3…bm必须满足下列正规方程：上述方程组的系数项，按主对角线上为各变量的离

5、均差平方和，SS1、SS2、SS3……SSm。其余则为各自变量两两相互的离均差乘积和，并依主对角线为轴左右对称相等（SPij=SPji），常数项为各自变量同依变量y的离均差乘积和，SP1y，SP2y，SP3y……SPmy。解这个正规方程组，即得b1、b2、b3…bm代入公式9—2求得b0，再一起代人公式9—1，就得到多元归归方程。二、正规方程组的解法正规方程组的解法，与一般方程组的解法相同，已在一般数学教科书中介绍过，如行列式法、消元法等。本章将重点介绍求解求逆紧凑法。1、行列式法常用于解低元的正规方程组。如二元正规方程组：（9

6、—4）（9—5）例1．当需要解三元或三元以上方程组时，则用以下计算方法。目前最为流行的是求解求逆紧凑法。2．消元法消元法求解的原理是利用乘或除法使方程组中两方程式的同一项具有相同的系数，然后将此两式相加或相减使该项系数为零，从而消去一元。逐次消元，最后得一方程及各元之解（略）。以上两种方法都无求逆过程，而逆矩阵元素是偏回归系数显著性检验所不可缺少的。故以上两种方法不常用。例2．这些方程用矩阵的形式表示为：AB=Y（9—6）或记为其中：A为系数矩阵；B为所要解的偏回归系数的列向量；Y为正规方程组等号右边的常数项的列向量。如果对方程

7、（9—6）的两边都从左边乘以A的逆矩阵，即A－1，我们可得A－1AB=A－1Y（9—7）3．矩阵法正规方程组的求解可用矩阵法来进行。∵A－1A=E，EB=B。这里E是单位矩阵，它是一个特别重要的对称矩阵，它的主对角线上元素都等于1，而对角线以外的元素都等于0。单位矩阵的性质相当于一般数学中的1。∴方程（9－7）可变为：B=A－1Y（9—8）当我们算出了A的逆矩阵（A－1）代入（9—8），即可得方程b的解。对于例2资料，由于其系数矩阵的逆矩阵为：即：代入方程（9—8）得：注*逆矩阵一般用C表示（C=A－1），故其元素用cij表示，

8、亦具有对称性，它在统计学中常称之为高斯乘数。由矩阵法求解，常称之高斯解法。即：b1=0.380×4+(－0.320)×4+(－0.141)×3=－0.181b2=(－0.320)×4+0.480×4+(－0.040)×3=0.519b3=(－0.141)×4+(