线性代数模型的回归分析

《线性代数模型的回归分析》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第九章线性代数模型的回归分析在生产、科研和试验过程中，总涉及到许多因素或变量，这些变量之间相互联系和相互制约，在一定的条件下可以相互转化。为了了解和掌握这些关系，往往需要找出表示这些变量间内在关系的定量表达式，前几章讨论了最小二乘法求表达式模型的方法，本章的回归分析就是用数理统计方法处理变量相关关系。一般变量之间的关系有两种类型：确定性关系和相关关系。若两个变量具有确定性关系，是指可以唯一地由一个量来确定另一个量。在数学分析中以完全确定的函数关系为研究对象。如匀速运动中，路程S和时间t的关系为：S=v×t所谓相关

2、关系是指两个或两个以上的变量间，当一个量唯一地确定后，另一个量并不唯一确定，但它又不是毫无规律地任意取值，而是按一定的概率分布取各种可能值，当其中的一个变量改变时，另一个的分布也按一定的规律改变。确定性关系与相关关系之间并无严格的界限，在许多实际问题中，由于变量间的复杂性，或由于测试过程中的误差，致使变量间的关系具有不确定性。另一方面，当掌握了其内部规律后，相关关系又可能转化为确定性关系。在实际应用中，人们为了方便往往把容易控制或测量的量，当作确定性的自变量，而把不易控制或测量的量当作随机性的因变量。自变量和因变

3、量按其确定性划分为三类；1．两者都是确定性变量；2．两者都是随机性变量；3．一个是确定性的，而另一个是随机性的变量。第一种情况属于数学分析中研究的对象。第二、三种情况则统称为回归分析或相关分析。回归分析研究的数学模型是线性模型与多项式回归模型，以及可以化为线性的模型。回归分析在生产中也得到广泛地应用。如在煤加工过程中，煤焦油产率x，粗苯产率y和焦炉煤气产率Z均取决于装炉煤的种类和其干燥无灰基挥发份Vdaf的含量，统计模型为：与其类似的应用如焦炭中灰份，硫份的含量同煤中灰份、硫份含量呈一元线性关系。Ad煤=K·A焦

4、十bSd煤=K/·s焦＋b/用于生产控制的还有；式中G一粘结指数；Vdaf－挥发价：M40和M10分别表示焦，炭的两种强度指标。以上都是从大量生产数据中统计回归得到的。回归分析主要解决以下几个方面的问题：1．研究并确定几个特征变量间有无相关关系，如果是相关的，则求出相关关系的模型表达式。2．对找出的相关关系进行统计检验，以确定此关系的相关程度；3．从诸多因素中寻找主要影响因素和次要影响因素；4．利用所求的关系，进行预测或预报等。9．2一元线性回归分析一元回归线性分析是回归分析中最简单的一种，它研究的对象是两个变量

5、（x，y）之间的相关关系。其数学模型为：其中a、b为模型参数,待定。9．2．1回归模型的求解一元回归分析模型参数的求解是通过n对实验数据(xi,yi)(i=1,2,…,n)，依照最小二乘法原理求解模型中的定系数。已知n对实验数据（xi,yi）（i＝1，2，…，n），假设变量xi,yi之间存在线性关系，则描述yi=a+bxi+εi其中εi是测试样本的误差。根据一元线性模型，回归值的偏离程度。对所有的xi而言，εi的愈小愈好。或对下式：取极小值。根据最小二乘法的求极小值原理：解其正规方程得：式中定义称为x的平方和则上

6、式又可写为：称为xy的交叉平方和确定a、b参数后确定。其置信区间可用T分布建立，9.2.2回归方程的显著性检验如果当x与y之间没有函数关系而有相关关系时，用所有测得的y值中最优概值代替。这些y值分布得越“紧密”，它们越接近于最优概值，x与y的关系也就越确定，表征这种确定程度称之为显著性检验。由于误差或变量波动所引起的总的差异叫作离差平方和。可以证明Lyy=Q+UU是由于x的变化而引起的，称为回归平方和。Q是总离差平方和中，除掉回归平方和后的剩余部分，叫做剩余平方和。为误差等因素引起的y值波动。一般定义回归平方和U

7、在总离差平方和Lyy中所占的比例为x、y两个变量间线性关系的相关程度。称做线性回归方程的相关系数。相关系数R是绝对值介于0～1之间的无量纲数。

8、R

9、=1时，表示两个变量间有确定性的线性函数关系。

10、R

11、=0时，表示两个变量间无线性关系。一般没有关系，二是有非线性关系。应该指出R往往并不完全说明x与y间线性关系的接近程度。使相关系数R达到显著的值与抽样个数n有关。附录I给出了不同的n值，在两种信度α(0.05及0.01)上相关系数达到显著的最小值，超过此值时，就说x与y的相关关系在（1—α）置信度上显著。（1—α）愈

12、大，显著程度愈高。相反，计算的R值如果小于查表值，则说明x与y间不存在线性关系。一元回归线性回归方程的方差检验用统计检验中的F检验对回归方程进行显著性检验的方法称为方差分析，即是对回归模型所揭示规律的强弱检验。定义式中称为回归平方和称为剩余平方和统计量F服从自由度为1和n一2的F分布。若给定显著水平α，查分布表（附录IV），可得到Fα（l，n—2）的数值。若F＞Fα（1，