直线回归法的公式推导

《直线回归法的公式推导》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、直线回归法的原理及推导公式主要内容回归直线法的原理回归直线的公式推导一二0x业务量（件）y成本（元）y=a+bx一、直线回归法的原理直线回归发的原理——微积分极值原理从散布图法可以看出，我们总能设法找到一条尽可能通过所有坐标点，也就是所有误差最小的惟一直线y=a+bx。设ei为当业务量为xi时，实际值（又称观测值）yi与计算值（a+bxi）的误差，即ei=yi–(a+bxi)二、直线回归法公式推导怎样判断一条直线方程就是我们所要找的所有误差最小的那条直线y=a+bx呢？可以考虑的办法有三：第一，判断所有误差的代数和是否最小。即：Σei=0但由于误差有正有负，可

2、能相互抵消，会存在无数满足上述条件的直线，因而无法据此作出最终判断。二、直线回归法公式推导所有误差的代数和是否最小示意图？0x业务量（件）y成本（元）满足Σei=0的条件满足Σei=0的条件二、直线回归法公式推导第二，判断所有误差绝对值的合计是否最小。即：Σ│ei│=0但上式展开后，涉及到绝对数运算，非常麻烦：Σ│ei│=±e1±e2±e3±…±en-1±en因而也无法据此作出判断。二、直线回归法公式推导第三，判断所有误差平方和是否最小。即：Σei2=0这种方法既排除了正负误差的符号问题，又避免了绝对值运算的麻烦。因此，可以根据误差的平方和是否达到最小，来判断

3、直线方程y=a+bx的总误差是否达到最小。此法又称最小二乘法或最小平方法。二、直线回归法公式推导根据上述道理，回归直线法就是求能使Σei2=0成立的回归系数a和b的值。因为ei=yi–(a+bxi)所以Σei2=Σ[yi–(a+bxi)]2按照微分极值原理，令上式=0，并分别对a和b求偏导数，就可以求出能满足Σei2达到极小值的a和b。按照此法推导的a，b计算公式，称为公式法。二、直线回归法公式推导Σe2=Σ[y–(a+bx)]2=Σ[y2–2y(a+bx)+(a+bx)2]=Σ[y2–2ay–2bxy+a2+2abx+b2x2]=Σy2–2aΣy–2bΣxy

4、+na2+2abΣx+b2Σx2令：Σy2–2aΣy–2bΣxy+na2+2abΣx+b2Σx2=0对上式求a的偏导数，得：–2Σy+2na+2bΣx=0整理得Σy=na+bΣx（1）式1.按公式法推导a，b计算公式的过程对Σy2–2aΣy–2bΣxy+na2+2abΣx+b2Σx2=0求b的偏导数，得：–2Σxy+2aΣx+2bΣx2=0整理得Σxy=aΣx+bΣx2（2）式解联立方程，即可求出a，b的值。1.按公式法推导a，b计算公式的过程Σy=na+bΣxΣxy=aΣx+bΣx22.用行列式求二元一次方程组中a和b的解Σy=na+bΣxΣxy=aΣx+b

5、Σx2因为下列联立方程中，未知数为a和b，Σy,Σxy为已知常数，n,Σx和Σx2分别为a和b的系数，则有常数列ΣyΣxy用行列式的方法解法如下：Δ==nΣx2-(Σx)2Δa==ΣyΣx2-ΣxΣxynΣxΣxΣx2ΣyΣxyΣxΣx2Δb==nΣxy-ΣxΣynΣxΣyΣxynΣx2.用行列式求二元一次方程组中a和b的解a=ΔaΔb=ΔbΔnΣx2-(Σx)2ΣyΣx2-ΣxΣxy=nΣxy-ΣxΣy=nΣx2-(Σx)2∵Σy=na+bΣx可以同时计算出a和bΣy-bΣxn∴a=必须先计算出b，然后才能计算a2.用行列式求二元一次方程组中a和b的解上述联

6、立方程也可以不用求偏导数的方法来建立，可利用一种所谓简捷法来实现。∵y=a+bx∴Σy=Σ(a+bx)=na+bΣx（1）式又∵xy=x(a+bx)=ax+bx2∴Σxy=Σ(ax+bx2)=aΣx+bΣx2（2）式3.用简捷法来建立方程谢谢！