资源描述：
《非参数回归r语言实现》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、非参数回归的RR语言实现中国人民大学统计学院陈堰平2010-6-221背景•回归模型EY(
2、X)=f()X•回归函数形式已知---参数回归•回归函数形式未知---非参数回归2010-6-222参数回归Example:>x=sort(runif(200))>y=2*x+1+rnorm(200,0,0.1)>fit.lin<-lm(y~x)2010-6-223>summary(fit.lin)Call:lm(formula=y~x)Residuals:Min1QMedian3QMax-0.200168-0.066969-
3、0.0034020.0704640.208087Coefficients:EstimateStd.ErrortvaluePr(>
4、t
5、)(Intercept)0.979970.0127776.75<2e-16***x2.023680.0223690.50<2e-16***---Signif.codes:0‘***’0.001‘**’0.01‘*’0.05‘.’0.1‘’1Residualstandarderror:0.09269on198degreesoffreedomMultipleR-squared:0.9764
6、,AdjustedR-squared:0.9763F-statistic:8189on1and198DF,p-value:<2.2e-162010-6-2243.02.5y2.01.51.00.00.20.40.60.81.0x2010-6-225非参数回归•回归函数未知，要根据观测值估计给定点的估计值–假设观测为(Yi，Xi)，i=1,…,n，假设模型为Y=fX()+ε2010-6-226核函数法2010-6-227•核函数法(Nadaraya-Watson)2010-6-228局部多项式估计利用局部展开的思想，在
7、待估计点，将函数泰勒展开fx()=fx()+fx'()(xx−)+⋯000距离x0较近的点，提供的信息多，距离远的点，提供的信息少n2⎛Xi−x0⎞(,)ab=argmin∑[Yi−(abX+(i−x0))]K⎜⎟ab,⎝h⎠i=1fxˆ()=a0可以转化为加权最小二乘的问题2010-6-229y.est=-0.9689503,sin(10*0.5)=-0.95892432010-6-2210带宽h的选择�CrossValidationn1ˆ2CV=∑[Yi−f(−i)(Xi)]ni=1选取一系列的h，计算相应的CV
8、，使得CV最小的就是最优带宽2010-6-2211现成的包KernSmooth，locpol，…2010-6-22121.00.50.0y-0.5-1.00.00.20.40.60.81.0x2010-6-2213在分位回归的应用•quantreg包中有lprq函数lprq<-function(x,y,h,tau=0.5,m=50){xx<-seq(min(x),max(x),length=m)fv<-xxdv<-xxfor(iin1:length(xx)){z<-x-xx[i]wx<-dnorm(z/h)r<-rq
9、(y~z,weights=wx,tau=tau,ci=FALSE)fv[i]<-r$coef[1]dv[i]<-r$coef[2]}list(xx=xx,fv=fv,dv=dv)}2010-6-2214•原理线性分位回归qy()=+abxτ估计方程n(,)ab=argmin∑ρτ(Yi−−abXi)(,)abi=1非参数分位回归的估计方程n⎛X−x⎞i0(,)ab=argmin∑ρτ(Yi−(abX+(i−x0)))K⎜⎟ab,⎝h⎠i=12010-6-22152010-6-2216500acceleration(i
10、ng)-50h=1h=2-100h=3h=41020304050milliseconds2010-6-2217WhyR?灵活：研究新的模型时，可以在原有代码的基础上修改变系数分位回归模型：qy()=cuxc()+τ10n⎛U−u⎞i0argmin∑ρτ(Yi−(abU+(i−u0))Xi−cK0)⎜⎟ab,⎝h⎠i=1n⎛U−u⎞i0=argmin∑ρτ(Yi−aXi−bU(i−uX0)i−cK0)⎜⎟ab,⎝h⎠i=12010-6-2218lprq0<-function(x,u,y,h,tau=0.5,u0){#对
11、单点进行估计require(quantreg)fv<-u0dv<-u0z<-u-u0wx<-Ker(z/h)r<-rq(y~x+I(z*x),weights=wx,method="br",tau=tau,ci=FALSE)fv<-r$coef[c(1,2)]dv<-r$coef[3]list(u0=u0,fv=fv,dv=dv)}2010-6-
