R语言数据分析与挖掘-回归分析.pptxVIP

简单线性回归01102多元线性回归01自变量有定性变量的回归0104逐步回归03多重共线性分析0106线性回归正则化05逻辑回归0107 PAGE2理解线性回归回归是一种有监督学习，常用于建模分析一个因变量（响应变量、目标变量）和一个或多个自变量（预测变量）之间的关联。对于线性回归，自变量与因变量都是连续变量。我们可以借助回归来建立一个预测模型，基于训练集中给定的数据计算最小误差平方和来找到最优匹配的模型，并进一步地将该模型应用到新数据集上，对因变量进行预测。2 PAGE3简单线性回归基本原理3 PAGE4自定义函数实现4 # 自定义函数，计算线性回归系数估计值 estmate - function(x,y){+ mean.x - mean(x,na.rm = T)+ mean.y - mean(y,na.rm = T)+ sxx - sum((x-mean.x)^2)+ syy - sum((y-mean.y)^2)+ sxy - sum((y-mean.y)*(x-mean.x))+ # 计算回归系数+ alpha1 - sxy/sxx+ alpha0 - mean.y-alpha1*mean.x+ # 返回参数估计值+ return(data.frame(Intercept = round(alpha0,2),+ X_Coefficients = round(alpha1,2)))+ } # 生成100个样本点 set.seed(1234) X - 2*runif(100) y - 4 + 3*X + rnorm(100) # 估计回归系数值 fit - estmate(X,y) fit Intercept X_Coefficients1 4.1 2.98 y_predict - fit$Intercept + fit$X_Coefficients * X plot(X,y,col=blue,pch=16,main = 增加回归直线的散点图) lines(X,y_predict,col=red,lwd=2) text(2,8,labels = paste(y=,fit$Intercept,+,fit$X_Coefficients,*X,sep = ),+ pos = 2) for(i in 1:length(X)){+ segments(X,y,X,y_predict,lty = 2,col = seagreen)+ } PAGE5简单线性回归R语言实现5在R语言中，lm()函数可以实现运行最小二乘线性回归，且返回结果包括参数估计值、n个残差值、n个拟合值以及其他许多输出，完全用不着套用以上公式来计算。lm()函数的基本表达形式为： lm(formula,data) 其中，formula指要拟合的模型表达表形式，data是一个数据框，包含用于拟合模型的数据。表达式(formula)形式如：Y ~ X_1+X_2+?+X_n，波浪号(~)左边为因变量，右边为自变量，自变量之间用+符号分隔。当回归模型只包含一个因变量和一个自变量时，我们称之为简单线性回归。当只有一个自变量，当同时包含自变量的幂(比如，X,X^2,X^23)时，我们称之为多项式回归。当不止有布置一个自变量时(X_1,X_2,…,X_n)时，我们称之为多元线性回归。 PAGE6简单线性回归R语言示例6 lm.fit - lm(y~X) names(lm.fit)[1] coefficients residuals effects rank fitted.values[6] assign qr df.residual xlevels call [11] terms model lm.fit$coefficients(Intercept) X 4.099188 2.977789 # 查看更详细的信息 summary(lm.fit)Call:lm(formula = y ~ X)Residuals: Min 1Q Median 3Q Max -2.03362 -0.66078 -0.08602 0.57926 2.47401 Coefficients: Estimate Std. Error t value Pr(|t|) (Intercept) 4.0992 0.1784