第七节回归模型--华东理工大学数学建模课件.ppt

数学建模 第七章 回归模型 7.1　　回归分析 7.2　　一元线性回归模型及其参数估计 7.3　　多元线性回归 7.4　　非线性回归 7.5　　预测区间 回 归 分 析 非确定性关系：变量之间虽然存在一定的联系，但其中一个变量的值却不能由其余变量的值精确地求出。其原因是它们之间的这种联系，由于受到随机因素的影响而并非一成不变，呈现出不确定性。它们之间的关系不能用精确的数学表达式来表达。通常只能将有关变量的实验数据，用数理统计方法找到它们之间的关系。变量之间的这种非确定性关系称为相关关系或回归关系。 如，汽车配件销售额与车拥有量之间的关系；货币流通量与社会商品零售总额、工农业总产值、货币流通速度等变量间的关系，均属于相关关系。 “一元线性回归模型”及其参数估计 称(2)为一元线性回归模型. “一元”是指只有一个自变量X,这个自变量X是引起因变量Y变化的部分原因. “线性”它一方面指因变量Y与自变量X之间为线性关系,即 另一方面也指因变量Y与参数a,b之间为线性关系,即 模型假设条件 (1)误差项 的数学期望(均值)为零.即 (2)不同的误差项 和 之间互相独立.即 (3)误差项 的方差与n无关,为一常数.即 (4)自变量 与误差项 不相关.即 (5) 为服从正态分布的随机变量.即 综上所述,一元线性回归模型可以归结为 模型的参数最小二乘估计 问题：设x与y之间的线性关系为（１）式，如何由一组统计值（xi,yi）,i=1,2…n.来建立起y与x之间的线性统计模型（线性回归方程）。 如何确定参数　　　，使直线　　　　　　尽可能靠近所有的点（xi,yi）。 即如何去寻找拟合散布点的直线？拟合一条直线的准则是什么？ 拟合直线的的准则 直线外一点到直线上的点的距离有三种特殊情况： １.点到直线的垂直距离； ２.点到直线的垂直坐标距离； ３.点到直线的水平坐标距离； 准则： １.使　　　　　　达到最小值； ２.使　　　　　　达到最小值； ３.使　　　　　　达到最小值； ４.使　　　　　　达到最小值； 最小二乘准则寻找拟合直线 假设　　分别为模型参数a,b的估计值。拟合直线为　　　　　　　　　　　其中，为　的估计值。它可按如下方法求得 ，。由　　　　　　　　　　　　 令　　　　　　则 可将ei残差看成随机误差项　的估计值。 令Q：残差平方和. 则最小二乘准则就是求Ｑ的最小值。 解之得： 其中 预 测 区 间 多元线性回归 非线性回归  先计算残差平方和Q= 所以y的样本方差为：s =13.7977 样本标准差S=3.7145 因为xo=x14=26.611.08=28.7388 所以 =1.46475。 又 将上述数据代入 （2）式 得预测区间半径： =9.89 所以1993年自行车配件销售的100（1-a） % =95%预测区间为 （ ）=（103.1284，122.908）（万元） 若采用“ ”原则的预测区间，则1993年自行车 配件销售额的68.26%，95.44%，99.74%的预测 区间可分别近似地取为 （ ）=（109.3039，116.7329） （ ）=（105.5894，120.4474） （ ）=（101.8749，124.1619） 在实际问题中，常常遇到预测变量受到多个因素影响的情形。如某产品的销售量不仅受到该产品的价格影响，且还受到社会购买力、购买者偏好等因素的影响，这就是多元回归问题。在多元回归中，最重要且应用最广的是多元线性回归。多元回归的基本原理和一元回归相同，方法也类似，但前者比后者复杂得多。 一 多元线性回归模型及其参数估计 设 为自变量，y为因变量，它们之间满足如下线性关系: 称为多元线性回归模型，其中ε为随机误差项，且 。 若