概率论与数理统计第九章.pptVIP

　回归分析简介 1.回归分析的概念 现实世界中，变量之间相互依赖、相互制约的关系，可大致分为两类： 一类是函数关系，即变量之间存在着确定的关系．例如圆半径与圆面积的关系是s=?r2 另一类是相关关系．例如身高与体重的关系；家庭收入与支出的关系；又如农作物的单位面积产量与降雨量、施肥量等的关系.这类关系不能用函数来表达．变量之间的这种非确定性关系，称为相关关系． 对于相关关系，虽然不能求出变量之间精确的函数关系式，但是通过大量的观测数据，可以发现它们之间存在着一定的统计规律性． 由一个(或一组)非随机变量来估计或预测某一个随机变量的观测值时，所建立的数学模型和所进行的统计分析，称为回归分析. 如果这个模型是线性的，就称为线性回归分析. 研究两个变量间的相关关系的回归分析，称为一元回归分析． 2.一元线性回归 在一元回归分析里，我们要考察的是随机变量 y 与一般变量 x 之间的相互关系．虽然 x和 y 之间没有确定的函数关系. 但是我们可以借助函数关系来表达它们之间的统计规律性．用以近似地描述具有相关关系的变量间的联系的函数，称为回归函数． 由于 y 与 x 之间不存在完全确定的函数关系，因此必须把随机波动产生的影响考虑在内.于是我们的模型的一般形式为 y=f(x)+ ?. 其中 ? 是随机项． 进行 n 次独立试验，观测值如下表所示： 取一个容量为n的样本(xi,yi)(i =1,2,…,n ) ，则有 其中， 满足 (1) (2) 相互独立. 我们用 即 来描述点 (xi,yi)(与回归直线沿平行于纵轴方向的远近距离，则 为了定量地描述回归直线与 n 个观测点的接近程度．要找出一条总的看来最接近这 n个观测点的直线，就是要找出使 Q达到最小值的a,b (记作 )．由于平方又叫做二乘方．因此把这种使“偏差平方和为最小”的方法称为最小二乘法.这样求得的 称为 a,b的最小二乘估计． 的求法如下： 整理可得 ——法方程(正规方程) 解这个方程组，可得 其中 可以证明，所求得的 ，确实使 取得最小值. 于是，所求的回归直线方程为 解　列表计算 前面提到，只有当两个变量间存在线性相关关系时，才能用直线方程大致表示它们之间的关系.但是，对任意两个变量的一组观察数据 都可以用最小二乘法形式上求得对的回归直线.这样就需要考察与间是否确有线性相关关系，能否用直线方程来表示，即判断回归方程是否有意义.这种问题一般称为回归方程的显著性检验． 在 的假设下，如果 b=0 ，说 明 x 值的变化对 y没有影响，因而变量 x 不能控制变量y ，用回归直线方程 不能描述两个变量 y 与 x之间的关系，因此，要判明 y与 x是否确有线性相关关系，就是要检验假设 H0: b=0 ．这和前面介绍的假设检验一样，首先要构造统计量. 设 xi ，yi(i=1,2,…,n)为变量 x ，y 间的一组容量为 n的样本， 为由这组样本出发求得的变量 x ，y 间的回归直线方程，则 就表示了观测数据的总的变动情况，故称Lyy 为总变动平方和．因为 x对y 的线性影响后所剩余的平方和，因此称Q 为剩余平方和(或残差平方和)，它主要反映了试验误差的大小． 数学上已经证明：在 成立时， . 这样，我们得到显著性检验的步骤如下： (1) 选取统计量 ； (2)计算 和 的观察值 和 ,并按 计算 ； (3)对给定的显著水平 (一般 或 ),从 分布表中查出 ，使得 如果 ，则否