第四章 多元线性回归模型.docx

精品文档 精品文档 精品文档 精品文档 第四章 多元线性回归模型 在一元线性回归模型中，解释变量只有一个。但在实际问题中，影响因变量的变量可能不止一个，比如根据经济学理论，人们对某种商品的需求不仅受该商品市场价格的影响，而且受其它商品价格以及人们可支配收入水平的制约；影响劳动力劳动供给意愿（用劳动参与率度量）的因素不仅包括经济形势（用失业率度量），而且包括劳动实际工资；根据凯恩斯的流动性偏好理论，影响人们货币需求的因素不仅包括人们的收入水平，而且包括利率水平等。当解释变量的个数由一个扩展到两个或两个以上时，一元线性回归模型就扩展为多元线性回归模型。本章在理论分析中以二元线性回归模型为例进行。 一、预备知识 （一）相关概念 对于一个三变量总体，若由基础理论，变量 x , x 和变量 y 之间存在因果关 1 2 系，或 x , x 的变异可用来解释 y 的变异。为检验变量 x , x 和变量 y 之间因果关 1 2 1 2 系是否存在、度量变量 x , x 对变量 y 影响的强弱与显著性、以及利用解释变量 1 2 , x 去预测因变量 y ，引入多元回归分析这一工具。 1 2 将给定 x , x 1i 2i 条件下 y i 的均值 E( y i | x , x 1i 2i ) ? ? 0 ? x 1i ? x 2i （4.1） 定 义 为 总 体 回 归 函数 （ Population Regression Function,PRF ）。 定 义 ? E( y i i | x , x 1i 2i ) 为误差项（error term）,记为? i ，即? i ? y ? E( y i i | x , x ) ， 1i 2i 这样 y i ? E( y i | x , x 1i 2i ) ? ? ，或 i y ? ? i 0 ? x 1i ? ? x ? ? 2i i （4.2） （4.2）式称为总体回归模型或者随机总体回归函数。其中，x , x 称为解释 1 2 变量（explanatory variable）或自变量（independent variable）； y 称为被解释变量（explained variable）或因变量（dependent variable）；误差项? 解释了因变量的变动中不能完全被自变量所解释的部分。 在总体回归模型（4.2）中参数? 0 , ? , ? 1 2 是未知的， ? i 是不可观察的，统计 计量分析的目标之一就是估计模型的未知参数。 给定一组随机样本 ( y , x , x i 1i 2i ), i ? 1,2, , n ，对（4.1）式进行估计，若 E( y ?i ? | x , x 1i 2i ), ? 0 , ? , ? 的估 1 2 计量分别记为 y , ?^ ^i 0 ^ , ?^ 1 , ?^ 2 ，则定义（4.3）式为样本回归函数 ^y ? ?^ ^ i 0 ? ?^ x 1 1i ? ?^ x 2 2i （ i ? 1,2,?, n ） （4.3） 注意，样本回归函数随着样本的不同而不同，也就是说?^ 0 , ?^ 1 , ?^ 2 是随机变量， 它们的随机性是由于 yi 的随机性（同一组( x1i , x2i ) 可能对应不同的 yi ）、x1 , x2 各 自的变异、以及 x , x 1 2 之间的相关性共同引起的。定义 y i y^ i 为残差项（residual term）,记为e i ，即e i ? y ? y^ i i ，这样 y i ? y^ ? e ，或 i i y ? ?^ i 0 ? ?^ x ? e 1 i i （ i ? 1,2,?, n ） （4.4） （4.4）式称为样本回归模型或者随机样本回归函数。样本回归模型中残差项e 可 i 视为总体回归模型中误差项? 的估计量。 i （二）多元线性回归模型的矩阵表示 多元线性回归模型的参数估计比一元线性回归模型要复杂得多，为了便于计算和分析，便于将结果由三变量总体推广到一般的多变量总体，引入矩阵这一工具简化计算和分析。 设( y i , x , x 1i 2i ), i ? 1,2,?, n 是取自总体的一组随机样本。在该组样本下，总体 回归模型（4.2）式可以写成方程组的形式 y ? ? 1 0 ? x 1 11 ? ? x ? ? 2 21 1 y ? ? 2 0 ? x 1 12 ? ? ? x ? ? 2 22 2 利用矩阵运算，可表示为 y ? ? n 0 ? x 1n ? ? x ? ? 2n n ? y ? ?1 x x ? ? ? ?? ? ? 1 ? ? 11 21 ? ?