第3章一元模型的参数估计.ppt

第三章 一元回归模型的参数估计 一、参数的普通最小二乘估计（OLS） 二、最小二乘估计量的数值性质 三、一元线性回归模型的基本假设 四、最小二乘估计量的统计性质 五、参数估计量的概率分布及随机干 扰项方差的估计 六、最小二乘估计（OLS）的精度或标准误 单方程计量经济学模型分为两大类： 线性模型和非线性模型 线性模型中，变量之间的关系呈线性关系 非线性模型中，变量之间的关系呈非线性关系 一元线性回归模型：只有一个解释变量 i=1,2,…,n Y为被解释变量，X为解释变量，?0与?1为待估参数， ?为随机干扰项 回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。 估计方法有多种，其中最广泛使用的是普通最小二乘法（ordinary least squares, OLS）。因为OLS具有良好的数值性质和统计性质。同时，在一系列假定下OLS估计量具有BLUE性质，能满足我们用样本推断总体的要求。 注：实际这些假设与所采用的估计方法紧密相关。 一、参数的普通最小二乘估计（OLS） 给定一组样本观测值（Xi, Yi）（i=1,2,…n）要求样本回归函数尽可能好地拟合这组值. 离差 要求样本函数仅可能好的拟合这组数值，我们可以考虑 使观测值Yi与样本回归值之差(残差ei)尽可能的小， 使之尽可能的接近PRF,即： 注：在统计分析中，如没有特殊说明，离差一般 是指观测值与其均值的差，即 这种方法尽管有直观上的说服力，却不是一个很好的准则，如果采用 那么在总和（e1+e2+e3+e4+……ei )中，无 论残差离样本回归函数SRF远还是近，都 得到同样的权重。结果很可能ei离开SRF 散布得很远，但代数和很小甚至为零。 即min∑ei 普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差的平方和 最小。 为什么要用两者之差平方和最小： 1、它根据各观测值离SRF的远近不同分别给予不同的权重。从而ei越大，∑ei2也越大。 2、 ∑ei2＝f(?0 , ?1 )，即残差平方和是估计量?0 , ?1 的某个函数。 3、用OLS原理或方法选出来的?0 , ?1 ，将使得对于给定的样本或数据残差平方和尽可能的小。 ^ ^ ^ ^ ^ ^ 方程组（*）称为正规方程组（normal equations）。 记 上述参数估计量可以写成： 称为OLS估计量的离差形式（deviation form）。 由于参数的估计结果是通过最小二乘法得到的，故称为普通最小二乘估计量（ordinary least squares estimators）。 二、OLS估计量的数值性质 OLS数值性质是指运用最小二乘法而得以成立的那些性质，而不管这些数据是怎样产生的。 1、OLS估计量纯粹是用可观测的量（即样本）来表达的，因此这些量是容易计算的。 2、这些量是点估计量。 3、一旦从样本数据得到OLS估计值，便容易画出样本回归线，这样得到的回归线有如下性质： （1）它通过Y和X的样本均值。即 （2）估计的Y均值等于实测的Y均值。即 （3）残差ei的均值为零。即∑ei=0。据此，我们可以 推出样本回归函数的离差形式。即 注意： 在计量经济学中，往往以小写字母表示对均值的离差。 记 则有 可得 （**）式为样本回归函数的离差形式。 （**） （4）残差ei和预测的Yi值不相关。即 （5）残差ei和Xi不相关。即 ∑eiXi=0 三、线性回归模型的基本假设 为什么要做出假定： 1、虽然通过OLS，我们可以获得?0 , ?1 的估计值，但我们的目的不仅仅是为了得到它们的值。 2、更为重要的是对?0 , ?1 与真实的?0 , ?1 之间的替代性进行推断。 3、对Yi与E(Y|X=Xi)之间的差距到底有多大进行推断。 4、在模型 中， ei是一随机变量，如果我们不知道xi、ei是怎样产生的，就无法对Yi做出任何推断，也无法对?0 , ?1 做出任何推断。 5、在一系列假定下，OLS具有良好的统计性质，能够满足我们对?0 , ?1 作出推断的要求。 ^ ^ ^ 线性回归模型的基本假设 假设1、线性回归模型，回归模型对参数而言是线性的； 假设2、解释变量X是确定性变量，不是随机变量； 假设3、随机误差项?具有零均值、同方差和不序列相关性： E(?i)=0 i=1,2, …,n