概率论和数理统计 参数估计点估计精选.ppt

第三章 参 数 估 计 * 一、点估计 二、估计量的评选标准 三、区间估计 一、矩 估 计 法 1、方法思想 * 将要估计的总体参数? 表示成总体X的矩的函数，然后用样本的相应的矩的函数作为其估计量进行估计。 ----这种估计方法称为矩估计法。 例1 已知总体的概率密度为 试由样本(X1,X2,…,Xn)估计参数?。 分析： 1、参数?与总体的矩有什么关系？ 计算E(X)不难得到： 2、如何利用样本来估计E(X)，进而估计参数?？ 用样本均值 （一阶矩）来估计E(X)！ 也可以建立参数?与E(X 2)的关系… * 一般地，若总体X的概率分布含有k个未知参数?1,?2,…?k ,则总体X的l阶（原点）矩?l存在，且应为?1,?2,…,?k的函数： ?l =?l(?1,?2,…,?k), 2、理论依据 用相应的样本矩Al估计?l ，得 用样本的矩来推断总体相应的矩，其理论依据为 “大数定律” ——若总体X的k阶（原点）矩?k存在，则当样本容量n充分大时，样本的k阶矩Mk 依概率收敛于?k。 3、方法步骤 1）建立待估参数? 与总体的矩之间的关系式； 2）解方程组，解得参数?用总体矩表示的关系式。 3）用相应的样本矩做总体矩的估计量，代入关系式得到? 的估计量。代入样本值得到? 的估计值。 此方程组的解 ， 就称为参数?1,?2,…,?k 的矩估计量。 例2 设灯泡厂从某天生产的一大批灯泡中随机抽取10只进行寿命试验，测得数据如下（单位：小时）： 1050,1100,1080,1120,1200,1250,1040,1130,1300,1200; 试估计该批灯泡的平均寿命及寿命分布的标准差。 * 析： 而 D(X)=E(X2)-E2(X), 需要估计的是总体的均值? 和标准差? ； 其中? 本身就是总体的一阶矩；而标准差? 呢？ ①它们与总体的（原点）矩之间的关系？ ②用相应的样本矩取代总体矩得到估计量： 或者：D(X)就是总体的二阶中心矩！ * 例3 设总体X服从[a,b]上的均匀分布，a,b未知. X1,X2,…,Xn是来自总体X的样本，试求a,b的矩估计量. 析： ① 待估参数与总体的（原点）矩之间有何关系？ ② 如何得到估计量？ 对于均匀分布而言，我们熟知： 思考 该题做法唯一吗？ 二、最大似然估计 1、基本原理 * 若在一次观察中一个事件出现了，那么此事件的概率应该较大。 思考： 有一个事件A，如果我们只知道它发生的概率P(A)有三种可能：0.1、0.6和0.99；在一次观测中，这一事件确实发生了，此时我们应当倾向于认为 P(A)= ? 若A发生的概率有更多种可能的选择呢？ 当我们用样本估计总体的参数? 时，应让参数? 取能使所观测到的样本出现的概率最大的那个值。 * 2、基本思想 设总体X的分布已知，记为f(x,? )（若X为离散型随机变量，则f(x,? )为P{X=x}），其中?为待估参数，则总体X的样本(X1,X2 …,Xn)的联合概率密度为 对应具体的一次样本实现（x1,x2,…xn），记 称L(?)为 似然函数; L(?) 描述了样本(X1,X2, …,Xn)取值为（x1，x2，…xn）的可能性大小！ 依“基本原理”,此时的L(?)应当取到的是最大值. 故?的值应当是使得L(?)取到最大值的点。 -----这种求参数? 估计值的方法，就称为最大似然估计法。 由此方法而求出的参数?的估计值，称为? 的最大似然估计值，相应的估计量为最大似然估计量。 3、方法步骤 ① 写出似然函数L(?) ； ② 求似然函数L(?)的最值（极值）。 （注：通常转为求 LnL(?)的极值更方便） * 例4 已知X～b(1,p), (X1,X2,…,Xn)为一个样本，求p的最大似然估计量。 解： 故p 的最大似然估计量为 X的分布率为 P{X=x}=px(1-p)1-x， x=0，1， 故似然函数 把分布率写成这种形式很必要！ * 说明： 最大似然估计法可推广至分布中含有多个未知参数的估计。 解: 似然函数为 得最大似然估计值为 X的概率密度为 例5 设总体X～N(?，?2), ?,?2均未知, (x1,x2,…,xn)为X的样本值,求?, ?2的最大似然估计值. * 例6已知总体X在[a,b]上服从均匀分布，a,b未知(X1,X2,…,Xn)是一个样本。试求a,b的最大似然估计量。 析： X的概率密度为 似然函数为 无解！ 基于已有的样本(X1,X2,…,Xn)，b-a能任意的小吗？？ * 解： 似然函数为 若将 x1,x2,…,xn 按由小到