贝叶斯统计-ch2贝叶斯推断演示教学.ppt

* 表2.3 可信区间的搜索过程 β/ 1 6.71 0.367879 0.367765 0.735759 0.009383 0.726376 0.5 9.255 0.075816 0.075811 0.909800 0.000981 0.908819 0.53 9.039 0.087630 0.087654 0.900566 0.001191 0.898375 0.528 9.053 0.086815 0.086838 0.901189 0.001177 0.900012 * §2.4 假设检验 一、假设检验 经典统计中处理假设检验问题的基本步骤： 1.建立原假设H0与备择假设H1： H0：θ∈Θ0，H1：θ∈Θ1 其中Θ0与Θ1是参数空间Θ中不相交的二个非空子集。 2.选择检验统计量T=T(x)，使其在原假设H0为真时概率分布是已知的。这是在经典方法中最困难的一步。 3.对给定的显著性水平α(0α1)，确定拒绝域W，使犯第Ⅰ类错误（拒真错误）的概率不超过α。 4.当样本观察值x落入拒绝域W时，就拒绝原假设H0，接受备择假设H1；否则就保留原假设。 * 贝叶斯统计中处理假设检验问题的基本思想： 获得后验分布π(θ|x)后，先计算二个假设H0和H1的后验概率： αi=P(Θi|x)，i=0,1然后比较α0与α1的大小： 当后验概率比(或称后验机会比)α0/α11时接受H0； 当α0/α11时接受H1； 当α0/α1≈1时，不宜做判断，还需要进一步抽样或进一步收集先验信息。 * 由这两个学派假设检验的基本思想可看出贝叶斯假设检验更易理解更简单： 1.贝叶斯假设检验无需选择检验统计量，确定抽样分布； 2.无需事先给出显著性水平，确定其拒绝域； 3.易推广到多重假设检验的场合，检验的标准是：接受具有最大后验概率的假设。 * 例2.10 设x是从二项分布b(n,θ)中抽取的一个样本，现在考虑如下两个假设：  Θ0={θ:θ≤1/2}, Θ1={θ:θ1/2}若取均匀分布U(0,1)作为θ的先验分布，试做出判断。 解：因为Θ0的后验概率为：在n=5时可计算各种x下的后验概率及后验机会比（见表2.4） * 表2.4 θ的后验机会比从表中可以看出，当x=0,1,2时，应接受Θ0，而在x=3,4,5时，应拒绝Θ0，接受Θ1。 x 0 1 2 3 4 5 α0 63/64 57/64 42/64 22/64 7/64 1/64 α1 1/64 7/64 22/64 42/64 5764 63/64 α0/α1 63.0 8.14 1.91 0.52 0.12 0.016 * 二、一个重要的概念——贝叶斯因子 定义2.5 设两个假设Θ0与Θ1的先验概率分别为π0与π1，后验概率分别为α0与α1，则称： 为贝叶斯因子。 贝叶斯因子表示数据x支持原假设的程度。 * 三、简单假设Θ0={θ0}对简单假设Θ1={θ1} 1.贝叶斯因子的计算方法及其含义。 在这种场合，两种简单假设的后验概率分别为： 其中p(x/θ)为样本的分布，这时后验机会比为： 如果要拒绝原假设Θ0={θ0}，则必须有：α0/α1小于1，即： * 即要求两密度函数值之比大于临界值，这正是著名的奈曼—皮尔逊引理的基本结果，从贝叶斯观点看，这个临界值就是两个先验概率比。 由此得到这种情形下的贝叶斯因子是：它不依赖于先验分布，仅依赖于样本的似然比，这时贝叶斯因子的大小表示样本x支持Θ0的程度。 * 2.例题分析（P54例2.11） 设X~N(θ,1)，其中θ只有两种可能，非0即1，需要检验的假设是： H0：θ=0，H1：θ=1若从该总体中抽取一个容量为n的样本x, 试计算贝叶斯因子及作出相应的决策。 解：先计算似然函数： 再计算贝叶斯因子： 最后进行数值分析：假设n=10， =2。则贝叶斯因子为： ，这个数很小，所以应该拒绝H0而接受H1。 * 四、复杂假设Θ0对复杂假设Θ1 1.贝叶斯因子的计算。在这种情形下，贝叶斯因子不仅与样本有关，还依赖于参数空间Θ上的先验分布π(θ)。先把先验分布π(θ)限制在Θ0∪Θ1上，并令： 于是先验分布可改写为： 其中π0与π1分别是Θ0与Θ1上的先验概率，g0与g1分别是 Θ0与Θ1上的概率密度函数，由此可计算出后验概率比为