江苏自考《概率论与数理统计》第七章 参数估计

第7章 参数估计2011.6-2011.10

参数：反映总体某方面特征的量例：设浙江大学大一学生某学年的《微积分I》成绩X 服从正态分布，当X 90时为优秀，则优秀率 p P X 90 1 ( 90

)

也是一个参数，它是 和 2的函数。

当总体的参数未知时，需利用样本资料对其 给出估计——参数估计。

两类参数估计方法：点估计和区间估计

点估计 直接用来估计未知参数 的统计量 ( x1 , ... , xn )

称为参数 的点估计量，简称点估计。 常见的点估计法：矩法和极大似然法。

(一)矩估计法替换原理： 以样本矩替换总体矩(原点矩或中心矩) 以样本矩的函数替换总体矩的函数 E( X ) x ( X ) s 2 1 ( x x )2 D n n i 1 i注：也可以用 s 2 估计 D( X )n

基本步骤(1)求总体前k阶矩关于k 个参数的函数

i E ( X i ) hi ( 1 , , k ),

i 1, , k

(2)求各参数关于k阶矩的反函数

i gi ( 1 , , k ),

i 1, , k

(3)以样本各阶矩A1 , ,A k 代替总体各阶矩 1 , , k, 得各参数的矩估计 i =g i(A1 , ,A k ), i 1, , k 6

例：

3.设总体X 服从均匀分布U (a, b),a和b是 未知参数，样本X 1 , , X n,求a和b的矩估计。

二

最大似然估计法：

最大似然估计的原理介绍

考察以下例子：

假设在一个罐中放着许多白球和黑球，并假定已经知道两种球的数目之比是1:3,但不知道哪种颜色的球

多。如果用放回抽样方法从罐中取5个球，观察结果为：黑、白、黑、黑、黑，估计取到黑球的概率p.

解：设抽到黑球的概率为p, 则本例中，p 1 或 3 . 4 4当p 1 时，出现本次观察结果的概率为 1 4 4当p 3 时，出现本次观察结果的概率为 3 4 4由于4

4

3 3 . 4 1024

81 1 1024 . 4

3 81 ,因此认为p 3 比p 1 更有可能， 1024 1024 4 4 于是p取为 3 更合理. 49

极大似然估计法一般地，设离散型总体X ~ p( x; ), , 未知。

从总体X 中取得样本X1 , , X n,其观察值为x1 , , xn,则事件 X 1 x1 , , X n xn 发生的概率为 L( ) P X 1 x1 , , X n xn p ( x1 ; )... p ( xn ; ) p ( xi ; ).i 1 n

似然 函数 极大似然原理：L( ( x1 , , xn )) max L ( ).

称(x1 , , xn)为 的极大似然估计 10

说明 1. 在求L 的最大值时，通常转换为求：lnL 的最大值， lnL 称为对数似然函数. 利用 lnL 0, i 1, 2,..., k .解得 i,i 1, 2,..., k . i

2. 若L 关于某个 i 是单调增 减

函数， 此时 i的极大似然估计在其边界取得；

3. 若 是 的极大似然估计，则g 的极大似然估计为g 。

例：

点估计的评价标准从前一节看到，对总体的未知参数可用不同方 法求得不同的估计量，如何评价好坏？

三条评价准则：相合性准则、无偏性准则、有效性准则

1.相合性准则 定义：设 n x1 , , xn 为参数 的估计量， 若对于任意 ,当n 时， 依概率收敛于 , 即 0, 有： lim P n 0成立，n

n

则称 n为 的相合估计

定理：设 n x1 , , xn 是 的一个估计量，若n

lim E ( n ) , lim D( n ) 0n 14

则 n是 的相合估计。

2.无偏性准则 定义：若参数 的估计量 x1 , x2 , , xn , 满足E , 则称 是 的一个无偏估计。

注：1、x 是E ( X )的无偏估计； 样本k阶原点矩ak 是总体k阶原点矩 k的无偏估计2 但sn 不是 2的无偏估计 2、 是 的无偏估计，一般而言，g ( )不是g ( )的无偏估计

例：

3.有效性准则

定义：设 1 , 2是 的两个无偏估计， 如果D 1 D 2 , 对一切 成立， 且不等号至少对某一 成立，则称 1比 2有效。

例：

区间估计假设 X 1 , , X n 是总体X 的一个样本， 区间估计的方法是给出两个统计量 1 1 X 1 , , X n , 2 2 X 1 , , X n 使区间 1 , 2 以一定的可靠程度盖住 .

本文来源：https://www.bwwdw.com/article/ttim.html