概率论与数理统计读书笔记

目 录

第一章 概率论的基本概念 ................................................................... 1 1 随机试验 ....................................................................................... 1 2.样本空间、随机事件 ..................................................................... 1 3.频率和概率 .................................................................................... 2 4．等可能概型（古典概型） .......................................................... 3 5.条件概率 ........................................................................................ 4 6.独立性 ............................................................................................ 5 第二章 随机变量及其分布 ................................................................... 5 1. 随机变量 ..................................................................................... 5 2. 离散型随机变量及其分布律 ...................................................... 6 3.随机变量的分布函数 ..................................................................... 7 4.连续型随机变量及其概率密度 ..................................................... 8 5.随机变量的函数分布 ..................................................................... 9 第三章 多维随机变量及其分布 ........................................................... 9 1.二维随机变量 ................................................................................ 9 2.边缘分布 ...................................................................................... 11 3.条件分布 ...................................................................................... 11 4.相互独立的随机变量 ................................................................... 13 5.两个随机变量函数的分布 ........................................................... 13

概率论与数理统计读书笔记

第四章 随机变量的数字特征 ............................................................ 14 1. 数学期望 .................................................................................... 14 2. 方差 ............................................................................................ 16 3. 协方差及相关系数 ..................................................................... 17 4.矩、协方差矩阵........................................................................... 18 第五章 大数定律和中心极限定理 .................................................... 19 1. 大数定律 ................................................................................... 19 2.中心极限定理 .............................................................................. 20 第六章 样本及抽样分布 ....................................... 错误！未定义书签。 第七章 参数估计 .................................................. 错误！未定义书签。 第八章 假设检验 .................................................. 错误！未定义书签。 第九章 回归分析 .................................................. 错误！未定义书签。 参考文献 ................................................................ 错误！未定义书签。

概率论与数理统计读书笔记

第一章 概率论的基本概念

1 随机试验

1.对随机现象的观察、记录、试验统称为随机试验.

2.随机试验E的所有结果构成的集合称为E的样本空间，记为S??e?， 称S中的元素e为基本事件或样本点.

3.可以在相同的条件下进行相同的实验；每次实验的可能结果不止一个，并且能事先明确试验的所有可能结果；进行一次试验之前不能确定哪一个结果会实现.

2.样本空间、随机事件

1.对于随机试验，尽管在每次试验之前不能预知试验结果，但试验的所有可能结果组成的集合是已知的.我们将随机试验E的所有可能结果组成的集合称为E的样本空间，记为S样本空间的元素，即E的每个结果称为样本点.

2.一般我们称S的子集A为E的随机事件A，当且仅当A所包含的一个样本点发生称事件A发生.如果将S亦视作事件，则每次试验S总是发生，故又称S为必然事件。为方便起见，记?为不可能事件，?不包含任何样本点.

3.若A?B，则称事件B包含事件A，这指的是事件A发生必导致事件的发生。若A?B且B?A，即A?B，则称事件A与事件B相等.

1

概率论与数理统计读书笔记

4.和事件A?B??xx?A或x?A?：A与B至少有一发生.

5.当AB??时，称事件A与B不相容的，或互斥的.这指事件A与事件B不能同时发生.基本事件是两两互不相容的.

A?A?SA?A?SA的逆事件记为A,{,若{,则称A,B互逆，互斥.AA??AB??6.当且仅当A,B同时发生时，事件A?B发生.A?B也记作AB.

当且仅当A,B同时发生时，事件A?B发生,A?B也记作AB.

7. 事件 A 的对立事件：设 A 表示事件 “A 出现”, 则“事件 A 不出现”称为事件 A 的对立事件或逆事件. 事件间的运算规律：设A,B,C为事件, 则有

（１）交换律：A?B?B?A,AB?BA

（２）结合律：(A?B)?C?A?(B?C),(AB)C?A(BC) （３）分配律：(A?B)?C?(A?C)?(B?C)?AC?BC

（４）de?Morgan?律：A?B?A?B,A?B?A?B

3.频率和概率

1.记fn?A??nA n其中nA?A发生的次数（频数）；n?总试验次数.

称fn(A)为A在这n次试验中发生的频率.(A)反映了事件A发生的频繁程度. 频率 fn 2.频率的性质：

。 1 0?fn(A)?12。 fn(S)?1

。

2 f(3若A1,A2,?,Ak两两互不相容，则 n?Ai)??fn(Ai)i?1i?1kk 概率论与数理统计读书笔记

3.当重复试验次数n逐渐增大时，频率 逐渐稳定fn(A)呈现出稳定性，于某个常数.这种“频率稳定性”即通常所说的统计规律性.我们让试

fn(A)以它来表征事件A发生可能性的大验重复大量次数，计算频率

fn(A)随n的增大渐趋稳定，记稳定值为p. 小是合适的. fn(A)的稳定值p定义为A的概率，记为P(A)?p.

4.概率定义：设E是随机试验，S是它的样本空间.对于E的每一个事件A赋予一个实数，记为P(A)，称为事件A的概率. 满足下列条件:

(1) 非负性：对于每一个事件A,有P(A)?0; (2) 规范性：对于必然事件S,有P(S)?1;

(3) 可列可加性：设A1,A2,?是两两相互不相容的事件，即对于i?j，

则有P?A1?A2????P?A1??P?A2??? ； i,j?1,2?，AiAj??，

5.概率定义推得的重要性质. （1）P(?)?0

（2）有限可加性 若A1A2A3An是两两互不相容的事件 则有

P?A1?A2??An??P(A1)?P?A2???P(An) （3）对于任一事件P(A)?1

（4）对于任一事件A有 P(A)?1?P?A? (5) P(A?B)?P(A)?P(B)?P(AB)

4．等可能概型（古典概型）

1.当试验的样本空间只含有有限个元素，并且试验中每个基本事件发

3

概率论与数理统计读书笔记

生的可能性相同，具有这样特点的试验是大量存在的，则称这种试验为等可能概型.它在概率论发展初期曾是主要的研究对象，所以也称为等可能概型. 2. P?A???Peijj?1k?????kA包含的基本事件数?即是等可能概型中nS中基本事件的总数事件A的概率的计算公式.

5.条件概率

1. 条件概率定义：设A,B是两个事件,且P(A)?0，称P(BA)?为在A事件发生条件下B事件发生的条件概率. 2.符合条件概率的三个条件，即：

（1）非负性 对于每一事件B, 有 P?BA??0 （2）规范性 对于必然事件S，有 P?SA??1

（3）可列可加性 设B1B2?是两两互不相容的事件，则有

P(AB)

P(A)????P??BiA???P?BiA? ?i?1?i?13. 乘法定理：设P?A??0，则有 P?AB??P?BA?P?A?

n?2，推广: 一般设 A1A2?An为n个事件，且P?AAA12?1n???0有

P(A1A2?An)?P(AnA1A2?An?1)P(An?1A1A2?An?2)??P(A2A1)P(A1). 4.全概率公式：设试验E的样本空间为S，

A为E的事件,

B1,B2,....,Bn为S的一个划分，且P(Bi)?0(i?1,2,...,n)，则

P?A??P?AB1?P?B1??P?AB2?P?B2????P?ABn?P?Bn?

5.贝叶斯公式：设试验E的样本空间为S4

，

A为E的事件,

概率论与数理统计读书笔记

B1,B2,....,Bn为S的一个划分，且P(Bi)?0(i?1,2,...,n)，则

P?BiA??P?ABi?P?Bi??P?AB?P?B?jjj?1n

6.独立性

1.定义：设A,B是两事件，如果满足等式P(AB)?P(A)P(B)，则称事件A,B相互独立，简称A,B独立.

若P(A)?0,P(B)?0,则A,B相互独立与A,B互不相容不能同时成立. 2. 定理一：设A,B是两事件，且P?A?>0，若A,B相互独立，则

P?BA?=P?B?.反之亦然.

3.定理二：若事件A与B相互独立则A与B，A与B，A与B也相互独立.

4.推广定义：设A,B,C是三个事件，如果满足等式

P(AB)?P(A)P(B),P(BC)?P(B)P(C)，P(AC)?P(A)P(C),P(ABC)?P(A)P(B)P(C)则称事件A,B,C相互独立.

5. A,B相互独立?A,B相互独立?A,B相互独立?A,B相互独立当P?AB??P?A??P?B?时

P?AB??P?A?AB??P?A??P?AB??P?A???1?P?B????P?A?P?B?

第二章 随机变量及其分布

1. 随机变量

1.定义：设随机试验的样本空间S??e?,X?X?e?是定义在样本空

5

概率论与数理统计读书笔记

间S上的实值单值函数，称X?X?e?为随机变量. 常见的两类随机变量{离散型.

连续型2.本书中一般以大写字母如X,Y,Z,W,...表示随机变量，而以小写字母x,y,z,w,...表示实数.

2. 离散型随机变量及其分布律

1.定义：有些随机变量，它全部可能取到的不相同的值是有限个或可列无限多个，这种随机变量称为离散型随机变量. 2.定义：取值可数的随机变量为离散量.

一般地，设离散型随机变量X所有可能取的值为x(k?1,2,????)

kx取各个可能值的概率论，即事件的概率为P?X?xk??pk,k?1,2,???称为离散型随机变量X的分布律。pk满足如下两个条件：

（1）pk?0 （2）?pk?1

k?1?3.（0－1）分布

设随机变量X只可能取0与1两个值,它的分布律是

P{X?k}?pkq1?k,k?0,1(0?p?1,p?q?1)，则称 X 服从（0－1）分布或

两点分布.

（0－1）分布的分布律也可写成

4.设试验只有两个可能结果：A 及A, 则称E为伯努利试验．设

6

概率论与数理统计读书笔记

P(A)?p(0?p?1)，此时P(A)?1?p,将E独立重复地进行n次，则称这一串重复的独立试验为n重伯努利试验.

kkn?k P?X?k??Cnpq，k?0，1，2，?，nkkn?kCnpq刚好是二项式(p?q)n的展开式中出现Pk的那一项，故称随

机变量X服从参数n,p的二项分布，记为X~B(n,p).特别，当n?1时二项分布化为P?X?k??pkq1?k,k?0,1，这就是（0-1）分布. 5.泊松分布

设随机变量X所有可能取值为0,1,2?..而取各个值的概率为

? P ?X ? k ? ? k ? 0， 1， 2 ， ， 其中??0是常数，

?ke??k！ X 服从参数为 ? 的泊松分布， 记为 X ~ P ( ? ) . 则称3.随机变量的分布函数

1. 分布函数的定义

设X是一个连续随机变量，称F(x)?p(X?x)(???x???)为 X的分布函数.X是随机变量, x是自变量.

由定义，对任意实数 x1?x2，随机点落在区间?x1,x2?的概率为：

P?x1?X?x2??P?X?x2??P?X?x1??F(x2)?F(x1). 2. 分布函数性质

(1)0?F(x)?1,x?(??,?)(2)F(x1)?F(x2),(x1?x2)(单调不减性)

(3)F(??)?limF(x)?0,F(?)?limF(x)?1x???x??

(4)lim??F(x0),(???x0??)x?x0即任一分布函数处处右连续.

7

概率论与数理统计读书笔记

3.公式

(1)P{a?X?b}?F(b)?F(a) (2)P{X?a}?1?F(a).4.连续型随机变量及其概率密度

1.如果对于随机变量X的分布函数F?x?，存在非负函数f(x)，使对任意实数x有F?x???f?t?dt，则称X为连续型随机变量，其中

??x函数f(x)称为X的概率密度函数简称概率密度。在实际应用中遇到的基本上是离散型或连续型随机变量. 2.概率密度f(x)性质： （1）f(x)?0

（2）?f?x?dx?1

???（3）对于任意实数x1,x2，?x1?x2?，

P?x1?X?x2??F?x2??F?x1???f?x?dx

x1x2（4）若f(x)在点x处连续则有 F??x??f(x)

3.均匀分布：设连续型随机变量X具有概率密度f(x)=

?1,a?x?b???b?a，则称X在区间?a,b?上服从均匀分布.记为??0,其他. X?U?a,?b.易知f(x)?0,且?f(x)dx=1-??4指数分布：设连续型随机变量X具有概率密度

?1?x/??e,x?0f?x????，其中??0为常数，则称X服从参数为?的指

??0,其他8

? 概率论与数理统计读书笔记

数分布.易知f(x)?0,且?f(x)dx=1.

-?5 正态分布：设连续型随机变量X具有概率密度

f?x??1e2??2x?????2?2,???x??， 则称X服从参数为?,?的正态分

布.特别的，当??0,??1时，称X服从标准正态分布.

5.随机变量的函数分布

定理：设随机变量X具有概率密度fX?x?，???x??，又设函数g(x)处处可导且恒有g'(x)?0(或恒有g'(x)?0)，则Y=g(X)是连续型随机变量，其概率密度为 fY?x???fX?h(y)?h?(y)0??y??其它.

第三章 多维随机变量及其分布

1.二维随机变量

1.设随机试验E的样本空间为：S??e?,X?e?、Y?e? 为定义在S上的随机变量，由它们构成一个随机向量 (X、Y),叫二维随机向量或二维随机变量.

2.定义：设二维随机变量(X、Y)，对任意实数x、y,二元函数,称为(X、Y)的(联合)概率分布函数. F(X,Y)?P,Y??y?X?x二维随机变量分布函数的性质：

（1）即对任意固定的y，当x2?x1F?x,y?是变量x和y的不减函数，时F?x2,y??F?x1,y?;对于任意固定的x，当y2?y1时F?x,y2??F?x,y1?.

9

概率论与数理统计读书笔记

（2）0?F?x,y??1，且对于任意固定的y，F???,y??0，对于任意固定的x,F?x,????0,F???,????0,F??,???1.

(3) F?x,y?=F?x?0,y?，即FxyF?x,y?=F?x,y?0?，?,?关于x右连续，关于y也右连续.

(4) 对于任意?x1,y1?，?x2,y2?，x2?x1，y2?y1，下述不等式成立: F?x2,y2??F?x2,y1??F?x1,y1??F?x1,y2??0.

如果二维随机变量(X,Y)全部可能取到的不相同的值是有限对或可列无限多对，则称(X,Y)是离散型的随机变量.

3. 对于二维随机变量?X,Y?的分布函数F?x,y?.如果存在非负的函数f?x,y?使对于任意(X、Y)有F?x,y???y?????xf??,??d?d?,

则称?X,Y?是连续型的二维随机变量，函数f?x,y?称为二维随机变量?X,Y?的概率密度，或称为随机变量X和Y的联合概率密度. 概率密度f?x,y?具有以下性质： （1）f(x,y)?0 （2） ????????f(x,y)dxdy?F(?,?)?1

(3) 设G是xOy平面上的区域，点(X、Y)落在G内的概率为

P?(X,Y)?G????f(x,y)dxdy

G?2F(x,y)?f(x,y) (4) 若f?x,y?在点(X、Y)连续 则有

?x?y4. 两个常用的分布

（1）均匀分布：定义设D为闭区域面积为A，若随机变量(X、Y) 的(联合)密度为： f(x,y)??

?1/A?0(x,y)?D其它10

概率论与数理统计读书笔记

则称: (X、Y)服从D上的均匀分布.

(2)二维正态分布：若二维随机变量 (X、Y)的概率密度为： f(x,y)?? exp?12??1?21??2??1?(x??1)2(x??1)(y??2)(y??2)2????2?????2?222(1??)??????1122???? ???x???;???y???则称: (X、Y)服从参数为?1、?2、?1、?2、?的二维正态分布.其中?1>0，?2>0，|?|?1是常数.记为：(X、Y)~N (?1、?2、?12、?22、?) .

2.边缘分布

1.二维随机变量?X,Y?作为一个整体，具有分布函数F?x,y?，而X和Y都是随机变量，也有也有分布函数，将他们分别记为FX?x?，

FY?y?，依次称为二维随机变量?X,Y?关于X和Y的边缘分布函数。边缘分布函数可以由?X,Y?的分布函数F?x,y?所确定，事实上

FX?x?=F(?,x).

2.X是一个连续型随机变量，则其概率密度fX?x?????f?x,y?dy 和

fY?y???f?x,y?dx分别称fX?x?，fY?y?为?X,Y?关于X和关于Y的边

????缘概率密度函数.

3. 离散型随机变量的边缘概率分布： ???[???f(x,y)dy]dxx??3.条件分布

1.定义:设?X,Y?使二维离散型随机变量，对于固定的j，若有

11

概率论与数理统计读书笔记

P?Y?yj??0，则称

PX?xiY?yj???P?X?xi,Y?yj?P?Y?yj??pijp·j,i?1,2,?，为在Y?yj条件

下随机变量X的条件分布律。同样，对于固定的i，若P?X?x则称P?Y?yjX?xi??i??0P?X?xi,Y?yj?P?X?xi??pijpi ,j?1,2,?，为在X?xi条件下随机变量Y的条件分布律.

2.定义：设二维随机变量?X,Y?的概率密度为f?x,y?，?X,Y?关于

Y的边缘概率密度为fY?y?.对于固定的y，fY?y??0,则称

f?x,y?fY?y?f?x,y?为在Y?y的条件下X的条件概率密度，记为fXY?xy??.

fY?y?称?fXY?xy?dx????xx??f?x,y?dx为在Y?y的条件下，X的条件分布fY?y?函数，记为P?X?xY?y?或FXY?xy?即

FXY?xy??P?X?xY?y???x??f?x,y?dx， fY?y?yf?x,y?f?x,y?dy. 类似的，可以定义fYX?yx??和FYX?yx?????fX?x?fX?x?3. 离散型随机变量的条件分布

设（X,Y）是二维离散型随机变量，对于固定的j，若P?Y?j??0,则称P?X?xiY?yj??P?X?xi,Y?yj?P?Y?yj??pijp?j,i?1,2,...为在Y=yj条件下随机变量X的条件分布律.4.连续型随机变量的条件分布

给定y,设对于任意固定的正数?,P?y???Y?y????0,且

若对于任意实数x,极限12

概率论与数理统计读书笔记

lim?P?X?xy???Y?y????lim???0??0P?X?x,y???Y?y???P?y???Y?y???存在，则称此极限为在条件Y?y下X得条件分布函数，

写成P?X?xY?y?或记为FXY(XY)。f(x,y)fYX(yx)? .fX(x)4.相互独立的随机变量

1.定义:设F(x,y), Fx(x), Fy(y)分别为二维随机变量(X,Y)的(联合)分布函数和边缘分布函数，若对于所有x,y有： F(x,y)＝ 即：P?X?x,Y?y??P?X?x??则称X与YFx(x)·Fy(y)，P?Y?y?，相互独立.

2.定理 a. X,Y相互独立 ? f(x,y)?fx(x)fy(y)

b.离散型随机变量X,Y相互独立充要条件是对于任意x,y有：

P?X?x,Y?y??P?X?x??P?Y?y?.

5.两个随机变量函数的分布

1. Z?X?Y的分布

设?X,Y?的概率密度为f?x,y?，则Z?X?Y分布函数为

Fz?z??P?Z?z??x?y?z??f?x,y?dxdy,由概率密度的定义，即得到Z的

???概率密度为fz?z???写成fz?z??????f?z?y,y?dy,由?X,Y?的对称性，fz?z?又可

.特别，当X和Y相互独立是，设边缘概f?x,z?x?dx率密度为fX?x?，fY?y?，则上面两个公式可以化为

13

?

?概率论与数理统计读书笔记

fz?z???fX?z?y?fY?y?dy，fz?z???fX?x?fY?z?x?dx,这两个公

????式称为卷积公式，记为fX?fY即

fX?fY??fX?z?y?fY?y?dy??fX?x?fY?z?x?dx

??????更一般地，有限个相互独立得正态随机变量的线性组合仍然服从正态分布.

2.M?max?X,Y?及N?min?X,Y?的分布

设?X,Y?是两个相互独立的随机变量，他们的分布函数分别为Fx(x), Fy(y)，现在来求M?max?X,Y?及N?min?X,Y?的分布函

数。P?M?zz又由于X和Y相互独立，得到??P?X?,zY??

M?max?X,Y? 的分布函数为

Fmax?z??P?M?z??P?X?z,Y?z??P?X?z?P?Y?z?

即有Fmax?z??FX?z?FY?z? 类似的，可得到N?min?X,Y?的分布函数为

Fmin?z??P?N?z??1?P?N?z??1?P?X?z,Y?z??1?P?X?z??P?Y?z? 即Fmin?z??1???1?FX?z?????1?FY?z???.

第四章 随机变量的数字特征

1. 数学期望

k?1,2?1. 定义：设离散型随机变量X的分布律为P?X?xk?=pk，若级数?xkpk绝对收敛，则称级数?xkpk的和为随机变量X的数

k?1k?1??14

? 概率论与数理统计读书笔记

学期望，记为E(X)=?xkpk.

k?12. 设连续型随机变量X的概率密度为f(x),若积分?xf(x)dx的

???值为随机变量X的数学期望,即E(X)=?xf(x)dx.

???数学期望简称期望，又称均值.

3. 定理：设Y是随机变量X的函数: Y?g(X)（g是连续函数）. 1) 若X是离散型随机变量，它的分布律为P?X?xk?=pk，k?1,2?若级数?g(xk)pk绝对收敛，则有E(Y)=E?g(X)?=?g(xk)pk.

k?1k?1??2) 若X是连续型随机变量，它的概率密度为f(x) 若

????g(x)f(x)dx绝对收敛则有E(Y)=E?g(X)?= ?g(x)f(x)dx.

???4.数学期望的重要性质：

（1） 设C是常数，则有 E?C??C

（2）设X是一个随机变量，C是常数，则有 E?CX??CE?X? （3） 设X,Y是两个随机变量，则有 E?X?Y??E?X??E?Y?.这一性质可以推广到任意有限个随机变量之和的情况.

（4） 设X,Y是相互独立的随机变量，则有E?XY??E?X?E?Y?；这一性质可以推广到任意有限个相互独立的随机变量之积的情况.

5. 几个重要随机变量的期望 （1）0-1分布的数学期望：E(X)?p （2）二项分布b?(n,p)：E(X)?np

15

概率论与数理统计读书笔记

X~P?X?k??(3) 泊松分布:

?kk!e??,k?0,1,2,...?E(X)??kk?0??kk!e????e???k?1?k?1

(k?1)!???1?(4) 均匀分布X~U(a,b). X~f(x)??b?a，a?x?b,

??0，其他E(X)=?xf(x)dx?????xa?b dx?ab?a2b??(5) 指数分布：E(X)=?xf(x)dx??xedx???e???01?x?x????? 0(6)正态分布N(?,?2): E(X)??

2. 方差

1.定义:设X是一个随机变量，若E??X?E?X???E??X?E?X????2?存在，则称

?2?为X的方差，记为D?X?或Var?X?即

D?X??Var?X??E??X?E?X??? .在应用上引入D?X?，记为

?2???X? 称为标准差或均方差.

2.离散型随机变量：D(X)???xk?E(X)?pk, 其中

k?1?2P?X?xk??pk,k?1?,. 2 连续型随机变量：D(X)=?的概率密度.

随机变量X的方差可按D?X??E?X2????E?X???计算.

2?xk?E(X)????2f(x)dx 其中f(x)是X3.方差的重要性质

（1）设C是常数，则有D?X??0

16

概率论与数理统计读书笔记

（2）设X是一个随机变量，C是常数，则有D?CX??C2D?X? (3) 设X,Y是两个随机变量，则有

D?X?Y??D?X??D?Y??2E??X?E?X???Y?E?Y???

若X,Y相互独立，则有 D?X?Y??D?X??D?Y?这一性质可以推广到任意有限个相互独立的随机变量之和的情况

(4) D?X??0的充要条件是X以概率1取常数C，P?X?C??1 4. 几个重要随机变量的方差

(1)X~b(n,p):D(X)?np(1?p) (2) 泊松分布: D(X)??

(b?a)2(3) 均匀分布U(a,b): D(X)?

12(4) 指数分布: D(X)??2 (5) 正态分布N(?,?2): D(X)??2

3. 协方差及相关系数

1 定义:E??X?E?X?????Y?E?Y???称为随机变量X与Y的协方差，记为Co?v,???XY??X,Y即Cov?X,Y??E???X?E?X?????Y?E?Y????Cov?X,Y?称为随机变量X与Y的相关系数.

D?X?D?Y?，

2.协方差性质

1) Cov(X,Y)?Cov(Y,X) 2) Cov(X,Y)?D(X),Cov(X,c)?0 3) Cov(aX,bY)?abCov(X,Y),a,b是常数

17

概率论与数理统计读书笔记

4) Cov(X?Y,Z)?Cov(X,Z)?Cov(Y,Z) 5) 若X,Y相互独立，则Cov(X,Y)?0 6) D(X?Y,Z)?D(X)?D(Y)?2Cov(X,Y) 3. 定 理： （1）?XY?1

（2）?XY?1的充要条件是，存在常数a,b使P?Y?a?bX??1 （3）当?XY=0时，称X和Y不相关

（4）当X和Y相互独立时由Cov?X,Y?=0，知?XY=0即X,Y不相关，反之，若X,Y不相关，X,Y却不一定相互独立.

4.矩、协方差矩阵

1．定义：设X和Y是随机变量，若E(Xk)，k?1,2?存在，称它为

k?X的k阶矩。若E?X?E(X)? 存在，称它为X的k阶??,k?2,3??l中心矩。若 E(XkYl),k,l?1,2 存在，称它为X和Y的k?1阶混合

k,l?1,2?存在，矩.若 E?X?E(X)??Y?E(Y)?，称它为X和Y的

k?1阶混合中心矩.

?k?2.设n维随机变量(X1,X2,...Xn)的二阶混合中心距

?cij?Cov(Xi,Xj)?E??Xi?E?Xi?????Xj?E?Xj??,i,j?1,2,...,n都存在，?a11?a1n??为维随机变量(X,X,...X)的协方差矩阵. 则称矩阵????12n??n?a?a?nn??n13. n维正态变量的性质：

??18

概率论与数理统计读书笔记

1)n维随机变量(X1,X2,?,Xn)的每一个分量Xi,i?1,2,?,n都是正态变量;反之,若X1,X2,?,Xn都是正态变量,且相互独立,则(X1,X2,?,Xn)是n维正态变量.2)n维随机变量(X1,X2,?,Xn)服从n维正态分布的充要条件是X1,X2,?,Xn的任意的线性组合l1X1?l2X2???lnXn服从一维正态分布(其中l1,l2,?,ln不全为零).3)若(X1,X2,?,Xn)服从n维正态分布,设Y1,?,Yk是Xj(j?1,2,?,n)的线性函数,则(Y1,Y2,?,Yk)也服从多维正态分布. 4)设(X1,?,Xn)服从n维正态分布,则“ X1,X2,?,Xn相互独立” 与“ X1, X2,?, Xn 两两不相关” 是等价的.

第五章 大数定律和中心极限定理

1. 大数定律

1.定理（契比雪夫不等式）：设随机变量X具有数学期望E(X)=?,方差D(X)=?2.?2 则对于任意??0,都有：P?X?E(X)????2

??2定理的等价形式为：P?X?E(X)????1?2.?

2. 定义：设随机变量序列X1,X2,X3,?,若存在某常数?，使得???0,均有：limPX??????0,则称随机变量序列?Xn?依概率收敛于常数?， n????np记为：X????. n

19

概率论与数理统计读书笔记

3. 定理?契比雪夫不等式的特殊情形?：设随机变量序列X1,X2,?,Xn,?2相互独立，且具有相同的数学期望?和相同的方差?，作前n个随机

变量的算术平均：Yn?1?Xk则???0， nk?1?1n? 有：limP?Yn??????limP??Xk??????1.n??n???nk?1?

4. 定理?贝努里大数定理? 设事件A在每次试验中发生的概率为p，记nA为n次独立重复试验?n?中A发生的次数,则???0,有：limP?A?p????1.n??? ?n?n2.中心极限定理

1. 定理 ?独立同分布的中心极限定理? 设随机变量X1,X2,?,Xn,?相互独立同分布，E?Xi???,D?Xi???2,i?1,2,?

则前n个变量的和的标准化变量为：Yn??Xi?1ni?n??x?R,有：n??n?X?n?2?i?x?t limP?Y?x??limP?1i?12?x???edt.?nn???n?????n?2????? ??

此定理表明，当n充分大时，Yn近似服从N?0,1?.ni＝12即：X（近似）～N(n?,n?), ?i

从而，P(a??Xi?b)??(i?1nb?n?a?n?)??().n?n?20

概率论与数理统计读书笔记

2. 定理 ?德莫佛--拉普拉斯定理? 设nA为n次贝努里试验中A发生的次数，P?A??p?0?p?1?,??b1?t22 nA?np则对任何区间?a,b?，有：limP?a??b???edt.n?????anp(1?p)2???

21

本文来源：https://www.bwwdw.com/article/171r.html