随机过程讲义

随机过程讲议

V1.0

2012年10月22日

随机过程讲义

目录

绪 论 ....................................................................................................................................................... 1 第一章 随机数及其应用 ........................................................................................................................... 2 第一节 随机数的生成 ................................................................................................................................. 2 第二节 生物信息学中的随机策略 ..............................

2.2 Properties of Poisson processesExample Suppose that people immigrate into a territory at a Poisson rateλ=1 per day. (a) What is the expected time until the tenth immigrant arrives? (b) What is the probability that the elapsed time between the tenth and the eleventh arrival exceeds two days? Solution: (a) E[S10]=10/λ= 10 days (b) P{X11>2}= e -2λ= e-2≈ 0.1333

2.2 Properties of Poisson processesArrival time distribution Proposition 2.2.2: The arrival time of the nth event Sn follows aΓ distribution with parameter (n,λ).

中国科学院随机过程讲义

第三章 Poission过程（Poission信号流）

九、更新过程

（1） 概念及基本性质

定义：设{Xk,k≥1}是独立同分布，取值非负的随机变量，分布函数为F(x)，

n

且F(0)<1。令S0=0,S1=X1,Sn=∑Xk，对 t≥0，记：

k=1

N(t)=sup{n:Sn≤t}

则称{N(t),t≥0}为更新过程。

更新过程是一计数过程，并有：

{N(t)≥n}={Sn≤t}

{N(t)=n}={Sn≤t<Sn+1}={Sn≤t} {Sn+1≤t}

记：Fn(s)为Sn的分布函数，由Sn=∑Xk，易知：

k=1n

F1(x)=F(x)

Fn(x)=∫0Fn 1(x u)dF(u)(n≥2)

证明：由全概率公式有：

x

Fn(x)=P{Sn≤x}=P{Sn 1+Xn≤x}

=∫ ∞P{Sn 1≤x uXn=u}fX(u)du

n

∞

=∫0P{Sn 1≤x u}dF(u)=∫0P{Sn 1≤x u}dF(u)

=∫0Fn 1(x u)dF(u)=(Fn 1 f)(x)=(f Fn 1)(x)

即Fn(x)是F(x)的n重卷积，记作：Fn=Fn 1 F。

另外，记：

xx

∞

中国科学院随机过程讲义

m(t)=E{N(t)}

称m(t)为更新函数。关于更新函数

基于LS-SVM的非线性系统直接逆模型控制分析

摘要：针对非线性系统逆模型建立较难的问题，提出了基于最小二乘支持向量机（LS-SVM）的非线性系统逆模型辨识建模方法以及模型的控制方法。根据仿真结果表明，采用LS-SVM建立的非线性系统逆模型在应用多项式核函数(Poly)进行试验比径向基核函数（RBF）所得效果更佳，使模型具有很高的精度和较强的泛化能力。基于LS-SVM建立的非线性系统直接逆模型控制能够对给定信号实现有效的跟踪，获得较好的跟踪响应性能，证实了该方法的可行性和有效性。

关键词：最小二乘支持向量机（LS-SVM）；非线性系统；多项式核函数；直接逆模型控制

Analysis of Straight Inverse Model Control for Nonlinear

System Based on LS-SVM

Abstract:Aiming at the problem of hard system identification modeling for nonlinear system, a method of inverse model identification for nonlinear system base

第一章 随机过程的基本概念

一、随机过程的定义

例1：医院登记新生儿性别，0表示男，1表示女，Xn表示第n次登记的数字，得到一个序列X1 ， X2 ， ···，记为{Xn，n=1,2, ···}，则Xn 是随机变量，而{Xn，n=1,2, ···}是随机过程。

例2：在地震预报中，若每半年统计一次发生在某区域的地震的最大震级。令Xn 表示第n次统计所得的值，则Xn 是随机变量。为了预测该区域未来地震的强度，我们就要研究随机过程{Xn，n=1,2, ···}的统计规律性。 例3：一个醉汉在路上行走，以概率p前进一步，以概率1-p后退一步（假设步长相同）。以X(t)记他t时刻在路上的位置，则{X(t), t?0}就是（直线上的）随机游动。

例4：乘客到火车站买票，当所有售票窗口都在忙碌时，来到的乘客就要排队等候。乘客的到来和每个乘客所需的服务时间都是随机的，所以如果用X(t)表示t时刻的队长，用Y(t)表示t时刻到来的顾客所需等待的时间，则{X(t), t?T}和{Y(t), t?T}都是随机过程。

定义：设给定参数集合T，若对每个t?T, X(t)是概率空间(?,?,P)上的随机变量，则称{X(t), t?T}为随机过程，其中T为指标集或参

一、判断题：5个，10分

1、随机过程依照状态空间，可分为离散状态过程和连续 状态过程。

2、非齐次泊松过程一定是独立增量过程。

3、设?N(t),t?0?是一个更新过程，Tn是第n次更新发 生的时刻，N(t)?n?Tn?t 4、任意马尔可夫链都存在极限分布。

5、时齐的连续时间马尔可夫链的转移速率qij有qii?二、填空题：5个，15分

?qj?iij。

1、若随机变量X的矩母函数为

et2?2，则其期望E(X)为 ．

2、设随机过程X(t)?R?t?C,t?(0,?),C为常数， R服从区间[0,1]上的均匀分布,则其均值函数为 ． 3、设某设备的使用期限为10年, 在前5年内它平均2.5年 需要维修一次,后5年平均2年需要维修一次。

则它在使用期内只维修过一次的概率是 ．

4、人的健康状况分为健康和疾病两种状态，设对特定年龄 段的人，今年健康、明年保持健康状态的概率为0.8, 而今 年患病、明年转为健康状态的概率为0.7，若某人投保时健 康, 3年后他仍处于健康状态的概率是 ． 5、设时齐连续时间马尔可夫链{X(t),t?0}是正则的， 由状态i经时间t

习题一

1. 某战士有两支枪，射击某目标时命中率分别为0.9及0.5，若随机地用一支枪，射击一发

子弹后发现命中目标，问此枪是哪一支的概率分别为多大？

2. 设随机变量X的概率密度为

?A? f（x）＝?x2?1??0x?0x?0

求：（1）常数A; (2)分布函数F（x）；（3）随机变量Y＝lnX的分布函数及概率分布。

3. 设随机变量（X, Y）的概率密度为 f (x , y) = Asin (x + y ), 0?x ,y?? 2 求：(1) 常数A ；（2）数学期望EX，EY； （3） 方差DX ，DY；(4) 协方差及相关系数。

4. 设随机变量X服从指数分布

?ke?kx f(x)???0x?0 ?k?0? x?0求特征函数?(x),并求数学期望和方差。

5. 设随机变量X与Y相互独立，且分别服从参数为?1 和?2的泊松分布，试用特征函数

求Z = X＋Y 随机变量的概率分布。

6．一名矿工陷进一个三扇门的矿井中。第一扇门通到一个隧道，走两小时后他可到达安全区。第二扇门通到又一隧道，走三个小时会使他回到这矿井中。第三扇

一．填空题（每空2分，共20分） 1．设随机变量X服从参数为?的泊松分布，则X的特征函数为e?(eit-1)。 2．设随机过程X(t)=Acos(? t+?),-?

3．强度为λ的泊松过程的点间间距是相互独立的随机变量，且服从均值为

?4．设?Wn,n?1?是与泊松过程?X(t),t?0?对应的一个等待时间序列，则Wn服从?分布。 5．袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对每一个确定的t?t?,对应随机变量X(t)??3t??e,如果t时取得红球如果t时取得白球，则 这个随机过程的状态空间?12?2?t,t,?;e,e??。 ?33? 6．设马氏链的一步转移概率矩阵P=(pij)，n步转移矩阵P7．设?Xn,n?0(n)(n)nP?P，二者之间的关系为。 ?(p(n))ij?为马氏链，状态空间I，初始概率pi?P(X0=i)，绝对概率pj(n)?P?Xn?j?，

i?I(n)n步转移概率p(n)ij，三者之间的关系为pj(n)??pi?pij。

(n)8．在马氏链?Xn,n?0?中，记 fij?PXv?j,1?v?n-1,Xn?jX0?i,n?1,

??fij??fij(n)，若fii?1，称状态i为非常返的。

n=1

一、判断题：5个，10分

1、随机过程依照状态空间，可分为离散状态过程和连续 状态过程。

2、非齐次泊松过程一定是独立增量过程。

3、设?N(t),t?0?是一个更新过程，Tn是第n次更新发 生的时刻，N(t)?n?Tn?t 4、任意马尔可夫链都存在极限分布。

5、时齐的连续时间马尔可夫链的转移速率qij有qii?二、填空题：5个，15分

?qj?iij。

1、若随机变量X的矩母函数为

et2?2，则其期望E(X)为 ．

2、设随机过程X(t)?R?t?C,t?(0,?),C为常数， R服从区间[0,1]上的均匀分布,则其均值函数为 ． 3、设某设备的使用期限为10年, 在前5年内它平均2.5年 需要维修一次,后5年平均2年需要维修一次。

则它在使用期内只维修过一次的概率是 ．

4、人的健康状况分为健康和疾病两种状态，设对特定年龄 段的人，今年健康、明年保持健康状态的概率为0.8, 而今 年患病、明年转为健康状态的概率为0.7，若某人投保时健 康, 3年后他仍处于健康状态的概率是 ． 5、设时齐连续时间马尔可夫链{X(t),t?0}是正则的， 由状态i经时间t

一．填空题（每空2分，共20分） 1．设随机变量X服从参数为?的泊松分布，则X的特征函数为e?(eit-1)。 2．设随机过程X(t)=Acos(? t+?),-?

3．强度为λ的泊松过程的点间间距是相互独立的随机变量，且服从均值为

?4．设?Wn,n?1?是与泊松过程?X(t),t?0?对应的一个等待时间序列，则Wn服从?分布。 5．袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对每一个确定的t?t?,对应随机变量X(t)??3t??e,如果t时取得红球如果t时取得白球，则 这个随机过程的状态空间?12?2?t,t,?;e,e??。 ?33? 6．设马氏链的一步转移概率矩阵P=(pij)，n步转移矩阵P7．设?Xn,n?0(n)(n)nP?P，二者之间的关系为。 ?(p(n))ij?为马氏链，状态空间I，初始概率pi?P(X0=i)，绝对概率pj(n)?P?Xn?j?，

i?I(n)n步转移概率p(n)ij，三者之间的关系为pj(n)??pi?pij。

(n)8．在马氏链?Xn,n?0?中，记 fij?PXv?j,1?v?n-1,Xn?jX0?i,n?1,

??fij??fij(n)，若fii?1，称状态i为非常返的。

n=1