11时间序列模型 经典

2.3 自相关函数

以上介绍了随机过程的几种模型。实际中单凭对时间序列的观察很难确定其属于哪一种模型，而自相关函数和偏自相关函数是分析随机过程和识别模型的有力工具。

1. 自相关函数定义

在给出自相关函数定义之前先介绍自协方差函数概念。由第一节知随机过程{xt}中的每一个元素xt，t = 1, 2, … 都是随机变量。对于平稳的随机过程，其期望为常数，用 ? 表示，即

E(x t) = ?, t = 1, 2, … (2.25) 随机过程的取值将以 ? 为中心上下变动。平稳随机过程的方差也是一个常量

Var(xt) = E [(xt - E(xt))2 ] = E [(xt - ?)2 ] = ?x2 , t = 1, 2, … (2.26)

?x2用来度量随机过程取值对其均值 ? 的离散程度。

相隔k期的两个随机变量xt 与xt - k 的协方差即滞后k期的自协方差，定义为

?k = Cov (xt, x t - k ) = E[(xt - ? ) (xt - k - ? ) ] (2.27)

自协方差序列

?k , k = 0, 1, …, K,

称为随机过程 {xt} 的自协方差函数。当k = 0 时

?0 = Var (xt) = ?x2

自相关系数定义 ?k =

Cov(xt,xt?k)Var(xt)Var(xt?k) （2.28）

因为对于一个平稳过程有

Var (xt) = Var (xt - k) = ?x2 (2.29) 所以（2.28）可以改写为 ?k =

Cov(xt,xt?k)?x2 =

?k?x2=

?k （2.30） ?0当 k = 0 时，有 ? 0 = 1。

以滞后期k为变量的自相关系数列

?k, k = 0, 1, …, K (2.31) 称为自相关函数。因为?k = ?- k 即Cov (xt - k , xt ) = Cov (xt, xt + k )，自相关函数是零对称的，所以实际研究中只给出自相关函数的正半部分即可。

2.自回归过程的自相关函数

(1) 平稳AR(1)过程的自相关函数 AR(1) 过程如下

xt = ?? xt-1 + ut , ???? ? 1 已知E(xt) = 0。用xt- k 同乘上式两侧 xt xt- k = ?? xt-1 xt- k + ut xt- k 上式两侧同取期望，

1

?k = ?1 ?k -1

其中E(xt- k ut) = 0（ut与其t - k期及以前各项都不相关）。两侧同除 ?0 得, ?k = ?1 ?k -1 = ?1 ?1 ?k -2 = … = ?1k ?0 因为 ?o = 1。所以有 ?k = ?1k , （k ? 0）

对于平稳序列有 ? ??? ? ?。所以当 ?1为正时，自相关函数按指数衰减至零（过阻尼情形），当 ?1为负时，自相关函数正负交错地指数衰减至零，见图2.6。因为对于经济时间序列，?1一般为正，所以第一种情形常见。指数衰减至零的表现形式说明随着时间间隔的加长，变量之间的关系变得越来越弱。

.8.6.4.2-.4.0.4.0-.22468101214-.8 2468101214 1> ?? > 0 （经济问题中常见gener1-x2） -1

图2.6 AR(1) 过程的自相关函数

同理，对于?? =?和?? >?情形即非平稳和强非平稳过程的自相关函数如下图。

1.543210-1-2-3-424681012141.00.50.0-0.5-1.0-1.5

2468101214 ?? = 1.1（强非平稳过程） ?? = 1（随机游走过程）

（2）AR(p) 过程的自相关函数

用xt - k , (k ? ?? 同乘平稳的 p阶自回归过程

xt = ? 1 xt -1 + ? 2 xt -2 +…+ ? p xt - p + ut (2.32) 的两侧，得

xt - k xt = ?1 xt - k xt -1 + ?2 xt - k xt -2 + … + ?p xt - k xt - p + xt - k ut (2.33) 对上式两侧分别求期望得

?k = ?1 ?k -1 + ?2 ?k -2 + … + ?p ?k - p ， k ? 0 (2.34) 上式中对于 k ? 0，xt - k 发生在ut 之前，所以 xt - k 与 ut不相关，有E(xt - k ut ) = 0。

用 ?0分别除（2.34）式的两侧得Yule-Walker方程

?k = ?1 ?k -1 + ?2 ?k -2 + … + ?p ?k -p ， k ? 0 (2.35) 令 ?(L) = (1 - ?1 L - ?2 L2 - … - ?p Lp）其中L为k的滞后算子，则上式可表达为 ?(L) ?k = 0 因 ?(L) 可因式分解为，

2

?(L) =?(1- GiL),

i?1p则（2.35）式的通解（证明见附录，不要求掌握）是

?k = A1 G1k + A2 G2k + … + Ap Gpk. (2.36) 其中Ai, i = 1, … p 为待定常数。这里 Gi-1, i = 1, 2, …, p 是特征方程 ?(L) = (1 - ?1 L - ?2 L2 - … - ?p Lp ) = 0

的根。为保证随机过程的平稳性，要求 | Gi | ? 1, i = 1, 2, …, p。这会遇到如下两种情形。 ① 当Gi为实数时，(2.36) 式中的Ai Gik 将随着k 的增加而几何衰减至零，称为指数衰减（过阻尼情形）。

② 当Gi 和Gj 表示一对共轭复数时，设Gi = a + bi, Gj = a – bi,

a2?b2= R，则Gi , Gj

的极座标形式是

Gi = R (Cos? + i Sin? ) Gj = R (Cos? - i Sin? )

若AR(p) 过程平稳，则 ?Gi? < 1，所以必有R <1。那么随着k的增加，

Gik = Rk (Cosk? + i Sink? ) Gjk = Rk (Cosk? - i Sink? )

自相关函数（2.36）式中的相应项Gik , Gjk将按正弦振荡形式衰减（欠阻尼情形）。实际中的平稳自回归过程的自相关函数常是由指数衰减和正弦衰减两部分混合而成。

③ 从（2.36）式可以看出，当特征方程的根取值远离单位圆时，k不必很大，自相关函数就会衰减至零。

④ 有一个实数根接近1时，自相关函数将衰减的很慢，近似于线性衰减。当有两个以上的根取值接近1时，自相关函数同样会衰减的很慢。

.6.4.4.2.0.0-.42468101214-.2-.4 2468101214 a. 两个特征根为实根（gener1-y2） b. 两个特征根为共轭复根（gener1-x7）

图2.6 AR(2) 过程的自相关函数

3

3. 移动平均过程的自相关函数 (1) MA(1) 过程的自相关函数。 对于MA(1)过程xt = ut + ?1 ut-1 有

?k = E(xt xt- k) = E [(ut + ?1 ut -1) (ut - k + ?1 ut -k -1)] 当k = 0时，

?0 = E(xt xt) = E [(ut + ?1 ut -1) (ut + ?1 ut -1)]

= E (ut2 + ?1 ut ut-1 + ?1 ut ut-1 + ?12 ut-12 ) = (1 + ?12 ) ? 2 当k = 1时

?1 = E(xt xt- 1) = E [(ut + ?1 ut -1) (ut – 1 + ?1 ut – 2 )]

= E (ut ut -1 + ?1 ut -12 + ?1 ut ut -2 + ?12 ut -1 ut -2) = ?1 E (ut -1) 2 = ?1 ? 2 当 k ? 1 时，

?k = E [(ut + ?1 ut -1) (ut – k + ?1 ut – k -1)] = 0 综合以上三种情形，MA(1)过程自相关函数为

??1?1??2, k?1?k1 ?k = = ?

?0??0, k?1见图2.7。

.4.2.0-.2-.42468101214.4.2.0-.2-.4 ?1 ? 0 ?1 ? 0

图2.7 MA(1)过程的自相关函数

2468101214 可见MA(1) 过程的自相关函数具有截尾特征。当k ? 1时，?k = 0。 (2) MA(q) 过程的自相关函数 MA(q) 过程的自相关函数是

??k??1?k?1??2?k?2?...??q?k?q,k?1,2,...q?222 ?k = ? 1??1??2?...??q?0,k?q?当k ? q 时，?k = 0，说明 ?k , k = 0, 1, … 具有截尾特征。

例如，对于MA(2) 过程，自相关函数是

?2 ?1=?1??1?2, ?2=, ?k = 0, k > 2。

22221??1??21??1??2 （注意：模型移动平均项的符号以及这里 ?k的符号正好与Box-Jenkins书中的符号相反，

这样表示的好处是保持与计算机输出结果一致。） 4. ARMA (1, 1) 过程的自相关函数

4

ARMA (1, 1) 过程的自相关函数?k 从 ?1开始指数衰减。?1的大小取决于 ?1和 ?1, ?1

的符号取决于 (?1 - ?1 )。若 ?1 > 0，指数衰减是平滑的，或正或负。若 ?1 < 0，相关函数为正负交替式指数衰减。

对于ARMA (p, q) 过程，p, q ? 2时，自相关函数是指数衰减或正弦衰减的。 5. 相关图（correlogram，或估计的自相关函数，样本自相关函数） 对于一个有限时间序列（x1, x2, …, xT）用样本平均数

1x=

T?xt?1TTt

估计总体均值 ?，用样本方差 1 s=

T2

?(xt?1t?x)2

估计总体方差?x2。

当用样本矩估计随机过程的自相关函数，则称其为相关图或估计的自相关函数，记为 rk =

Ck, k = 0, 1 , 2, …, K, ( K < T ) . (2.41) C0rk 是对?k的估计。其中 1 Ck =

TT?kt?1?(xTt?x)(xt?k?x), k = 0, 1, 2, …, K , (2.42)

是对?k 的估计。 1 C0 =

T?(xt?1t?x)2 (2.43)

是对?0的估计。T是时间序列数据的样本容量。实际中T不应太小，最好能大于60。

注意：(2.42)式分母为T，不是T-k。Ck为有偏估计量。但在小样本条件下更有效。 相关图是对自相关函数的估计。由于MA过程和ARMA过程中的MA分量的自相关函数具有截尾特性，所以通过相关图可以估计MA过程的阶数q。相关图是识别MA过程阶数和ARMA过程中MA分量阶数的一个重要方法。对于年度时间序列数据，相关图一般取k = 15就足够了。

rk的方差近似为T-1。所以在观察相关图时，若rk的绝对值超过2 T-1/2（2个标准差），就被认为是显著地不为零。当T充分大时，近似有 (rk -0) / T-1/2 = rk T1/2 ~ N (0, 1)

2.4 偏自相关函数

偏自相关函数是描述随机过程结构特征的另一种方法。用 ?kj 表示k阶自回归式中第j个回归系数，则k阶自回归模型表示为

xt = ?k 1 xt-1 + ?k 2 xt-2 + … + ?kk xt-k + ut

其中 ?kk 是最后一个回归系数。若把k = 1, 2…的一系列回归式?kk看作是滞后期k的函数，则称

?kk, k = 1, 2 … (2.45) 为偏自相关函数。它由下式中的红项组成。

xt = ?11 xt-1 + ut

5

本文来源：https://www.bwwdw.com/article/tovt.html