六章 平稳时间序列

第六章 平稳时间序列模型

时间序列的分析研究始终是计量经济学和统计学的一个热点，对于制定精确定价和预测决策是至关重要的，近代计量经济学和金融市场的许多研究成果和市场决策理论愈来愈多是建立在时间序列分析的基础上。Engle和Grange因为他们的时间序列模型在经济金融中的广泛应用而获得2003年的诺贝尔经济学奖，就是时间序列分析方法的重要性在世界上被广泛认可的有力证明．近代计量经济和金融市场的许多研究成果都建立在时间序列分析的基础之上。传统应用较广的是Box和Jenkins（1970）提出的ARIMA（自回归求和移动平均）方法；Engle(1982)提出了ARCH模型（一阶自回归条件异方差），用以研究非线性金融时间序列模型，由此开创了金融时序独树一帜的研究思路和方法。随着时间序列分析理论和方法的发展，美国学者Schemas和Lebanon发现股票日收益序列与周收益序列中存在混沌现象，米尔斯也指出金融时间序列似乎通常可以用随机漫步来很好近似，非线性时间序列模型被广泛应用在金融时间序列分析中。就数学方法而言，平稳随机序列的统计分析，在理论上的发展比较成熟，从而构成时间序列分析的基础。因此，本章从基本的平稳时间序列讲起。

第一节 基本概念

一、随机过程

在概率论和数理统计中，随机变量是分析随机现象的有力工具。对于一些简单的随机现象，一个随机变量就足够了，如候车人数，某单位一天的总用水量等。对于一些复杂的随机现象，用一个随机变量来描述就不够了，而需要用若干个随机变量来加以刻画。例如平面上的随机点，某企业一天的工作情况（产量、次品率、耗电量、出勤人数等）都需要用多个随机变量来刻画。

还有些随机现象，要认识它必须研究其发展变化过程，这一类随机现象不能

只用一个或多个随机变量来描述，而必须考察其动态变化过程，随机现象的这种动态变化过程就是随机过程。例如，某一天电话的呼叫次数?，它是一个随机变量。若考察它随时间t变动的情况，则需要考察依赖于时间t的随机变量?t，｛?t｝就是一个随机过程。又例如，某国某年的GNP总量，是一个随机变量，但若考

查它随时间变化的情形，则｛GNPt｝就是一个随机过程。

一般地，若对于每一特定的t（t?T），yt为一随机变量，则称这一族随机变量｛yt｝为一个随机过程。随机过程的分类一般有两种方法：（1）以参数集T和yt的取值的特征来分类；（2）以统计特征或概率特征来分类。为了简便，我们以参数集和yt的取值的特征来分类。以参数集T的性质，随机过程可分为两大类：以yt所取的值的特征，随机过程也可以分为两大类：T为可数集合与不可数集合。

离散状态，即Yt所取的值是离散的点；连续状态，即yt所取的值是连续的。由此可将随机过程分为以下四类：离散参数离散型随机过程；连续参数离散型随机过程；连续参数连续型随机过程；离散参数连续型随机过程。

二、时间序列

离散型时间指标集的随机过程通常称为随机型时间序列，简称为时间序列。经济分析中常用的时间序列数据都是经济变量随机序列的一个实现。时间序列分析是一种根据动态数据揭示系统动态结构和规律的统计方法，是统计学的一个分支。

时间序列的特点是：序列中的数据依赖于时间顺序；序列中每个数据的取值具有一定的随机性；序列中前后的数值有一定的相关性--系统的动态规律；序列整体上呈现某种趋势性或周期性。时间序列的统计特征通常用其分布及数字特征来刻画。例如期望E(yt)，方差Var(yt)和协方差Cov(yt,ys)。

研究时间序列具有重要的现实意义，通过对时间序列的分析和研究，认识系统的结构特征（如趋势的类型，周期波动的周期、振幅，等等）；揭示系统的运行规律；进而预测或控制系统的未来行为，或修正和重新设计系统（如改变参数、周期等）按照新的结构运行。

三、时间序列的平稳性与滞后算子

所谓时间序列的平稳性，是指时间序列的统计规律不会随着时间的推移而发生变化。也就是说，生成变量时间序列数据的随机过程的特征不随时间变化而变化。以平稳时间序列数据作为计量经济模型变量的观测值时，其估计方法、检验

过程才可能采用前面几章所介绍的方法。

直观上，一个平稳的时间序列可以看做作一条围绕其均值上下波动的曲线。从理论上，有两种意义的平稳性，一是严格平稳，另一是弱平稳。严格平稳是指随机过程｛yt｝的联合分布函数与时间的位移无关。设｛yt｝为一随机过程，n为任意正整数, h为任意实数，若联合分布函数满足：

Fyt,yt12,,ytn?x1,,xn??Fyt?h,1,ytn?h?x1,,xn? (6.1)

则称｛yt｝为严格平稳过程，它的分布结构不随时间推移而变化。

弱平稳是指随机过程{yt}的期望、方差和协方差不随时间推移而变化。若｛yt｝满足以下三条件：

E(yt)??，Var(yt)??2，Cov(yt,ys)?f(t?s) (6.2)

则称｛yt｝为弱平稳随机过程。在以后的讨论中，关于平稳性的概念通常是指弱平稳，弱平稳通常也被称作宽平稳。

需要注意的是严平稳和弱平稳之间的关系：只有具有有限二阶矩的严平稳过程，才是弱平稳过程；弱平稳过程只限定一阶矩和二阶矩，即它并没有规定分布函数的性质，所以弱平稳并不一定属于严平稳。

由于时间序列分析中经常用到白噪声过程，所以有必要对它介绍一下。 对于一个随机过程{yt,t?T}，如果E(yt)?0；Var(yt)??2??；

Cov(yt,ys)?0，t?s，则称{yt,t?T}为白噪声过程。

白噪声是平稳的随机过程，因其均值为零，方差不变，随机变量之间非相关。显然上述白噪声是二阶宽平稳随机过程。如果{yt} 同时还服从正态分布，则它就是一个严平稳的随机过程。白噪声源于物理学与电学，原指音频和电信号在一定频带中的一种强度不变的干扰声。下图是由噪声过程产生的时间序列。

3224DJPY10-1-20-2-320406080white noise100120140160180200-4

20406080100120140160180200

图1 由白噪声过程产生的时间序列 图2 日元对美元汇率的收益率序列

在时间序列分析中，我们经常要用到滞后算子L，它的定义为

Lyt?yt?1

这个滞后算子L是把一个时间序列转换成另一新的时间序列的映射。如果应用两次滞后算子，我们有

L(Lyt)?Lyt?1?yt?2

记两个滞后算子的乘积为L2，有L2yt?yt?2。规定L0yt?yt，即它是一个恒等映射。滞后算子L的逆算子L?1满足L?1yt?yt?1。一般地，对于任意的整数，我们有

Lkyt?yt?k

滞后算子L对于数量乘法和加法满足交换律和分配律，即对于任意的常数?和时

????间序列{yt}t?????，{xt}t???，{wt}t???，我们有

L(?yt)??Lyt L(xt?wt)?Lxt?Lwt

这样如果yt?(a?bL)Lxt，那么有

yt?(aL?bL2)xt?axt?1?bxt?2

另一个例子是

(1??1L)(1??2L)xt?(1??1L??2L??1?2L2)x2?xt?(?1??2)xt?1??1?2xt?2像(aL?bL2)这样的表达式我们称之为滞后算子多项式。

第二节 移动平均（MA）过程

在金融收益率序列的建模中有一类简单模型是滑动平均模型(Moving-Average Model, 缩写为MA模型)，它可以看作是白噪声序列的简单推广。

一．一阶移动平均过程MA?1?

如果?ut?满足白噪声过程，定义过程

yt???ut??ut?1 (6.3)

其中?和?为常数，这个序列称为一阶移动平均过程MA?1?。

期望为 E?y (6.4) ?tu????E?t1u???t????E方差为 E?yt????E?ut??ut?1???1??2??2 (6.5)

22一阶自协方差为 cov,???yty?ut1??Et??t1u???t1u???t22 (6.6) u????高阶自协方差为 cov?yt,yt?j??E?ut??ut?1??ut?j??ut?j?1??0 （j?1） (6.7) 上述均值和协方差都不是时间的函数，因此不管?为何，MA?1?过程都是协方差平稳的。

??2?而一阶自相关系数 ?1? （6.8） ?2221???1????高阶自相关系数均为0。此时自相关函数在1阶处截尾。 [例1] yt?ut?0.8u?t1，此时?1??0.8??0.5 21??1.64 xt?ut??1/0.81????0.5 , 此时u1?t1221??1?(1/0.8)0.8这时MA(1)序列{xt}与{yt}具有相同的相关系数，那么选择哪一个模型更为合适呢？

对于MA(1)过程，还有几点值得注意：(1) 正的?值得到正的自相关系数，一个大的yt后面通常是一个比平均值大的yt；(2) 负的正的?值得到负的自相关系数，一个大的yt后面通常是一个比平均值小的yt；(3) 自相关系数的取值区间

?1???1,1?，并且对于每一个?1???0.5,0.5?，都有?和1/?与之对应；(4)某些金

融时间序列可能是零均值，这时就应当是把这个常数均值?从模型中移除，使得MA(1)模型变为yt?ut??ut?1。

二．q阶移动平均过程MA?q?：

q阶滑动平均过程的表达式为：

yt???ut??1ut?1??u2t??2...??qut?q (6.9)

其中?ut?为白噪声过程，??1,?2,...,?q?为任何实数。其均值、方差、自协方差和自相关函数分别为：

E?yt??? (6.10)

?0?Var?yt??E?ut??1ut?1??2ut?2?...??qut?q? ??1?????...????21222q22 （6.11）

?j?cov?yty,t?j??E?ut??1ut?1?.?.?.qut?q??ut?j??u?.?.qu.t?j?q? （6.12） 1t?j??1?.?q?q?j??2???j??j?1?1??j??2?2..? ??0??j ?1,2q,..., j?q即自协方差函数在q阶处截尾。

由(12)式立即可得q阶移动平均过程的自相关函数为

??k??k?1?1??k?2?2????q?q?k k?1,2,?,q?1??12??22????q2?k?? (6.13) ?0 k?q?(13)式告诉我们，当移动平均过程的阶为q时，间隔期大于q的自相关函数值为零。这个性质称为MA(q)的自相关函数的截尾性，意思是说，自相关函数的图形随着自变量k到达(q?1)时突然被截去。MA(q)的截尾性给我们一个重要启示：如果某时间序列是来自一个移动平均过程，则当该时间序列的样本自相关函数，

??1)开始，其值均为零时，我们就可以推测，原时间序列的阶数从某个间隔期(q?。 为q[例2] MA?2?过程 yt?ut??1u?t1??2?t2u

容易算得 ?0??1??12??22??2 ，?1???1??1?2??2，?2??2?2，?j?0， j?2；

?1??1??2?1?2??，，?j?0， j?2。 222221??1??21??1??2

[例3] 下式为一个一阶移动平均过程

yt?1.6?ut?0.3ut?1

其中ut是?2?2高斯白噪声过程，表1是它容量为100的一个样本。

表1 一阶自回归过程yt?1.6?ut?0.3ut?1的一个实现

t 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 Yt

t 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 Yt

t 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 Yt

t 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 Yt

0.8855 4.2934 -0.1071 0.0796 2.8523 2.4801 2.3003 1.0175 3.2323 2.4999 2.3007 3.1032 3.1367 2.4248 2.5574 2.5946 1.1813 0.2305 2.3115 -0.0818 -3.1688 0.5128 2.4507 0.8341 1.2595 2.233 1.2258 1.0914 3.8662 3.6584 -1.2055 -0.5732 1.2197 1.4091 -0.844 -1.0316 1.1887 1.7468 0.5279 0.1392 0.992 2.8198 -0.603 -0.4252 0.1535 -1.1038 1.0635 2.0526 1.7068 -0.8452 -0.1954 0.2623 2.6973 1.5055 1.8346 2.371 1.4937 1.2863 2.0144 1.7401 -0.2993 1.3933 0.366 2.5341 3.2576 1.0231 2.6489 2.1 2.183 1.6981 2.3432 3.7589 3.9677 3.0588 1.6304 1.3707 3.2748 4.642 4.514 6.3372 3.0025 1.9877 1.8743 2.1319 0.4165 -1.1645 1.3004 1.0471 1.3628 0.7714 3.2516 3.1616 1.6074 2.5893 2.3218 0.8638 2.582 2.4109 0.8723 3.4713 (1)画出yt的线图；(2)求yt的总体自相关函数；

(3)根据表中样本求样本自相关函数。

在EViews中输入命令 Plot y,可得该样本的线图如下

86420-2-41020304050Y60708090100 图3 过程yt?1.6?ut?0.3ut?1的线图

根据公式(13)式，容易求得yt的总体自相关函数为

0.3??1??0.2752, k?1? ?k??1??121?0.32?0, k?1?在EViews中双击序列yt ，然后点击View\\Correlograms,选择水平序列可得Autocorrelation and Partial correlations函数图如下，

图4 过程yt?1.6?ut?0.3ut?1的自相关与偏相关柱状图

从上图的样本自相关函数值可以看出：滞后2期的自相关函数值

?2?0.112与??1?0.404相比，大幅度减少，k?2的样本自相关函数值越来?越小。

三．无限阶移动平均过程MA???

对于一个MA(q)过程，如果让q??，我们就得到如下的过程：

yt?????j?t?j???ut??1ut?1??2ut?2?j?0? (6.14)

我们称此过程为MA(?)过程，这里?0?1。我们可以证明：如果MA(?)过程的系数是平方可和的，即

??j?0?2j??

那么MA(?)是一个平稳的过程。一般地我们用一个更强的绝对可和条件

??j?0?j??来代替平方可和条件，绝对可和蕴涵平方可和。系数是绝对可和的

MA(?)过程的均值和自协方差分别为

E[yt]?limE(??ut??1ut?1??2ut?2?T??T????Tut?T)?? (6.15)

??Tut?T)2 (6.16)

?0?E(yt??)2?limE(ut??1ut?1??2ut?2??lim(1?????T??2122??)?2T2?j?E(yt??)(yt?j??)??(?j?0??j?1?1??j?2?2?2) (6.17)

四、移动平均过程的识别

由(13)式可知，MA过程的阶等于自相关函数值不为零的最大滞后阶数k。我们怎么能够由可得之时间序列来判断MA过程的自相关函数在某处(即某间隔长度)的值为零呢？从例3可知，即使是MA过程的自相关函数在某处的真值为零，但由MA过程所产生的一个实现来计算的样本自相关函数在同一处的值却不等于零。这表明，我们不能因为样本自相关函数在某处的值不为零来断定总体自相关函数在同一处的值也不为零。幸而，我们可以知道样本自相关函数值的分布。这样，我们就可以根据样本自相关函数值的分布来进行总体相应的自相关函数值是否为零的显著性检验。

根据George G. Judge (1982)等所述1，在样本充分大的条件下，自相关函数?k的置信度为95%的置区间近似为

?k?(?n?kt?12n?k?,?2n) (6.18)

?k?其中，??(yt?y)(yt?k?y)?(yt?1n为样本自相关函数，n为样本容量。于是我们有：

t?y)2如果自相关函数值?k?0，则在大样本条件下，相应的样本自相关函数值以95%

?22?的概率落入区间?,????。由此可得显著性检验程序如下：

nn???k。 第一步：根据所得随机时间序列的一个样本计算样本自相关函数值??22??k是否落入区间??k的绝对值是否小于第二步：检验?,????，或者检验?nn??2n：

2?22??k落入区间?如果?或其绝对值小于，则在5%的显著性水平?,???nnn??2?22??k在区间?下，不拒绝?k?0；如果?之外或其绝对值大于，则拒?,???nnn??绝?k?0。

[例4] 设时间序列yt是来自MA过程，表2的数据是它的一个样本容量为48的一个实现，试确定这个MA过程的阶。

表2 移动平均过程yt的一个实现

时期 t 1

2 3

1

yt

时期 t 17 18 19

yt

时期 t 33 34 35

yt

1.542178 2.477647 4.423028 2.255198 2.892425 2.715419 4.22556 5.46023 4.066832

George G. Judge, R. Carter Hill, William E. Griffiths, Helmut Lütkepohl, and Tsoung-Chao Lee “Introduction to the Theory and Practice of Econometrics”, p.692, Copyright 1982, 1988 by John Wiley & Sons, Inc.

4 5 6 7 8 9 10 11 12 13 14 15 16

4.964234 5.452143 1.856292 1.455666 3.954514 2.570313 1.657775 0.895445 0.13883 0.914224 1.639915 0.417965 1.161316 20 21 22 23 24 25 26 27 28 29 30 31 32 2.453714 2.433565 4.120497 3.7203 2.762672 2.375098 4.664288 5.049 5.895059 3.770486 4.268512 2.384476 2.57151 36 37 38 39 40 41 42 43 44 45 46 47 48 2.425495 3.360861 3.023759 3.528817 2.01038 1.286251 0.970086 1.72418 2.749795 3.00863 2.694154 5.000872 2.574218

?k的一系列值： [解] 由表2，根据样本自相关系数，计算可得?k ?k ?1 2 3 4 5 6 7 0.576 0.251 0.134 0.193 0.219 0.092 -0.124 而

2n?248?0.2887，显然有

??0.2887,k?1? ?k??0.2887,k?1?故在5%的显著性水平下，拒绝?1?0，接受?k?0，当k?1。这表明表2的数据产生于一个MA(1)过程。

五、移动平均过程的参数估计

移动平均过程的参数据估计就是在已确定移动平均过程的阶以后，根据它的一个现实或样本(Y1,Y2,?,Yn)?，来估计移动平均过程的均值??E(Yt)，诸移动平均系数(或称权数)?，以及被假定为白噪声过程或高斯白噪声过程的ut的方差

?u2。由于不可逆的移动平均过程意义不大，所以我们只研究的可逆的移动平均过程，因为有限阶移动平均过程是平稳的，所以其均值为常数，而这个常数完全可以由样本平均数来估计。因此，均值的估计也就不成为问题。正因为如此，不失一般性，我们假定MA(q)的均值??E(Yt)?0，以便于对其它参数的估计(若

不然，只要将移动平均过程的每一项减去其均值，而均值的估计值是可得的)。

故可设

Yt?ut??1ut?1??2ut?2????qut?q (6.19)

其中?ut?是一白噪声过程。

估计(6.19)式中的参数的一个直接方法是将它化成AR(?)的形式(因为它是可逆的，所以这种转换是可行的)：

(1??1L??2L2??3L3??)Yt?ut

即

Yt???1Yt?1??2Yt?2??3Yt?3???ut (6.20)

求使上式所表示的计量经济学模型的残差平方和最小的诸?，即求诸?，使

S(?1,?2,?3,?)??(Yt??1Yt?1??2Yt?2??3Yt?3??)2 (6.21)

t?1?最小。

但由于样本容量是有限值n，所以上式可简化为

S(?1,?2,?3,?,?n)??(Yt??1Yt?1??2Yt?2??3Yt?3????t?1Y1)2 (6.22)

t?1n即，我们的估计问题首先就是要求求诸?，使S(?1,?2,?3,?,?n)最小(?0?1)。当我们估计出诸?以后，再根据诸?与诸?的关系，求出诸?的估计值，而ut的方差?u2则可由下式估计：

?u2???1,??2,??3,?,??n)S(? (6.23)

n?q或

2?u???1,??2,??3,?,??n)S(? (6.24)

n上述过程所用的方法是最小二乘法，但是由于诸?与诸?的关系十分复杂，所以上述估计属于非线性估计，往往要在一组初始值下进行迭代。有计量经济学软件EViews中有相应的程序对MA(q)过程进行参数估计。

例如：如要估计MA(2)过程，则估计命令为

Ls y c MA(1) MA(2)

下图是某MA(2)序列的EViews估计的输出结果

图5 MA(2)过程的EViews估计结果

若假设(6.19)式中?ut?是一高斯白噪声过程，则可用最大似然估计来估计模型中的参数。

例如对于高斯MA?1?过程

Yt???ut??ut?1 （6.25）

其中utiid N?0,?2?。θ???,?,?2?表示要估计的总体参数。如果ut?1已知，则

Ytut?1N?????ut?1?,?2? （6.26）

其概率密度函数为：

???yt????ut?1?2?fYtut?1?ytut?1;???exp?? （6.27） 222?2??????1如果已知u0?0，则

Y1u0N??,?2? （6.28）

给定观察值y1，则u1就是确定的

u1?y1?? （6.29）

代入（6.27），得到

???y2????u1?2?fY2Y1,u0?0?y2y1,u0?0;???exp?? （6.30） 222?2??????1因为u1确知，u2可由下式求出：

u2?y2????u1 （6.31）

通过迭代法由?y1,y2,...,yT?求出?u1,u2,...,uT?整个序列：

ut?yt????ut?1 （6.33）

t?1,2,...,T，从?0?0开始。则第t个观测值的条件密度为：

fYtYt?1,Yt?2,...,Y1,u0?0?ytyt?1,yt?2,...,y1,u0?0;????ut2??fYtut?1?ytut?1;???exp?2?22???2??1则样本似然函数为

fYT,YT?1,...,Y1u0?0?yT,yT?1,yT?2,...,y1u0?0;???fY1u0?0?y1u0?0;???fYtYt?1,Yt?2,...,Y1,u0?0?ytyt?1,yt?2,...,y1,u0?0;??t?2T （6.34）

（6.35）

条件对数似然函数为

L????ln?fYT,YT?1,...,Y1u0?0?yT,yT?1,...,y1u0?0;????? （6.36） Tut2TT2 ??ln?2???ln?????222t?12?其中，利用（6.33）和观察值序列可以求出隐含的白噪声序列。但是条件似然函数仍然是非线性函数。需要使用数值解法求参数。

第三节 自回归（AR）过程

另一类常用的模型是自回归模型(Auto Regressive Model，缩写为AR模型)。自回归模型之所以有吸引力是因为它与很传统的线性回归模型非常相像。美国芝加哥大学证券价格研究中心（CRSP）价值指数的月收益率rt具有统计显著的间隔为1的自相关系数，这表明延迟的收益rt?1在预测rt时会有一定的作用，描述这样的预测功能的模型就是所谓的一阶自回归模型。 一．一阶自回归过程AR?1?

表达式为方程：

yt?c??yt?1?ut （6.37）

ut为白噪声序列。

如果??1，过程（6.37）中ut对yt的影响随着时间累增而不是消失，过程不是有限方差的协方差平稳过程。这个过程一般称为爆炸性过程。当??1时，过程为协方差平稳过程，此时利用滞后算子过程变为：

?1??L?yt?c?ut （6.38）

利用求逆，从而得到此过程的解为MA???过程：

utc?1??L1??Lc ???1??L??2L2?......?ut （6.39）

1??c ??ut??ut?1??2ut?2?.....1??yt?明显，当??1时，满足绝对可加性：

??j????j?0j?0??j1?? （6.40） 1??此时过程的均值、方差、自协方差函数和自相关函数分别为：

E?yt????c (6.41) 1??22?0?E?yt????E?ut??ut?1??2ut?2??3ut?3?.....??2 ??1???????.....???1??22462

?j?E?yt????yt?j??? ?E?ut??ut?1??2ut?2?....??ut?j??ut?j?1??2ut?j?2?....? （6.42） ?????jj?2??j?4?j2?...?? ??1??22?j?j???j (6.43)

?0 从自相关函数可以发现：当??1时，自相关函数按几何方式衰减。ut增加一个单位对于yt?j的影响等于yt和yt?j之间的相关系数。正的?值意味着yt和

yt?j之间正相关。负的?值意味着yt和yt?j之间负相关。此时自相关函数拖尾。

如果假定过程是协方差平稳的，可直接利用差分方程yt?c??yt?1?ut计算各阶矩。对（6.37）式两边取期望：

E?yt??c??E?yt?1?

从而，

E?yt????c （6.44） 1??对（6.37）式变形，得到：

yt???1?????yt?1?ut 或?Yt??????Yt?1????ut （6.45）

两边平方求期望：

2E?yt?????2E?yt?1????2?E???yt?1???ut???E?ut?

22将?yt?1????ut?1??ut?2??2ut?3?....代入（25），可得

?0??2?0??2

从而得到协方差平稳AR?1?过程的方差：

?2?0? （6.46）

1??2根据同样的道理，（6.37）两侧同时乘以?yt?j???，再求期望，可得自协方差函数：

?????E???yt????yt?j??????E??yt?1????yt?j?????E??t?yt?j????

即

?j???j?1 （6.47）

解自协方差函数的差分方程，得到

?j??j?0 （6.48）

自相关函数为：

?j??j??j （6.49） ?0二．二阶自回归过程AR?2?

表达式为

yt?c??1yt?1??2yt?2?ut （6.50）

或者写成滞后算子形式：

?1??L??L?y212t?c?ut （6.51）

差分方程（6.51）的平稳条件是特征方程?1??1z??2z2??0的根都落在单位圆外。此时自回归算子的逆为：

??L???1??1L??2L2???0??1L??2L2?.... （6.52）

?1这里的?j由矩阵Fj的第?1,1?个元素给出。

将（6.51）两边同时乘以??L?得到：

yt???L?c???L?ut

显然

E?yt??????L?c?c1??1??2 （6.53）

也可直接对（6.50）两边取期望，从而有

E?yt????c??1E?yt?1???2E?yt?2??c??1???2? （6.54）

再次得到

E?yt????c1??1??2 （6.55）

系统（6.50）变形为

yt???1??1??2???1yt?1??2yt?2?ut

进一步变形

yt????????1?y?t1??2y?t?2两边同时乘以?yt?j???，求期望，得到

??? t （6.56） u

?j??1?j?1??2?j?2 j?1,2,. . . （6.57）

两边同时除以?0，得到

?j??1?j?1??2?j?2 j?1,2,. . . （6.58）

可见，对于AR?2?过程，其自协方差和自相关函数仍然是差分方程。当j?1时，

?1??1/?1??2?；当j?2时，?2??1?1??2；由此通过逐次求解迭代就可以求得

自相关函数。自相关函数仍然具有拖尾特征。

下面我们求二阶自回归过程的方差。（6.56）两侧同时乘以?yt???，再求期望得到：

E?yt?????1E?Yt?1????yt?????2E?yt?2????yt????E??ut?yt????? 即

2?0??1?1??2?2??2??0??1?1?0??2?2?0??2

整理一下，得到

1??2??2? （6.59） ?0?221??2???1??1??2?????三．p阶自回归过程AR?p?

表达式为：

yt?c??1yt?1??2yt?2?....??pyt?p?ut （6.60）

其平稳性条件为特征方程1??1z??2z2?...??pzp?0的根都在单位圆外。假设过程协方差平稳，则对（6.60）两边求期望，得到：

??c??1???2??...??p?

从而可以得到均值：

??c/?1??1??2?...??p? （6.61）

表达式（6.60）可以写成：

yt????1?yt?1?????2?yt?2????....??p?yt?p????ut （6.62） 表达式两侧同时乘以?yt?j???，再取期望可得自协方差：

??1?j?1??2?j?2?...??p?j?p j?1,2,...?j?? （6.63） 2??????...???+? j?0pp?1122已知??j??j，因此得到结论：当j?0,1,2,...,p时，?0,?1,...,?p是?2,?1,?2,...,?p的函数。

（6.63）两侧同时除以?0，得到尤拉--沃克（Yule-Walker）方程：

?j??1?j?1??2?j?2?...??p?j?p j?1,2,. . . （6.64）

因此表达式（6.63）和（6.64）表明，p阶自回归过程的自协方差函数和自相关

函数具有相同形式的p阶差分方程，其自相关函数的具有拖尾特征。也就是说随着k的增大，?k的绝对值逐渐下降，但是不会到某一点以后被突然截断，而是一直拖下去，我们称自回归模型的自相关函数的这种特性为自回归模型的自相关函数的拖尾性。

显然自相关函数的拖尾性是AR模型的特征而自相关函数的截尾性则是MA模型的特征。但是用自相关函数的拖尾性并不足以说明时间序列是来自自回归过程。自相关函数的拖尾性和偏自相关函数的截尾性往往就能说明时间序列是来自自回归过程。下面引入偏自相关函数的概念。

在(6.64)式中令k?1,2,?,p，得到如下的Yule-Walker方程组

?1??1??2?1??2??1?1??2?0???p?p?1?p?p?2??p (6.65)

?p??1?p?1??2?p?2?其中运用了?0?1和??k??k。

当?1,?2,?,?p为已知时，可从Yule-Walker方程组中解出诸?i。但用方程(6.65)求解诸?i需要先知道自回归过程的阶数p，但是我们并不知道。因此，我们可以分别p?1,2,?求解。

????1。当p?1时，求解方程组(6.65)，并利用样本自相关函数，得?1的估计值?1?为?11。 如果?1显著地不为零，则自回归过程的阶数至少为1。记?1当p?2时，求解方程组(6.65)，并利用样本自相关函数，得?1和?2的估计值，

?。如果?2显著地不为零，则自回归过程的阶数至少为2。记??设?2的估计值为?22为?22。

?，对p连续取值3，4，…，重复上述过程，如对p?3，得到?3的估计值?3记为?33，等等。我们称序列?11，?22，?33，…，为偏相关函数。

四、自回归过程的识别

从上述偏相关函数的概念中可知，我们可以从偏相关函数的特性来推测自回

归过程的阶数：按上述求偏相关函数值的方法求得偏相关函数的值并作显著性检验，如果在p的某一个取值m，?m显著地不为零，而此后的?k(k?m)不显著，则自回归过程的阶数为m。所以当自回归过程的阶数确实为p时，则?j(j?p)为零而?j(j?p)近似为零。为了进行显著性检验需要知道偏相关函数的分布特征。好在我们有如是结果：?jj近似地服从均值0，方差为

1的正态分布(n为样本容n2n量)。因此，可以在显著性水平5%下，通过考察?jj的绝对值是否大于是否显著地不为0。

检验?j[例5] 由方程yt?2?0.7yt?1?0.2yt?2?ut(ut为高斯白噪声)产生一个样本容量为100的时间序列。根据所产生的时间序列样本求样本自相关函数和偏自相关函数并由此确定其阶数，看一看结果是否与生成机制相吻合。

显然随机过程yt?2?0.7yt?1?0.2yt?2?ut是平稳的AR(2)过程。因为它的特征多项式的根均在单位园之外。

据此可计算出它的均值为E(yt)?2以均值作为初始值去生成?20，

1?0.7?0.2时间序列即令(y?1,y0)?(20,20)根据生成机制yt?2?0.7yt?1?0.2yt?2?ut，由随机数发生器生成容量为100的时间序列如表3。

表3 二阶自回归过程yt?2?0.7yt?1?0.2yt?2?ut的一个实现

t

Yt

t

Yt

t

Yt

t

Yt

1 19.69977 26 16.9794 51 16.25857 76 21.44384 2 18.51215 27 19.30668 52 18.56325 77 19.84629 3 19.14272 28 19.77623 53 16.96622 78 18.62228 4 20.37881 29 22.08035 54 16.93543 79 19.71618 5 21.29206 30 20.75659 55 18.00576 80 20.16418 6 22.71334 31 22.60714 56 18.45783 81 22.26385 7 19.97416 32 20.36391 57 19.39624 82 23.06129 8 20.2904 33 21.31512 58 19.86467 83 23.89958 9 21.29313 34 21.89556 59 18.41267 84 23.45492 10 19.87657 35 23.50883 60 17.74607 85 23.20031 11 19.48202 36 22.75077 61 18.79877 86 23.3849 12 17.9223 37 22.10351 62 19.03099 87 22.98398 13 16.5951 38 22.69775 63 18.14161 88 21.71109 14 16.2234 39 21.9278 64 18.26438 89 20.01975 15 15.90189 40 22.64662 65 18.54492 90 21.18438 16 14.25808 41 20.79401 66 19.19212 91 21.27724 17 14.59311 42 20.2379 67 19.28218 92 21.74885 18 14.66274 43 18.80376 68 18.42499 93 21.69312 19 15.31739 44 18.84733 69 20.63878 94 20.50802 20 15.28923 45 18.92141 70 20.61934 95 21.93243 21 15.43895 46 19.04257 71 20.63353 96 21.14309 22 15.49487 47 18.79136 72 21.39718 97 20.34673 23 17.27684 48 21.15697 73 21.96674 98 19.6502 24 17.10748 49 18.82567 74 21.01962 99 19.39549 25 17.24445 50 18.67288 75 20.18389 100 19.05352

用计量经济学软件EViews可得样本自相关函数和偏自相关函数如表4

表4 一个人造时间序列的样本自相关函数和偏自相关函数

k 1 2 3 4 5 6 7 8

?k ??k 0.873

0.141 -0.174 0.031 -0.151 -0.071 -0.030 0.057

k 11 12 13 14 15 16 17 18

?k ??k -0.169

-0.110 -0.087 0.032 -0.057 -0.033 0.231 -0.158

k 21 22 23 24 25 26 27 28

?k ??k 0.119

-0.082 0.119 0.096 -0.065 -0.140 -0.108 0.013

0.873 0.795 0.679 0.597 0.479 0.378 0.276 0.210 -0.018 -0.104 -0.189 -0.247 -0.316 -0.364 -0.351 -0.365 -0.293 -0.284 -0.224 -0.181 -0.129 -0.107 -0.081 -0.057

9 10

0.145 0.004 0.074 -0.107 19 20 -0.341 0.024 -0.345 -0.065 29 30 -0.016 0.080 -0.012 -0.060

从表4可知，样本自相关函数是拖尾的。由于当显著性水平为5%时，偏自相关函数在k?1处是显著的(因为

0.9731100?9.72?2)，当显著性水平为16%时，

偏相关函数在k?2时的值才是显著的，当显著性水平为10%时，偏相关函数在当k?3时即使显著性水平很低(即代表显著性水平的?很k?3时的值是显著的，

大)，偏相关函数的值也是不显著的，这说明自相关函数至少在k?4处断尾，所以表3中的序列是来自AR过程，而偏相关函数在k?2和k?3处的值实际上是处在显著与不显著之间，因此，我们可以说表4所表示的时间序列可能来自AR(1)、AR(2)或者AR(3)，如果采用中庸之道，则可以认为它来自AR(2)，这就与它的产生机制相吻合了。

表3所代表的时间序列的图形如图6所示。

242220181614102030405060708090100

图6 自回归过程Yt?2?0.7Yt?1?0.2Yt?2?ut产生的典型序列

五、有限阶自回归过程的估计 1、AR?p?过程的Yule-Walker估计

AR?p?模型的自回归系数?由AR?p?模型的自协方差函数?0,?1,...,?p通过由拉沃克方程

?1??1???0??????0?2???1?????????p?????p?1?p?2确定。白噪声的方差?2为

?p?1??p?2?????0?? （6.66）

?2??0???1?1??2?2?...??p?p? （6.67）

从样本观测值y1,y2,...,yN可以构造出样本自协方差函数的估计：

1?k?NN?kj?1?yjyj?k k?0,1,...p , （6.68）

因此根据自协方差函数的估计，可以联合求解除系数估计量。

2、最小二乘估计

在相异根的条件下，自协方差解：

?j?g1?1j?g2?2j?...?gp?pj （6.69）

其中特征根??1,?2,...,?p?为特征方程?p??1?p?1?...??p?0的解。

如果特征方程

?p??1?p?1??2?p?2????p?0

的根(?1,?2,?,?p)互不相同，那么我们有

jj ?j?g1?1j?g2?2???gp?p这里(g1,g2,?,gp)是由p个初始值(?0,?1,?,?p?1)确定的待定系数。我们能够证明这p个初始值(?0,?1,?,?p?1)?是p2?p2矩阵?2[Ip2?(F?F)]?1的第一列的前面p个元。这里

??1?2?10?F??01??????00??p?1?p??00???00?

??????10??我们可以利用最小二乘法来估计AR(p)过程中的未知参数。把观察值代入方程（6.60）中可得

yp?1?c??1yp??2yp?1?yp?2?c??1yp?1??2yp?yT?c??1yT?1??2yT?2?把它写成矩阵的形式为

y?X??u

??py1?up?1??py2?up?2??pyT?p?uT

这里

y?(yp?1,yp?2,?,yT)?，u?(up?1,up?2,,uT)?，??(c,?1,?,?p)?

?1yp?y1??1y??yp?12? X??????????1y?y?T?1T?p??? 参数向量?的最小二乘估计量为

??(X?X)?1X?y ??是相合的和渐近正态的。 如果ut服从正态分布，那么最小二乘法估计量?

第四节 自回归移动平均过程ARMA?p,q?

如果混合自回归移动平均过程中自回归部分的阶数为零，则它就成为一个纯移动平均过程；如果混合自回归移动平均过程中移动平均部分的阶数为零，则它就成为一个纯自回归过程。所以AR过程和MA过程均可看成是ARMA过程的特例。

一、ARMA?p,q?过程的性质

ARMA?p,q?表达式为：

yt?c??1yt?1??2yt?2?....??pyt?p?ut??1ut?1?...??qut?q （6.70）

写成滞后算子的形式为：

?1??L??L?....??L?y2p12pt?c??1??1L?...??qLq?ut （6.71）

两侧同时除以?1??1L??2L2?....??pLp?，从而得到

yt?????L?ut （6.72）

其中

??L???1??1L??2L2?....??pLp???j?0??1??L?...??L?q1q

??c/?1??1??2?....??p?

j??

从而可以发现，ARMA?p,q?过程的平稳性完全取决于回归参数??1,?2,...,?p?而与移动平均参数无关。即ARMA?p,q?过程的平稳性条件为特征方程：

1??1z??2z2?....??pzp?0 (6.73) 的根在单位圆外。

方程（6.70）变形可得

yt????1?yt?1?????2?yt?2????....??p?yt?p????ut??1ut?1?...??qut?q （6.74）两边同时乘以?Yt?j???，求期望得到自协方差。当j?q时，结果方程的形式p阶自协方差形式：

?j??1?j?1??2?j?2?....??p?j?p j?q?1,q?2,... （6.75） 从而解为

?j?h1?1j?h2?2j?....?hp?pj （6.76）

j?q时的自协方差函数比较复杂，并且不具有应用意义。不过ARMA?p,q?过程的自相关函数都具有拖尾特征。

ARMA?p,q?过程容易出现的两个问题：

(1)首先就是过度参数化问题。例如一个白噪声过程yt?ut也可以用

?1??L?yt??1??L?ut表示。此时无论?取何值，利用?1??L?yt??1??L?ut都能

够很好的拟合数据，因此造成估计的困难。

(2)ARMA?p,q?过程的表达式（6.71）的滞后多项式进行因式分解得到

?1??1L??1??2L?....?1??pL??yt?????1??1L??1??2L?...?1??qL?ut

假设自回归算子?1??1L??2L2?....??pLp?和移动平均算子?1??1L?...??qLq?存在

本文来源：https://www.bwwdw.com/article/cl2h.html