1.1 时间序列的发展过程
最早的时间序列分析可以追溯到7000年前的古埃及，古埃及人把尼罗河涨落的情况每天记录下来，从而构成了一个时间序列。对这个时间序列长期的观察使他们发现尼罗河的涨落非常有规律，由于掌握了涨落的规律，古埃及的农业迅速发展。这种从观测时间序列得到直观规律的方法即为描述性分析方法。在时间序列分析方法的发展历程中，经济、金融、工程等领域的应用始终起着重要的推动作用，时间序列分析的每一步发展都与应用密不可分。
一般地，人们认为现代时间序列分析起源于英国统计学家G.u.Yule在1927年提出的AR（Auto Regressive，自回归）模型。该模型与英国统计学家G.T.Walker在1931年提出的MA（Moving Average，滑动平均）模型和ARMA（Auto Regression Moving Average）模型，共同构成了时间序列分析的基础，至今仍被广泛应用。这三个模型主要应用于单变量、同方差场合的平稳序列。
值得一提的是，Box和Jenkins在1927年出版的Time Series Analysis: Forecasting and Control被认为是时间序列分析发展历程中的里程碑。该书为实际工作者提供了对时间序列进行分析、预测，以及对ARIMA模型进行识别、估计和诊断的系统方法。ARIMA模型也被称为Box-Jenkins模型，主要应用于单变量、同方差场合的线性模型。该模型可以处理非平稳序列，主要思想是先对非平稳序列进行差分，使之变为平稳序列，然后再用ARMA模型来拟合差分后的序列。
前面所说的AR模型、MA模型、ARMA模型和ARIMA模型都要求时间序列为单变量、同方差的线性模型。随着时间序列分析及其理论的发展，人们发现这些假设在一些情形下并不成立，例如Moran（1953）在对加拿大山猫数据的建模过程中发现数据的怪异特征，即大于均值的样本点的残差显著地小于那些小于均值的样本点的残差。因此，人们越来越关心异方差、多变量、非线性的时间序列。
针对异方差情形，Engle（1982）首先提出ARCH（Auto Regressive Conditional Heteroskedasticity，自回归条件异方差）模型。ARCH模型的基本思想是假设同一时刻噪声服从均值为零，方差是一个随时间变化的量（即为条件异方差）的正态分布，且这个随时间变化的方差是过去有限项序列值平方的线性组合（即为自回归）。作为一种全新的理论，ARCH模型在近几十年里得到了极大的发展，已被广泛地应用于验证金融理论中的规律性描述，以及金融市场的预测和决策结果。该模型也被认为是近年来金融计量学发展中最重大的创新。然而，ARCH模型只适用于异方差函数短期自相关过程，为此Bollerslev（1986）将ARCH模型推广至广义自回归条件异方差（GARCH）模型，GARCH模型更能反映实际数据的长期记忆性质。ARCH的另外几种推广形式有Engle等人（1987）提出的ARCH-M模型和Nelson（1991）提出的指数广义自回归条件异方差（EGARCH）模型等。
针对多变量的情形，自然的想法是把一维时间序列的分析方法推广至多维。因此，早期多维时间序列的分析方法中，往往要求每个序列都是平稳的。常见的模型有向量ARMA模型、向量自回归模型（VAR）等。由于从一元自回归滑动平均模型到多元自回归滑动平均的情形不能直接推广，其中存在很多问题和需要克服的困难，包括模型的识别、估计和解释等，因此这方面的发展相对较慢。直到Engle和Granger（1987）提出了协整（Co-integration）理论及其方法，为多维非平稳序列的建模提供了一种途径。协整理论中，各序列可以都是不平稳的，但它们的线性组合却是平稳序列，该理论可以解释变量之间长期稳定的均衡关系。协整方法已成为了分析线性非平稳序列数量关系的最重要工具之一。对于序列之间存在非线性调整机制的情形，Balke和Fomby（1997）提出了阈值协整（Threshold Cointegration）方法。例如，在股票交易过程中，由于交易费用、交易政策等因素的变化会导致股价的非对称调整；国家的货币政策由于制度方面的原因也会使通货膨胀率产生非对称调整。
针对非线性情形，Tong和Lim（1980）提出了TAR（Threshold Autoregressive Regressice，门限自回归）模型。TAR模型假定在状态空间的不同区域，模型有不同的线性形式，状态空间的划分通常由一个门限变量来确定，该模型属于参数模型。近二十年来，人们更多地关注时间序列的非参数模型，如非参数自回归（NAR）模型、非参数自回归异方差（NARCH）模型等。
时间序列分析方法的另一个突破是在谱分析方面。给定一个时间序列样本，通过傅里叶变化可以把时域上的数据变换到频域，这就是经典谱分析方法，例如周期图谱法等。Burg（1967）在他从事的地震信号分析与处理的工作中提出最大熵谱，把信息熵的概念融入信号处理中，有时又称为时序谱分析方法，是现代谱分析的开始。Capon（1969）提出了最小方差谱估计方法。这两个方法共同奠定了现代谱估计的基础。此后Shore和Johnson（1980）又提出了最小交叉熵法。理论证明，最大熵谱分析法只是最小交叉熵法的一个特例。当存在先验信息时，最小交叉熵法可获得比最大熵法好得多的分辨率。但最小交叉熵法的缺点是运算太复杂。一般地，经典谱分析对于长数据序列有良好的谱估计性能，但对于短数据序列，经典谱分析存在分辨率不高等致命弱点，现代谱估计法则具有优良性能。