2.5 随机过程及其统计特性
2.5.1 随机过程的概念
在工程实际中和各种物理现象中存在一类随时间变化的信号,它们是时间t的函数,在电子、通信技术领域中经常用到的电压、电流等电信号均属于这类信号。通常,信号的形式体现为以下两种:即确定性信号和随机信号。所谓确定性信号就是信号的大小随时间的变化具有某种规律性,这种信号是可以再现的,即可以用某一确定的数学关系进行描述。另一类信号为随机信号,其特点是信号随时间t的变化不具备某种明确的变化规律,信号在任何时刻出现的大小都不可预料,因此,不能用某一明确的数学关系描述这类信号。但是,这类信号具有某些统计特性,可用概率和统计的方法进行描述。严格地讲,实际信号都带有随机性。像语音信号、电视信号、数字信号、生物医学信号等,都带有某种随机因素。通常将这样一类具有随机性的时间函数称为随机信号,又称随机过程(random process)。
通信过程中的随机信号和噪声均可归纳为依赖于时间参数t的随机过程。这种过程的基本特征是,它是时间t的函数,但在任一时刻上观察到的值却是不确定的,是一个随机变量。或者,它可看成是随机实验的可能出现的ξ(t)函数,存在一个由全部可能实现构成的总体,每个实现都是一个确定的时间函数,而随机性就体现在出现哪一个实现是不确定的。
为了比较直观地理解随机过程,设有n台性能完全相同的高灵敏度无线电接收机。在相同的工作条件下,接通电源一段时间后,在没有输入信号时,分别用n部记录仪同时记录各部接收机的输出噪声电压,波形结果如图2-17所示。
图2-17 n部接收机的输出噪声电压
根据测试结果,可以看出,n台记录仪所记录的结果并不因为具有相同的工作条件而得到相同的输出波形,相反地,任何一个记录都不是其他记录的再现。这也就是说,接收机输出的噪声电压随时间的变化是不可预知的,因而它是一个随机过程。这里的一次记录(图2-17中的一个波形)就是一个实现,无数个记录构成的总体称为一个样本空间。
从数学的角度说,随机过程ξ(t)的定义如下:设随机试验E的可能结果为ξ(t),试验的样本空间S为;{x1(t),x2(t),…,xi(t),…},i为正整数,xi(t)为第i个样本函数(又称之为实现)。每次试验之后,ξ(t)取空间S中的某一样本函数,于是称此ξ(t)为随机函数。当t代表时间量时,称此ξ(t)为随机过程。
从另一个角度来看,随机过程是随机变量概念的拓展。在任一给定时刻t1上,每一个样本函数xi(t)都对应一个确定的数值xi(t1),但是每个xi(t1)都是不可预知的,这正是随机过程随机性的体现。所以,在一个固定时刻t1上,不同样本的取值{xi(t1),i=1,2,…,n}是一个随机变量,记作ξ(t1)。也就是说,随机过程在任意时刻的值是一个随机变量,所以我们又可以把随机过程看作是在时间进程中处于不同时刻的随机变量的集合。
我们来看一个例子,某信号S(t)=Asin(2πfct+θ),A、fc为常数,相位θ是一个随机变量,它在0≤θ≤2π范围内均匀分布,我们称这种信号为随相信号。显然,S(t)是一个随机过程,因为对时刻t1,t2,…,tn,得到一系列随机变量S(t1),S(t2),…,S(tn),这些依赖于时间参数的随机变量全体构成了随相信号S(t);同样,如果给定初相θ=θ1,θ2,…,θn,则可得到样本函数S1(t),S2(t),…,Sn(t),所有的样本构成了随相信号S(t)。
当然,随机过程的样本函数也可以为有限个,如上述随相信号,若θ是一个离散随机变量,且只取0和π两个值,则此随机过程只有两个样本函数:当随机变量θ取值0时,有S1(t)=Asin2πfct是随机过程S(t)的一个样本函数;当θ取值π时,有S2(t)=-Asin2πfct是S(t)的另一个样本函数。
下面我们利用随机过程与随机变量之间的联系,从数学角度来分析随机过程的分布函数和数字特征。
2.5.2 随机过程的分布函数
随机过程ξ(t)在任一时刻t1的取值是随机变量ξ(t1),则随机变量ξ(t1)取值小于或等于某一数值x1的概率P(ξ(t1)≤x1),记作
并称它为随机过程ξ(t)的一维概率分布函数。
如果一维概率分布函数对x1的偏导数存在,则
称为随机过程ξ(t)的一维概率密度函数。
显然,随机过程的一维分布函数与概率密度函数只描述了随机过程在某个时刻上的统计分布特性,并没有反映出随机过程在不同时刻取值间的内在联系。为此,需进一步引入二维分布函数和概率密度函数。
随机过程ξ(t)在t1时刻ξ(t1)≤x1与在t2时刻ξ(t2)≤x2同时出现的概率为P(ξ(t1)≤x1,ξ(t2)≤x2),记作
称为随机过程ξ(t)的二维概率分布函数。如果二维分布函数对x1、x2的偏导数存在,则
称为随机过程ξ(t)的二维概率密度函数。
为了更加充分地描述随机过程ξ(t),我们就需要考虑随机过程在更多时刻上的多维联合分布函数。一般地,我们定义随机过程ξ(t)的N维概率分布函数为
以及N维概率密度函数(如果下式N阶偏导数存在):
由上面对随机过程分布函数和概率密度的定义可以看出,可把随机过程ξ(t)当作一个多维随机变量[ξ(t1),ξ(t2),…,ξ(tN)]来看待,而用这个多维随机变量的联合分布函数和概率密度来描述随机过程的统计特性。显然,N越大,对随机过程统计特性的描述也越充分,但问题的复杂性也随之增加。实际上,掌握二维分布函数就已经足够了。
2.5.3 随机过程的数字特征
随机过程的分布函数(或概率密度)能够完善地描述随机过程的统计特性。但在实际工作中,往往不容易或不需要确定随机过程的分布函数和概率密度,而是用随机过程的数字特征来描述随机过程的主要统计特性。随机过程的数字特征是由随机变量的数字特征推广而得到的,主要包括数学期望、方差和相关函数。
1.随机过程的数学期望(mathematic expectation)
随机过程ξ(t)在任意给定时刻t1的取值ξ(t1)是一个随机变量,它的数学期望为
换成另一个时刻t2的取值ξ(t2)也是一个随机变量,同样可以得到它的数学期望;不同时刻对随机过程取值都会得到不同的随机变量,它们具有不同的数学期望,也就是说随机过程的数学期望随时间而变化,将式(2-120)中t1换成t,x1换成x,即可得到随机过程ξ(t)数学期望的一般表达式为
可以看出,随机过程的数学期望是时间t的确定函数,常记作a(t),它表示随机过程所有n个样本函数曲线的摆动中心,有时候也称其为随机过程的均值。
【例2-11】 某随机过程定义为ξ(t)=2cos(2πt+θ),其中θ是一个离散随机变量,等概地取两个值:0和π/2,求该随机过程的数学期望a(t)。
解:由于θ离散取值0和π/2,且概率相等,所以随机过程在任意时刻的取值ξ(t)=2cos(2πt+θ)也是一个离散随机变量,取值分别为2cos(2πt)和2cos(2πt+π/2),概率都为1/2。所以该随机过程的数学期望为
2.随机过程的方差(variance)
随机过程的方差定义为
可以看出,随机过程的方差也是时间t的函数,它描述了随机过程ξ(t)的各个样本曲线对数学期望a(t)的偏离程度。
3.随机过程的相关函数(correlation function)
随机过程的数学期望和方差都只与随机过程的一维概率密度函数有关,因此,它们只是描述了随机过程在各时间点的统计特性,而不能反映过程在任意两个时刻之间的内在联系,此时就需要引入随机过程的相关函数。
首先看单个随机过程ξ(t)的自相关函数,其定义为
可以看出,随机过程自相关函数R(t1,t2)描述了随机过程不同时刻取值的关联程度。若随机过程变化平缓,说明两个时刻的取值相关性较大,则R(t1,t2)较大;反之,若随机过程变化剧烈,说明两个时刻的取值相关性较小,则R(t1,t2)较小。
此外也可用自协方差函数来描述随机过程内在联系的特征,其定义为
由式(2-123)和式(2-124)可以得到自相关函数R(t1,t2)和自协方差函数C(t1,t2)的关系为
显然,如果随机过程的数学期望为0,则自协方差函数C(t1,t2)与自相关函数R(t1,t2)完全相同。
上述相关函数和协方差函数的定义可以推广到两个或多个随机过程,以描述它们之间的关联程度,由此可得互相关函数和互协方差函数。考虑两个随机过程ξ(t)和η(t),则它们的互相关函数和互协方差函数的定义分别为
其中,aξ(t1)和aη(t2)分别表示随机过程ξ(t)和η(t)的数学期望。
从以上定义可以看出,相关函数和协方差函数都可以用来描述随机过程的关联程度,它们在本质是一致的,后面我们将以相关函数为主展开讨论。以式(2-123)定义的自相关函数为例,它描述的关联程度与所选时刻t1、t2有关。如果t2>t1,并令t2=t1+τ,即τ是t1与t2之间的时间间隔,则自相关函数R(t1,t2)可表示为R(t1,t1+τ)。这说明,该自相关函数依赖于起始时刻(或时间起点)t1及时间间隔τ,即相关函数是t1和τ的函数。