2.2 高阶统计量
2.2.1 高阶累积量、高阶矩和高阶谱
高阶统计量通常包括高阶累积量和高阶矩,以及它们相应的谱——高阶累积量谱和高阶矩谱。它们都描述了随机过程的数字特征[1]。
对于n维随机变量x=[x1,x2,⋯,xn]T,定义其第一特征函数为
Φ(ω1,ω2,⋯,ωn)=E{exp[−j(ω1x1+ω2x2+⋯+ωnxn)]}
(2.24)
其第二特征函数为
Ψ(ω1,ω2,⋯,ωn)=ln[Φ(ω1,ω2,⋯,ωn)]
(2.25)
定义2.2.1和定义2.2.2 对式(2.24)和式(2.25)分别进行泰勒展开,则随机变量x=[x1,x2,⋯,xn]T的r=k1+k2+⋯+kn阶累积量ck1,k2,⋯,kn和r=k1+k2+⋯+kn阶矩mk1,k2,⋯,kn分别定义为
(2.26)
(2.27)
累积量和矩之间可以相互转化。假设随机变量的一次实现为x={x1,x2,⋯,xk},Ix={1,2,⋯,k} 表示x的下标的集合。若I⊆Ix,则xI表示下标为I的子向量xI={xi1,xi2,⋯,xiI},其中,I≤k,i=1,2,⋯,q,q≤k。若I的一种分割的集合中的元素数量为q个,则表示非相交、非空Ip的无序集合,表示对I所有可能的分割求和。用mom(xI)=E[xi1xi2⋯xiI]表示xI的矩,用cum(xI)表示xI的累积量,则累积量和矩之间的转换公式为
(2.28)
(2.29)
由此可知,零均值随机过程{x(n)} 的二阶、三阶、四阶累积量分别为
cum{xi1,xi2}=E{xi1xi2}
(2.30)
cum{xi1,xi2,xi3}=E{xi1xi2xi3}
(2.31)
(2.32)
若零均值随机过程{x(n)}是平稳的,则有
c2,x(τ)=E{x(n)x(n+τ)}
(2.33)
c3,x(τ1,τ2)=E{x(n)x(n+τ1)x(n+τ2)}
(2.34)
(2.35)
定义2.2.3 设高阶累积量是绝对可和的,即
(2.36)
则k阶累积量谱定义为k阶累积量的k−1 维Fourier变换,即
(2.37)
高阶累积量谱常简称高阶谱或多谱。最常用的高阶谱是三阶谱S3,x(ω1,ω2)和四阶谱S4,x(ω1,ω2,ω3)。我们又把三阶谱称作双谱,把四阶谱称作三谱。
定义2.2.4 设高阶矩mk,x(τ1,τ2,⋯,τk−1)是绝对可和的,即
(2.38)
则k阶矩谱定义为k阶矩的k−1 维Fourier变换,即
(2.39)
2.2.2 累积量性质
性质2.2.1 设n个常数λi(i=1,2,⋯,n)与n维随机变量(x1,x2,⋯,xn)对应,则有
(2.40)
性质2.2.2 累积量关于它们的变量对称,即
cum{x1,x2,⋯,xn}=cum{xi1,xi2,⋯,xin}
(2.41)
式中,(i1,i2,⋯,in)是(1,2,⋯,n)的任意一种组合。
性质2.2.3 累积量关于它们的变量具有可加性,即
cum{y0+z0,x1,x2,⋯,xn}=cum{y0,x1,x2,⋯,xn}+cum{z0,x1,x2,⋯,xn}
(2.42)
性质2.2.4 如果α为常数,则有
cum{α+x1,x2,⋯,xn}=cum{x1,x2,⋯,xn}
(2.43)
性质2.2.5 如果n维随机变量()和()相互独立,则有
cum{y1+x1,y2+x2,⋯,yn+xn}=cum{x1,x2,⋯,xn}+cum{y1,y2,⋯,yn}
(2.44)
性质2.2.6 如果n维随机变量()中某个子集与其补集相互独立,则有
cum{x1,x2,⋯,xn}=0
(2.45)
2.2.3 高斯随机过程的高阶累积量
有n维高斯随机变量x=[x1,x2,⋯,xn]T,设其均值向量为a=[a1,a2,⋯,an]T,协方差矩阵为
(2.46)
|ai|<∞,且rij=E{(xi−ai)(xj−aj)},i,j=1,2,⋯,n。
n维高斯随机变量x的联合概率密度函数为
(2.47)
x的联合特征函数为
(2.48)
式中,ω=[ω1,ω2,⋯,ωn]T。
x的第二联合特征函数为
(2.49)
于是,根据累积量定义式,随机变量x的r=k1+k2+⋯+kn阶累积量为
(2.50)
由于Ψ(ω)是关于自变量ωi(i=1,2,⋯,n)的二次多项式,Ψ(ω)关于自变量的三阶及更高阶偏导数等于零,因此x的三阶及三阶以上累积量等于零,即
ck1,k2,⋯,kn=0,k1+k2+⋯+kn≥3
(2.51)
由x的联合特征函数可得出r=k1+k2+⋯+kn阶矩mk1,k2,⋯,kn,并可证明:
(2.52)
由此可得以下结论。
(1)高斯随机过程大于二阶的矩不会比二阶矩提供更多的信息。
(2)高斯随机过程大于二阶的累积量全部为零。
(3)非高斯随机过程至少存在某个大于二阶的累积量不为零。
因此,高阶累积量可以抑制高斯分布的噪声,建立高斯噪声中的非高斯信号模型,提取高斯噪声中的非高斯信号。
2.2.4 随机场的累积量与多谱
引入向量符号:
v=[v1,v2,⋯,vk]T
y=[y(m,n),y(m+i1,n+j1),⋯,y(m+ik−1,n+jk−1)]T
(2.53)
定义2.2.5 随机场y(m,n)的k阶累积量定义为第二特征函数(累积量生成函数)K(v)=lnE[exp(jvTy)]的泰勒展开中的(v1,v2,⋯,vk)项的系数。
因此,y(m,n)的k阶累积量是用k阶及以下各阶的联合矩定义的,是2(k−1)个滞后变量的函数。更高维数的随机过程的累积量也可以类似定义,而且d维随机场的k阶累积量是d(k−1)个滞后变量的函数。
为了简化符号,我们用m=(m1,m2,⋯,md)表示d个元素的行向量,记0=(0,0,⋯,0),1=(1,1,⋯,1),用m≤n表示mi≤ni(i=1,2,⋯,d),并且定义im=(im1,im2,⋯,imd)以及m+i=(m1+i1,m2+i2,⋯,md+id)。
利用以上符号,零均值随机过程的二阶、三阶、四阶累积量分别为
c2,y(i)=E[y(m)y(m+i)]
(2.54)
c3,y(i,j)=E[y(m)y(m+i)y(m+j)]
(2.55)
c4,y(i,j,k)=E[y(m)y(m+i)y(m+j)y(m+k)]−c2,y(i)c2,y(j−k)−
c2,y(j)c2,y(k−i)−c2,y(k)c2,y(i−j)
(2.56)
若零均值随机过程是平稳的,则有
c3,y(i,j)=c3,y(j,i)=c3,y(−j,i−j)c3,y(i−j,−j)=c3,y(−i,j−i)=c3,y(j−i,−i)
(2.57)
这说明,对于二维平稳随机过程y(m,n)的三阶累积量,只要计算出{(i,j):0≤i1≤j1,−∞<i2,j2<∞} 区域内的累积量,就能够推算出所有滞后的累积量。这一区域就是三阶累积量的无冗余支撑区域。更一般地,对于d维随机场,其k阶累积量共有k! 个对称关系:
(2.58)
将上述讨论结果推而广之,将标量变元换成向量变元后,一阶累积量的定义、对称性以及其他性质就变成了多阶累积量的定义和各种性质。同样,高斯随机过程的定义及性质也可进行相应的推广。
d维随机过程y(m)的k阶多谱定义为其k阶累积量的d(k−1)维Fourier变换。和一维情况类似,累积量的绝对可和性是对应的多谱存在的充分条件。进一步地,若y(m)是一个可表示为y(m)=h(m)∗w(m)的线性过程,则y(m)的多谱存在的条件是w(m)的(相同阶数)多谱存在,并且h(m)是绝对可和的。
特别地,2d阶双谱是式(2.55)的2d维Fourier变换:
(2.59)
注意,d维随机过程y(m)的k阶多谱Sk,y(u1,u2,⋯,uk−1)是d(k−1)个频率变量的函数,因为ui是d个元素的行向量。双谱具有以下对称性质:
S3,y(u,v)=S3,y(v,u)=S3,y(−v,v−u)=S3,y(v−u,u)
=S3,y(−v,u−v)=S3,y(u−v,−u)
(2.60)
若y(m)为实值过程,则
S3,y(u,v)=S3,y(−u,−v)
(2.61)
更一般地,k阶多谱相对于它们的变元是对称的,并满足下列关系:
(2.62)