4.8 向量的期望和协方差阵的介绍

在第1章中，我们介绍了随机变量的期望和方差。对于随机向量，也就是每一个元素都是随机变量的向量，也具有类似的概念。

设b=（b1, b2, …, bp）′，其中b1, b2, …, bp都是随机变量。不难看出， b是一个列向量，且因其每一个元素都是随机变量，从而b就是一个随机向量。

我们定义E（b）= [E（b1）, E（b2）, …, E（bp）]′（即认定随机向量的期望存在），即对随机向量求期望就是对它的每一个随机元素求期望。

对于随机向量也有类似方差的概念。对随机向量b=（b1, b2, …, bp）′求方差Var（b），其中b1, b2, …, bp都是随机变量。将随机变量bi的方差记为Var （bi），两个不同的随机变量bi和bj（i≠j）的协方差记为Cov（bi, bj），则Var （b）是随机向量b中各变量的方差、协方差构成的矩阵，为：

不难看出，当i=j时，协方差阵的第（i, j）元素为随机变量bi的方差；当i≠j时，第（i, j）元素是随机变量bi和bj的协方差。换句话说，对角线元素为相应随机变量的方差，而非对角线元素则为相应两个随机变量的协方差。值得注意的是，由于对于任意i≠j，都有Cov（bi, bj）=Cov（bj, bi），所以协方差矩阵是对称矩阵。