机器学习数学基础
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

1.3.1 极大线性无关组

以1.2节的图1-2-6中所示的子空间为例,在该子空间中,可以有无穷多个向量,这些向量构成了一个向量组或者多个向量组。假设有图1-3-1所示的几个向量,它们可以构成一系列的向量组,如:等向量组。考查这些向量组可以发现,有的向量组中的向量是线性无关的,比如;有的向量组中的向量是线性相关的,比如。但它们都可以生成同一个子空间。我们将不同向量组的这种现象,称为等价。严格的定义可以表述如下。

图1-3-1

定义 如果向量组A中的每个向量可以用向量组B中的向量以线性组合的形式表示(称为线性表出),反之,向量组B也可以由向量组A线性表出,则这两个向量组等价

取一个向量组进行考查,下面列出几个与它等价的向量组:

● 

● 

● 

● 

在这些向量组中,只有两个向量的向量组都是线性无关的,只要再多一个,就线性相关了,于是就称像这样的向量组为极大线性无关组

定义 某向量组的一个部分组,如果满足:

● 这个部分组线性无关

● 从向量组的其余向量中(如果有)任取一个添加进去,得到的新的部分组线性相关

那么称这个部分组为此向量组的一个极大线性无关组

从上面的示例可以看出,一个向量组(或者说子空间,因为一个向量组生成一个子空间)可有多个极大线性无关组,并且这些极大线性无关组的向量个数相等且等价。对于极大线性无关组的这个特点,我们可以用“秩”的概念来描述。

定义 向量组的一个极大线性无关组所含向量的个数,称为这个向量组的(Rank)。如向量组的秩记作

与向量组的秩类似,后面还会提到矩阵的秩(参阅2.5节),届时请读者对照理解。

有了向量组的秩这个概念,就可以更简洁地表述向量组,比如:两个向量组等价的充分必要条件是它们的秩相等,且其中一个向量组可以由另外一个向量组线性表出。