2.2　线性模型

2.2.1　基本形式

假设给定包含n个数据的数据集D={X, Y}，其中，，每个数据有d个属性，线性模型试图从已知数据集中学习到一个通过数据属性线性组合的预测函数，即：

将b扩充到参数ω中，同时输入数据扩充为d+1维向量，即令，，式(2.1)可简写成如下向量形式：

线性模型的学习过程就是对参数ω的求解过程，从已有的数据中寻找一组合适的参数，使得线性模型具有良好的泛化能力。线性模型的形式非常简单，并且易于实现，是一种简单朴素的学习算法，但是这种简单的模型可以通过引入层级机构或者高维映射来实现更为复杂的非线性模型。并且由于参数ω直观地显示了各个属性在预测过程的权重，因此线性模型具有非常好的可解释性。