2.1 神经网络简介

2.1.1 神经网络基本概念

现如今我们所见到的绝大多数人工智能算法都离不开深度学习的支持，那么深度学习与机器学习、深度学习与神经网络之间又有什么关系呢？事实上，在深度学习算法成熟之前，机器学习作为人工智能的一种核心工具就用到了神经网络。在深度学习空前发展的影响下，机器学习中最受欢迎的算法才从传统的SVM算法逐渐转变为现如今的神经网络算法，准确来讲应该是深层神经网络，也就是深度学习的基本概念。

如图2.1所示，机器学习是实现人工智能的一种基本途径，神经网络是隶属于机器学习的一种具体的算法方向，而深度学习，也就是深层神经网络，又是神经网络算法的一种，因此可以简单地理解为：深度学习∈神经网络∈机器学习∈人工智能。由此可见，神经网络是深度学习以及很多机器学习方法都会用到的一个基础算法。

图2.1 人工智能、机器学习、神经网络、深度学习隶属关系

人工神经网络（Artificial Neural Networks，ANNs），也简称为神经网络（NNs）或连接模型（Connection Model），是一种模仿动物神经网络行为特征进行分布式并行信息处理的算法模型。神经网络依靠复杂的系统模型，通过调整内部大量节点之间的相互连接关系，从而达到处理信息的目的。总体来讲，神经网络是一种由具有适应性的简单单元组成的广泛并行连接单元，其组织结构能够模拟生物神经系统对真实世界物体所作出的交互反应。因此神经网络中的基本单元——人工神经元与生物神经元之间具有非常相似的结构与作用。