首先什么是人工神经网络簡单来说就是将单个感知器作为一个神经网络节点，然后用此类节点组成一个层次网络结构我们称此网络即为人工神经网络（本人自己嘚理解）。当网络的层次大于等于3层（输入层+隐藏层（大于等于1）+输出层）时我们称之为多层人工神经网络。

　　那么我们应该使用什麼样的感知器来作为神经网络节点呢在上一篇文章我们介绍过感知器算法，但是直接使用的话会存在以下问题：

　　1）感知器训练法则Φ的输出

　　由于sign函数时非连续函数这使得它不可微，因而不能使用上面的梯度下降算法来最小化损失函数

　　2）增量法则中的输出為；

　　每个输出都是输入的线性组合，这样当多个线性单元连接在一起后最终也只能得到输入的线性组合这和只有一个感知器单元节點没有很大不同。 

　　为了解决上面存在的问题一方面，我们不能直接使用线性组合的方式直接输出需要在输出的时候添加一个处理函数；另一方面，添加的处理函数一定要是可微的这样我们才能使用梯度下降算法。

　　满足上面条件的函数非常的多但是最经典的莫过于sigmoid函数，又称Logistic函数此函数能够将内的任意数压缩到(0,1)之间，因此这个函数又称为挤压函数为了将此函数的输入更加规范化，我们在輸入的线性组合中添加一个阀值使得输入的线性组合以0为分界点。