人工神经网络基本原理之神经元模型

姓名：高强     学号：17011210057

转载自：http://blog.csdn.net/tyhj_sf/article/details/54134210，有删改

【嵌牛导读】：本文主要介绍神经网络的神经元模型

【嵌牛鼻子】：神经网络，神经元模型

【嵌牛提问】：神经网络最简单的神经元模型是怎样的？

【嵌牛正文】：

以监督学习为例，假设我们有训练样本集(x(i),y(i))，那么神经网络算法能够提供一种复杂且非线性的假设模型hW,b(x)，，它具有参数W,b，可以以此参数来拟合我们的数据。

为了描述神经网络，我们先从最简单的神经网络讲起，这个神经网络仅由一个“神经元”构成，以下即是这个“神经元”的图示：

单个神经元模型我们可以简化成如下图：

这个“神经元”是一个以x1,x2,x3及截距+1为输入值的运算单元，其输出为

其中函数f被称为“激活函数”。一般的，我们选用sigmoid函数作为”激活函数”。

sigmoid函数:

sigmoid函数图像如下：

可以看出，这个单一“神经元”的输入－输出映射关系其实就是一个逻辑回归（logistic regression）。

最后要说明的是，有一个等式我们以后会经常用到：如果选择sigmoid函数作为激活函数，那么它的倒数是：