常见的学习方法
2019-03-26 本文已影响0人
繁花似锦之流年似水
误差修正学习
将系统输出与期望输出进行比较,算法核心是在每次训练迭代时最小化该误差信号。对于单个神经元,误差最小化的优化问题的目标函数是一个凸函数。
赫布学习规则:定义的是如何改变模型神经元之间权值的方法。如果两个神经元同时被激活,则这两个神经元之间权值增加。如果它们分别被激活,则它们之间权值降低。算法如下:


误差修正学习
将系统输出与期望输出进行比较,算法核心是在每次训练迭代时最小化该误差信号。对于单个神经元,误差最小化的优化问题的目标函数是一个凸函数。
赫布学习规则:定义的是如何改变模型神经元之间权值的方法。如果两个神经元同时被激活,则这两个神经元之间权值增加。如果它们分别被激活,则它们之间权值降低。算法如下: