机器学习常用算法

[FM]从线性回归到FM模型

2019-05-22  本文已影响0人  安琪拉的小迷妹

一.线性回归

线性回归是万物之源,其基本思想贯穿了很多算法的推导中。

线性回归的模型是:

\hat{y} (x)=\sum_{i=1}^n w_{i}x_{i}   +\xi _{i}                                         (1)

其中,\xi _{i} 表示误差。根据中心极限定理,误差服从正态分布,其概率分布为:

https://www.jianshu.com/p/6c9af5a1386b

用梯度下降法,更新的函数为:

参考博客:

https://www.jianshu.com/p/6c9af5a1386b

二.FM

https://blog.csdn.net/u013749251/article/details/80906213

1.当x为0时,偏倒数为0,梯度无法更新,即无法求出参数值。

2.若P为满秩矩阵,则P可分解为 P=AB的形式。(线性代数)

https://www.jianshu.com/p/152ae633fb00

三FM模型代码

https://www.jianshu.com/p/556997127319"

上一篇 下一篇

猜你喜欢

热点阅读