word2vec 2种训练模式
2022-04-05 本文已影响0人
程非池的小软
CBOW(Continuous Bag-of-Words Model)
Skip-gram(Continuous Skip-gram Model)
CBOW
通过上下文来预测当前值
输入 输入 ______ 输入 输入
Skip-gram
用当前词来预测上下文。
_____ _____ 输入 ____ ____
优化方法：
- Negative Sample（负采样）
- Hierachical Softmax
