word2vec实现与哈夫曼树

2017-09-30 本文已影响0人 Babyzpj

定义

算法

例子

作用： 用在word2vec的实现中，
法一：是基于Huffman编码实现
就是神经网络的第三层（CBOW、skip-gram模型），它把训练语料中的词当成叶子节点，词在语料中出现的次数当作权值，通过构建相应的huffman树来对每一个词进行Huffman编码。这是一个比较老旧的方法。