word2vec是Google于2013年推出的开源的获取词向量word2vec的工具包。它包括了一组用于word embedding的模型，这些模型通常都是用浅层（两层）神经网络训练词向量。
Word2vec的模型以大规模语料库作为输入，然后生成一个向量空间（通常为几百维）。词典中的每个词都对应了向量空间中的一个独一的向量，而且语料库中拥有共同上下文的词映射到向量空间中的距离会更近。
word2vec目前普遍使用的是Google2013年发布的C语言版本，现在也有Java、C++、python版本的实现，但是从效果和速度上还是C的更胜一筹，速度很快。
二、Word2Vec中的两种模型、两种加速方法
1、CBOW model 和 Skip-Gram model
CBOW 是 Continuous Bag-of-Words Model 的缩写,CBOW是通过上下文预测中间词的模型
Skip-Gram model与CBOW正好相反，是通过中间词来预测上下文，一般可以认为位置距离接近的词之间的联系要比位置距离较远的词的联系紧密。两种model如下图所示。
2、Hierarchical Softmax 和 Negative sampling
Negative sampling：负采样，目的是减少分母的规模，随机采样几个词，仅计算这几个词和预测词的分类问题，这样就将一个规模庞大的多元分类转换成了几个二分类问题。负采样用在Skip-Gram model上就是增加共线的词对出现的频率，而负采样不出现的额词随机抽样，降低他们的概率。
Hierarchical Softmax：层次化Softmax，将所有的词放在树的叶子节点上，构造Huffman树，使?哈夫曼编码，将计算复杂度较?的Softmax过程转化为多次?元分类任务
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&
三、Code 和 测试
目前的demo简单的实现了Skip-Gram + Hierarchical Softmax 、Skip-Gram + Negative sampling、CBOW + Hierarchical Softmax、CBOW + Negative sampling四种方法。
测试是基于C版本的Word2vec跑出来的词向量与pytorch跑出来的词向量进行了简单的测试，当然两种都是在相同模型以及相同方法上的测试。
评分测试：C版本与pytorch版本的测试结果很接近（结果很低，是因为语料不是很大）
测试结果说明，pytortch跑出来的词向量效果和C版本跑出来的词向量版本效果是相近的，但是在速度方面C明显高于pytorch。
& （word2vec中的数学原理）
阅读(...) 评论()&&&&&&&&&&&&
4875人参与
56747人参与
3272人参与
13194人参与
······
阿图的日记
我需要鼓励 熄灯后，入睡前，照例侧卧在旁，陪聊一会。今晚的小图显得有些忧郁，我...
&&&&&&&&&&&&
&&&&&&&&&&&&
&&&&&&&&&&&&
&&&&&&&&&&&&
15361 个成员
44512 个成员
22079 个成员
22732 个成员
10424 个成员
110061 个成员
93467 个成员
91782 个成员
31698 个成员
3820 个成员
15550 个成员
&&&&&&&&&&&&
〔德〕贝内迪克...
〔英〕朱利安·...
〔美〕丹·西蒙...
原创数字作品
&&&&&&&&&&&&
平静的黄土地
流派: 民谣 Folk
72411人关注
流派: 轻音乐 Easy Listening
流派: 摇滚 Rock
流派: 摇滚 Rock
流派: 流行 Pop
96894人关注
豆瓣新碟榜
&&&&&&&&&&&&
&&&&&&&&&&&&
西班牙慵懒女声-乡村雷鬼爵士142
我喜欢你是寂静的
日剧之声- 那些带着故事的旋律
好听到想死的歌
中岛美雪豆瓣专辑一刷完毕
美人鱼歌唱，海盗称臣
ERICD原创设计以传统服装制作工艺为主导，结合当下最流行的...
每周五定时上新，注意关注偶
不用装修，NaNaZ home 也能你家变得更美一些。
卖我会穿的打底，做你会爱的姑娘
&&&&&&&&&&&&
无锡 · 本周热门活动
&&&&&&&&&&&&
无锡市体育中心体育馆 无锡...
无锡市人民大会堂 无锡市南...
无锡市人民大会堂 无锡市南...
宜兴市体育中心体育馆 宜兴...
& 2005－, all rights reserved 北京豆网科技有限公司
京ICP备号 网络视听许可证号
京网文[8号
&&新出网证(京)字129号
违法和不良信息举报电话：&
电话：12377MIME-Version: 1.0
Content-Type: multipart/ boundary="----=_NextPart_01C6EFC6.44D34F60"
此文档为“单个文件网页”，也称为“Web 档案”文件。如果您看到此消息，但是您的浏览器或编辑器不支持“Web 档案”文件。请下载支持“Web 档案”的浏览器，如 Microsoft Internet Explorer。
------=_NextPart_01C6EFC6.44D34F60
Content-Location: file:///C:/9AFFE32F/file1103.htm
Content-Transfer-Encoding: quoted-printable
Content-Type: text/ charset="us-ascii"
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
PowerPoint Presentation
------=_NextPart_01C6EFC6.44D34F60
Content-Location: file:///C:/9AFFE32F/file1103.files/outline.htm
Content-Transfer-Encoding: quoted-printable
Content-Type: text/ charset="us-ascii"
幻灯片放映
网络资源共享技术
硬盘共享
&由&#=
可看出，盘卷B...&
2．&#20197=
;文件服务方式实现硬&#=
30424;共享
打印机共享
2．&#32593=
;络打印的工作过程
4．&#20849=
;享打印的控制模式
数据和文件资源的共&=
在混合网络中访问网&=
#32476;资源
------=_NextPart_01C6EFC6.44D34F60
Content-Location: file:///C:/9AFFE32F/file1103.files/filelist.xml
Content-Transfer-Encoding: quoted-printable
Content-Type: text/ charset="utf-8"
------=_NextPart_01C6EFC6.44D34F60--}