原论文:

  • Mikolov等人在2013年的文献[1]中,同时提出了CBOW(Continuous Bagof-Words)和Skip-gram模型.他们设计两个模型的主要目的是希望用更高效的方法获取词向量。因此,他们根据前人在 NNLM、 RNNLM 和 C&W 模型上的经验,简化现有模型,保留核心部分,得到了这两个模型。
  • Mikolov在2013年接着在[2]中提出了训练Skip-gram模型的两个策略:Hierarchical Softmax和Negative Sampling.
  • Mikolov在2014年提出doc2vec[3]
  • Mikolov写的原论文不好懂,后来有人对原论文进行了详细的推导[4,5]。

参考文献

[1] Tomas Mikolov, Kai Chen, Greg Corrado, and Jeffrey Dean. Efficient estimation of word representations in vector space. ICLR Workshop, 2013

[2] T. Mikolov, I. Sutskever, K. Chen, G. Corrado, and J. Dean. Distributed Representations of Words and Phrases and their Compositionality. NIPS 2013

[3] Le Q, Mikolov T. Distributed representations of sentences and documents[C]//International Conference on Machine Learning. 2014: 1188-1196.

[4] Goldberg Y, Levy O. word2vec Explained: deriving Mikolov et al.'s negative-sampling word-embedding method[J]. arXiv preprint arXiv:1402.3722, 2014.

[5] Rong X. word2vec parameter learning explained[J]. arXiv preprint arXiv:1411.2738, 2014.

word2vec 相关论文相关推荐

  1. word2vec相关论文

    1. Efficient Estimation of Word Representations in Vector Space (Google 2013) word2vec的奠基性论文之一,由Goog ...

  2. Zero-Shot相关论文阅读报告

    Zero-Shot相关论文阅读报告 Zero-Shot Learning with Semantic Output Codes 论文:Zero-Shot Learning with Semantic ...

  3. NLP系列:Word2Vec原始论文:Efficient Estimation of Word Representations in Vector Space

    译者按: 2013年,Google开源了一款用于词向量计算的工具--word2vec,引起了工业界和学术界的关注.首先,word2vec可以在百万数量级的词典和上亿的数据集上进行高效地训练:其次,该工 ...

  4. 【radar】毫米波雷达-相机-激光雷达融合相关论文汇总(特征融合、RPN融合、弱监督融合、决策融合、深度估计、跟踪)(5)

    [radar]毫米波雷达-相机-激光雷达融合相关论文汇总(特征融合.RPN融合.弱监督融合.决策融合.深度估计.跟踪)(5) Radar Camera Fusion Feature-level Fus ...

  5. 【radar】毫米波雷达动态障碍物检测相关论文汇总(聚类、分类、稀疏2D点、4D点、雷达成像、原始数据处理)(4)

    [radar]毫米波雷达动态障碍物检测相关论文汇总(聚类.分类.稀疏2D点.4D点.雷达成像.原始数据处理)(4) Detection of Dynamic Objects Clustering 20 ...

  6. sift论文_卷积神经网络设计相关论文

    最近梳理了一下卷积神经网络设计相关的论文(这个repo现在只列出了最重要的一些论文,后面会持续补充): Neural network architecture design​github.com 1. ...

  7. 2018 CVPR GAN 相关论文调研 (自己分了下类,附地址哦)

    2018 CVPR GAN 相关论文调研 风格迁移 1. PairedCycleGAN: Asymmetric Style Transfer for Applying and Removing Mak ...

  8. 区块链相关论文研读7:通过分片(Sharding)扩展区块链

    本文首发在https://zhuanlan.zhihu.com/p/89933683 这篇论文发表在顶会SIGMOD 2019上,题目为<Towards Scaling Blockchain S ...

  9. 区块链相关论文研读5:分布式隐私保护可审计的账本,zkLedger

    这篇文章首发于知乎专栏:https://zhuanlan.zhihu.com/p/87900715 这篇论文在2018年发表在顶会NSDI上面,题目为<zkLedger: Privacy-Pre ...

最新文章

  1. Top 10 Mistakes Java Developers Make(转)
  2. 【win32汇编】0x01 开篇一些乱七八糟的话
  3. jquery视频教程
  4. uva 10034 Freckles (kruskal||prim)
  5. ubuntu中linux内核的编译、更换与使用
  6. Javascript:getElementById()点innerHTML联合用法(对比演示)
  7. centos打架django + mysql环境
  8. php面试题接口方面,php面试题6 - osc_xb4v1nhl的个人空间 - OSCHINA - 中文开源技术交流社区...
  9. python中生成器的两段代码
  10. sql server 2000能否得到一个表的最后更新日期?
  11. 为什么大家都能听懂普通话
  12. Microsoft Office Word一打开文档就弹出样式小窗口
  13. 传统车载网络,软件定义汽车
  14. LNK2005符号重定义问题
  15. 自动驾驶 4-5 自行车模型的横向动力学 Lateral Dynamics of Bicycle Model
  16. leelen可视对讲怎么接线_电子门铃怎么安装 电子对讲门铃安装方法【详细介绍】...
  17. 洛谷P3352 [ZJOI2016]线段树
  18. NYOJ-999-师傅又被妖怪抓走了
  19. 国际青少年计算机技能大赛英语,竞赛:2017中学生英语能力、青少年信息学奥赛!...
  20. 简单整系数滤波器去除心电信号的基线漂移

热门文章

  1. 深度学习推动数字人文科学发展
  2. java 歌词颜色变色_Axure教程:音乐播放器中,带时间的进度条/歌词颜色变化/旋转元件...
  3. HDFS原理深入理解
  4. 数字图像学笔记——10. 频域与傅里叶分析方法
  5. 百度人脸识别技术简单入门
  6. 00后又用回QQ了?“微信太老气,适合中年人”,扎心了
  7. 魅族note3详细打开usb调试模式的经验
  8. ios 对应 iphone_如何锁定iPhone相机的曝光并专注于iOS
  9. CSS鼠标样式【cursor】
  10. 性能优化的核心思路,干货分享