今天主要的工作有以下几部分：
1. 熟悉运行word2vec_basic版本，tf.nn.nce_loss（）函数返回的是batch的loss值，而因为词表太大不太适合做全局的softmax, 因此此处采取的是采样的方法，也就是经过一个正样本和多个随机采样的负样本来计算loss值，此处用的是sigmoid_cross_entropy_with_logits（）函数，因此在计算交叉熵的时候是每一个维度分别看作一个二值的概率分布。
2. 在训练的时候代码中输入的embedding参数和输出的embedding并不是相同的参数，而是分开训练的。为了看两者的区别，分别做了两个不同的实验，一个是输入输出参数分别训练，结果如上方图所示，另外一个则共用参数，结果如下方图所示。
3. word2vec是更复杂版本的，有多线程和处理大规模数据的操作。需要注意的是tensorflow中op用c语言来写，在编译的时候会把相应的c语言代码编入相应的库中可以调用。
4. 看了短文本相似度一些最近的文章，大概了解到之前的利用知识库的方法主要先计算不同词在知识库中的距离，之后再计算短文本之间的距离。而利用深度学习的方法也类似，是把词表示向量，之后再用不同的方法来计算短文本的距离，比如（加权平均，求和，卷积，RNN）等等。

2016-12-19相关推荐

  1. U3D笔记11:47 2016/11/30-15:15 2016/12/19

    U3D笔记11:47 2016/11/30-15:15 2016/12/19 技术BLOG:http://www.unity.5helpyou.com/2373.html#comment-43108 ...

  2. 【我的书】Unity Shader的书 — 目录（2016.5.19最后一次更新）

    写在前面 感谢所有点进来看的朋友.没错,我目前打算写一本关于Unity Shader的书. 出书的目的有下面几个: 总结我接触Unity Shader以来的历程,给其他人一个借鉴.我非常明白学Shad ...

  3. 【iOS工具】rvm、Ruby环境和CocoaPods安装使用及相关报错问题解决（2016 12 15 更新）...

    〇.前言 在iOS开发中 [CocoaPods](https://github.com/CocoaPods/CocoaPods) 作为库依赖管理工具就是一把利器. 有了 CocoaPods 则无需再通 ...

  4. 【跃迁之路】【674天】程序员高效学习方法论探索系列（实验阶段431-2018.12.19）...

    @(收集箱(每日一记,每周六整理))专栏 实验说明 从2017.10.6起,开启这个系列,目标只有一个:探索新的学习方法,实现跃迁式成长 实验期2年(2017.10.06 - 2019.10.06) ...

  5. 主成分分析（PCA）原理详解 2016/12/17 · IT技术 · 主成分分析, 数学 分享到： 21 原文出处： 中科春哥 一、PCA简介 1. 相关背景 主成分分析（Principa

    主成分分析(PCA)原理详解 2016/12/17 · IT技术 · 主成分分析, 数学 分享到:21 原文出处: 中科春哥    一.PCA简介 1. 相关背景 主成分分析(Principal Co ...

  6. iOS 最新App提交上架流程及部分问题的解决方案2016.12.21，感谢原博主！！！

    iOS 最新App提交上架流程及部分问题的解决方案2016.12.21,感谢原博主!!! 参考文章: (1)iOS 最新App提交上架流程及部分问题的解决方案2016.12.21,感谢原博主!!! ( ...

  7. Interesting Finds: 2007.12.19

    Other: 我不是一名互动设计师,但我曾经是... JavaScript: Working aroung the instanceof memory leak SQLServer: SQL Serv ...

  8. raid卡组不同raid_DNF：12.19旭旭宝宝希洛克毕业，“终极伤害”出炉，比计算器还高...

    在姚策划的指导下,旭旭宝宝终于希洛克三件套+残香武器毕业.此次不是金牌,而是开罐子毕业的.按照大硕的指导,打团或者是开罐子的时候,将戒指放到仓库里,果然这样就实现开罐子一发入魂.卢克西戒指毕业之后,宝 ...

  9. 【2016.12.09】博雅互动网页布局

    1.html代码 <!DOCTYPE html> <html lang="en"> <head><meta charset="U ...

  10. SFDC 微服务实践之路 2016.12.10 杭州（整理）--转

    原文地址:http://mp.weixin.qq.com/s/8cC4Ewt6yPjnxdYxuNZlFQ 微服务是什么? 微服务是一种细粒度(Fine-Grain)的SOA 或许在座的高朋了解过其概 ...

最新文章

  1. ecshop 商品颜色尺寸仿淘宝选择功能教程(2.7.0版本)
  2. Linux虚拟机 百度云 监控,使用Shell脚本监控KVM虚拟机
  3. iOS开发之--打印一堆奇怪东西的解决方案
  4. (转).Net/C# 获取字节流编码
  5. b+树时间复杂度_阿里面试，问了B+树，这个回答让我通过了
  6. Android中从assets资源中读取图片文件并保存到内部存储器并加载显示在ImageView中
  7. ---WebCam网络摄像头9 usb dirver
  8. STL中的find_if函数
  9. 苹果CMS的V10版本后台登录一直提示验证码错误的解决方案
  10. （转）Java随机数
  11. 计算机应用技术专业课程改革方案,【计算机维护论文】计算机应用技术专业教学改革方案(共4015字)...
  12. DevExpress 组件ToolBar、PopupMenu 使用有感
  13. 企业如何才能选到最好的邮件系统合作伙伴？
  14. 将对话框(提示框)中的内容粘贴到记事本
  15. （转）淘淘商城系列——商品搜索功能Service实现
  16. SpringCloud+Redis
  17. [转]Linux中常见目录简介
  18. debounce(防抖)和throttle(节流)
  19. gmail注册方法_“ Gmail脱机”应用正在关闭，这是使用的替代方法
  20. 吾生也有涯，而知也无涯，以有涯随无涯，殆己

热门文章

  1. ConcurrentHashMap底层实现原理
  2. 设计基础决定上层建筑之go类型
  3. 河崙 傾覆饌盤湯 浩亭
  4. VC++ .net 串口操作(简单的上位机串口操作)
  5. 1553B基础常识篇
  6. ORA-00600 kcratr_nab_less_than_odr 问题处理
  7. [腾讯社区开放平台].NET SDK基于New BSD协议开源
  8. hdu1412 set函数的第一次成功应用 超级水题
  9. 知名商业智能BI厂商盘点
  10. 物联网卡管理平台的功能特点