transformer : Quick tour

1. 使用pipeline开始一个任务

1.1 transformer的pipeline提供的任务类型

  • 情感分析:文本是积极的还是消极的

  • 文本生成(英语):给定一个提示,模型会生成对应的内容

  • 名称实体识别(Name Entity Recognition, NER):输入一个句子,将每个单词标记为其表示的实体(如人,地点等)

  • 问题解答:为模型提供一些上下文和问题,并从上下文中提取答案

  • 填充被屏蔽的文本:给定带有被屏蔽词的文本(例如,用[mask]替换),然后填入空白处

  • 总结:生成一段长文本的总结

  • 翻译:用另外一种语言翻译一段文本

  • 特征提取:返回一段文本的张量表达式

所有任务代码示例链接https://huggingface.co/transformers/task_summary.html

示例代码,注:本文使用的示例代码都是pytorch版本的!!

from transformers import pipeline
classifier = pipeline('sentiment-analysis')
classifier('We are very happy to show you the 												

NLP: Transformer quick tour相关推荐

  1. 《Natural Language Processing with PyTorch》 Chapter 2: A Quick Tour of Traditional NLP 笔记

    <Natural Language Processing with PyTorch> Chapter 2: A Quick Tour of Traditional NLP 笔记 这本书 本 ...

  2. 深度学习机器学习面试题——自然语言处理NLP,transformer,BERT,RNN,LSTM

    深度学习机器学习面试题--自然语言处理NLP,transformer,BERT,RNN,LSTM 提示:互联网大厂常考的深度学习基础知识 LSTM与Transformer的区别 讲一下Bert原理,B ...

  3. 阿里巴巴 PAI NLP Transformer 模型

    配置详情 基于 PyTorch 1.7.1 的阿里巴巴 PAI NLP Transformer 模型在第三代英特尔® 至强® 可扩展处理器上的吞吐量性能 基准配置:英特尔截至 2021 年 3 月 1 ...

  4. [NLP]——Transformer中的attention为什么要做scale?

    前言 说起Transformer的self-attention,很容易想到下面的公式: A t t e n t i o n ( Q , K , V ) = s o f t m a x ( Q K T ...

  5. NLP/CV模型跨界进行到底,视觉Transformer要赶超CNN?

    机器之心报道 机器之心编辑部 在计算机视觉领域中,卷积神经网络(CNN)一直占据主流地位.不过,不断有研究者尝试将 NLP 领域的 Transformer 进行跨界研究,有的还实现了相当不错的结果.近 ...

  6. NLP/CV模型跨界,视觉Transformer赶超CNN?

    在计算机视觉领域中,卷积神经网络(CNN)一直占据主流地位.不过,不断有研究者尝试将 NLP 领域的 Transformer 进行跨界研究,有的还实现了相当不错的结果.近日,一篇匿名的 ICLR 20 ...

  7. 无需卷积,完全基于Transformer的首个视频理解架构TimeSformer出炉

    选自Facebook AI 机器之心编译 编辑:小舟.陈萍 Facebook AI 提出新型视频理解架构:完全基于Transformer,无需卷积,训练速度快.计算成本低. TimeSformer 是 ...

  8. 一文梳理视觉Transformer架构进展:与CNN相比,ViT赢在哪儿?

    来源:机器之心 Transformer 近年来已成为视觉领域的新晋霸主,这个来自 NLP 领域的模型架构在 CV 领域有哪些具体应用?. Transformer 作为一种基于注意力的编码器 - 解码器 ...

  9. 重磅开源!首个基于Transformer的视频理解网络来啦!

    部分转载自:机器之心  |  编辑:小舟.陈萍 Facebook AI 提出新型视频理解架构:完全基于Transformer,无需卷积,训练速度快.计算成本低.最近由Facebook提出的首个完全基于 ...

最新文章

  1. 未来3大趋势:人工智能 产业互联网 大数据与算法
  2. 【Deep Learning】深度学习中的函数类型
  3. 《工作DNA》摘录三
  4. Escape字符总结
  5. 百万大数据架构师学习笔记
  6. An Introduction to Our Code Breaking Team
  7. javascript事件机制与jQuery.bind的补充说明
  8. ARM全新Armv9架构:10年最大更新、增强AI和security能力
  9. 跟随进度而变色进度条效果ios源码
  10. 专攻国内实体瘤CAR-T细胞疗法,南京卡提医学获数千万元A轮融资...
  11. Tomcat5.5链接Oracle、DB2、MySQL数据源实现JSP下拉框的填充
  12. 删除任务管理器中的启动项
  13. 关于微信旧版本扫码登陆,旧版的登陆限制的一些经验
  14. go1.15版本 mod 报An existing connection was forcibly closed by the remote host错误处理
  15. spyeye手机远程控制手机苹果免越狱封装支持扫码安装
  16. 多用户商城app小程序开发的功能有哪些
  17. 输入一行字符,分别统计其中大写英文字母,小写英文字母,空格,数字,和其他字符的个数。
  18. python卸载及python 0x80070643 安装发生严重错误
  19. 超详细的计算机视觉学习书籍pdf汇总(涉及CV、深度学习、多视图几何、SLAM、点云处理等)
  20. 微信搜索刷关键词推广方法

热门文章

  1. web前端个人技能or专业技能怎么写(整理)
  2. python 运行cmd命令行
  3. 小米 13摄像头参数怎么样 小米 13防水性能 小米13电池续航怎么样
  4. Quicker+沙拉查词/公式识别 使用
  5. 向ql sql 插入数据发现未能插入的原因
  6. Java——网络编程(UDP与TCP通信及实现聊天案例)
  7. Android bitmap合成图片
  8. PU Learning-two stage approach(两阶段法)-S-EM
  9. cocos2dx之新建图层、新建场景实例
  10. 查询1997年出生的学生mysql_Mysql学习三