《中兴通讯技术 》2022年第2期  总第163期

期刊文章PDF文章可在网站上免费下载:https://www.zte.com.cn/china/about/magazine/zte-communications/2022/cn202202

预训练语言模型的出现给自然语言处理领域带来了一场变革,成为人工智能技术发展的前沿和热点。庞大的参数规模使得模型具备更强的能力,同时也对模型的构建、训练和应用落地提出挑战。自然语言处理的关键要素是什么?从多语言、知识和视觉等角度如何提高预训练模型的能力?规模庞大的模型如何进行高效训练?针对预训练语言模型研究中广受关注的问题,清华大学计算机系教授、中国工程院院士郑纬民精心组织了“自然语言处理预训练模型”专题。专题内容丰富,涵盖面广,希望能对自然语言处理预训练模型的发展起到一定推动作用。

目录

热点专题


专题导读    Abstract  |  PDF

近年来,预训练语言模型的出现给自然语言处理领域带来了一场变革,成为人工智能技术发展的前沿和热点。大规模预训练可以有效缓解传统技术在特征工程方面面临的压力。通过学习通用语言表示,模型具备了语言理解和生成能力,几乎在所有自然语言处理任务上都取得了突破。因此,各类基准测试任务的效果显著提高,这展示了大规模预训练广阔的应用前景。庞大的参数规模使得模型具备了更强的能力,同时也对模型的构建、训练和应用落地提出了挑战。自然语言处理的关键要素是什么?从多语言、知识和视觉等角度如何提高预训练模型的能力?规模庞大的模型如何进行高效训练?针对预训练语言模型研究中广受关注的问题,本期专题的文章从不同方面论述自然语言处理预训练模型的研究进展及相关成果,希望能对读者有所帮助。

郑纬民

DOI:10.12142/ZTETJ.202202001


自然语言处理新范式:基于预训练模型的方法   

《中兴通讯技术 》期刊2022年第2期,本期专题:自然语言处理预训练模型相关推荐

  1. 化纤与纺织技术杂志化纤与纺织技术杂志社化纤与纺织技术编辑部2022年第2期目录

    化纤与纺织技术杂志化纤与纺织技术杂志社化纤与纺织技术编辑部2022年第2期目录 产业前沿     可持续发展视域下纺织印染企业的环境成本控制研究 周丽红;徐满容;陈利华;周瑶瑶; 1-3     基于 ...

  2. 石化技术杂志石化技术杂志社石化技术编辑部2022年第10期目录

    工业.生产<石化技术>投稿:cnqikantg@126.com     衰减全反射傅里叶变换红外光谱测定溴化丁基橡胶中硬脂酸钙含量 俞培富;王晗;李振;邓洁;宋轶;姜旭鞠; 1-2+92 ...

  3. 电脑编程技巧与维护杂志电脑编程技巧与维护杂志社电脑编程技巧与维护编辑部2022年第6期目录

    电脑编程技巧与维护杂志电脑编程技巧与维护杂志社电脑编程技巧与维护编辑部2022年第6期目录 专题论坛     基于Java的主城区防汛排涝技术支持系统设计与实现 康道俊;王菲;邹阳;孙俊奎; 3-6+ ...

  4. 中学教学参考杂志中学教学参考编辑部中学教学参考杂志社2022年第18期目录

    中学教学参考杂志中学教学参考编辑部中学教学参考杂志社2022年第18期目录 专题论析     高中物理拔尖人才培养研究--以南宁市第三中学为例 黄文斌;张井卫; 1-4 语文     让学生大胆提出& ...

  5. 《智源社区周刊:预训练模型》第2期:Facebook用“预微调”改进预训练性能、再议GPT-3中的东方主义偏见...

    超大规模预训练模型是当前人工智能领域研究的热点,为了帮助研究与工程人员了解这一领域的进展和资讯,智源社区整理了第2期<智源社区周刊:预训练模型>,从论文推荐.研究动态.热点讨论等几个维度推 ...

  6. 技术与市场杂志技术市场杂志社技术与市场编辑部2022年第9期目录

    技术与市场杂志技术市场杂志社技术与市场编辑部2022年第9期目录 创新与实践     全地形智能垃圾抓取机器人的设计与实现 裴宇昂;吴雯雯;陈秀;徐扣敏;强红宾;刘凯磊; 1-4     基于隔离网闸 ...

  7. 山西青年杂志山西青年杂志社山西青年编辑部2022年第16期目录

    山西青年杂志山西青年杂志社山西青年编辑部2022年第16期目录 本刊专稿     "一书一课一空间"新型态教材开发模式研究 陈恩海;张星海; 1-5     21世纪以来我国基础教 ...

  8. 科技传播杂志社《科技传播》杂志社科技传播杂志社2022年第21期目录

    主编荐稿<科技传播>投稿:cnqikantg@126.com     基于专利分析的我国碳捕集.利用与封存技术的发展态势研究 高苏凡;高振轩; 1-4+9     突破与融合:当代新主流电 ...

  9. 点击下载!《阿里云SRE技术期刊》2021年5月刊发布啦!

    简介:<阿里云SRE技术期刊>2021年05月[电子版] <阿里云SRE技术期刊>2021年05月刊重磅发布啦,本期囊括了事件要闻.应用检测.新功能介绍.案例解析.最佳实践等众 ...

  10. 《大数据》2022年第1期目次摘要

    点击上方蓝字关注我们 <大数据> 第8卷第1期 2022年1月 大数据2022年第1期 (点击原文链接在官网阅读完整文章) 目次 01 专题导读:科学数据治理 陈刚 02 高能同步辐射光源 ...

最新文章

  1. 解决element 照片墙上传时回显问题
  2. 使用Java中的FileChannel和ByteBuffer在文件中读取/写入文件
  3. 日志分析代码实现(字符串切割)
  4. python输出para关键词占比_使用python操作word
  5. 计算机网络知识学习(核心:网络协议)-- 运输层
  6. mysql可视化界面创建表_使用可视化界面创建表
  7. 数据预处理Part8——数据共线性
  8. 优秀html5网页设计,五个国外优秀的HTML5酷站欣赏|H5开发第二课
  9. 中国IT排名百强公司 .
  10. 武威市教师职称计算机考试,关于高级教师职称评定述职报告(精选5篇)
  11. fast路由器pppoe连接服务器无响应,迅捷路由器系统日志如何排除PPPOE拨号故障
  12. 微分中值定理之柯西中值定理
  13. 论“女生不适合当程序员”
  14. OpenFlow:Enabling Innovation in Campus Networks 译文
  15. 一菜鸟写的家庭理财软件的一些需求
  16. 小型企业无线网络配置
  17. Flutter传感器
  18. 交易猫转转闲鱼源码搭建
  19. Sifid and Strange Subsequences
  20. Crackme006 - 全新160个CrackMe深度解析系列(图文+视频+注册机源码)

热门文章

  1. 中央处理器的体系结构
  2. 信息传播的引爆点-《引爆点》阅读笔记
  3. 聚焦CIT2019中国影音集成会展 PANEL AUDIO私人定制隐形音响惊艳四座
  4. 九州云入选创业邦2019企业数字化/智能化创新榜单
  5. @NotNull,@NotEmpty,@NotBlank
  6. 百度飞桨第3课|深度学习模型训练和关键参数调优详解
  7. “老黄”谈数据实时展示系统项目感悟
  8. html照片墙实验报告,HTML5开发项目实战:照片墙
  9. AndroidStudio找回本地历史记录修改代码
  10. 程序员编码时都戴耳机,到底在听什么?