历时一年,论文终于被国际顶会接收了
❤️点击上方,选择星标或置顶,每天给你送上干货❤️
作者 | godweiyang
出品 | 公众号:算法码上来(ID:GodNLP)
- BEGIN -
就在昨天,超算领域的国际顶会SC22放榜了,我们组的论文也被接收了,得分44332(4分制):
论文地址:
https://arxiv.org/abs/2110.05722
SC会议是什么?
可能很多同学都没听过SC是什么会议,SC会议全称“高性能计算、网络、存储和分析国际会议”(The International Conference for High Performance Computing, Networking, Storage, and Analysis),是高性能计算,体系结构领域顶级会议,CCF推荐A类会议。SC会议发表难度大,每年录用70篇左右的论文,录用率在25%左右。2022年投稿320篇,录用75篇(6篇修改中),录用率约为23%。SC22将于11月13-18日在美国达拉斯举行。
论文写的啥?
这次中的论文标题是:“LightSeq2: Accelerated Training for Transformer-based Models on GPUs”,这是LightSeq第二期训练引擎相关论文,深入讲解了LightSeq训练引擎中用到的算子融合、显存管理等相关技术。LightSeq支持Transformer、BERT、GPT、ViT等多种模型的训练加速,在机器翻译任务上最高可以加速3倍。详细的技术原理介绍可以看下面的文章:
支持Transformer全流程训练加速,最高加速3倍!字节跳动LightSeq上新
投稿过程是怎么样的?
去年6月的时候,这篇论文的初稿就已经成型了。当时投了下半年的PPoPP国际顶会,但是评分很低,几乎都是拒绝。总结原因,一是因为这个会议和论文方向不是特别合得来,这个会议更注重分布式并行方向的成果;二是论文是按照NLP领域写作习惯来写的,写的也确实糟糕,所以被认为没有什么创新。
被拒之后请了UCSB的几位老师和学生进行了专业的修改,重新组织了论文的结构。相同的技术用更高级的话术来表达后,论文顿时高大上了起来。SC22的投稿过程非常漫长,从3月份一直持续到了6月份才出结果。而最终的终稿要一直持续到8月份,会议更是在11月才开启,整个过程持续了大半年。
还能公费旅游不?
疫情原因,达拉斯现场是没办法去了,UCSB的几位老师同学可以帮忙去现场观摩观摩。还记得两年前的ACL20也是错过了去西雅图公费旅游的机会,今年又错过了达拉斯。会议可以错过,但愿人不要吧。
我们组是做啥的?
我们组是字节跳动火山翻译团队,那自然就是做机器翻译的啦。而我呢是做模型优化方向的,LightSeq就是我们的主要项目:
https://github.com/bytedance/lightseq
之前也写过一篇我们组的详细介绍:
来字节快两年了,回答一些你们感兴趣的问题
怎么进字节?
内推链接(或点击阅读原文):
https://job.toutiao.com/s/YB9MUpS
也强烈建议加我微信(godweiyang)沟通交流,岗位信息、内推进度等等都可以问我。
- END -
我是godweiyang,字节跳动算法工程师,末流985计算机本硕均专业第一。秋招斩获三家大厂SSP offer,擅长算法、机器翻译和模型加速。
回复【书籍】
获取精心整理的1G计算机各方向书籍,我大学自用的。
回复【算法】
获取我面试时写过的100多道算法题解,刷完进大厂没问题。
回复【CUDA】
获取我为新手准备的CUDA入门系列教程。
回复【内推】
内推字节,通过率高,加我微信可随时查催进度、咨询问题。
回复【加群】
进我的技术交流(聊天)群和内推群,群内有字节HR答疑。
求求兄弟们点个在看吧,今天的阅读量靠你们了
李根 发自 凹非寺 量子位 报道 | 公众号 QbitAI 黄沙吹尽始到金! 两位博士学成于中科院计算所的科学家,一篇区块链技术的硬核论文,创造了中国区块链的新历史,也把全球区块链技术往前推进一大步 ... 来源: AINLPer 微信公众号(每日论文干货分享!!) 编辑: ShuYini 校稿: ShuYini 时间: 2022-09-27 引言 之前整理 历年NeurIPS的论文集给大家分享 ,很多小 ... 近日,清华大学人工智能研究院知识智能研究中心.北京智谱华章科技有限公司联合发布了<2020 年人工智能几个重点领域顶级国际学术会议分析报告>(以下简称<报告>).依托于科技情报 ... 近日,人工智能国际顶会ICML 2020公布了论文收录结果,阿里巴巴7篇论文入选,是入选论文数量最多的中国科技公司.ICML是机器学习领域全球最具影响力的学术会议之一,今年接受率仅为21.8%. 根据 ... *本文转载自微信公众号"机器之心(ID:almosthuman2014),原文<破世界纪录的国产数据库OceanBase,如今入选了国际顶会VLDB 2022>" 近年 ... 来源:墨玫人工智能 编译:AI 科技评论组 编辑:陈彩娴 深度学习三巨头之一的Yoshua Bengio也点头称赞. 5月下旬,国际顶刊<美国国家科学院院刊>(PNAS)发表了一篇其于去年 ... 想增加我们的学识么?想让我们的论文更加重量级么?想了解大牛们的研究成果么?我们到国际顶刊看看吧. 我们在查找文献时,都想找质量高的文章进行阅读学习,一篇好的文章的价值会给我们带来许多知识和启发,让我们 ... 如何拥有更精准的手机导航体验?现在人们越来越习惯在出门的时候用手机导航路线.体验比起前些年更快更准,除了手机硬件性能的提升以外,一整套技术方案起到了关键作用,而其中定位又是最基本的基础技术.这也是高德 ... 自2017年首次举办以来,腾讯广告算法大赛至今已成功举办四届赛事.随着赛事的逐年升级,腾讯广告算法大赛在算法圈的影响力也在逐步提升,如今已逐渐成为算法圈最受瞩目的算法大赛之一. 作为一项产研融合的算法 ...历时一年,论文终于被国际顶会接收了相关推荐
最新文章
热门文章