边缘计算是什么， 处理器、算法和存储器的介绍
什么是边缘计算
最近，边缘计算成为了人工智能和物联网领域非常热门的关键词。
人们对于人工智能和物联网的最初设想是，在云端有一个异常强大的数据中心，而物联网各个节点负责采集数据交给云端，云端在根据数据分析并做决策后再把结果发还给终端。在这种模型中，云端负责智能计算，而终端节点负责数据采集以及决策执行。
然而，这样的设想在实际实现中遇到了不少困难。第一个困难来源于数据传输的开销。物联网节点通常都使用无线网络与云端做数据传输，而如果物联网节点把不加任何处理的原始数据一股脑全部传到云端，会导致带宽需求爆炸，网络基础架构没法支撑如此高的带宽。开销的另一部分是无线传输的功耗，如果把数据不加任何处理就传输到云端，那么终端节点的无线传输模块必须支持高速无线传输，这就意味着无线模块需要很大的功耗，与物联网节点低功耗的设想不符。第二个困难在于延迟。许多节点执行的任务对于延迟非常敏感，例如无人驾驶，例如安防，在这些应用中网络传输带来的延迟（几十毫秒以上，有时候网络信号不好会带来数秒的延迟甚至掉线）无法被接受。
考虑到这些问题，边缘计算就成为了解决方案。在边缘计算中，终端节点不再是完全不负责计算，而是做一定量的计算和数据处理，之后把处理过的数据再传递到云端。这样一来延迟和带宽的问题可以解决，因为计算在本地，而且处理过的数据一定是从原始数据中进行过精炼的数据所以数据量会小很多。当然，具体要在边缘做多少计算也取决于计算功耗和无线传输功耗的折衷——终端计算越多，计算功耗越大，无线传输功耗通常就可以更小，对于不同的系统存在不同的最优值。
对于边缘计算系统，处理器、算法和存储器是整个系统中最关键的三个要素。下面我们仔细分析这几个元素。
用于边缘计算的处理器：要多通用？是否要上专用加速器？
常规物联网终端节点的处理器是一块简单的MCU，以控制目的为主，运算能力相对较弱。如果要在终端节点加边缘计算能力，有两种做法，第一是把这块MCU做强，例如使用新的指令集增加对矢量计算的支持，使用多核做类似SIMD的架构等等；第二种是走异构计算的思路，MCU还是保持简单的控制目的，计算部分则交给专门的加速器IP来完成，目前正火的AI芯片其实大部分做的就是这样的一个专用人工智能算法加速器IP。显然，前一种思路做出来通用性好，而第二种思路则是计算效率高。未来预期两种思路会并行存在，平台型的产品会使用第一种通用化思路，而针对某种大规模应用做的定制化产品则会走专用加速器IP的思路。然而，IoT终端的专用加速器IP设计会和其他领域（如手机）的专用加速器设计有所不同，因为有内存的限制（见下面分析）。
算法与内存
众所周知，目前最主流的深度神经网络模型大小通常在几MB甚至几百MB，这就给在物联网节点端的部署带来了挑战。物联网节点端处于成本和体积的考量不能加DRAM，一般用FLASH（同时用于存储操作系统等）作为系统存储器。我们可以考虑用FLASH来存储模型权重信息，但是缓存必须在处理器芯片上完成，因为FLASH的写入速度比较慢。由于缓存大小一般都是在几百KB到1MB数量级，这就限制了模型的大小，因此算法必须能把模型做到很小，这也是为什么最近“模型压缩”这个话题会这么火的原因。
如果算法无法把模型做到很小，就需要考虑内存内计算。内存内计算（in-memorycomputing）是一种与传统冯诺伊曼架构不同的计算方式。冯诺伊曼架构的做法是把处理器计算单元和存储器分开，需要时处理器从存储器读数据，之后在处理器处理完了数据之后再写回存储器。因此传统使用冯诺伊曼架构的专用加速器大部分也需要配合DRAM内存使用，使得这样的方案在没法加DRAM的物联网节点端难以部署。内存内计算则是直接在内存内做计算而无需把数据取到处理器里，这样就节省了内存存取的额外开销。一块内存内计算的加速器的主体就是一块大SRAM或者Flash，然后在内存上再加一些计算电路，从而直接在内存内做计算，理想情况下就能在没有DRAM的情况下跑起来相关算法。
当然内存内计算也有自己的挑战。出了编程模型需要仔细考虑之外，内存内计算目前的实现方案本质上都是做模拟计算，因此计算精度有限，FP32之类的高精度肯定是不可能了。这就需要人工智能模型和算法做相应配合，对于低精度计算（即量化计算，quantizedcomputation）有很好的支持，避免在低精度计算下损失太多正确率。目前已经有不少binaryneuralnetwork（BNN）出现，即计算的时候只有1位精度0或者1，并且仍然能保持合理的分类准确率。
另一方面，目前IoT节点终端内存不够的问题除了可以用模型压缩来解决之外，另一条路就是使用新存储器解决方案来实现高密度片上内存，或者加速片外非易失性存储器的读写速度，并降低读写功耗。因此，边缘计算也将会催生新内存器件，例如MRAM，ReRAM等等。
总结
边缘计算是人工智能和物联网结合的产物，是未来的重要趋势。未来边缘计算的关键技术，包括新处理器（强通用处理器或专用加速器），内存内计算，网络模型压缩，以及新存储器。喜欢新技术的朋友们不妨多多关注这些领域，预计会出现不少有趣的公司和技术。
人工智能、大数据、云计算和物联网的未来发展值得重视，均为前沿产业，多智时代专注于人工智能和大数据的入门和科谱，在此为你推荐几篇优质好文：
什么是云计算，最通俗易懂的解释
http://www.duozhishidai.com/article-15875-1.html
什么是云计算技术，对云计算技术的产生、概念、原理、应用和前景又在哪里？
http://www.duozhishidai.com/article-527-1.html
企业为何采用云计算？主要用途是什么？
http://www.duozhishidai.com/article-14574-1.html
多智时代-人工智能和大数据学习入门网站|人工智能、大数据、物联网、云计算的学习交流网站
边缘计算是什么， 处理器、算法和存储器的介绍相关推荐
- 基于实时计算Flink的机器学习算法平台及场景介绍
作者:高旸(吾与),阿里巴巴高级技术专家 1. 前言 随着互联网"人口红利"的"消耗殆尽",基于"T+1"或者离线计算的机器学习平台及推荐系 ...
- 边缘计算对于工业物联网的重要性
来源:物联网世界 随着物联网的发展,工业制造设备所产生的数据量将越来越多.如果这些数据都要放到云端处理,就需要无穷无尽的频谱资源.传输带宽和数据处理能力,"云"难免不堪重负,此时就 ...
- 谷歌Edge TPU：将机器学习引入边缘，撬动边缘计算/IOT大“地球”
近期,谷歌在Cloud Next会议上推出其最新产品,Edge TPU芯片和Cloud IOT Edge软件,并将于10月推出Edge TPU开发套件.作为Cloud TPU的补充,目前Edge TP ...
- HaiBox-E边缘计算盒子怎么样，关于HaiBox-E边缘计算盒子的评析
关于关于HaiBox-E边缘计算盒子的评析 现如今大数据.人工智能.5G.物联网等前沿技术的快速发展,使得大量的数据充斥着我们的生产生活,而边缘计算则成为了这场网络数据技术战的主力担当.边缘计算盒子作 ...
- 华为KubeEdge在边缘计算的实践
华为KubeEdge在边缘计算的实践 摘要 1 介绍 2 相关工作 3 架构和设计 3.1 KubeBus 3.1.1 Edge Node VPN 3.1.2 将边缘节点VPN与容器网络连接 3.1. ...
- 活动推荐丨当云计算遇到边缘计算
推荐一个边缘计算活动, 计算机学会主办!施巍松教授主讲! 7位重量级学术科研专家, 时间在10月9号-11号(周三到周五)! 建议在北京的同学抓紧报名! 随着海量设备接入互联网,传统的云.物联网等计算 ...
- 面向边缘计算的视频监控系统架构方案
该方案采用 NVIDIA TX2 作为边缘设备端,执行数据的采集以及检测算法前向推理: PC 电脑作为边缘服务器,执行视频数据和检测算法参数文件的存储: 智星云服务器为云端,执行算法参数迭代更新并定时 ...
- 软硬一体的流媒体边缘计算设备在视频“云、边、端”解决方案中的重要作用
之前我写过一篇关于视频项目解决方案设计的"云.边.端"公式[视频项目的"云.边.端"公式],个人感觉这套公式还是非常有用的,系统性地解决了项目过程中对组件.产品 ...
- 2021丨边缘计算领域值得关注的新书
2021年只剩下几天了.一起来回顾一下,今年边缘计算领域出了几本什么样的书?边缘计算社区向您介绍我们从中国版本图书馆发现整理的2021年边缘计算领域出版物.出一本书周期普遍需要2年以上,出书不易,每一 ...
最新文章
- 一次使用Eclipse Memory Analyzer分析weblogic内存溢出
- 可能是全网把 ZooKeeper 概念讲的最清楚的一篇文章
- Android 屏幕录制GIF脚本
- Jerry Wang的自我介绍和linkedin，欢迎大家添加 - for 云加社区评审海报
- php 日期时间运算的小结(计算当前时间之后（之前）的时间)
- 解决H5的a标签的download属性下载service上的文件/图片出现跨域问题
- C语言的本质（7）——C语言运算符大全
- 熵编码之哈夫曼树(五)
- ERROR: function group_concat(character varying) does not exist
- windows下icns转png或ico
- 聚美上市后将往何方：服装特卖和100%透明的化妆品渠道
- 【组图】韩国美女明星蔡研－－－精彩写真
- “做真实的自己”是个坑
- 新浪开放平台：解决获取access_token抛 21323 异常，以及接口调用
- 7-5 打印选课学生名单(c++)
- 将EXCEL插入SOLIDWORKS工程图的方法简介
- Arduino结合ESP8266 Serial WIFI模块访问远程服务器
- Jmeter(三) - 从入门到上天 - 常用原件 （详解教程）
- HBuilder X这个开发工具我写完代码后，我让他在浏览器运行，就是不显示出来，大佬们求解答，内置配置浏览器是这样的。求解答拜托.
- 云计算项目经理前景_工人和施工项目经理有什么区别