大数据贵在应用。当前,在国家层面,国务院出台《促进大数据发展行动纲要》;在地方层面,大数据被作为区域发展战略引擎;在企业层面,各类大数据概念公司方兴未艾、蓬勃发展。我们独关注大数据应用,关注数据从哪里来、数据怎么用、成果谁买单,也就是数据来源、产品化和价值创造三个关键点。一个好的大数据应用,从技术上可能很复杂,但从业务模式上应当简单、直白、管用。我们还关注,是否存在若干"数据密集型"行业或领域,大数据应用在这些领域可能更容易开展。在产业政策方面,我们关注作为新兴业态的大数据,过去屡试不爽的做法,如给地、给钱、给项目等,是否还会继续有效?

对大数据以及人工智能概念都是模糊不清的,该按照什么线路去学习,学完往哪方面发展,想深入了解,想学习的同学欢迎加入大数据学习qq群:458345782,有大量干货(零基础以及进阶的经典实战)分享给大家,并且有清华大学毕业的资深大数据讲师给大家免费授课,给大家分享目前国内最完整的大数据高端实战实用学习流程体系 。从java和linux入手,其后逐步的深入到HADOOP-hive-oozie-web-flume-python-hbase-kafka-scala-SPARK等相关知识一一分享!

大数据应用的三个关键点

国务院《促进大数据发展行动纲要》(简称《大数据纲要》)将大数据定位为"新一代信息技术和服务业态",赋予大数据"推动经济转型发展""重塑国家竞争优势""提升政府治理能力"的战略功能,并将数据界定为"国家基础性战略资源"。在应用方面,《大数据纲要》在公共领域提出许多发展方向,如宏观调控科学化、政府治理精准化、商事服务便捷化、安全保障高效化、民生服务普惠化;在产业层面,主要按行业领域划分为工业大数据、新兴产业大数据、农业农村大数据、万众创新大数据,以及大数据产品体系和大数据产业链。这些方向,只是大数据应用的潜力和空间,能不能应用起来,能不能发挥作用,还得看有没有可行模式和实际效果。无论是在公共领域还是在产业层面,大数据应用都离不开数据来源、处理技术和方法、创造价值的模式,这是我们关注的重点。概括来说,需要回答下面三个看似简单、却是关键的问题。

(一)数据从哪里来

关于数据来源,普遍认为互联网及物联网是产生并承载大数据的基地。互联网公司是天生的大数据公司,在搜索、社交、媒体、交易等各自核心业务领域,积累并持续产生海量数据。物联网设备每时每刻都在采集数据,设备数量和数据量都与日俱增。这两类数据资源作为大数据金矿,正在不断产生各类应用。国外关于大数据的成功经验介绍,大多是这类数据资源应用的经典案例。还有一些企业,在业务中也积累了许多数据,如房地产交易、大宗商品价格、特定群体消费信息等。从严格意义上讲,这些数据资源还算不上大数据,但对商业应用而言,却是最易获得和比较容易加工处理的数据资源,也是当前在国内比较常见的应用资源。

在国内还有一类是政府部门掌握的数据资源,普遍认为质量好、价值高,但开放程度低。《大数据纲要》把公共数据互联开放共享作为努力方向,认为大数据技术可以实现这个目标。实际上,长期以来政府部门间信息数据相互封闭割裂,是治理问题而不是技术问题。面向社会的公共数据开放愿望十分美好,恐怕一段时间内可望不可及。在数据资源方面,国内"小数据""中数据"应用并不充分,试图一步跨入大数据时代,借机一并解决前期信息化过程中没能解决的问题,前景并不乐观。另外,由于中国互联网公司业务主要在国内,其大数据资源也不是全球性的。

数据从哪里来是我们评价大数据应用的第一个关注点。一是要看这个应用是否真有数据支撑,数据资源是否可持续,来源渠道是否可控,数据安全和隐私保护方面是否有隐患。二是要看这个应用的数据资源质量如何,是"富矿"还是"贫矿",能否保障这个应用的实效。对于来自自身业务的数据资源,具有较好的可控性,数据质量一般也有保证,但数据覆盖范围可能有限,需要借助其他资源渠道。对于从互联网抓取的数据,技术能力是关键,既要有能力获得足够大的量,又要有能力筛选出有用的内容。对于从第三方获取的数据,需要特别关注数据交易的稳定性。数据从哪里来是分析大数据应用的起点,如果一个应用没有可靠的数据来源,再好、再高超的数据分析技术都是无本之木。

(二)数据怎么用

数据怎么用是我们评价大数据应用的第二个关注点。大数据只是一种手段,并不能无所不包、无所不用。我们关注大数据能做什么、不能做什么,现在看来,大数据主要有以下几种较为常用的功能。

追踪。互联网和物联网无时无刻都在记录,大数据可以追踪、追溯任何一个记录,形成真实的历史轨迹。追踪是许多大数据应用的起点,包括消费者购买行为、购买偏好、支付手段、搜索和浏览历史、位置信息,等等。

识别。在对各种因素全面追踪的基础上,通过定位、比对、筛选,可以实现精准识别,尤其是对语音、图像、视频进行识别,使可分析内容大大丰富,得到的结果更为精准。

画像。通过对同一主体不同数据源的追踪、识别、匹配,形成更立体的刻画和更全面的认识。对消费者画像,可以精准推送广告和产品;对企业画像,可以准确判断信用及风险。

提示。在历史轨迹、识别和画像基础上,对未来趋势及重复出现的可能性进行预测,当某些指标出现预期变化或超预期变化时给予提示、预警。以前也有基于统计的预测,大数据大大丰富了预测手段,对建立风险控制模型有深刻意义。

匹配。在海量信息中精准追踪和识别,利用相关性、接近性等进行筛选比对,更有效率地实现产品搭售和供需匹配。大数据匹配功能是互联网约车、租房、金融等共享经济新商业模式的基础。

优化。按距离最短、成本最低等给定的原则,通过各种算法对路径、资源等进行优化配置。对企业而言,提高服务水平、提升内部效率;对公共部门而言,节约公共资源、提升公共服务能力。

当前许多貌似复杂的应用,大都可以细分成以上几种类型。例如,贵州推行的"大数据精准扶贫项目",从大数据应用角度,通过识别、画像,可以对贫困户实现精准筛选和界定,找准扶贫对象;通过追踪、提示,可以对扶贫资金、扶贫行为和扶贫效果进行监控和评估;通过配对、优化,可以更好地发挥扶贫资源的作用。这些功能也并不都是大数据所特有的,只是大数据远远超出以前的技术,可以做得更强大、更精准、更快、更好。

(三)成果谁买单

成果谁买单是我们评价大数据应用的第三个也是最后一个关注点。道理很简单,不创造价值的应用不是好应用。我们关注大数据的应用是否实实在在地提升了能力、改善了绩效。如果大数据用于自身的产品设计、营销推广、资源配置,那就看企业竞争力是不是提升了,看企业最终是不是比以前更赚钱了。如果大数据用于为第三方提供服务,那就看是不是有人愿意付费、愿意持续付费。但如果是用于公共领域,还要看政府或公共部门的付费值不值,不仅仅是从出资方的视角看值不值,还要从老百姓的视角看值不值。

当我们面对一项大数据应用时,只要简单问一问上面三个问题--数据从哪里来、数据怎么用、成果谁买单,就能揭开许多"伪装"。当然,如果经得起上述"大数据三问",也并非一定算得上优秀,却也离优秀的大数据应用不远了。

寻找数据密集型领域

既然大数据被视为一种资源,那就要考虑资源分布的问题。一般而言,资源分布是极不均匀的,如水、矿产、耕地、能源等自然资源;人力资源和知识的分布更是不均。大数据是否也存在分布不均的问题?发展大数据产业是否真的能弯道超车?这些问题值得深入思考。

与可以探测的自然资源不同,数据资源分布难以定位和刻画。不过,可以用大数据人力资源分布状况来间接反映大数据应用在地区、行业间的差异,哪些行业、哪些地区大数据人力资源密集,这些行业和地区就可以看作是数据密集的。

我们对两家主流招聘网站"前程无忧"和"智联招聘"2014年下半年以来发布的招聘信息进行筛选,得到两家网站两年来共发布相关信息涉及企业22.7万家,职位100.7万个,数据量确实足够"大"。通过分地区、分行业进行汇总分析,结果显示大数据人力资源分布极不均匀,各地区、各行业差异极大。不过,确切来说,通过招聘网站反映的是人才需求情况,并不是严格意义上的人力资源存量分布情况,但这两者是紧密相关的。

从大数据相关岗位工作地来看,北京、广东、上海三地高度密集,遥遥领先于其他地区。三地相加,发布招聘信息企业数在两家网站占到52.35%和47.48%,职位数占到61.23%和56.74%。可以推测,大数据人力资源的半壁江山都集中在这三个地方,这与我们平时的直观感受是高度一致的。在这三个地方之外,我们关心是不是地方政府重视大数据产业、将大数据作为区域经济发展引擎,就可能促进人力资源集聚,就可能超越与自己相似经济发展水平的其他地区。从数据反映情况看,至少目前还看不到这样的结果,这揭示出人力资源结构是后发地区发展大数据产业最需要弥补的短板和最难克服的困难。改变一个地方人力资源构成的难度要远远大于改变地面建筑面貌,要么需要一个长期的过程,要么需要一个独特的制度。

即便在同一省份内,大数据人力资源分布也极为不均。例如在广东,单深圳一市就大体占到了全省的一半。再加上广州,竟然能够达到九成。其他地方,即使经济实力不俗,但与深圳、广州相比,在大数据人力资源方面相差甚远。这再次表明,大数据人力资源分布是极不均匀的。显然,大数据人力资源密集地区发展大数据产业的基础要优于人力资源贫瘠的地区。

从城市排名看,北上深广可以视作大数据人力资源需求密集的一线城市,杭州、南京、成都、武汉、西安等可以看作二线城市。大数据人力资源分布与城市经济实力、活力乃至房价水平都是大体一致的。

从行业分布看,对大数据人力资源的需求分布更不均匀,主要集中在互联网、信息技术及计算机相关行业。这充分说明了大数据是互联网或IT产业的一部分,是在原有基础上的新发展。这些行业是典型的"数据密集型"行业,是大数据产业发展的摇篮。

金融是另一个特别重要的"数据密集"领域。金融行业既是产生数据尤其是有价值数据的基地,又是数据分析服务的需求方和应用地。更为重要的是,金融行业具备充足的支付能力,将是大数据产业竞争的重要战场。许多大数据是通过在金融领域的应用辐射到了各个行业。

除此之外,电信、专业服务(如咨询、人力资源、财会)、教育培训、影视媒体、网络游戏等,相对而言也是当前数据较为密集的行业。

《大数据纲要》几乎面面俱到地对所有行业和领域都规划了大数据应用的广阔前景,但数据资源分布极为不均,在"数据密集"领域的大数据应用,取得市场成功的可能性较大。

大数据需要什么样的产业政策

大数据应用需要什么样的产业政策?从应用的角度来看,大数据并非一个全新的产业,而是与已有产业融合,对已有模式的改造、升级和替代。制约大数据发展的往往并不是大数据本身,而是大数据所应用的行业和领域原本存在的问题,如行业管制、行政垄断、要素不能自由流动,等等。因此,促进大数据发展,用给地、贴钱、上项目的方法,并不能解决根本问题。要从大数据应用领域角度,对不当的行业管理模式进行改革,对既有利益格局进行调整,使大数据应用具备必要的条件。即使在企业内部,大数据应用也不仅仅是个技术问题,而是涉及业务流程重组和管理模式变革,是对企业管理能力的一个考验。

金融、电信、教育、影视媒体等"数据密集型"行业,既是大数据应用潜力巨大的领域,也是迫切推进行业改革的重点领域。另一方面,大数据的应用也可以为行业改革提供技术支撑,能以更有效的技术路线实现行业发展目标。

大数据应用需要的产业政策其实就是市场经济下各个行业发展所应有的政策,如放开准入、公平竞争、减轻企业负担、消除企业所有制歧视、消除企业规模歧视,等等。只有在一个开放的产业环境中,大数据才能在这些产业得以有效运用。一个地方若要在金融、医疗、教育等领域大力推动大数据运用,最管用的政策就是对这些行业进行有力的改革。

大数据应用须解决三大关键点相关推荐

  1. 媒体应用大数据,先解决三大难题

    在大数据时代,互联网是骨骼,大数据则是血液.大数据的核心在于数据,具有海量.高频.在线.实时等特点,但是对于传统媒体来说,在运用大数据的过程中,存在着数据资源不足.数据平台欠缺和缺乏有竞争力的数据产品 ...

  2. 深圳大数据培训:大数据技术可以解决哪些问题?

    深圳大数据培训:大数据技术可以解决哪些问题? 去年,大数据专业成为很多高校爆款专业,比如复旦,中南等.为什么如此多的大学开设此专业?学习它之后能解决哪些问题?以后它会应用在哪些工作岗位上? 一. 为什 ...

  3. 大数据 就业 缺口_三年培养10万大数据人才,解决大数据人才缺口

    (原标题:三年培养10万大数据人才,解决大数据人才缺口) 未来三年为中国培养10万大数据人才,大数据人才优选计划缓解中国大数据人才缺口 为缓解中国大数据人才缺口,小牛学堂联合工信部人才交流中心,开展& ...

  4. 大数据存储问题的三大技术难题解析

    大数据 在IT行业是与云计算并驾齐驱的另一大热门话题."大数据"指的是那些数量巨大.难于收集.处理.分析的数据集,这就容易出现存储问题,本文介绍的容易出现的几大问题. " ...

  5. 一文解析交通大数据是如何解决拥堵问题的

    前言 现在的社会是一个高速发展的社会,科技发达,信息流通,人们之间的交流越来越密切,生活也越来越方便,大数据就是这个高科技时代的产物.随着中国经济的快速发展,汽车行业空前繁荣,私人小汽车拥有量迅速增加 ...

  6. 抖音的10个规则,AI大数据帮你解决

    很多人刚注册一个抖音账号,然后发了十几个作品,然后每天就盯着那个视频的播放量,他们每天都在看这个视频播放量增加了吗? 有时候看到前面的作品播放量多,然后突然后面的作品没什么播放量了,他们就会感觉到很受 ...

  7. 中安威士:大数据是否能解决挂满“汗水”的基层警务

    目前,随着互联网和云计算的发展,以大量信息和数据挖掘为特征的大数据时代已经到来,"智能警察"的建设步伐不断推进.基层公安机关和总警察如何适应这种不可阻挡的发展趋势,如何促进互联网与 ...

  8. 大数据2019年的三大趋势你看了吗?

    今年数据分析的优先事项发生了变化.增长因素和业务优先级不断变化.不要眨眼,否则您可能会错过领先的组织正在进行的现代化分析和数据仓库环境. 商业智能(BI)是由Dresner Advisory Serv ...

  9. 融合大数据能力,解决在存量时代下的力分之困

    上月,有微博爆料逻辑思维计划在2018年提交IPO申请,2019年底前创业板上市.虽然很快罗振宇方面就出面否认,但从近日阿里应用分发发布的2017年Q2应用行业报告显示,5家知识付费平台同比增长率均在 ...

最新文章

  1. flink中各种图的原理(还没搞完)
  2. “前”方有坑,绕道而行(一)-- H5 CSS
  3. docker mysql.sock,Docker mysql主从配置
  4. mac下svn常用命令
  5. 使用C#调用非托管DLL函数
  6. Android功能点(一)——判断网络是否真正连通
  7. 02. 最好使用C++转型操作符
  8. Linux字符设备驱动实现
  9. 简单使用jave获取上传视频时长--java后端
  10. DoIP协议设计思路浅析
  11. 调用大漠插件5.1423
  12. 「运维有小邓」三款性价比超高的AD域管理工具
  13. LeetCode 到最近的人的最大距离
  14. 麦吉尔学和ubc计算机专业,申请多伦多、UBC和麦吉尔三所大学建筑专业的作品集要求...
  15. AI智能语音电销机器人能高效取代繁杂的电话工作
  16. Google I/O 2021: 在重要时刻提供帮助
  17. 理]疏通中国历史脉络——“魏(三国)、晋(五胡十六国)、南北朝”篇
  18. LeetCode算法之蓄水池算法
  19. php鼠标移过图片放大代码,鼠标移上去,图片会自动原地放大CSS写法
  20. matlab卡方分布函数,MATLAB如何使用ncx2pdf函数计算非中心卡方分布的概率密度

热门文章

  1. Jenkins Docker 持续集成实践
  2. 美宝莲纽约签约陈瑜为新任全球模特代言人
  3. 【论文翻译】2020.8 清华大学AI课题组——大型中文短文本对话数据集(A Large-Scale Chinese Short-Text Conversation Dataset)
  4. Flex组态图、一次接线图软件
  5. 吴建国 安徽大学 计算机学院,研究生导师吴建国:安徽大学
  6. Unity开发webgl学习中文手册的笔记
  7. LRP与MRP的差异
  8. Facebook发帖的图片标准
  9. python显示图片透明度怎么调,如何使jpg图像半透明?
  10. 游戏SDK(二)框架设计