做物联网大数据和物联网的区别是不是没有实际的产品?

在物联网时代,数量庞大的“物”会产生PB级的海量数据,传统的数据处理服务的处理速度已无法跟上数据产生的速度。如果没法及时分析与利用这庞大的物联网设备数据,就无法将数据的价值最大化,大数据分析能力的建设对物联网企业来说又成为了一个新的挑战。针对这种情况,大数据处理服务应运而生。服务提供商提供大数据处理平台,为企业消除了大数据处理的效率问题和可靠性问题,让企业能够专注于物联网数据的分析与利用。

物联网大数据根据数据类型的不同,分析方式也不同。

有些数据的实时性很强,如果没有及时分析处理就会失去价值,甚至可能造成损失,我们称之为实时数据。典型的实时数据包括设备位置信息、设备实时状态等,应用于实时监控、实时告警等场景,例如,车辆实时上报位置数据,实时分析后呈现到交通监控中心的大屏上,交通专家根据实时数据下达各种交通控制决策,如红绿灯时间调整等。为了实现高实时性,我们可以采用实时流分析方案,从物联网平台对外的数据通道中实时提取流动数据,分析和处理之后再输出至数据通道继续流转,保证呈现的数据永远是最“新鲜”的。

有些数据实时性没那么强,但是和时间顺序强相关,分析后的数据需要分类后按时序储存,并提供按时序浏览、查询数据的能力,我们称之为时序数据。典型的时序数据包括设备移动轨迹、股票价格曲线等,应用于行为分析、趋势预测等场景,例如,基于物联网的公路监控系统保存了近期所有车辆的行驶轨迹,警方可随时从中提取指定嫌疑人车辆的形式的轨迹,推测出嫌疑人的目的地,从而进行包抄逮捕。时序数据的分析一般依赖于时序数据库,数据保存至时序数据库进行分类与排序,再由其他应用或服务从数据库中获取进行进一步处理。

还有一些数据,对于实时性和有序性的要求都没那么强,分析时数据已经固化,我们称之为离线数据。典型的离线数据包括产品销量数据、景点游客数据等,应用于统计分析,总结盘点等场景,例如,物联网平台将自动售货机上报的销售数据汇总后保存,然后定期使用大数据分析平台分析销售数据,以报表形式呈现给厂家,协助厂家进行销售策略的调整。离线分析的挑战主要在于庞大的数据量,一般会采用分布式处理的方案来提升海量数据分析的效率。

在本文中,我们将为您重点介绍实时分析和离线分析两种方案,时序分析方案我们下次再分享(具有物联网时序分析能力的华为云数据分析服务后续也将上线,敬请期待)。

首先,让我们了解一下这个方案使用的服务。

  • :设备接入是华为OceanConnect物联网平台对海量设备进行联接、数据采集/转发、远程控制的云服务。可实现海量设备与云端之间双向通信连接、设备数据采集上云,支持上层应用通过调用API远程控制设备,还提供了与华为云其他云服务无缝对接的规则引擎,可应用于各种物联网场景。设备接入服务还可以搭配使用,可实现产品模型定义、设备生命周期可视化管理,提供强大的面向行业应用开放能力,帮助企业快速构建创新的物联网业务。

  • Service)为处理或分析流数据的自定义应用程序构建数据流管道,主要解决云服务外的数据实时传输到云服务内的问题。数据接入服务每小时可从数十万种数据源(如IoT数据采集、日志和定位追踪事件、网站点击流、社交媒体源等)中连续捕获、传送和存储数TB数据。

  • (CS):实时流计算服务(Cloud Stream Service),是运行在公有云上的实时流式大数据分析服务,全托管的方式用户无需感知计算集群,只需聚焦于Stream SQL业务,即时执行作业。

  • Service,OBS)是一个基于对象的海量存储服务,为客户提供海量、安全、高可靠、低成本的数据存储能力,包括:创建、修改、删除桶,上传、下载、删除对象等。其中对象是OBS中数据存储的基本单位,用户上传至OBS的数据都以对象的形式保存在桶中,而桶是是OBS中存储对象的容器。

  • (DWS):数据仓库服务(Data Warehouse Service)是一种基于公有云基础架构和平台的在线数据处理数据库,提供即开即用、可扩展且完全托管的分析型数据库服务。DWS是基于华为融合数据仓库GaussDB产品的云原生服务,兼容标准ANSI SQL 99和SQL 2003,同时兼容PostgreSQL/Oracle数据库生态,为各行业PB级海量大数据分析提供有竞争力的解决方案。

  • (DLV):数据可视化服务(Data Lake Visualization)是一站式数据可视化平台,适配云上云下多种数据源,提供丰富多样的2D、3D可视化组件,采用拖拽式自由布局,旨在帮助您快速定制和应用属于您自己的数据大屏。

该方案的数据流向如下:

  1. 物联网平台将设备上报的数据通过规则引擎功能转发至数据接入服务(DIS)。

  2. 实时流计算服务(CS)从DIS的通道中获取实时数据,通过SQL语句分析并处理后,再写入另一个DIS通道。

  3. DIS以对象存储服务(OBS)为中介将分析结果转储至数据仓库服务(DWS)。

  4. 数据可视化服务(DLV)读取分析结果呈现为可视化报表。

实现该方案,您需要进行以下操作:

  1. 在DWS中创建一个集群并完成基本配置。

  2. 创建两条DIS通道,我们分别称之为输入通道和输出通道,然后为输出通道创建一个转储任务,将数据转储至DWS的集群。转储时会使用OBS桶临时存储转储数据,若没有OBS桶请创建一个。

  3. 在设备接入服务中创建一条规则,将设备上报数据转发至DIS的输入通道。

  4. 在CS中创建一个作业,实现从DIS输入通道中获取数据,分析处理后输出至DIS输出通道的功能。

  5. 在DLV中创建数据连接从DWS中获取数据,再创建数据大屏将数据可视化展示。

  6. 将上报数据的设备接入物联网平台(设备接入服务),并控制其上报数据。

详细操作指导请参考各个服务的帮助文档,本文不再赘述。

首先,让我们了解一下这个方案使用的服务,前面已经介绍过的服务此处不再重复介绍。

:MapReduce服务(MRS)是一个在华为云上部署和管理Hadoop系统的服务,一键即可部署Hadoop集群。MRS提供租户完全可控的企业级大数据集群云服务,轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件,并具备在后续根据业务需要进行定制开发的能力。

该方案的数据流向如下:

  1. 物联网平台将设备上报的数据通过规则引擎功能转发至数据接入服务(DIS)。

  2. DIS使用对象存储服务(OBS)作为中介,再将数据转储至MapReduce服务(MRS)。

  3. MRS从OBS获取用户定制的分析程序包,运行程序分析数据,并保存分析结果(可写入持久化数据库或写成文件)。

  4. 数据可视化服务(DLV)读取分析结果呈现为可视化报表。

实现该方案,您需要进行以下操作:

  1. 在MRS中创建一个Hadoop分析集群。

  2. 参考MRS的开发指南开发一个大数据分析程序,实现读取JSON格式的数据分析并处理,然后写入本地数据库或者写成文件存到OBS。程序开发完成后需打包成JAR文件并上传至OBS桶,若您没有OBS桶请创建一个。

  3. 创建一条DIS通道,然后为该通道创建一个转储任务,将数据转储至MRS的集群。

  4. 在设备接入服务中创建一条规则,将设备上报数据转发至DIS的通道。

  5. 将上报数据的设备接入物联网平台(设备接入服务),并控制其上报数据。

  6. 在MRS中创建一个作业,执行OBS桶中的大数据分析程序。

  7. 在DLV中创建数据连接从MRS数据库或OBS中读取数据,再创建数据大屏将数据可视化展示。

详细操作指导请参考各个服务的帮助文档,本文不再赘述,但针对这个方案中的其中一种场景,我们提供了包含详细操作步骤和代码样例的物联网微认证,若您感兴趣,可购买微认证快速体验物联网大数据分析流程。

关于华为物联网可参加学习免费课程视>>>>>或联系华为IoT小助手(微信号:huawei-iot)获取更多课程。

}

随着工业物联网的不断发展,通过大数据、边缘计算和云计算,平台在工业相关的数据汇聚、建模分析、应用开发、资源调度、监测管理等方面提供强有力的支撑。越来越多的企业不断拥抱工业物联网,像徐工、三一重工这类垂直企业从重工机械端入手,智能制造则为海尔美的的发力点,还有一些创新企业从更细小的行业分支领域切入到工业物联网,像一些锅炉、缝纫机的。

我们在走访的过程中,了解到一家做工业物联网以及大数据分析平台的企业——北京中能远景CloudLinx,他们从最初做风电集控中心到现在提供以平台为基础而衍生出新能源集控、智能运维中心、智慧工厂和智能制造、智慧城市等多行业解决方案。不久前,中能远景已承担广东省海上风电大数据中心平台的开工建设,帮助建立为全国首列省级海上风电大数据中心。

Q:首先请您简单介绍一下中能远景的创立背景是怎样的?

洪小林:我们的团队成员最早是从2010年开始,主要从事的是新能源风电这个行业,基于生产这一块。我们创始团队人员最早都是做风电集控中心,加上做电力的生产管理系统,两个团队融合在一起了。我们发现风电行业,它一般先上集控系统到了一段时间,私有云会积累一些数据,因为电力行业涉及到电网安全要求非常严格,所以我们又上了一套生产管理系统,生产管理系统是基于现场的维修,属于生产层面的一个系统,时间久了,每个发电公司它都有一个私有云或者一个机房就自然存了大量数据,截止到2018年,很多这种发电设备的制造厂商,它都有了自己的数据公司,尤其是存了大量的风机实时运营数据,但是这个数据只能做一些做简单分析,比如一些事故分析,或者全年的生产统计要这方面的数据,就是我们认为很简单的一种关系型的统计。但是现在这个阶段,我们基于算法、AI及大数据做了第三块业务,就是基于设备本身故障做预防性检修,或者说是全生命周期管理,就是基于数据算法,对未来设备可能存在的一些风险和故障进行预判。预判就和现在说的大数据应用的一个核心目标匹配上了。

我们认为从工业角度来说,针对数据达到未卜先知,让人无限的接近于上帝,这就是工业互联网的核心。所以我们现在将这三个业务板块整合在一起,基于电力行业从前端的集中监控中心,从设备的数据的采集传输,包括存储,数据展现,都有一个专用的平台,其次我们还有一个自己的生产管理平台,基于它的这种业务,我们可以做一些基于的人,财物管理和分析。我们了解到很多行业也需要整体来直观的去判断,所以我们就把现在做的东西复制到了很多行业,中能远景的基本情况就是这样。

Q:相较于市场同类公司,您认为贵公司的核心竞争力是什么?

洪小林:我们的核心主要是两点,第一就是我们算法研发,是有一定价值的;第二就是我们工业互联网开发平台+行业应用,这是我们现在的核心价值。比如说,如果说我们在做一个军工企业或者发电企业,其实我们能直接给客户带来很多平台和数据分析价值,我们之前给一些大公司做项目可以都带过来很多价值的东西。

Q:工业互联网经过这几年的发展,终于迎来了风口期,您是怎样看待整个工业物联网的发展?贵公司如何定位自己?

洪小林:从工业互联网的概念提出其实没有几年,但是工业互联网只是一个新概念,其本质上的很多技术和应用在多年前就存在,只是我们在工业行业内加入了新的应用模式,形成了新的企业创新点。

从我们公司定位来说,我们的产品是工业互联网开发平台,将一些目前创新的技术,比如基于消息的实时推送、大数据分析算法、人工自学习等加入了我们的CloudLinx创新平台之中,在为企业搭建各自的工业互联网平台时,提供一个快速高效的途径。

从大数据平台这个角度来说,我现在期盼的未来是集成商能够突围,在海量数据基础之上能够做出一些非常落地的算法,能够给客户的这种日常的检修或者维护提供一些价值,这样公司未来可能才会有它自己的生存空间。

Q:请您分享一下中能远景的近远期规划。

洪小林:现在我们刚刚中标了国内第一个海上风电大数据中心项目,也是比较有代表性。未来可能说海上这一块运维、检修、基本监控,到底是怎么来做?可能这个项目示范意义非常强,如果这个项目落地以后,未来海上风电蓬勃发展的时候,是非常有代表性,我觉得反而是比较现实的、比较好的一些落地的东西,跟鼓吹平台,接入的公司一定要好太多。我们现在就拿代表性项目,比如说我在这个行业一个第一家做到什么样,所以我在某个行业第一家做了某个平台,而且这个平台领先于目前来讲至少是所有这个行业所有家的管理模式,大家就有一个代表性,如果他落地以后,可能后来学习,比如说热力的,他都会来学,反而会更有市场。

Q:目前你们海上风电这个项目进展如何?

洪小林:目前广东省海上风电大数据中心项目,大数据平台和核心应用功能已经完成开发和部署,正在接入风机、升压站、海洋、气象等各种数据。未来会形成“一平台、两服务”的对外服务模式,“一平台”通过大数据平台采集存储、处理、计算各种大数据,“APP应用服务”实现对外的应用发布、应用服务,比如大家关注的海上基建及运维窗口期智能调度、海上风机设备故障预警等高价值应用,这些应用可以由第三方提供。“数据服务”可以提供对外的数据接口,通过安全和权限控制,实现真正的海上风电大数据的共享。

}

我要回帖

更多关于 大数据和物联网的区别 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信