大数据导论(第2版)
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

1.1.1 大数据时代的技术基础

普适计算之父马克·韦泽说:“最高深的技术是那些令人无法察觉的技术,这些技术不停地把它们自己编织进日常生活,直到你无从发现为止。”20世纪末的IT技术的老四大件包括硬件、软件、通信和网络,已经在人们生活和社会中发挥着关键作用。现在人们又开始深度运用IT技术,新的四大件由大数据、云计算、移动商务和社交网络组成,正在主宰着人们的日常生活并驾驭着各个组织的运营。每个组织都努力从技术发展和应用的特征中把握前进方向并获取竞争优势。

1.技术发展范式

微视频

大数据时代

英国演化经济学家卡罗塔·佩雷斯绘制了技术-经济范式演化的4个阶段,如图1-3所示。一项技术的出现首先经历爆发阶段,而后是狂热阶段,再经过一番调整进入协同阶段,最后进入成熟阶段。狂热阶段和协同阶段之间会有狂热泡沫之后的调整期。在导入期有大量的金融资本投入关键产业和基础设施中,此时旧有的范式进行抗争并产生矛盾冲突。这种技术-经济范式在人类经过的几次技术革命中普遍适用。例如,互联网的出现就历经了这样的一个过程。

图1-3 技术-经济范式演化的4个阶段

从大型计算机的诞生、微机的产生、浏览器的出现,到网络时代和大数据时代的交叠与发展,阿里研究院依据国家统计局的数据划分出近几十年内技术发展的不同时期,反映出随着时间的推移和新技术的推出,数据被利用的程度逐步加大。图1-4说明了技术的扩散和蔓延。

图1-4 技术的扩散和蔓延

图1-4中每一个阶段都包括引入期、扩展期、控制期和集成期,两个相邻的阶段又有交叠,这加速了发展的进程。从图中可以看出,数据利用价值随着时代的进步逐步提高。大数据时代正走向高峰期。在此期间,各个组织会从形式各样的数据中提炼、洞见出有价值的内容,为决策者所用。

以云计算、大数据、移动互联网、物联网为代表的新一代信息技术正在改变社会的运行方式,数据价值的挖掘和利用成为组织利用大数据的主要目的。

2.物联网

物联网(Internet of Things,IoT)是指物物相连的互联网。这包含了两层意思:第一,物联网的核心和基础仍然是互联网,是在互联网基础上延伸和扩展的网络;第二,其用户端延伸和扩展到了任何物品与物品之间,进行信息交换和通信,也就是物物相关。

知识拓展

物联网应用

物联网通过智能感知、识别技术与普适计算等通信感知技术,广泛应用于网络的融合中。物联网是互联网的应用拓展,与其说物联网是网络,不如说物联网是业务和应用。因此,应用创新是物联网发展的核心,以用户体验为核心是物联网发展的灵魂。

利用局部网络或互联网等通信技术把传感器、控制器、机器、人员和物等通过新的方式联系在一起,形成人与物、物与物相连,实现信息化、远程管理控制和智能化的网络。

物联网是互联网的延伸,它包括互联网及互联网上所有的资源,兼容互联网所有的应用,但物联网中所有的元素(所有的设备、资源及通信等)都是个性化和私有化的。物联网通过先进成熟的科学技术手段,实现了物品所涉及的数据信息在互联网整体范围内的统筹联动,从而进一步强化并提升各个行业领域运行发展规范化及标准化的总体水准。

3.云计算

云计算是继互联网、计算机后信息时代的又一种新的变革。云计算(Cloud Computing)是分布式计算的一种,是指通过网络“云”将巨大的数据计算处理程序分解成无数个小程序,然后通过由多部服务器组成的系统来处理和分析这些小程序得到的结果并返回给用户。云计算服务被推出以来,经历了一个逐渐成熟的过程。虽然关于云计算的定义很多,但它的核心概念都是以互联网为中心,在网站上提供快速且安全的云计算服务与数据存储,让每一个使用互联网的人都可以使用网络上的庞大计算资源与数据中心。

云计算的发展为整合打通业务系统、聚合数据提供了技术支撑,政府、企业信息化建设模式从以业务应用为中心转变为以数据为中心。企业服务器的存储方式迅速转换为云端的存储方式。美国得克萨斯大学的研究表明,大数据技术可以有效改善企业的数据资源利用能力,提高从数据到信息的转化率,让企业的决策更为准确,从而提高整体运营效率。表1-1所示为在充分利用大数据后,预测的企业人均产出提高的百分比。

表1-1 利用大数据后企业人均产出提高百分比预测

云计算应用为大数据技术的发展提供了一定的数据处理平台和技术支持,大数据为云计算应用提供了数据环境;云计算平台为物联网的不断发展提供海量数据存储保障,同时物联网为云计算应用平台提供了无限的应用空间;物联网作为大数据的重要来源,将推动大数据技术的更广泛应用。大数据核心技术的发展也为物联网上产生的数据提供了强大的分析能力。因此,从整体来看,物联网、大数据和云计算这三者是相辅相成的,三者之间相互融合、相互促进、相互影响。

物联网对应了互联网的感觉和运动神经系统。云计算是互联网的核心硬件层和核心软件层的集合,也是互联网中枢神经系统的萌芽。大数据代表了互联网的信息层(数据海洋),是互联网智慧和意识产生的基础。

物联网、传统互联网和移动互联网在源源不断地向互联网大数据层汇聚数据和接收数据。在移动互联网上产生的数据呈爆发式增长。