上QQ阅读APP看书,第一时间看更新
1.3 大数据的结构类型
大数据具有多种形式,从高度结构化的财务数据,到文本文件、多媒体文件和基因定位图的任何数据,都可以称为大数据。数据量大是大数据的一致特征。由于数据自身的复杂性,作为一个必然的结果,处理大数据的首选方法就是在并行计算的环境中进行大规模并行处理(Massively Parallel Processing,MPP),这使得同时发生的并行摄取、并行数据装载和分析成为可能。实际上,大多数的大数据都是非结构化或半结构化的,这需要不同的技术和工具来处理和分析。
大数据最突出的特征是它的结构。图1-11所示为几种不同数据结构类型数据的增长趋势,由图可知,未来数据增长的80%~90%将来自于不是结构化的数据类型(半结构化、准结构化和非结构化)。
虽然图1-11显示了4种不同的、相分离的数据类型,实际上,有时这些数据类型是可以被混合在一起的。例如,有一个传统的关系数据库管理系统保存着一个软件支持呼叫中心的通话日志,这里有典型的结构化数据,比如日期/时间戳、机器类型、问题类型、操作系统,这些都是在线支持人员通过图形用户界面上的下拉式菜单输入的。另外,还有非结构化数据或半结构化数据,比如自由形式的通话日志信息,这些可能来自包含问题的电子邮件,或者技术问题和解决方案的实际通话描述。另外一种可能是与结构化数据有关的实际通话的语音日志或者音频文字实录。即使是现在,大多数分析人员还无法分析这种通话日志历史数据库中最普通和高度结构化的数据,因为挖掘文本信息是一项强度很大的工作,并且无法简单地实现自动化。
图1-11 数据增长日益趋向非结构化
人们通常最熟悉结构化数据的分析,然而,半结构化数据(XML)、准结构化数据(网站地址字符串)和非结构化数据代表了不同的挑战,需要不同的技术来分析。