数博前沿:大数据与区块链有个共同关键词——分布式

2017年03月18日11:42  来源:贵阳日报
 
原标题:大数据与区块链有个共同关键词——分布式

  IT技术发展的分分合合和人类社会一样,IT技术发展也呈现出“合久必分,分久必合”,即集中与分布的螺旋式上升。

  计算机诞生初期,仅能实现一对一的使用,是集中化的。为了使一台大型机能够同时为多个客户提供服务,IBM公司引入了虚拟化的设计思想,使多个客户在同时使用同一台大型机时,就好像将其分割成了多个小型化的虚拟主机,是时分复用的集中式计算。

  进入小型机和PC时代,回归了一对一的使用,不过设备已经分散到了千家万户。进入互联网时代,C/S模型的客户端和服务器是分布式计算,只不过服务器之间还是分散的。

  进入云计算时代,计算能力又被统一管控起来,在客户端和服务器的分布式计算基础之上,服务器之间也开始了分布式协同工作。因为协同,可以认为它们在整体上是一种集中式的计算服务。

  进入大数据时代,云计算成为大数据基础设施,也使得大数据的核心思想和云计算一脉相承。MapReduce将任务分解进行分布式计算,然后将结果合并从而实现了信息的整合分析。

  大数据的分析挖掘是数据密集型计算,需要巨大的分布式计算能力。节点管理、任务调度、容错和高可靠性是关键技术。Google和Hadoop的MapReduce是这种分布式计算技术的代表,通过添加服务器节点可线性扩展系统的总处理能力(Scale Out),在成本和可扩展性上都有巨大的优势。现在,除了批计算,大数据还包括了流计算、图计算、实时计算、交互查询等计算框架。

  大数据和区块链技术之间有个共同的关键词——分布式,代表了一种从技术权威垄断到去中心化的转变。

  大数据,需要应对海量化和快增长的存储,这要求底层硬件架构和文件系统在性价比上要大大高于传统技术,能够弹性扩张存储容量。谷歌的GFS和Hadoop的HDFS奠定了大数据存储技术的基础。另外,大数据对存储技术提出的另一个挑战是多种数据格式的适应能力,因此,现在大数据底层的存储层不只是HDFS,还有HBase和Kudu等存储架构。

  区块链,是比特币的底层技术架构,它在本质上是一种去中心化的分布式账本。区块链技术作为一种持续增长的、按序整理成区块的链式数据结构,通过网络中多个节点共同参与数据的计算和记录,并且互相验证其信息的有效性。从这一点来说,区块链技术也是一种特定的数据库技术。由于去中心化数据库在安全、便捷方面的特性,很多业内人士看好其发展,认为它是对现有互联网技术的升级与补充。

(责编:罗炼、陈康清)

动感H5欣赏

  • 知行合一看修文知行合一看修文
  • 美丽贵州行-务川美丽贵州行-务川
  • 我们的贵州会呼吸我们的贵州会呼吸
  • 你好,我叫贵州!你好,我叫贵州!

新媒体运营

  • 贵州频道微信公众号贵州频道微信公众号
  • 贵州频道手机版贵州频道手机版
  • 贵州频道新浪微博贵州频道新浪微博
  • 贵州频道人民微博贵州频道人民微博