在大数据档案中发现宝藏

2013-10-17 10:08:11 EP电力信息化网　点击量：评论 (0)

在大数据的魅力等级中，生产应用和探索性数据科学沙箱得到了所有的关注。这就是为什么，如果你不是一个大数据专家，您可能已经忽略了数据管理和分析基础设施的着陆区中大数据所起的关键作用。大数

在大数据的“魅力等级”中，生产应用和探索性数据科学沙箱得到了所有的关注。这就是为什么，如果你不是一个大数据专家，您可能已经忽略了数据管理和分析基础设施的“着陆区”中大数据所起的关键作用。

大数据“着陆区”的作用是刻意含糊不清的。它显然不是生产的前端接入以及进行快速查询、进行交互式探索以及建立预测模型并打分的沙箱层。也显然不是存储核心系统参考数据、管理元数据以及实施数据治理标准的生产枢纽层。

但在许多方面，大数据“着陆区”是这些生产和开发系统的基础。

大数据“着陆区”起到了许多关键作用。它是将数据传递至下游的其他操作系统之前从操作系统获得和收集数据的区域，也可能是将数据传递至集线器或前端集市前聚合、匹配、合并、清理、改造以及改进从资源中采集的数据的地方。或者，它可能是以历史档案的形式，存储来自交易、分析或内容管理系统数据的地方。

深入档案
让我们专注于大数据存储的档案。即使某些数据不再支持核心生产应用，这些档案仍对合规、电子取证、安全、诊断以及其他支持性应用程序有价值。

档案的传统定义是不再被应用程序需要的历史数据仓库。很明显，依照这个定义许多档案无情地演变成许多IT商店的大数据平台。

实际上，当档案馆存储来源于各式各样来源的数据且其数据容量增长至拍字节时，档案馆可能是一个组织中第一个含有大数据的数据库。事实上，档案的目的是在需要时为检索及分析保留历史数据，这就意味着，它需要进行优化以便快速查询、搜索和报表。

事实上，可查询存档已经好些时候成为“杀手级别”的大数据应用。电信运营商早已在大规模扩展的存档平台上进行呼叫详细记录分析。安全事故和事件的检测，以及反欺诈应用程序通常需要庞大的数据库以存储和关联从系统级安全性、标识以及其他系统获取的事件数据。许多用于故障排除、诊断和优化的IT日志分析应用都运行在从低TB级别至PB级别的数据库上。全面的顾客、库存、物流及其他趋势的时间序列分析都必须将大量存档数据与从业务系统获取的最新数据进行关联。

完成工作的正确工具
显然，对于如Hadoop这样静态数据平台以及为特定类型数据存档的规模与速度而架构的NoSQL平台来说，可查询存档的作用是不言而喻的。同样，别忘了用来存档结构数据的RDBMS平台。

根据不同的需求，可以针对不同的大数据集部署一个或多个含有已针对数据集优化的底层平台的档案。关键的标准是，已部署档案的大数据平台是否支持查询档案存储及管理的数据且能够快速执行所有预期类型的查询。