浅析大数据时代的数据挖掘与精细管理

一、大数据时代需要深度挖掘与精细管理

    (一)大数据时代的数据特征

    牛津大学教授维克托.迈尔)舍恩伯格(Viktor Mayer-SchÊnberger)在5大数据时代6中前瞻性地指出,大数据带来的信息风暴正在变革我们的生活、工作和思维,大数据开启了一次重大的时代转型,讲述了大数据时代的思维变革、商业变革和管理变革。据统计,近两年内由人类产生的数据,竟然达到了人类有史以来的全部数据的90%以上。数据量的庞大,远远超出了我们的想象;数据量的巨大增长速度,也是我们始料未及的,这就是大数据时代的最大特征。这个巨大,不仅是数据量本身极为巨大,更深层意义是,数据所含的信息量同样巨大无比。同时,这些海量的数据及信息量必然给数据处理以及分析带来极大的困难。因此,我们必须学会处理与分析海量数据的手段与方法,因为只有这样,才不会被大量数据信息弄得头昏脑胀,才能在大数据的海洋中畅游。

    (二)大数据时代的数据挖掘

    数据挖掘,简单来说就是对数据进行处理和分析,找到自己所需要的,扔掉自己不需要的信息。大数据时代,是一场数据上的革命时代,对人类社会生活具有颠覆性的影响。不仅如此,它还将对企业的决策、组织、业务流程等产生重要影响,甚至在某种程度上,它也能对国家的治理模式产生不可估量的影响。在大数据时代,人与人之间不再存在界限,甚至于完全模糊到没有国界与任何疆界的程度。以前的种种最为宝贵的资产变成了数据,成为大数据时代最为宝贵的财富,因此只有学会分析处理数据,才能获得这些所谓的财富。然而这些海量的“宝贵财富”就像一座藏宝山,它不在表面直接出现,而是被层层包裹着。我们必须利用我们所能想到的各种工具去寻找宝藏,而这些工具中相当重要的一种便是数据挖掘。

    数据挖掘需要一个建模的过程,选取所需的大量数据,然后利用各种数理模型对这些大数据进行整理和分析,来有效地帮助企业了解不同的客户,以及它们的市场划分,并据此来了解消费者的喜好和消费者的行为方式,这便是数据挖掘的具体含义:从大数据中找出企业所需的一种方法。这些大量的数据之中必然隐藏着一种规律性的东西,要想找到这种规律,就得经过数据挖掘过程并对数据进行建模,利用所建的模型将这种关联性、规律性从数据中找出来。由此可见,数据挖掘和统计的关系十分密切,数据挖掘过程中经常会用到统计分析的一些方法,除此之外,还会利用到联机分析与处理系统、专家系统及模式识别系统等科学方法。

    (三)大数据时代的精细管理

    2012年《大数据时代》呱呱坠地,不到一年时间便畅销遍全球。从数据发展情形来看,工业、农业、教育和军事等多个信息化的发展过程中肯定会产生十分庞大的数据量,这便为数据精细管理提供了巨大的发展潜力。

    大数据的精细管理永无止境,因为数据不断被更新,大数据的作业模型不断在改进,分析、处理和应用技术也在不断进步。就我国目前状况而言,我国存在着非常大量的数据,但是对这些数据的精细管理却十分缺少。精细管理有一个步骤是数据采集,这个过程务必须要十分详细、资料完备,只有这样,我们才能在数据中找到我们所需要的客观信息,才能更好地分析处理数据。目前,我国的大型互联网行业大都十分重视数据的采集工作,这对于未来的数据精细管理的作用至关重要,在后续的数据分析中有着举足轻重的地位。

    (四)大数据时代数据挖掘与数据精细管理的意义

    无论是数据挖掘,还是精细管理,在大数据时代都有着十分重要的意义,因为通过分析,我们可以提出提供决策的意见与建议,这些都是靠强大的数据支持的。目前,世界五百强企业中绝大多数在提出管理建议时,都需要大量数据为其作为理论依据。而在我国,即使是中小企业,也在分析、解决问题时开始倾向于用数据说话,如若没有大量数据,便没有理论依据,也就无法提出科学合理的建议。此外, 数据本身其实是会“说话”的,只不过这些话需要自己找出来,在对这些数据进行分析处理之后,就可能从中发现企业所需要的东西。大量的数据中其实隐藏着很多宝藏,比如客户的喜好及市场未来的可能发展趋势等,这些对于企业有极其重要的意义,只有更加了解、接近市场的企业,才能从竞争中脱颖而出。企业必须依靠大量数据的分析才能更好地为客户服务,更好地完成企业的各项工作。

二、大数据时代如何进行数据的深度挖掘

    由于企业对大数据资源有开发方面的需求,于是便有了数据的深度挖掘。企业拥有大量宝贵的数据资源,它们都希望从中提炼出最有用的信息与线索。深度数据挖掘包括了准备阶段、挖掘阶段以及结果的表达和解释工作。数据挖掘的手段也有很多,诸如关联分析、分类分析、聚类分析、特异群组分析以及演变态势分析等。

    根据数据中的差异性,可以很好地建立分类模型,这样做有十分明显的作用,它能够把状态细分化,实施更具有针对性的营销,找到更有价值的客户群体。可以在进行正式分类前先进行一次估计,然后根据估计结果对数据进行预分类,再进行修正直到达到更好。

    对数据进行预测有着十分重要的意义,这是对数据进行深度挖掘的一个不能缺少的过程,也是对于数据挖掘更为高级的应用。预测不仅是估计大数据,更要求根据这些大数据进行准确的预判。预测要对以前做好的大数据集进行分析整理,对它所代表的现实世界进行抽象,初步得到最基本的模型,然后从信度及效度两个方面对模型进行检验,确保建立的模型的准确性。建立模型只是一个对数据进行模拟的过程,其目的是通过这一过程对未来趋势进行预测,尽量达到准确。数据本身是过去的,从这一方面来说它们只能代表过去,但是我们可以通过模型找到其产生的基本机制,使预测成为可能并有准确性。过去的数据并不只是能够表示过去,它们是十分珍贵的财富,因为从这些数据之中我们能够预测未来。预测是一个复杂的过程,据统计,目前有关预测已经存在的模型已经有了几百种,就算是最常用模型的也有好几十种,因此这个过程有待于进一步提高和改进。现实世界是复杂的,虽然说预测技术到目前有了突飞猛进的发展,但是预测只是预测,永远都替代不了现实,而且任何已经存在的模型都不一定比量身定做出来的更符合当前的业务。目前,可以运用于大部分企业应用的模型有很多种,包括多元回归、非线性回归、AR模型、MA模型等各种各样的预测模型。还有一些是专业级统计应用软件,比如矩阵实验室、SAS、SPSS、MATLAB等,这些也为深度数据挖掘提供了便利条件。

三、大数据时代数据精细管理浅析

    如果说数据挖掘提高了企业的洞察力,那么大数据管理的精细程度则为企业提供了数据管理方面的保障。目前,大数据的精细管理仅限于大型企业,尤其是互联网或其他高科技企业,因为庞大的数据量在目前并不会出现于普通百姓之家,即使一些企业有数十年的数据量,也都没有达到大数据的水平。不管是以利润为中心,还是以客户为中心,大数据的精细管理都是一种推动力量,有利于推动企业的发展。大数据的精细管理为其提供了管理方面的基础,同时为差异化竞争提供了原始理论方面的强有力支撑。目前大型企业在精细管理方面存在着不少问题,正是由于这些问题的存在才导致企业主营业务缺乏方向性、针对性、导向性以及向心性等诸问题。

结束语

    “大数据时代”这个概念的出现只有短短数年时间,但是这个概念已经渗透到五洲四海,与之伴随的则是大数据时代的数据挖掘与管理革命。我国的大型企业都十分重视对大量数据的获取与掌握,这充分说明,数据挖掘与精细管理在这个崭新的大数据时代中具有非同一般的重要意义。