登陆注册
10750300000005

第5章 数据的收集管理和使用(2)

很多大公司正在数据管理这条路上学习,而当前我们面临着很多以往不曾遇见的问题。比如,我们是应该在各个部门里运作,还是集中管理数据?我们是应该在数据安全的前提下更开放,让更多人找到数据的价值,还是应该更封闭,让泄露数据的可能性更小?另外,个人隐私怎么去保护?我们怎么才能成为一家负责任的数据管理公司?这些都是代表性的难题。

现在,大型的互联网公司通常都同时拥有成百上千种在开发的项目,它们都在直接或间接地改变着数据,而在这种情况下,又如何保障数据安全?事实上,数据的源头已经“脏”了,而下游使用数据的人还不知道,同时,源头的数据使用者也没有责任告诉下游这些数据已经“脏”了。

所以,如果你数据使用得不好,这对你的发展影响也不会很大。但是如果你数据使用得好,而且将它作为公司的核心竞争力,那么你的麻烦就大了。因为你的数据源本来就来自各个地方,而每一个来源都没有责任要告诉你,今天从它那儿来的数据是正常的和可靠的。特别是大数据出现后,数据的精准与否更加重要。因为大数据在很多情况下,是利用外部数据来帮助内部数据进行调整的,如果你的内部数据难以保证“干净”的话,那么外部数据同样无法保证“干净”。

数据管理,是大数据行业的“脏活”、“苦活”和“累活”,是最悲催和最难解决的事情。如果没有这些背景做铺垫,人们对很多公司在做的所谓的大数据的运营就持有怀疑态度了。

注意数据分类的维度

在观察与分析数据中,我们要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地识别出数据的价值。

今天,我们多数人把自己关注的焦点放在结果上而忽略了过程,而事实上这些过程其实也蕴含了数据管理的过程和数据分类的过程。有些关键数据必须做好保护,若这几个数据变了,或者被污染了,前面的价值也就无法保证了。

有人肯定会问,管理数据是一个过程,能不能分解?能不能区分哪些元素是比较重要的?哪些是有代替品的?哪些是无可取代的?哪些是不可或缺的核心?其实,这些问题就包含数据战略。

所以,我们不可以含糊地应对,要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地给出数据的价值。

权威的数据公司从数据分类的角度将数据分为以下4种:

1.按照是否可以再生的标准来看,可以分为不可再生数据和可再生数据

不可再生数据通常就是最原始的数据,比如用户在访问网站时,浏览记录会追踪用户的行为,如果当时没有被记录下来,就没有其他数据来还原用户的行为了。这个有点像拿着相机拍闪电,抓拍很重要,一旦错过,闪电就不可能再重复刚才那一瞬间的光影了。因此,对于用户日志类等不可再生数据而言,必须要有很完善的保护措施和严格的权限设置。现在,很多系统都有备份多份数据的功能,理想情况应该是,因为磁盘损坏而造成数据丢失的案例应该越来越少。但是,因为系统升级失败和误操作等造成的数据丢失在各家公司都屡见不鲜,见怪不怪了。

可再生数据就是通过其他数据可以生成的数据,原则上,指标类数据的衍生数据都是可再生的——只要原始的不可再生数据还在,就可以通过重新运算来获得。不过千万不能因为“可再生”这个词语的存在,就对可再生数据不重视。有些可再生数据是通过很长时间的积累不断加工而成的,是长时间从海量数据中计算出来的,比如对某个用户在数个月内的连续购买行为产生的规律,如果未做保护,虽然仍然可再生,但是再生的时间却会给企业带来问题。因为即便对于有顶尖计算能力的公司来讲,都可能是数日,甚至是数周、数月,而这个时间过程可能就会对公司的某一项核心业务造成毁灭性的打击。

对不可再生的数据而言,已有的数据要严格保护,想要但是还没有的数据就要及早收集。举个例子,很多电子商务网站是不关注客户在商品详情页面有没有做滚屏操作的。如果这一类型的数据没有被记录下来,企业就无从知道详情页的有效性。当商品页面进行改版,需要对此类数据进行参考时,就没有办法来获得相应的数据支持,最后能做的就只能是等待在页面上进行布点开发,等待数据收集到之后再进行决策,这就造成了决策的延误。

对于可再生数据而言,要及早做好业务的预判和数据处理的规划,这样一来,数据在需要的时候就能够快速地获得应用,人们把这一数据称为数据中间层。

2.按照数据所处的存储层次来看,可以分为基础层、中间层和应用层

从数据的存储角度来说,数据有很多层次。基础层通常与原始数据基本一致,也就是仅仅存储最基本的数据,不做汇总,以尽量避免失真,从而用作其他数据研究的基础;中间层是基于基础层加工的数据,通常也被认为是数据仓库层,这些数据会根据不同的业务需求,按照不同的主体来进行存放;应用层则是针对具体数据问题的应用,比如作为解决具体问题的数据分析和数据挖掘的应用层的数据。

在存储层这个层面上,最大的问题就是数据的冗余和管理的混乱。尤其是对于一些拥有海量数据的大公司而言,数据的冗余问题尤为严重,由此造成了大量的浪费。

在大公司中,进行数据分析、开发、挖掘的人可能有数十甚至是数百人,这些人可能归属于不同的业务团队,为了满足不同的业务各自分析数据应用。这样一来,不同的人可能都从头开始建立起了一套包含基础层、中间层和应用层的数据,而彼此之间又没有合适的交流方式,也就造成了工作的浪费。那是不是应该把所有的数据进行更好的归纳或者管理呢?任何管理方法,无论是集中式管理,还是分散式管理,都各有利弊,而且人和业务多了之后,企业也很难进行集中式管理。专家给出的建议是,基础层必须统一,因为这是最基本的数据,而且基本数据是原始数据。除了备份的需求外没有必要在各个场合保留多份数据。只要保证这个数据有良好的元数据管理方式,就能极大地降低成本。

而对于中间层和应用层而言,则要视具体情况而定:如果公司的业务相对单一且成本压力比较大,则建议集中式管理;如果公司的业务量非常大,则可以由多个数据团队来进行分散式管理和应用,以保证基础层单位有最高的灵活性。

同类推荐
  • 会计学

    会计学

    本教材共10章,主要讲述了会计学基本理论、账户与借贷记账法、会计循环以及会计核算形式,让学生掌握会计的基本理论、基本方法和基本技能以及会计要素的确认、计量、记录和报告方法。
  • 国有煤炭企业可持续发展研究

    国有煤炭企业可持续发展研究

    坚持科学发展观和建设和谐社会是中国保持20多年快速发燕尾服、国家实力大幅度提升后提出新的旨在保证我国实现可持续发展的重大战略。在可持续发展问题上,资源和环境处于中心地位。煤炭资源是我国经济和社会发展的重要战略资,也是中国全面实现现代化和基础保障。国有煤炭企业是我国煤炭工业中占据着主导地位。国有煤炭企业特殊性的另一个突出表现在于,它是全社会物质资源流钢产量最大的行业之一,也是固体废物排放最多的行业之一。
  • 改革现场:晚清经济改革始末(全集)

    改革现场:晚清经济改革始末(全集)

    1862年,晚清经济改革拉开序幕,在执政集团与汉族武装集团争权夺利的过程中,马尾船厂、江南制造总局两大军工项目上马。衙门化的国有企业运作效率极低,在1872年开始的一场国企反腐运动中,改革的大门向民营资本开放。自此,1872年成为国有向民营、局部向整体改革的一个起点,也是晚清王朝为自己埋下隐患的起点。以奕、曾国藩、李鸿章、左宗棠、袁世凯、张之洞为首的官方实力派成为改革的主角,以唐廷枢、胡雪岩、盛宣怀、郑观应为首的新旧商人成为改革的先锋。朝廷与商人的较量,国退民进、民进国退的多年交锋,最终使经济改革倒逼政治体制改革。在一场商业势力助推的宪政改革中,1911年晚清走向灭亡。
  • 穿越镀金时代

    穿越镀金时代

    作者认为中国过去几十年的发展时期是一个“镀金时代”。在这段历史中,中国实现了真实的成长,同时也积聚了经济泡沫。作者把中国的增长秘笈归结为一个脱胎于较低生产力水平、僵硬计划管理体制的“史前经济体”,快速形成市场和资本的现代化过程。它压缩了超过200年的悲欢离合和生生灭灭,是一个从残酷野蛮、积累加速准备起飞的前现代,到狂飙突进、推崇生存价值和经济效率最大化的现代化阶段,再到强调多元生活价值、主观幸福,不再唯经济增长至高无上的后现代的完整演化过程。但从现在开始,镀金时代结束,进步时代开始,接下来的10年至关重要,将直接决定中国是否能迈进一线大国的行列。
热门推荐
  • 年少可否轻狂

    年少可否轻狂

    作者:夏艳熙无抄袭x921本人小号处女作,还请大家多加包含
  • 40几岁要睡得着:拥有自在的人生心态

    40几岁要睡得着:拥有自在的人生心态

    40岁是人生收获的季节,是生命的一个高峰,真正人生应该从40岁开始。我们对人生的感悟是从这个时期开始的。
  • 穿越丑女当道:颜倾天下

    穿越丑女当道:颜倾天下

    她带个面具也能穿越?走到哪里灾难就到哪里?她不信!她入朝为官,令众人折腰!她倾城入宫,代为凤舞九天!她远行边境,危机重重!一双血手,终究无奈!一世恩仇,永消她手!师傅的阴谋,宰相的阴谋,朋友的背叛,心爱人的离去,使她不惜堕入魔道,成为闻风丧胆的绝色魔女,率领天下群鹰再次掀起血雨腥风。他为了她,分出半颗内丹,只求她活!她为了他,喝下忘情水,只求他生!
  • 洛克王国之玄阳

    洛克王国之玄阳

    一小学生玄阳穿越到洛克王国的世界展开冒险!
  • 灵魂深处的感动(让学生感受亲情的故事全集)

    灵魂深处的感动(让学生感受亲情的故事全集)

    亲情如一首永远唱不倦的老歌,古老的曲调中饱含浓浓的真爱;亲情似一杯淡淡的绿茶,虽不浓郁但却散发着淡雅的醇香;亲情似大海里的一叶小舟,于惊涛骇浪中承载着风雨同舟、不离不弃的誓言。拥有亲情,便拥有了世间一切的美好,让这浓浓的爱、悠悠的情化作一缕春风,吹来桃红柳绿,吹开心底似锦的繁花……在最无助的人生路上,亲情是最持久的动力,给予我们无私的帮助和依靠;在最寂寞的情感路上,亲情是最真诚的陪伴,让我们感受到无比的温馨和安慰;在最无奈的十字路口,亲情是最清晰的路标,指引我们成功到达目标。
  • 良涯

    良涯

    一个大学生因为父母出国,被迫到社会上去找工作,却遇到了一系列的麻烦。
  • 经济全球化引领下的企业文化再造工程

    经济全球化引领下的企业文化再造工程

    本书共分9章,内容包括现代企业文化概述、现代企业文化理念与发展战略、现代企业文化特征和功能、现代企业文化发展趋势、现代企业文化创新理论与实践、创新型与学习型企业文化理论研究、企业文化优化整合理论研究与实践、现代企业文化建设框架或模式等。
  • 灵撼苍穹

    灵撼苍穹

    这是一个不一样的故事:无所事事、混吃等死的他,竟成为天地间的主宰!他的修行之路,就从这里开始……
  • 诛天谕

    诛天谕

    诛天下神佛,屠各路妖魔,灭豪门世家。天地法则?吾本天地之法则也!
  • 游戏中的科学

    游戏中的科学

    本书以400多个游戏帮你揭开自然科学的秘密,了解自然科学的规律,探索动植物的行为方式。所有这些游戏都简单得让你吃惊,所使用的工具就在你的身边和家里。本书还为每个游戏提供了详尽的说明和图解,使你的实验轻而易举,快乐无穷!