登陆注册
10750300000005

第5章 数据的收集管理和使用(2)

很多大公司正在数据管理这条路上学习,而当前我们面临着很多以往不曾遇见的问题。比如,我们是应该在各个部门里运作,还是集中管理数据?我们是应该在数据安全的前提下更开放,让更多人找到数据的价值,还是应该更封闭,让泄露数据的可能性更小?另外,个人隐私怎么去保护?我们怎么才能成为一家负责任的数据管理公司?这些都是代表性的难题。

现在,大型的互联网公司通常都同时拥有成百上千种在开发的项目,它们都在直接或间接地改变着数据,而在这种情况下,又如何保障数据安全?事实上,数据的源头已经“脏”了,而下游使用数据的人还不知道,同时,源头的数据使用者也没有责任告诉下游这些数据已经“脏”了。

所以,如果你数据使用得不好,这对你的发展影响也不会很大。但是如果你数据使用得好,而且将它作为公司的核心竞争力,那么你的麻烦就大了。因为你的数据源本来就来自各个地方,而每一个来源都没有责任要告诉你,今天从它那儿来的数据是正常的和可靠的。特别是大数据出现后,数据的精准与否更加重要。因为大数据在很多情况下,是利用外部数据来帮助内部数据进行调整的,如果你的内部数据难以保证“干净”的话,那么外部数据同样无法保证“干净”。

数据管理,是大数据行业的“脏活”、“苦活”和“累活”,是最悲催和最难解决的事情。如果没有这些背景做铺垫,人们对很多公司在做的所谓的大数据的运营就持有怀疑态度了。

注意数据分类的维度

在观察与分析数据中,我们要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地识别出数据的价值。

今天,我们多数人把自己关注的焦点放在结果上而忽略了过程,而事实上这些过程其实也蕴含了数据管理的过程和数据分类的过程。有些关键数据必须做好保护,若这几个数据变了,或者被污染了,前面的价值也就无法保证了。

有人肯定会问,管理数据是一个过程,能不能分解?能不能区分哪些元素是比较重要的?哪些是有代替品的?哪些是无可取代的?哪些是不可或缺的核心?其实,这些问题就包含数据战略。

所以,我们不可以含糊地应对,要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地给出数据的价值。

权威的数据公司从数据分类的角度将数据分为以下4种:

1.按照是否可以再生的标准来看,可以分为不可再生数据和可再生数据

不可再生数据通常就是最原始的数据,比如用户在访问网站时,浏览记录会追踪用户的行为,如果当时没有被记录下来,就没有其他数据来还原用户的行为了。这个有点像拿着相机拍闪电,抓拍很重要,一旦错过,闪电就不可能再重复刚才那一瞬间的光影了。因此,对于用户日志类等不可再生数据而言,必须要有很完善的保护措施和严格的权限设置。现在,很多系统都有备份多份数据的功能,理想情况应该是,因为磁盘损坏而造成数据丢失的案例应该越来越少。但是,因为系统升级失败和误操作等造成的数据丢失在各家公司都屡见不鲜,见怪不怪了。

可再生数据就是通过其他数据可以生成的数据,原则上,指标类数据的衍生数据都是可再生的——只要原始的不可再生数据还在,就可以通过重新运算来获得。不过千万不能因为“可再生”这个词语的存在,就对可再生数据不重视。有些可再生数据是通过很长时间的积累不断加工而成的,是长时间从海量数据中计算出来的,比如对某个用户在数个月内的连续购买行为产生的规律,如果未做保护,虽然仍然可再生,但是再生的时间却会给企业带来问题。因为即便对于有顶尖计算能力的公司来讲,都可能是数日,甚至是数周、数月,而这个时间过程可能就会对公司的某一项核心业务造成毁灭性的打击。

对不可再生的数据而言,已有的数据要严格保护,想要但是还没有的数据就要及早收集。举个例子,很多电子商务网站是不关注客户在商品详情页面有没有做滚屏操作的。如果这一类型的数据没有被记录下来,企业就无从知道详情页的有效性。当商品页面进行改版,需要对此类数据进行参考时,就没有办法来获得相应的数据支持,最后能做的就只能是等待在页面上进行布点开发,等待数据收集到之后再进行决策,这就造成了决策的延误。

对于可再生数据而言,要及早做好业务的预判和数据处理的规划,这样一来,数据在需要的时候就能够快速地获得应用,人们把这一数据称为数据中间层。

2.按照数据所处的存储层次来看,可以分为基础层、中间层和应用层

从数据的存储角度来说,数据有很多层次。基础层通常与原始数据基本一致,也就是仅仅存储最基本的数据,不做汇总,以尽量避免失真,从而用作其他数据研究的基础;中间层是基于基础层加工的数据,通常也被认为是数据仓库层,这些数据会根据不同的业务需求,按照不同的主体来进行存放;应用层则是针对具体数据问题的应用,比如作为解决具体问题的数据分析和数据挖掘的应用层的数据。

在存储层这个层面上,最大的问题就是数据的冗余和管理的混乱。尤其是对于一些拥有海量数据的大公司而言,数据的冗余问题尤为严重,由此造成了大量的浪费。

在大公司中,进行数据分析、开发、挖掘的人可能有数十甚至是数百人,这些人可能归属于不同的业务团队,为了满足不同的业务各自分析数据应用。这样一来,不同的人可能都从头开始建立起了一套包含基础层、中间层和应用层的数据,而彼此之间又没有合适的交流方式,也就造成了工作的浪费。那是不是应该把所有的数据进行更好的归纳或者管理呢?任何管理方法,无论是集中式管理,还是分散式管理,都各有利弊,而且人和业务多了之后,企业也很难进行集中式管理。专家给出的建议是,基础层必须统一,因为这是最基本的数据,而且基本数据是原始数据。除了备份的需求外没有必要在各个场合保留多份数据。只要保证这个数据有良好的元数据管理方式,就能极大地降低成本。

而对于中间层和应用层而言,则要视具体情况而定:如果公司的业务相对单一且成本压力比较大,则建议集中式管理;如果公司的业务量非常大,则可以由多个数据团队来进行分散式管理和应用,以保证基础层单位有最高的灵活性。

同类推荐
  • 理念的力量:什么决定中国的未来

    理念的力量:什么决定中国的未来

    本书涵盖了著名经济学家张维迎近年来所主张、研究主要观念,书中论点涉及市场、法治、改革、未来发展等重要领域,列出了作者长期思考的影响社会的二十四个重大理念。本书没有专业的经济学术语,而是用简单形象的类比说明经济现象,解决实际问题,是中国改革最前沿的一流经济学家为普通读者撰写的经济学读物,也是获取正确的经济观念、理解中国经济和世界格局的第一手资料。张维迎教授在八十年代即提出价格双轨制并长期坚持自由市场理论,对中国社会改革和社会观念的影响有目共睹,他的许多观点和预言已被事实所证明,他在本书中所提出的极具预见性的理念,相信也会为我们如何改变现实、面对未来提供重要的参考。
  • 成渝经济区会展业发展研究

    成渝经济区会展业发展研究

    本书以区域经济一体化和产业关联理论为基础,从理论角度深入分析了会展业在调整产业结构、助推区域经济一体化发展方面的作用机理。同时,结合成渝经济区会展业发展环境,本书阐述了成渝经济区整体及各区县会展业发展概况,并对区域会展业发展趋势特征进行了初步总结。在此基础上,本书定量分析了成渝经济区会展业关联效应,并定性探讨了区域会展业在会展企业、活动、人才及管理等方面存在的瓶颈问题。
  • 富世绘

    富世绘

    叶檀作序推荐说:“这本图书是中国新富阶层生动的镜像,读这些文字更像看一部关于中国新富阶层的纪录片。不同主角的“出生”、成长,甚至八卦娱乐到剪光头发,从个人悲欢到群体浮沉都跃然纸上。”这是一本个性鲜明的中国富人“浮世绘”,它选取的更多是中国快速造富之后,作为个体富人的剧烈适应或者被适应的过程描述和分析。整本书的写作,除有趣的富裕阶层故事外,调侃里亦有严肃的观察,松散的故事里有严密的财富逻辑。”
  • 经济学的诡计

    经济学的诡计

    经济学给了我们一双理性的眼睛,让我们更清楚地认识周围的世界。为什么要听从老人的『门当户对』理论。为什么要实行一夫一妻制度,为什么有人逢赌必输,输了还赌。开启自己的经济学思维,像经济学家一样观察、思考身边的生活,我们将最终获得一经济人一的理性与智慧。
  • 中国区域文化产业指数的建构影响与传播:以浙江义乌为例

    中国区域文化产业指数的建构影响与传播:以浙江义乌为例

    文化产业是指从事文化产品生产和提供文化服务的经营性行业,属第三产业。在面临金融危机之际,发展文化产业显示出其重要的战略意义。发展文化产业在应对当前金融危机方面有三个作用:有利于保增长和培育新增长点;有利于扩大内需和推动消费升级;有利于结构调整和实现产业升级。
热门推荐
  • 普通心理学学习与研究

    普通心理学学习与研究

    普通心理学是研究心理学基本原理和心理现象的一般规律的心理学,是所有心理学分支的最基础和一般的学科,也是心理学专业学生入门的第一门专业课程。
  • 万物自然系统

    万物自然系统

    偶然得到的一卷修仙之法,奇异开启的万物自然系统,系统与修仙的怪异组合。一套三无的西游记,一张印有巨大树木的卡片,开启不一样的崛起之路。是在平淡中死亡,还是在平淡中崛起。我要让着天地天翻地覆,我要这方众生随我征战诸天万界!!(PS:本人新手,更新十分不稳定,还请见谅。本文内容纯属虚构。提醒一句,本文可能极度平淡,不喜勿喷。)
  • 按西点的方式做事:西点军校

    按西点的方式做事:西点军校

    本书深度挖掘西点军校做事的核心精神,如西点校训(责任、荣誉、国家),西点训条(准时、守纪、严格、正直、刚毅)等等,并将其一一呈现在我们眼前,指引我们去深思,去学习。
  • 绝命蛊师

    绝命蛊师

    崔旭,误饮多年老酒,将千年蛊皇从封印之中解开。崔旭发现,这个世界比自己想想中的要大太多。
  • 凤惊华吾已归来

    凤惊华吾已归来

    墨千蝶:三世之间,爱你两世,轮回一世。当初你对我不屑一顾,我单纯的以为,我能用我的一片真心来打动你,直到,那个女人的出现……我可以为你默默地付出一切,可以忍受一切委屈,可以任由你践踏我的一片真心。可是,我累了,真的累了……南宫泠络:你永远不会知道,我在明白你的心意后的狂喜。可你知道吗?我是魔。是被所有种族所厌恶的恶、魔。你可以嫁给世界上所有的男人,却唯独我!每当我对你像垃圾一样鄙弃时,你若心疼委屈,我心必血流成河!从没想过失去你的痛,只想一直一直那么默默守护着你,直到天荒地老,海枯石烂……直到亲眼看见你坠入深渊的时候,我才知道,我对你的爱早已深入骨髓,融入血液。若这是病,我想,我已病入膏肓……
  • 我们为什么会分手

    我们为什么会分手

    在得不到父母的认可的思春期,我们固执的以为心动就是爱情。我们过了为了某一个人伤心而哭泣着,高喊着这是只有我才懂的高中年代。致和我穿同一所高中制服长大的你,致曾经带给我致命伤痛的你,致不允许我自卑、胆小、生病的你。致属于初恋的你,和我。
  • 末日之死神召唤系统

    末日之死神召唤系统

    丧尸病毒爆发,许多人类都变成了只会吃人的丧尸。人类,该怎么办?他对人类而言,可以是救世主,也可以是灭世主,地球的未来,是怎样的?
  • 古董帝国

    古董帝国

    穷人,最缺的就是成为人上人的野心。周洋是如此渴望成功,金钱,美女……自此,周洋一步步走上了创立古董帝国的道路。
  • 倾然天下之傲娇女皇

    倾然天下之傲娇女皇

    她,弑亲,穿越到一个神秘的国度。一个神秘的寄灵,寒。一个熟悉的刺客,夜无颜。前生今世,费劲心思,只为她一个转世,可是,今世的她过得并不那么如意。尽管她是墨云女皇,和……【本书更新的时间并不那么稳定,求原谅,我是兼职更文的。还有,此文是一对一的。】
  • 一花一世界,一梦一回秦

    一花一世界,一梦一回秦

    他是,以暴虐著名的秦二世,她是,任性叛逆的高中生,一次意外的穿越,使她认识并走进了秦二世心里最深处,原来,他只是一个没有长大的孩子…