登陆注册
8925700000043

第43章 物流决策支持系统(3)

5)数据集市(datamarts)

为了特定的应用目的或应用范围而从数据仓库中独立出来的一部分数据,也可称为部门数据或主题数据(subjectarea)。在数据仓库的实施过程中往往可以从一个部门的数据集市着手,以后再用几个数据集市组成一个完整的数据仓库。需要注意的就是在实施不同的数据集市时,同一含义的字段定义一定要相容,这样再以后实施数据仓库时才不会造成大麻烦。

数据仓库管理包括:安全和特权管理,跟踪数据的更新,数据质量检查,管理和更新元数据,审计和报告数据仓库的使用和状态,删除数据,复制、分割和分发数据,备份和恢复,存储管理。

信息发布系统,即把数据仓库中的数据或其他相关的数据发送给不同的地点或用户。基于Web的信息发布系统是对付多用户访问的最有效方法。

2.联机分析处理

(1)联机分析处理的概念

联机分析处理(On‐Line Analytical Processing,OLAP)的概念最早是由关系数据库之父爱德华·库德(E.F.Codd)博士于1993年提出的,是一种用于组织大型商务数据库和支持商务智能的技术。OLAP数据库分为一个或多个多维数据集,每个多维数据集都由多维数据集管理员组织和设计以适应用户检索和分析数据的方式,从而更易于创建和使用所需的数据透视表和数据透视图。

库德同时提出了关于OLAP的12条准则。OLAP的提出引起了很大的反响,OLAP作为一类产品同联机事务处理(OLTP)明显区分开来。库德提出OLAP的12条准则来描述OLAP系统:

准则1 OLAP模型必须提供多维概念视图;

准则2 透明性准则;

准则3 存取能力推测;

准则4 稳定的报表能力;

准则5 客户/服务器体系结构;

准则6 维的等同性准则;

准则7 动态的稀疏矩阵处理准则;

准则8 多用户支持能力准则;

准则9 非受限的跨维操作;

准则10 直观的数据操纵;

准则11 灵活的报表生成;

准则12 不受限的维与聚集层次。

当今的数据处理大致可以分成两大类:联机事务处理OLTP和联机分析处理OLAP。OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易。OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。

(2)联机分析处理逻辑概念和典型操作

OLAP展现在用户面前的是一幅幅多维视图。

①维(dimension),是人们观察数据的特定角度,是考虑问题时的一类属性,属性集合构成一个维(时间维、地理维等)。

②维的层次(level),是人们观察数据的某个特定角度(即某个维),还可以存在细节程度不同的各个描述方面(时间维:日期、月份、季度、年)。

③维的成员(member),即维的一个取值,是数据项在某维中位置的描述。(“某年某月某日”是在时间维上位置的描述)。

④度量(measure),即多维数组的取值。(2000年1月,上海,笔记本电脑,$100000)。

OLAP的基本多维分析操作有钻取(drill‐up和drill‐down)、切片(slice)和切块(dice)以及旋转(pivot)等。

①钻取,是改变维的层次,变换分析的粒度。它包括向下钻取(drill‐down)和向上钻取(drill‐up)/上卷(roll‐up)。drill‐up是在某一维上将低层次的细节数据概括到高层次的汇总数据,或者减少维数;而drill‐down则相反,它从汇总数据深入细节数据进行观察或增加新维。

②切片和切块,是在一部分维上选定值后,关心度量数据在剩余维上的分布。如果剩余的维只有两个,则是切片;如果有三个或以上,则是切块。

③旋转,是变换维的方向,即在表格中重新安排维的放置(例如行列互换)。

(3)联机分析处理系统的体系结构和分类

数据仓库与OLAP的关系是互补的,现代OLAP系统一般以数据仓库作为基础,即从数据仓库中抽取详细数据的一个子集并经过必要的聚集存储到OLAP存储器中供前端分析工具读取。OLAP系统按照其存储器的数据存储格式可以分为关系OLAP(Relational OLAP,ROLAP)、多维OLAP(Multidimensional OLAP,MOLAP)和混合型OLAP(Hybrid OLAP,HOLAP)三种类型。

1)关系联机分析处理(ROLAP)

ROLAP将分析用的多维数据存储在关系数据库中,并根据应用的需要有选择地定义一批视图,作为表也存储在关系数据库中。不必要将每一个SQL查询都作为实视图保存,只定义那些应用频率比较高、计算工作量比较大的查询作为实视图。对每个针对OLAP服务器的查询,优先利用已经计算好的实视图来生成查询结果以提高查询效率。

同时用作ROLAP存储器的RDBMS也针对OLAP作相应的优化,比如并行存储、并行查询、并行数据管理、基于成本的查询优化、位图索引、SQL的OLAP扩展(cube,rollup)等等。

2)多维联机分析处理(MOLAP)

MOLAP将OLAP分析所用到的多维数据物理上存储为多维数组的形式,形成“立方体”的结构。维的属性值被映射成多维数组的下标值或下标的范围,而总结数据作为多维数组的值存储在数组的单元中。由于MOLAP采用了新的存储结构,从物理层实现起,因此又称为物理OLAP(Physical OLAP);而ROLAP主要通过一些软件工具或中间软件实现,物理层仍采用关系数据库的存储结构,因此称为虚拟OLAP(Virtual OLAP)。

3)混合联机分析处理(HOLAP)

由于MOLAP和ROLAP有着各自的优点和缺点,且它们的结构迥然不同,这给分析人员设计OLAP结构提出了难题。为此,一个新的OLAP结构——混合型OLAP(HOLAP)被提出,它能把MOLAP和ROLAP两种结构的优点结合起来。迄今为止,对HOLAP还没有一个正式的定义。但很明显,HOLAP结构不应该是MOLAP与ROLAP结构的简单组合,而是这两种结构技术优点的有机结合,能满足用户各种复杂的分析请求。

3.数据挖掘

(1)数据挖掘的定义

数据挖掘(DataMining,DM)又称数据库中的知识发现(Knowledge Discoverin Database,KDD),是目前人工智能和数据库领域研究的热点问题,所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程,它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等,高度自动化地分析企业的数据,作出归纳性的推理,从中挖掘出潜在的模式,帮助决策者调整市场策略,减少风险,作出正确的决策。

1)技术上的定义

数据挖掘(datamining)就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

与数据挖掘相近的同义词有数据融合、数据分析和决策支持等。这个定义包括好几层含义:数据源必须是真实的、大量的、含噪声的;发现的是用户感兴趣的知识;发现的知识要可接受、可理解、可运用;并不要求发现放之四海而皆准的知识,仅支持特定的发现问题。

何为知识?从广义上理解,数据、信息也是知识的表现形式,但是人们更把概念、规则、模式、规律和约束等看作知识。人们把数据看做是形成知识的源泉,好像从矿石中采矿或淘金一样。原始数据可以是结构化的,如关系数据库中的数据;也可以是半结构化的,如文本、图形和图像数据;甚至是分布在网络上的异构型数据。发现知识的方法可以是数学的,也可以是非数学的;可以是演绎的,也可以是归纳的。发现的知识可以被用于信息管理、查询优化、决策支持和过程控制等,还可以用于数据自身的维护。因此,数据挖掘是一门交叉学科,它把人们对数据的应用从低层次的简单查询,提升到从数据中挖掘知识,提供决策支持。在这种需求牵引下,汇聚了不同领域的研究者,尤其是数据库技术、人工智能技术、数理统计、可视化技术、并行计算等方面的学者和工程技术人员,投身到数据挖掘这一新兴的研究领域,形成新的技术热点。

这里所说的知识发现,不是要求发现放之四海而皆准的真理,也不是要去发现崭新的自然科学定理和纯数学公式,更不是什么机器定理证明。实际上,所有发现的知识都是相对的,是有特定前提和约束条件的,面向特定领域的,同时还要能够易于被用户理解。最好能用自然语言表达所发现的结果。

2)商业角度的定义

数据挖掘是一种新的商业信息处理技术,其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其他模型化处理,从中提取辅助商业决策的关键性数据。

简而言之,数据挖掘其实是一类深层次的数据分析方法。数据分析本身已经有很多年的历史,只不过在过去数据收集和分析的目的是用于科学研究,另外,由于当时计算能力的限制,对大数据量进行分析的复杂数据分析方法受到很大限制。现在,由于各行业业务自动化的实现,商业领域产生了大量的业务数据,这些数据不再是为了分析的目的而收集的,而是由于纯机会的(opportunistic)商业运作而产生。分析这些数据也不再是单纯为了研究的需要,更主要是为商业决策提供真正有价值的信息,进而获得利润。但所有企业面临的一个共同问题是:企业数据量非常大,而其中真正有价值的信息却很少,因此从大量的数据中经过深层分析,获得有利于商业运作、提高竞争力的信息,就像从矿石中淘金一样,数据挖掘也因此而得名。

因此,数据挖掘可以描述为:按企业既定业务目标,对大量的企业数据进行探索和分析,揭示隐藏的、未知的或验证已知的规律性,并进一步将其模型化的先进有效的方法。

(2)数据挖掘常用的方法

利用数据挖掘进行数据分析常用的方法主要有分类、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘等,它们分别从不同的角度对数据进行挖掘。

1)分类

分类是找出数据库中一组数据对象的共同特点并按照分类模式将其划分为不同的类,其目的是通过分类模型,将数据库中的数据项映射到某个给定的类别。它可以应用到客户的分类、客户的属性和特征分析、客户满意度分析、客户的购买趋势预测等,如一个汽车零售商将客户按照对汽车的喜好划分成不同的类,这样营销人员就可以将新型汽车的广告手册直接邮寄到有这种喜好的客户手中,从而大大增加了商业机会。

2)回归分析

回归分析方法反映的是事务数据库中属性值在时间上的特征,产生一个将数据项映射到一个实值预测变量的函数,发现变量或属性间的依赖关系,其主要研究问题包括数据序列的趋势特征、数据序列的预测以及数据间的相关关系等。它可以应用到市场营销的各个方面,如客户寻求、保持和预防客户流失活动、产品生命周期分析、销售趋势预测及有针对性的促销活动等。

3)聚类分析

聚类分析是把一组数据按照相似性和差异性分为几个类别,其目的是使得属于同一类别的数据间的相似性尽可能大,不同类别中的数据间的相似性尽可能小。它可以应用到客户群体的分类、客户背景分析、客户购买趋势预测、市场的细分等。

4)关联规则

关联规则是描述数据库中数据项之间所存在的关系的规则,即根据一个事务中某些项的出现可导出另一些项在同一事务中也出现,即隐藏在数据间的关联或相互关系。在客户关系管理中,通过对企业的客户数据库里的大量数据进行挖掘,可以从大量的记录中发现有趣的关联关系,找出影响市场营销效果的关键因素,为产品定位、定价与定制客户群,客户寻求、细分与保持,市场营销与推销,营销风险评估和诈骗预测等决策支持提供参考依据。

5)特征分析

特征分析是从数据库中的一组数据中提取出关于这些数据的特征式,这些特征式表达了该数据集的总体特征。如营销人员通过对客户流失因素的特征提取,可以得到导致客户流失的一系列原因和主要特征,利用这些特征可以有效地预防客户的流失。

6)变化和偏差分析

偏差包括很大一类潜在有趣的知识,如分类中的反常实例、模式的例外、观察结果对期望的偏差等,其目的是寻找观察结果与参照量之间有意义的差别。在企业危机管理及其预警中,管理者更感兴趣的是那些意外规则。意外规则的挖掘可以应用到各种异常信息的发现、分析、识别、评价和预警等方面。

同类推荐
  • 专注的力量:资本市场的虚虚实实

    专注的力量:资本市场的虚虚实实

    本书是作者用近300天的碎片时间,多个媒体专栏文章重新整理结集的精华。全书通过虚构的资本市场故事、生动的投行场景、犀利的企业人点评,以及对多个知名投行、企业风云人物的专访,再现投行人的职场动态和生活场景等。8个财经专栏近1.3亿人次的阅读量,作者的勤奋和专业也获得了计兮、界面、新浪等多个专业平台的认可,被称为最勤奋的投行美女作家。本书即是投行人士的消遣佳品,也是圈外人观察投行人的工作、生活状态的最佳读物,更是想进入投行工作的毕业生的首选。
  • 总要先人一步:任正非的战略观

    总要先人一步:任正非的战略观

    华为为什么能够成为中国民营企业的标杆?任正非为什么能够打造出华为这样的跨国企业?一切结果的背后都有着思想的种子。正是任正非做人、做事的一些理念,决定了他能打造出现在的华为。可以说,华为的成功不仅仅是企业战略与管理的成功,更是任正非做人、做事的理念及其价值观的成功。无论我们做什么事、做什么人,成功的基因关键在于思想。本书就是阐述任正非思想的一本书,它弱化了管理,强化了思想的重要性,以大众化阅读的风格,娓娓而谈的方式,既具有思想性,又具有可读性,无论对职场人士还是创业者,都有着不可忽视的学习意义。
  • 好银行?坏银行!

    好银行?坏银行!

    本书精选了12个案例,内容涵盖20世纪90年代初期、亚洲金融危机和全球金融危机三个时期,包括美国、瑞典、日本、韩国、马来西亚、爱尔兰、瑞士等11个国家,反映了全球“坏银行”运作的脉络和演变规律。
  • 卓越团队的人才经营

    卓越团队的人才经营

    本书中的所有内容,是针对企业管理的各种状况,针对企业的人才经营并以服务于各级管理者而写成的。书中的各部分内容,或多或少都能够反映出当今企业管理者所面临的境况。任何一个章节,即使是很不起眼的一段文字,或者是那些看似琐碎的处方建议,都可以为每一个管理者提供切实有效的帮助。
  • 创业家的社会角色表现、冲突与调适

    创业家的社会角色表现、冲突与调适

    本书对创业家角色的总结与阐释选择了一个新的视角,对于创业家行为规律进行了较为深入的探求,希望能对创业者的实践工作及关注创业教育与研究的同仁有所帮助。
热门推荐
  • 绝世修真

    绝世修真

    一个父母双亡的十二岁孩子在陌生的修真世界该何去何从。平凡弱小的他经过一系列生死离别,因此锻造了坚韧的意志!仙人的级别分为七层:仙人——下仙——次仙——上仙——金仙——灵仙——神仙。真元球的层次:白色——绿色——黄色——红色——蓝色——青色——紫色——银色——金色——混沌之色
  • 抢个皇帝做老公:战神八小姐

    抢个皇帝做老公:战神八小姐

    她生平最讨厌被人背叛,前世死于伙伴之手,穿越后又有人对她不断放暗箭,想要置她于死地,她叶骨朵,真就这么好欺负么?竞争少族长,抢伪善姐姐的老公,她发誓要为自己复仇,可是……这个被抢的男人不是应该失声痛哭大声求饶么?可他这一脸心满意足的是为啥?OMG!!难道……她抢错人了?
  • 八兽神图

    八兽神图

    图门高杰本是天南大学大一的学生,然而在一次寒假回家后,无意间得到一张奇怪的图纸,无奈怎么也理解不了图里所表示的内容;然而在他好友的陪同下来,进入一片诡异的林海之中遇到了生命中最重要的一个人,那是一个老道,老道传授其道法,从此他便踏上了与常人不同的修道之路,图纸的秘密也随之不断浮现出来!!!
  • 多才风雅:上官婉儿

    多才风雅:上官婉儿

    《多才风雅上官婉儿》把中国文化中的物态文化、制度文化、行为文化、精神文化等知识要点全面展示给读者。点点滴滴的文化知识仿佛颗颗繁星,组成了灿烂辉煌的中国文化的天穹。
  • 三大公主的爱情复仇之路

    三大公主的爱情复仇之路

    在五岁的时候,她,她,她被抛弃了。她们立誓要报仇,可是她们冰凉的心被他们给融化了。。。。。
  • 秋殇夜依

    秋殇夜依

    莫过于绝望的事,无非就是来到人生地不熟的地方。一步一步,步步为营,且看吃货女如何打倒姨娘,踢出贱女,杠上皇帝,保一家在这不平国家安定生活。——“你注定跟皇室的人纠缠不清。”他说。“你凭什么...”“就凭你爱上了我。”她只想保全一家,安安静静的,平平淡淡的生活。但是,他若能护我一家平安,嫁给他也无妨。反正他,似乎,爱惨了她。
  • 身体课

    身体课

    “文革”时期,少女康美丽与雕塑家陶纯猝然相遇。朦胧的梦中,两人的情感和身体经历了一次奇妙的碰撞,康美丽由此获得了一生中唯一的一次身体高潮。三十多年后,随着一尊女性裸体塑像的神秘出现,康美丽封存许久的青春记忆被唤醒,她陷入难以自拔的精神危机,丈夫和女儿也被拖进莫名的紧张之中,原本平静的家庭笼罩在一片阴云下。情感、性、身体,这些最平常最切身又最微妙的元素,将如何左右他们的生活?女性裸体塑像从何而来,又将如何还原到往事的沟壑中?尊敬的书友,本书选载最精华部分供您阅读。留足悬念,同样精彩!
  • 注同教问答

    注同教问答

    本书为公版书,为不受著作权法限制的作家、艺术家及其它人士发布的作品,供广大读者阅读交流。
  • 机遇改变一生全集(白金珍藏版)

    机遇改变一生全集(白金珍藏版)

    机遇对人生成败起着至关重要的作用,把握住机遇,往往能使我们更快地走向成功。需要注意的是,机遇能不能变成你的现实利益,要看你是不是具有发现它的眼光、捕捉它的胆魄和利用它的实力。从寻找到发现、到捕捉、到利用,是一个厚积薄发的过程。只有长期追求,苦心积累,才能真正有所发现、有所收获。《机遇改变一生全集(白金珍藏版)》从机遇的重要性、如何发现机遇、如何把握机遇、如何创造机遇、如何取舍机遇、如何珍惜机遇、如何利用机遇等方面进行阐释,大量的事例和精辟的分析会使《机遇改变一生全集(白金珍藏版)》具有更强的实效性。
  • 重生之炮灰替身逆袭记

    重生之炮灰替身逆袭记

    穆灵芝原是穆家最受宠的千金小姐,直到被奸人绑架肆意折磨,却等不到救援,她才知道,一切不过是场演给外人的戏码,她只是穆家放在明面上的替身。含恨而死,不料穆灵芝死而复活,重回到一年前落水的第二天。上一世,那个乞丐少年被人围殴致死,她冷眼旁观,而这一世,穆灵芝救下了他。———————一个是普通大户人家的替身小姐,一个是被上了枷锁,惨遭丢弃的黑暗帝皇的寄身者。两个本不该有所交集的人,偏偏有了交集,有了羁绊……