登陆注册
19712100000099

第99章 大数据分析,数据驱动发现

大数据分析,数据驱动发现是计算机技术,统计学,数学的综合应用。

科学范式的改变:1实验或者测量2分析理论3数值模拟4数据驱动。生物就停留在1和2之间。天文学当初产生的数据使得开普勒三大定律和万有引力定律成为可能,理论上,只要单个数据点的成本足够低,我们可以产生大量的数据用于模式识别。复杂的现象需要复杂的数据来理解,提取出模式之后如同公理化体系的构建一样来逼近现实情况。我的野心并不大,能够使用生物信息来解释生命就可以了。具体的应用可以有疾病生物标记物的发现,疾病相关基因的发现等等。

发现目前工作的局限性Challenge,细化到可以解决的层次—提出可能的解决方案solutions,最后集成起来。这是计算机科学的分而治之Divide and conquer。如此反复,如同迭代,数学的演绎,不断开阔人类的认知边界。机器学习算法也是需要各种反馈来进一步修改参数直至收敛到最优解(如梯度下降法)。

科学发现工作流程:收集处理管理分析1收集数据即实验或者观察2数据整理,以一定的定义好的形式来组织如数据库3数据挖掘,各种相关性的构建,个人认为可以通过贝叶斯推断一样的机制来在一些相关对象的组合中构建起高概率的相关性,可以理解为高维关系的构建是底层关系的累加(微积分基本定理),以分析数学的思路是在这些复杂对象中总存在这种确定性的关系(不动点,如中值定理)4数据理解,整合到具体的背景5新知识

数据挖掘的方法包括重要的机器学习算法等等,有非监督学习算法如聚类,降维等等,有监督学习如分类回归等等,还有其他的算法如神经网络算法,以及进一步的深度学习。

讲座1:模式识别

万物皆有理,这是我们的信仰,可以理解为一种对关系存在的一种假设。然后就是具体地寻找这种关系,即所谓的模式识别。具体的方法有许多,如分类,回归,更具体的实现有最近邻居法,KNN 等等。

模式识别其实就是对特定函数的构造,如回归方程的数学解析式y=ax+b,,在假设这些函数的存在之后的构造,就是对参数的确定,使得与真实情况的对比能够维持比较低的误差(误差低于一定程度视为等价),还有各种指标如正确率,召回率等等。

核方法kernel,本质上也是构造一定的函数来满足一定的需求。

我们可以以足够高维的空间,即每个数据点都具有多个属性,来对现实情况进行建模。理论上可以是无限维的,从而对一切都建模。但是这是没有意义的,因为我们的计算资源不足以支撑,而且我们认为有意义的属性的数量和重要性是呈现幂律发布的,即只有少部分的指标具有更大的重要性。因此降维处理势在必行。这与线性代数的线性无关基地的分解相似,都是以最少的损失来存储数据。比如说PCA主成分分析。也可以理解为特征值/向量的提取。

算法的计算需要对特定指标的选择和计算,必须是可量化的,这样才可以更新各种参数,从而收敛停机。如人脸识别,就是通过相关指标的计算来推断哪些区域更可能是目标区域。

讲座2:机器学习介绍

应用的广泛性。本质上是经过训练找到一定的函数或者分类器,能够应用于泛化的数据。

自动编程机—人工智能,从一开始的硬编程,即编码所有规则,在发现其不可能的基础上探求软编程,通过数据学习,对于特定的任务task T ,有一定的测量指标performance measure P ,其能够根据经验experience P 来不断改善。如垃圾邮件识别,医疗诊断,广告推荐等等。

大数据:volume 大量数据,velocity产生速度快,variety多样性,veracity, value价值,从数据提取知识。

对于不同问题,应该选择不同的算法,不存在万能算法包打天下,必须综合考虑得和失。虽然深度学习有这个潜力。我们的目标在于发现生物的不显著效应,如转录的多个影响因素组蛋白乙酰化,转录因子的相互作用等等,并挖掘可能的工作机制如相关蛋白质的作用。

讲座3:数据—数据模型—数据库

数据—信息—知识—原理,金字塔的结构,数量不断减少,但重要性不断提高。

讲座4:神经网络在各个领域发挥重要作用,如语音图像识别,推荐系统,社交网络等等,我们尤其注意其中生物的应用,比如说基因表达芯片的数据分析等等。数据—模型—计算能力的结合,使得我们能够挖掘出统计层次具有意义的模式,能够与一定的生物机制构建相关性。可以有探针式的输入,在库找到相关性的团体。

神经网络的训练需要大规模的矩阵运算,复杂度很高,需要采取一定的优化措施来加速运算:低秩近似Low rank Approximation,网络pruning,scalar or vector quantization .

矩阵分解可以减少计算量。稀疏矩阵,降低储存量。不动点节约存储量,运算时间等等,这是一种存在性的假设和改造。相当于将进行先验的概率进行运算,能够更快地收敛到目的最优解。

深度学习:特征提取—Metric学习—分类

同类推荐
  • 天下汇志

    天下汇志

    这是一部集玄幻,亲情,友情,爱情,军事,励志,权谋,悬疑于一身的长篇型小说。故事更是以历代帝王,贤相能臣,军事名将,侦探名家,诗词大家,音乐奇才等各方面人物来作为故事题材。本故事讲述的是一个平凡少年,从一个青春懵懂到一个善于权谋的天下霸主的蜕变。
  • 白苍道

    白苍道

    一条满是白骨的沧桑之路,一个草根少年的逆天成长。
  • 武神狂澜

    武神狂澜

    风起波澜,谁斩动八方幽冥月色迷离,谁撩动伊人心弦命运悲,族人弃,漠漠虚日度青云子,逆乾坤,少年破苍穹境界,就是命运力量,才是王道谁,踩着万人的尸骨,登上了那金字塔的塔尖落魄的少年,命运的转折,崛起之后,又是陷入了女人的僵局兄弟神秘的身份让的最后兵刃相见,含泪挥刀,魔族的横行肆掠,让的他步履维艰他是神,但他也是人魔界之中,究竟是他被沦落,还是魔族被他感动
  • 异界之生物电脑吞噬者

    异界之生物电脑吞噬者

    某猪脚特羡慕那些传说中黑客!特期盼某天拥有强大的网络实力,这实力的来源就有待商榷!嗯,就捡到超现代计算机这类就行了!没想到的是梦想是实现了,可这是个邪恶的脱逃智能生物电脑,于是乎,某人悲剧了。虽然不至于死亡,可等待他的却是另一个世界!略显落后的文明世界!
  • 界归

    界归

    历经万古,看尽沧桑,然而终究失败。这一世他重回人身,只为了战到那世界的尽头,溯到那隧古之源,追寻那未来之尽。然后,把囚禁他万年的神魔穴掀翻了!
热门推荐
  • 末日行者系统

    末日行者系统

    七大洲板块漂移合并为一块大陆,全世界人口仅存不到十分之一。在新的大陆上,病毒爆发,人类陷入危机。而一名小小的青年,在这时踏入自己的行者之途!QQ群:264074860喜欢的话加群一起探讨,有什么错误,也可以进群跟我说!!!
  • 无尽丹药

    无尽丹药

    落魄大学生陈宇意外获得‘开心炼丹系统’各种各样神奇的丹药让他重新走上人生巅峰……钱?权利?修真?……天空飘过五个字‘这都不是事!”
  • 彼岸花之夜

    彼岸花之夜

    本文是写青春纯爱的文,欢迎大家来看。我刚刚开始写,请大家不要建议。
  • 校园邂逅

    校园邂逅

    校园那次邂逅,她拿起玫瑰,走到他的身旁,他默默看着,身边闪烁着阳光....
  • 遇见你是我此生最大的幸福

    遇见你是我此生最大的幸福

    对于莫琛来说,遇见楚安然是他最大的幸福!他看似冷心冷情,然而一旦动了心,便再也放不下了!只是她一直躲着他是怎么回事?“楚安然,就算你逃到天涯海角我也会把你给找出来,我这辈子赖定你了!”感谢阅文书评团提供书评支持!
  • 凹凸世界之赤炼妖瞳

    凹凸世界之赤炼妖瞳

    你们都说我是神,是凌驾于万人之上的不死之神,却从不会知道不会死亡其实是一条禁锢着我的锁链,一次次的死亡,一次次的忘记,一次次的复活,体验到的是记忆被剥夺的空虚以及重复死亡的痛苦。可是似乎唯有你们,即使这样也从不会放弃我,哪怕恨得也好,爱的也好,至少让我记得刻骨铭心,记忆会消失,但爱的感觉不会变,忘记没有关系,但是记得再次爱上。
  • 遇见最美的年华

    遇见最美的年华

    本书是一部启迪读者心灵的小小说文集,作者用通俗易懂的文字,曲折生动的情节,向读者讲述了一个个美丽动人的友情、亲情、爱情等故事,或赞美、或鞭策,题材广泛,内容丰富,是作者与读者的对话,更是作者发自内心的呼唤。
  • 四女同穿:绝色逆天御灵师

    四女同穿:绝色逆天御灵师

    【逗比作者奇葩文,《安科列尼贵族学院》姐妹文,女强男强,一对一爽文,校园+玄幻,就是这么任性!!(群号:卿忆萱书友群80816162)群地址已更改】她们本来是世界顶尖特工,拥有互相感应的异能,却再一次任务中意外身亡。她们一同穿越,成为四大名门的废柴落魄小姐,不能修炼。前有渣姐为难欺凌,后有狠毒后妈,左有凉薄未婚夫,右有拦路当街狗,祖母不疼?父亲不爱?庶妹欺凌?还被各自的未婚夫退婚?有如此标配,她们真真是醉了。既然上天有心让四人穿越,那她们不再委曲求全,不再做提线木偶,果断出击,整治渣姐,退掉渣男婚约。待看她们如何在这枭玄大陆翻云覆雨!
  • 劳动关系管理焦点实务百问百答

    劳动关系管理焦点实务百问百答

    本书根据作者的亲身实践,以及近几年来社会上出现的案例,从中提取了100个相对独立的问题,来阐述企业人力资源管理相关的法律问题。这些问题很有代表性,重点突出,可谓针对性强;与人力资源管理实际工作联系很紧密,可谓实用性强;涵盖了整个人力资源管理全过程,内容比较系统,可谓整体性强。
  • 鹿晗,吴亦凡—偶遇之恋

    鹿晗,吴亦凡—偶遇之恋

    鹿晗,吴亦凡,在一天,离开了EXO,创建了自己的舞团,却在新的旅途中,遇上了两个女孩,并开始谱上了一段爱情乐章,但是好景不长,鹿晗和吴亦凡的父母,帮他们订了婚,这段爱情,还会持续下去吗?女主,会坚强起来吗?【呜呜~(>_<)~,内容纯属虚构,行星饭们别找我,麋鹿们别找我,不要吓死我。】