天津渔网价格虚拟社区

千兆级超大规模进化树构建软件:HPTree

生信者言2018-08-17 07:05:53


近日,天津大学邹权教授与中国科学院马占山团队以及厦门大学科研人员联合发布了为千兆级基因序列数据构建进化树的软件HPTree。该软件使用谷歌Hadoop并行技术和加州大学大伯克利Spark集群大数据技术作为并行处理平台,利用计算机集群对基因序列大数据进行分割处理和整合。


相关的软件和网站服务已发布在:http://lab.malab.cn/soft/HPtree/,软件也可以安装在亚马逊(Amazon Cloud)等云计算平台。


文章题为Reconstructing evolutionary trees in parallel for massive sequences,发表于BMC System Biology。


Fig:MSA procedures based on Spark distributed framework


进化树、也称生物系统发育树或生命树的概念最早发源于19世纪中叶的古生物学研究,达尔文在《物种起源》中勾画了最早的进化树之一。对进化树广泛研究和构建则始于20世纪90年代,特别是在最近20年间,基因测序技术,以及分子进化研究使得构建进化树成为进化生物学研究不可或缺的技术。达尔文进化论核心思想之一即是:地球上生命“同根”—即所有物种都有共同起源,并能在生命进化树上找到自己的位置。然而,与人类对宇宙探索类似,进化树构建并不能够一蹴而就, 其原因至少包括: 


其一,我们不仅可能永远都难以获得地球上所有已灭绝物种的信息,而且地球上还存在大量未经发现的“暗物种”。例如,不到10年前才发起的人类微生物群系计划(HMP: Human Microbiome Project) 就揭示,我们人体体内(肠道、口腔、呼吸道、生殖道)和体表生活着大量先前未知的微生物(包括细菌、病毒、真菌、质粒、噬菌体等):这些微生物只有依赖最新的微生物宏基因测序技术才能发现。事实上,HMP 研究发现,在宏基因测序技术发明之前,人类仅仅能够检测到不足10%的肠道细菌种类,而对其它90%的细菌则几乎一无所知!无独有偶,地球上其它动植物体内或体表,乃至所有生命可能存在的生境(例如:土壤、湖泊、森林、河流、海洋、冰川,当然包括我们呼吸的室内外空气中)都存在类似比例尚待鉴定发现的微生物。 科学家发现,现代人诸多“文明、富贵病”(例如肥胖、糖尿病、痛风、过敏、抑郁、自闭症)都与肠道菌群有着不同程度的相关。其原因之一可能是:现代饮食和生活方式的改变破坏了人类与其肠道菌群长期进化形成的互惠共生机制而大幅度增加了现代人对于这些代谢、免疫、情绪相关疾病的易感性。因此,预计在不远的未来,对微生物群系的广泛研究会对现有进化树构建方法和技术带来全新的挑战。 



其二、进化树计算之所以会遇到终极挑战,是由于进化树构建在计算机科学属于所谓的 “NP-Hard”问题,绝大多数计算机科学家认为:当所要解决的问题足够大时(例如:所要构建的进化树足够大时),即使采用目前人类所发明的最快速计算机(或许包括未来所发明的)也无法完成计算过程。而数学家则将证明NP-Hard问题不存在“简单”算法(当然包括人工智能)的问题列为千禧年期待证明、并被悬赏百万美元的七大难题之首。有些令人失望的是,NP-Hard类问题在科学、工程、生物信息计算、乃至日常生活中所抽象出来的计算问题中都占有相当比例;或许也可以将其比喻为计算科学领域的“暗物质”。为此,目前所有进化树计算方法最终都会受到进化树大小的限制,进化树越大(物种越多),计算越复杂(耗费时间和计算机内存)。 因此可以肯定的是,进化树构建问题的复杂性是一个不断增长的过程!科学家只有采用一些巧夺天工,但本质上仍然是探索、启示性的算法才能获得问题的近似答案;而绝大多数科学家相信,理论上最优并且“可计算”的算法可能永远也无法获得! 



联合团队此次发布的HPTree软件采用了目前最先进的并行计算技术:即支撑谷歌公司搜索引擎的 Hadoop 技术,以及由加州大学伯克利分校所研发的Spark大数据分析技术,从而将进化树构建推进到了千兆(GB)级基因序列数据的前沿。目前绝大多数进化树构建软件在构建千兆级序列进化树时都需要依赖于超级计算机集群,或计算太慢而难以在普通服务器完成。而HPTree软件可以在由普通工作站、甚至廉价PC搭建的Hadoop平台上运行,故此可以大幅度降低其计算成本。 



HPTree的研制和测试始于2015年,其技术已日趋成熟。事实上,HPTree最大的优势是其强大的可扩展性,研发团队在普通学科组计算平台已经能够处理千兆级别的进化树构建。随着硬件平台的升级(例如移植到云平台、或超级计算机集群平台),HPTree软件的优势会更加显著。这是因为: 如前所述,HPTree采用的计算框架正是像谷歌这些IT巨商用于支撑他们搜索引擎的Hadoop技术,以及先进的大数据分析技术(Spark)。如前所分析,随着全球在微生物群系研究领域所产生的宏基因大数据不断增长,对HPTree技术和软件的需求应随之大幅度增高。 


显然,HPTree并不能一劳永逸的解决进化树计算、作为NP-Hard难题之一未来可能会遇到的终极计算挑战。 HPTree软件的算法设计策略其实非常简单,或许有些类似于《西游记》 中孙悟空在需要时可以顷刻克隆出一大群孙猴, 从而能够完成对超大规模基因序列数据的并行处理,快速高效地构建出相应的进化树。而对于小规模数据,自然也就没有必要变出一大堆猴子,因此HPTree 优势在于能够处理大数据。 


/End.


扫码关注,获取更多精彩内容

喜马拉雅FM搜索并订阅:生信者言;收听内容:

《一分钟听懂NGS基础概念》,让生信分析不再遥不可及

《亲爱的姑娘,你值得被温柔以待》,11个真实的人物故事

《众病之王:癌症传》,一起聆听人类对抗癌症的斗争史

回复文字:果然科学,看一篇好玩的科普文。