迈向 “通用大原子模型” 时代,深度解读 DPA-2
人工智能(AI)的快速发展推动了原子建模、模拟和设计领域的重大变化。基于 AI 的势能模型已被研究者成功地用于大规模和长时间的模拟,其准确率达到了从头计算(ab initio)电子结构方法的水平。
然而,面对一个新的复杂体系,要获得可用的、较为完备的势函数模型,研究者仍需要获取大量计算数据并从头开始训练。随着电子结构数据的积累,研究者开始关注 “通用” 的势能函数模型,如 DPA-1,Equiformer-V2 等。但这些模型通用性不高,要实现真正意义上的 LAM(Large Atomic Model) 通用大原子模型,还需要克服先前研究的缺点。
经过北京科学智能研究院、北京应用物理与计算数学研究所、深势科技等 29 家单位的 42 位合作者的通力协作,深度势能预训练大模型 DPA-2 于 2023 年底正式发布,它也将成为 OpenLAM 大原子模型计划的重要载体。
目前 DPA-2 模型已覆盖化学元素超过 90 种,面向丰富的下游任务,微调 DPA-2 所需的数据量整体相比过去要节省 90% 以上,进一步降低训练成本。DPA-2 采用了多任务训练的策略,从而可以打破数据集来源限制,同时学习计算设置不同的各类数据集,迁移能力大幅提升。基于 DPA-2 的微调 / 蒸馏 / 应用自动化流程打通了面向实际应用的最后一公里。DPA-2 同时强调,建立一个开放且面向应用的模型评估系统是非常重要的。DPA-2 将成为 AI for Science 的重要基础设施之一,推动材料、能源、生物制药等领域微尺度工业设计的变革。
为了更好的帮助大家了解这项研究,机器之心最新一期线上分享邀请到了北京科学智能研究院算法研究员,深势科技高级算法研究员张铎,为大家解读他们近期的工作。
分享主题:迈向 “通用大原子模型” 时代|深度解读 DPA-2分享摘要:深度势能预训练大模型 DPA-2 的提出是我们迈向 “通用大原子模型” 的重要一步。本次分享将介绍 DPA 的研究背景和特点,为大家深度解读从 DPA-1 到 DPA-2 的模型框架和构建过程,以及其在 AI for Science 领域的应用前景。嘉宾简介:张铎,北京科学智能研究院算法研究员,深势科技高级算法研究员,DeepModeling 开源社区核心开发者,本科毕业于北京大学元培学院及信息科学技术学院图灵班,博士就读于北京大学前沿交叉学科研究院,师从鄂维南院士,研究方向包括深度学习和分子动力学模拟方法等,核心开发了首个覆盖元素周期表近 70 种元素的深度势能原子间势函数预训练模型 DPA-1,和采用多任务训练策略、在下游应用体系能节省 90% 以上数据的新一代势函数预训练模型 DPA-2,致力于做出科学计算领域的预训练大模型,推动整个领域的发展。
相关链接:
2022 年,DPA-1 相关文章:Pretraining of Attention-based Deep Potential Model for Molecular Simulation https://arxiv.org/pdf/2208.08236.pdf
2023 年,DPA-2 相关文章:DPA-2: Towards a universal large atomic model for molecular and material simulationhttps://arxiv.org/abs/2312.15492
OpenLAM 计划:https://www.aissquare.com/openlam
分享时间:1月29日19:00-20:00
直播间:关注机器之心机动组视频号,立即预约直播。
交流群:本次直播设有 QA 环节,欢迎加入本次直播交流群探讨交流。
机器之心 · 机动组
机动组是机器之心发起的人工智能技术社区,聚焦于学术研究与技术实践主题内容,为社区用户带来技术线上公开课、学术分享、技术实践、走近顶尖实验室等系列内容。机动组也将不定期举办线下学术交流会与组织人才服务、产业技术对接等活动,欢迎所有 AI 领域技术从业者关注。
点击阅读原文,访问机动组官网,观看往期回顾;
关注机动组服务号,获取每周直播预告。
阅读原文
网站开发网络凭借多年的网站建设经验,坚持以“帮助中小企业实现网络营销化”为宗旨,累计为4000多家客户提供品质建站服务,得到了客户的一致好评。如果您有网站建设、网站改版、域名注册、主机空间、手机网站建设、网站备案等方面的需求...
请立即点击咨询我们或拨打咨询热线:13245491521 13245491521 ,我们会详细为你一一解答你心中的疑难。 项目经理在线