作者 | 刘圣超
编辑 | 凯霞
从2021年开始,大语言和多模态的结合席卷了机器学习科研界。
最近随着大模型、多模态的应用,一个很自然的想法就是我们是否也可以将这些技术用到药物发现上?并且这些自然语言的文本描述,是否对于药物发现这个有挑战性的问题带来新的视角?答案是肯定并且乐观的。
近日,加拿大蒙特利尔学习算法研究院(Mila)、NVIDIA Research、伊利诺伊大学厄巴纳-香槟分校(UIUC)、普林斯顿大学和加州理工学院的研究团队,通过对比学习策略共同学习分子的化学结构和文本描述,提出了一种多模态分子结构-文本模型 MoleculeSTM。
该研究以为题《Multi-modal molecule structure–text model for text-based retrieval and editing》为题,于 2023 年 12 月 18 日发表在《Nature Machine Intelligence》上。
论文链接:https://www.nature.com/articles/s42256-023-00759-6
其中刘圣超博士是第一作者,NVIDIA Research 的 Anima Anandkumar 教授为通讯作者。聂维梨、王程鹏、卢家睿、乔卓然、刘玲、唐建和肖超玮为共同作者。
该项目是刘圣超博士在2022年3月加入 NVIDIA Research 之后,在聂维梨老师、唐建老师、肖超玮老师和 Anima Anandkumar 老师的指导下进行的。
刘圣超博士表示:「我们的动机就是对LLM和药物发现进行初步的探索,并最终提出了MoleculeSTM。」
用于对接的文本引导分子编辑。
MoleculeSTM的核心思路非常简单直接:分子的描述有内部化学结构(internal chemical structure)和外部功能描述(external textual descriptions)两大类,而我们这里利用了contrastive pretraining的思路,将两种类型的信息进行alignment联系。如下图。
图示:MoleculeSTM的流程图。
而MoleculeSTM的这个alignment有一个非常好的性质:当有一些任务在化学空间比较难以解决的时候,我们可以将其transfer到自然语言(natural language)空间。而且自然语言的任务会相对更容易解决,由于它的特性。并且基于此我们设计了种类丰富的下游任务来验证其有效性。下面我们围绕几个insight详细讨论。
自然语言和大语言模型的特性
这个是我们在MoleculeSTM中首先提出的问题。在MoleculeSTM中,我们是利用了自然语言的open vocabulary和compositionality特性:
- Open vocabulary的意思是我们可以把现在人类知识都用自然语言表示,所以对于将来新出现的知识,也能用现有的语言进行归纳和总结。比如出现某种新的蛋白质,我们希望可以对它的功能进行自然语言描述。
- Compositionality的意思是在自然语言中,一个复杂的概念可以用几个简单的概念进行联合表述。这个对于类似多属性编辑的任务有很大的帮助:在化学空间要编辑分子同时符合多个特性非常困难,但是我们可以非常简单地用自然语言表达出来多种特性。
而在我们最近的工作ChatDrug (https://arxiv.org/abs/2305.18090) 中,我们又挖掘了自然语言和大语言模型的对话特性。这个有兴趣的小伙伴可以看一下。
特性引出的任务设计
现有的language-image task可以认为是艺术相关的任务(比如生成图片、文字),也就是说它们的结果是可以多样和不确定。但是科学发现是科学问题,通常有着比较明确的结果,比如生成有某个功效的小分子。这个在任务的设计上带来了更大的挑战。
在MoleculeSTM中 (Appendix B),我们提出了两个准则:
- 首先我们考虑的任务是能够进行计算模拟得到结果。将来会考虑能够有wet-lab验证的结果,但这并不在目前这个工作的考量范畴内。
- 其次我们只考虑有着模糊性结果的问题。具体例子比如让某个分子的水溶性或者穿透性变强。而有一些问题有明确结果,比如在分子的某一个位置加入某一个官能团,我们认为这类任务对于药物、化学专家来说更加简单直接。所以它可以将来当作某一个proof-of-concept任务,但是并不会成为主要的任务目标。
由此我们设计了三个大类任务:
- Zero-shot 结构文本检索;
- Zero-shot 基于文本的分子编辑;
- 分子性质预测。
接下来我们会重点介绍一下第二个任务。
分子编辑的定性结果
这个任务就是同时输入一个分子和自然语言描述(比如额外的属性),然后希望能够输出复合语言文本描述的新的分子。这就是文本编辑优化(text-guided lead optimization)。
具体的方法就是利用已经训练好的分子生成模型和我们预训练好的MoleculeSTM,通过学习二者的潜在空间(latent space)的alignment,从而进行 latent space interpolation,再经过解码生成目标分子。流程示意图如下。
图示:zero-shot text-guided molecule editing 两阶段流程示意图。
这里我们展示了几组分子编辑的定性结果(其余下游任务的结果细节可以参考原论文)。主要我们考虑四类分子编辑任务:
- 单一属性编辑:对单一属性进行编辑,比如水溶性、穿透性、氢键施主与受主个数。
- 复合属性编辑:同时对多个属性进行编辑,比如水溶性和氢键施主个数。
- 药物相似性编辑:(Appendix D.5)是让输入分子与目标分子药物长得更加接近。
- 专利药物的邻居搜索:对于已经申请到专利的药物,往往会把中间过程的药物一起报道。我们这里就是那中间药物配合自然语言描述,看是否能够生成最终的目标药物。
- binding affinity编辑:我们选择几个ChEMBL assay作为靶点,目标是让输入分子和靶点有更高的结合亲和力。
图示:zero-shot text-guided molecule editing 结果展示。
更有意思的是最后一类任务,我们发现MoleculeSTM的确能够在紧紧依靠对于靶蛋白的文字描述,而进行配体的配体 先导化合物优化。(注:这里的蛋白质结构信息都是在evaluation是才会知道。)