撰文丨王聪

剪辑丨王多鱼

排版丨水成文

基于说话模子（language model）的生成式东谈主工智能，让咱们的确感受到了东谈主工智能的重大后劲，编写代码、阅读并证据翰墨、生成画图以至视频。

咱们的基因组是由4种碱基胪列组合而成，其包含了生命的多样信息提醒，基因组中的每个序列齐谨守着与东谈主类当然说话访佛的语法和句法章程，调动一个或几个字词会澈底调动一句话，而调动基因组中的一个或几个碱基也足以产生重大影响，本体上，很多重要遗传疾病仅仅因为单个碱基的调动。

那么，说话模子大意证据基因组序列信息吗？不错用来匡助咱们优化mRNA序列，从而诞生出更灵验的mRNA疫苗或疗法吗？

2024年4月5日，普林斯顿大学王梦迪团队 （褚晏伊、于丹为共同第一作家） 在Nature Machine Intelligence上发表了题为：A 5′ UTR language model for decoding untranslated regions of mRNA and function predictions 的究诘论文，该论文此前于2023年10月在预印本平台bioRxiv上线。

该究诘诞生了一种说话模子（language model）——UTR-LM， 该模子期骗其语义表征才能解码mRNA的5'UTR区并展望其功能，并在此基础上生成mRNA的5'UTR序列，其中，生成的新冠病毒S卵白的mRNA的5'UTR区，比较现存的优化的5'UTR区，大意将S卵白生成水平大幅提升32.5%，从而匡助诞生更灵验的mRNA疫苗。

王梦迪讲明

王梦迪，14岁时考入清华大学自动化系，23岁时得回麻省理工学院（MIT）电子工程与策划机博士学位，同庚加入普林斯顿大学任助理讲明，29岁时得回普林斯顿大学毕生教职。

当然界中的生命齐谨守一个基本次序——中心次序，即细胞生命的遗传信息从DNA向RNA再向卵白质的流动，DNA储存了遗传信息，卵白组追究了细胞的结构和功能，而mRNA将DNA中的遗传信息翻译为卵白组。本体上，mRNA中只须一部分会被翻译为卵白质，其余部分黑白翻译区，阐扬着调控翻译的功能。

5'非翻译区（5 ' UTR） 是mRNA序列起首的一段区域，位于卵白质编码序列之前。它影响着mRNA分子的踏实性、定位和翻译，在调控mRNA到卵白质的翻译经由中阐扬着至关进犯的作用。

关于mRNA疫苗，终局其卵白质产生的成果杰出纰谬。在这项究诘中，究诘团队将他们诞生的说话模子持续于mRNA的5'非翻译区（5′ UTR）——UTR-LM， 以了解如何优化mRNA翻译成果和改造疫苗。

与开动ChatGPT等聊天机器东谈主的大说话模子（LLM）比较，该究诘诞生的这个说话模子（UTR-LM）在进程上不同，前者是在互联网上数十亿页的文本上进行考试，而UTR-LM是在几十万个来自不同物种的mRNA序列上进行基于Transformer模子的预考试，并纳入了mRNA二级结构和最小摆脱能（MFE）等监督信息。考试后的UTR-LM模子大意准确展望mRNA的平均核糖体归拢数目（MRL）、mRNA的翻译成果（TE）和抒发水平（EL），还可展望mRNA非翻译区上未被注目的核糖体参加位点（IRES）。这些展望的准确率均权臣高于现存器用。

5′UTR功能展望与设想的UTR-LM模子

然后，究诘团队使用经过考试的UTR-LM模子创建了一个包括211个新序列的库。每个序列齐被优化以达成所需功能，主若是提升卵白质翻译成果，举例提升mRNA新冠疫苗所编码的刺突卵白（S卵白）。究诘团队通过践诺室践诺进一步考证了这些生成的序列，其中最好序列优于现存的大意权臣提升S卵白抒发成果的5'UTR序列 ——NCA-7d-5'UTR，将S卵白的坐蓐水平提升了32.5%。这一提升幅度足以对包括传染病疫苗、癌症疫在内的mRNA疫苗和疗法带来重大鼓动。

对UTR-LM模子及由UTR-LM生成的5'UTR序的践诺考证

夙昔的究诘依然创建了说话模子来解码多样生物序列，包括卵白质序列和DNA序列，而UTR-LM是第一个专注于mRNA非翻译区的说话模子，其除了提升mRNA的举座翻译成果外，还大意展望序列在多样相干任务中的发达。

论文通信作家王梦迪讲昭示意，创建这个说话模子的的确挑战在于让其证据可用数据的好意思满高下文，考试模子不仅需要具有扫数特征的原始数据，还需要这些特征的卑鄙驱逐。 该模子的得手还指向了一个更基本的可能性——通过对少数物种的mRNA进行考试，它大意解码核酸序列，并揭示关系基因调控的新学问。基因调控是生命最基本的功能之一，掌合手着解锁疾病和疾病发祥的纰谬。像这么的说话模子不错提供一种探索基因调控的新口头。

该论文此前已于2023年10月在预印本平台bioRxiv上线。

参考辛苦：

https://www.nature.com/articles/s42256-024-00823-9

https://mwang.princeton.edu