资讯详情

【模型复现】零样本预测文本分类模型——ESM 快速复现模型

ESM

快速复制教程

01 镜像详情

这篇论文《Biological structure and function emerge from scaling unsupervised learning to 250 million protein sequences》 .这篇文章于2019年2月发表biorxiv上。代码中包括来自 Facebook AI Research 的 Transformer 蛋白质语言模型的代码和预训练权重,包括我们最先进的 ESM-1b 和 MSA Transformer。并在论文中介绍 Transformer 蛋白质语言模型。介绍了一种新的蛋白质语言模型ESM-1v,它具有与当前最先进的突变预测模型相当的零样本预测能力,表明使用大量各种蛋白序列数据训练的语言模型可以在没有监督学习的情况下预测蛋白功能的实验测量结果。模型在零样本场景中的泛化说明了大型预训练语言模型捕获领域知识的潜力,这可能有助于产生新的功能蛋白。

02 平台环境准备

https://cloud.videojj.com/?channel=cs9https://cloud.videojj.com/?channel=cs9

创建完成后,单击jupyterlab连接

03 模型配置

进入终端,在root/esm输入以下命令:

python extract.py esm1b_t33_650M_UR50S examples/some_proteins.fasta examples/some_proteins_emb_esm1b/ \   --repr_layers 0 32 33 --include mean per_tok

请左右滑动更多内容

进入终端,在root/esm输入以下命令:

python extract.py esm1_t34_670M_UR50S examples/P62593.fasta examples/P62593_reprs --repr_layers 34 --include mean

请左右滑动更多内容

进入终端,在root/esm输入以下命令:

python extract.py esm1_t34_670M_UR50S examples/P62593.fasta examples/P62593_reprs/ \   --repr_layers 34 --include mean

以上就是 ESM 所有复制内容

如果你感兴趣,你可以进入极链AI云官网,一键体验~

平台也有例子yolo一系列等经典模型等等

简单操作即可完成复现

新用户注册并完成认证也可以获得大量云币券哦~

标签: ld50s激光传感器

锐单商城拥有海量元器件数据手册IC替代型号,打造 电子元器件IC百科大全!

 锐单商城 - 一站式电子元器件采购平台  

 深圳锐单电子有限公司