OpenBMB

【产品简介】

OpenBMB全称为Open Lab for Big Model Base，旨在打造大规模预训练语言模型库与相关工具， 加速百亿级以上大模型的训练、微调与推理，降低大模型使用门槛，与国内外开发者共同努力形成大模型开源社区， 推动大模型生态发展，实现大模型的标准化、普及化和实用化，让大模型飞入千家万户。

【产品功能】

BMTrain

大模型训练“发动机”。BMTrain进行高效的大模型预训练与微调。与DeepSpeed等框架相比，BMTrain训练模型成本可节省90%。

BMCook

大模型“瘦身”工具库。BMCook进行大模型高效压缩，提高运行效率。通过量化、剪枝、蒸馏、专家化等算法组合，可保持原模型90%+效果，模型推理加速10倍。

BMInf

千元级显卡玩转大模型推理。BMInf实现大模型低成本高效推理计算，使用单块千元级显卡（GTX 1060）即可进行百亿参数大模型推理。

OpenPrompt

大模型提示学习利器。OpenPrompt提供统一接口的提示学习模板语言， 它的组合性和模块化可以让你轻松部署提示学习方法以驱动大模型。

官方网址：www.openbmb.org/home       

前往官网