更新时间:2024-09-04
大模型开发过程中,可能存在多个模型或同一个模型的多个版本:
- 结合垂直场景数据的变化,不断迭代训练模型,产生模型的不同版本;
- 结合不同的垂直场景应用,训练不同的大模型;
- 为了降低模型部署的成本、或提升模型安全,对模型做压缩、安全加密后,会产生模型的新的版本。
此外,对于主流的开源大模型,用户通常希望先本地部署进行测试,但不同模型的框架依赖不尽相同,配置部署复杂,需要花费较多的时间去调试。
因此,用户需要一个平台实现对大模型开发过程中的不同版本的模型进行统一的管理,同时需要预置主流的开源模型,方便直接部署使用。
模型仓库包括从训练任务创建模型、从本地导入模型、从指定存储路径导入模型、从训练任务添加版本、从本地导入添加版本、从指定存储路径添加版本、编辑模型、删除模型和获取测试建议等功能。