AICP算力平台

AICP面向用户提供一站式大模型开发和推理服务,覆盖大模型开发和部署的全流程,包括从数据接入、模型训练、模型管理、模型压缩、模型加密、模型推理的全流程。
点击可切换产品版本
知道了
不再提醒
1.0.0
{{sendMatomoQuery("AICP算力平台","创建网关")}}

创建网关

更新时间:2024-11-02

背景说明

用户想访问模型推理服务,需要为推理服务所关联的算力池创建网关实例

 

前提条件

  1. 算力池所在集群需要有负载均衡器,具体可以打开SCP控制台后点击“容器服务>集群管理>负载均衡器”页面创建

descript

 

约束与限制

  1. 创建网关实例时需要算力池剩余gpu和内存能满足选择的副本数和规格的消耗

 

操作流程

步骤1 使用浏览器,用SCP的管理员或SCP租户登录SCP控制台

管理员场景登录地址:https:// SCP的访问地址:4430。例如https://192.168.200.100:4430/

租户场景登录地址:https:// SCP的访问地址。例如https://192.168.200.100

步骤2  在导航栏左上角单击 ,选择人工智能模块,选择“AI算力平台”,进AICP控制台页面

 

步骤3 在左侧导航栏单击“平台管理”,在展开的功能列表单击“资源管理”

descript

 

步骤4 在资源管理页面单击“网关配置”

descript

步骤4 在网关配置页面单击“创建”,进行网关配置

descript