更新时间:2024-11-02
背景说明
用户想访问模型推理服务,需要为推理服务所关联的算力池创建网关实例
前提条件
- 算力池所在集群需要有负载均衡器,具体可以打开SCP控制台后点击“容器服务>集群管理>负载均衡器”页面创建
约束与限制
- 创建网关实例时需要算力池剩余gpu和内存能满足选择的副本数和规格的消耗
操作流程
步骤1 使用浏览器,用SCP的管理员或SCP租户登录SCP控制台
管理员场景登录地址:https:// SCP的访问地址:4430。例如https://192.168.200.100:4430/
租户场景登录地址:https:// SCP的访问地址。例如https://192.168.200.100
步骤2 在导航栏左上角单击 ,选择人工智能模块,选择“AI算力平台”,进入AICP控制台页面
步骤3 在左侧导航栏单击“平台管理”,在展开的功能列表单击“资源管理”
步骤4 在资源管理页面单击“网关配置”
步骤4 在网关配置页面单击“创建”,进行网关配置