AICP算力平台

AICP面向用户提供一站式大模型开发和推理服务,覆盖大模型开发和部署的全流程,包括从数据接入、模型训练、模型管理、模型压缩、模型加密、模型推理的全流程。
点击可切换产品版本
知道了
不再提醒
1.0.0
{{sendMatomoQuery("AICP算力平台","AI基础设施层")}}

AI基础设施层

更新时间:2024-09-04

AICP的高效运行离不开AI基础设施层提供的GPU高性能算力池及容器化云平台。AI基础设施包括了面向AI应用的硬件基础设施环境,以及以容器化形式提供的计算、存储、网络等资源,主要包括:

  1. SKESangfor Kubernetes Engine):为用户提供容器服务的核心层,提供K8S集群管理、K8S资源管理、镜像、日志、监控等能力;
  2. 用户K8S集群:用户Kubernetes资源管理平台,为容器化应用提供运行时环境,提供GPU调度、容器网络、存储接口、云原生网关等能力;
  3. SCPSangfor Cloud Platform):云基础平台,提供裸金属物理服务器的纳管、操作系统、显卡驱动、物理网络构建等IaaS层资源管理能力;
  4. 物理硬件基础设施:提供物理服务器、GPU、分布式存储、RDMA网络等硬件基础设施,提供计算、存储、网络等硬件资源。