对AI业务应用进行容器化改造后可采用GPU虚拟化技术实现GPU算力、显存的细粒度分配解决Kubernetes原生仅支持整卡分配GPU的痛点既支持多个业务应用共享单张GPU资源也支持单个业务应用聚合多张物理GPU的切片资源按需灵活分配算力与显存有效提升GPU集群整体资源利用率。技术方案实现层级显存隔离算力隔离单Pod聚合多卡切片依赖MIG硬件开源/授权情况运行对象核心适用场景HAMi用户态CUDA‑API劫持libvgpu.so注入⚠️软件软隔离⚠️软件节流QoS✅支持多张切片聚合❌不需要CNCF完全开源K8s容器Pod私有化开源部署同时兼容英伟达GPU、国产NPU内部AI推理集群cGPU阿里云内核驱动层✅内核硬限制✅内核权重调度✅支持❌不需要闭源阿里云专有组件K8s容器Pod阿里云公有云、阿里云裸金属需要强故障隔离的容器业务qGPU腾讯云内核驱动层✅内核硬限制✅内核时间片QoS✅最多聚合2张物理卡切片❌不需要调度框架开源驱动闭源K8s容器Pod腾讯TKE集群推理/离线任务在‑离线混部场景MIGGPU芯片硬件切分✅硬件强制隔离✅硬件强制隔离❌不支持跨卡切片聚合✅仅A100/A800/H800/H20免费标准CUDA驱动裸金属服务器可透传虚拟机多租户强故障隔离不需要单应用跨多卡切片的业务MPSCUDA驱动层软件共享⚠️软限制❌无算力隔离✅原生支持多卡❌不需要免费驱动自带K8s容器Pod测试环境、内部非在线业务无隔离要求场景vGPU时间切片虚拟机Hypervisor层✅隔离⚠️时间片弱隔离❌不支持切片聚合❌不需要英伟达商业付费授权KVM/ESXi虚拟机云桌面、虚拟工作站、CAD远程设计不适用于容器选型建议私有化部署、无公有云绑定、优先开源组件选择HAMi满足细粒度切分、多Pod共享GPU、单Pod聚合多切片的业务诉求业务层做好异常容错隔离为软件级不适合强隔离多租户。公有云环境追求内核级强隔离、需要在‑离线混部阿里云选用cGPU腾讯云选用qGPU。多租户强故障隔离不需要单应用聚合多张切片资源选用硬件MIG方案。虚拟机云桌面场景采用英伟达vGPU商业方案。MPS隔离能力弱不建议在线生产业务使用。关键约束HAMi、cGPU、qGPU均面向容器Pod不支持虚拟机MIG实例可以透传给虚拟机vGPU仅用于虚拟机。