ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

GPU虚拟化:MIG和vGPU对比

2022-05-06 09:33:06  阅读:268  来源: 互联网

标签:负载 vGPU VM 模式 MIG GPU


在 vGPU 模式下,GPU 上的内存是静态分区的,但计算能力在共享 GPU 的 VM 之间分时共享。在这种模式下,当虚拟机在 GPU 上运行时,它“拥有” GPU 的所有计算能力,但只能访问其共享的 GPU 内存。

在 MIG 模式下,内存和计算能力是静态划分的。当 VM 在 MIG 模式下使用 GPU 时,它只能访问分配给它的内存,并且只能使用分配给它的计算核心。因此,即使 GPU 中剩余的计算核心(即未分配给该 VM 的核心)处于空闲状态,VM 也无法使用这些空闲核心。

无论 VM 使用哪种模式来执行其工作负载,计算结果都是相同的。唯一的区别在于使用挂钟时间测量的性能。vGPU 和 MIG 模式各有优缺点:vGPU 模式分时共享计算核心,而 MIG 模式静态划分核心。鉴于这两种模式共享内核的方式存在差异,这就提出了一个问题,即哪种模式可以为给定的工作负载提供最佳性能(即最低运行时间)。

vGPU 模式显示了使用挂钟时间测量的最佳性能,以完成具有数据传输和/或 CPU 计算与 CUDA 计算穿插的工作负载的任务。MIG 模式显示了执行繁重、大型 CUDA 内核的工作负载的最佳性能,而数据传输或 CPU 计算的中断很少或没有中断。对于具有聚合数据传输和聚合 CUDA 计算的工作负载,MIG 模式显示两个或更少虚拟机同时运行的最佳性能,而 vGPU 模式显示三个或更多虚拟机同时运行的最佳性能。

 

https://blogs.vmware.com/performance/2021/09/mig-or-vgpu-part1.html

标签:负载,vGPU,VM,模式,MIG,GPU
来源: https://www.cnblogs.com/c-rex/p/16227376.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有