GPU 虚拟化有哪些应用场景？

老板让做这个需求，但是个人对应用的场景比较疑惑？ 预期是在 K8S 上，将卡根据算力和显存维度划分，分给不同的租户。

现在的大模型随随便便吃几十个 G 的显存，做推理时会考虑用虚拟化后的卡么？ 或者不是大模型场景，什么样的用户需求会使用到虚拟化后的小小卡呢？

有 不过应该是效果不是很好 还是不同类型卡直通绑定比较好

@rainbowhu 好像说了废话，当我没说

kubevirt ?

虚拟化说到底还是为了提高使用率吧，独占 gpu 使用率太低了

多了。大企业用小机跑 Citrix ，然后用户用远程桌面来做设计。

像其他人说的，CV 小模型是我这边遇到的场景，一张卡上可以跑多个 CV 小模型提供不同的业务价值。 可以看看去年刚开源的 HAMi 项目，防止重复造轮子

@moefishtang 当我没说

云游戏

不能一上来就是大模型把，想想没有大模型之前，GPU 都用来做什么