跳转到内容
View in the app

A better way to browse. Learn more.
彼岸论坛

A full-screen app on your home screen with push notifications, badges and more.

To install this app on iOS and iPadOS
  1. Tap the Share icon in Safari
  2. Scroll the menu and tap Add to Home Screen.
  3. Tap Add in the top-right corner.
To install this app on Android
  1. Tap the 3-dot menu (⋮) in the top-right corner of the browser.
  2. Tap Add to Home screen or Install app.
  3. Confirm by tapping Install.
欢迎抵达彼岸 彼岸花开 此处谁在 -彼岸论坛

[NVIDIA] NVIDIA 消费级显卡有没有免费靠谱的多个容器共享的方案？

发表于

假设在一个 k8s 集群中每一个节点有 4 张 4090, 这些显卡可以分配给 Pod ，但目前一个 Pod 独占整数张 4090.

想要的效果是：2 个(or 多个) Pod 可以同时共享一张显卡。

看了一下 NVIDIA 官方的方案：

  1. MIG(把物理显卡划分成 7 个 GPU 实例), 缺点是 : 只能划分 7 个实例，且只有例如 blackwell 等架构显卡才能用。
  2. vGPU(有分时方案和 MIG 方案)，缺点是不免费，且一样挑显卡。

需求是:

  • 支持同一张显卡在同一时间被多个容器使用
  • 在消费级显卡上可用
  • 免费
  • 有在比较大规模集群上稳定跑过

请问站内有无大佬有相关的实践/思路/方案？

Featured Replies

No posts to show

创建帐户或登录来提出意见

https://www.cnbian.com/topic/6854/
前往主题列表

Configure browser push notifications
Chrome (Android)
  1. Tap the lock icon next to the address bar.
  2. Tap Permissions → Notifications.
  3. Adjust your preference.
Chrome (Desktop)
  1. Click the padlock icon in the address bar.
  2. Select Site settings.
  3. Find Notifications and adjust your preference.