开发实践

用 NVIDIA Dynamo 在 Kubernetes 上部署模型

已经有一个模型端点在运行了?要把它扩展到 Kubernetes 上,还需要做什么?

这段五分钟的视频演示了 NVIDIA Dynamo 如何通过可扩展的工作节点和兼容 OpenAI 的端点完成部署。

视频在下面:

分享卡片

正在生成图片

显示语言