英伟达公布Dynamo推理配置,四款韩国开放模型适配B200

作者: 大闷头
更新时间: 2026-11-12 21:15

2026年11月9日,英伟达在技术公告中列出Dynamo针对四款韩国开放权重模型的B200参考配置,包括SK电讯A.X K2、LG AI Research K-EXAONE 2.0、Upstage Solar Open 2以及Motif Technologies Motif-3。

英伟达公布Dynamo推理配置,四款韩国开放模型适配B200

这些配置由vLLM运行模型,Dynamo协调请求路由。聚合部署把提示词处理和解码放在同一工作进程,分离部署把两步放到不同的GPU工作进程,可分别扩容。

在原厂的聚合和分离配置中,A.X K2分别使用8张和12张B200,K-EXAONE 2.0与Solar Open 2均为4张和8张,Motif-3为2张和8张。Motif-3配置指定专用vLLM运行时。

公开材料包括适用于NVIDIA Dynamo Operator的Kubernetes部署清单,并为每种配置指定模型检查点、运行时镜像及并行和缓存设置。卡数对应原厂列出的配置组合。

相关教程