Embodied Intelligence Observer

突破 DeepSeek-V4-Pro 服务极限:H20 上的多场景优化方法

Industry

Source: AI HOT 精选Publish time unverified

LMSYS 团队针对 1.6 万亿参数的 MoE 模型 DeepSeek-V4-Pro,在 H20 GPU 上通过场景化服务配置逼近 B300 性能。单节点 H20-141GB 参考实现达 271 output tokens/s,与 B300 的 383.7 tokens/s 性能差距缩小至 1.42×。

突破 DeepSeek-V4-Pro 服务极限:H20 上的多场景优化方法 | Embodied Intelligence Observer