[NS : roy] DeepSeek把自家推理引擎DeepInfer开源了,昇腾950也能跑

今天看到DeepSeek把生产环境那套推理框架DeepInfer开源了,Apache2.0协议不光英伟达SM100,华为昇腾950也直接支持,自托管的有福了不过只覆盖离线推理,KV缓存和跨机负载均衡还得自己补