DeepSeek 开源推理框架 DeepInfer

DeepSeek 开源其推理框架 DeepInfer，此次开源的不是模型而是推理中间层。推理框架负责在海量用户调用时统筹调度算力集群，其效率直接影响 AI 服务的算力成本和电费。