DeepSeek 全面开源自研推理框架 DeepInfer

DeepSeek 宣布全面开源自研推理框架 DeepInfer。据摘要，该框架支撑 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模服务，一个集群一天可服务 155 万亿 Token。