DeepSeek全面开源内部推理框架DeepInfer

10月20日下午，DeepSeek宣布将内部推理框架DeepInfer全面开源。

DeepSeek此前已开源一系列大模型、TileLang编译工具及推理算子库，此次决定进一步将内部推理框架DeepInfer全面开源。

DeepSeek称，基于DeepInfer，已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来，DeepSeek新模型的推理代码及后续优化也将在此持续更新。