DeepSeek开源自研推理框架DeepInfer,该框架支撑DeepSeek-V4.1-Flash的大规模高吞吐、低延迟服务。DeepSeek还开源了分词编解码组件deepseek-recipe,其处理逻辑与官方API一致。
Live / 快讯 № 06762 新
DeepSeek开源DeepInfer推理框架及分词组件
2小时前 144
DeepSeek开源自研推理框架DeepInfer,该框架支撑DeepSeek-V4.1-Flash的大规模高吞吐、低延迟服务。DeepSeek还开源了分词编解码组件deepseek-recipe,其处理逻辑与官方API一致。