DeepSeek 要开源自己的推理引擎了,方式是和 vLLM 社区合作,将自己的优化直接贡献给上游。
https://github.com/deepseek-ai/open-infra-index/tree/main/OpenSourcing_DeepSeek_Inference_Engine
https://github.com/deepseek-ai/open-infra-index/tree/main/OpenSourcing_DeepSeek_Inference_Engine
消息来源频道
@hyi0618
yihong0618 和朋友们的频道