10月20日，DeepSeek宣布将内部推理框架DeepInfer全面开源。此举旨在延续此前开源大模型、TileLang编译工具及推理算子库的策略，进一步降低技术使用门槛。依托DeepInfer，DeepSeek已构建起支持V4.1 Flash版本的高吞吐、低延迟大规模推理服务。未来，该框架还将持续集成新模型的推理代码及相关优化更新。
【版权提示】信息来自于互联网，不代表外贸内参立场，内容仅供网友参考学习。如发现本站内容存在版权问题，烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至[email protected]，我们将及时沟通与处理。如若转载请联系原出处。
deepseek宣布推理框架deepiner全面开源