项目详情
由
分享
HelloGitHub 评分
0 人评分
DeepSeek 开源的大模型推理框架
过去 7 天共收获 304 颗 Star ✨
使用方向键查看日期,Home 和 End 跳至首尾,Escape 关闭提示。| 日期 | Star | 较前日 |
|---|---|---|
| 周二 | 25,809 | — |
| 周三 | 25,863 | +54 |
| 周四 | 25,904 | +41 |
| 周五 | 25,962 | +58 |
| 周六 | 26,030 | +68 |
| 周日 | 26,073 | +43 |
| 周一 | 26,113 | +40 |
26.1k
星数
否
中文
Python
主语言
是
活跃
5
贡献者
251
Issues
是
组织
无
最新版本
3k
Forks
Apache-2.0
协议

该项目是 DeepSeek 线上大规模服务所用的高性能推理框架,提供离线推理和大规模部署所需的核心功能。它集成了 FlashMLA、DeepGEMM、DeepEP 等自研优化算子,支持注意力数据并行、MoE 专家并行、异步调度、确定性采样和结构化输出,可运行在英伟达和华为昇腾 NPU 上。
评论
评分:
暂无精选评论