项目详情
由
分享
HelloGitHub 评分
10.0
6 人评分
简单易用的多端 AI 推理部署框架
过去 6 天共收获 4 颗 Star ✨
使用方向键查看日期,Home 和 End 跳至首尾,Escape 关闭提示。| 日期 | Star | 较前日 |
|---|---|---|
| 周二 | 1,899 | — |
| 周三 | 1,901 | +2 |
| 周四 | 1,903 | +2 |
| 周五 | 1,903 | 0 |
| 周六 | 1,903 | 0 |
| 周日 | 1,903 | 0 |
讨论
收藏
分享
1.9k
星数
是
中文
C++
主语言
是
活跃
50
贡献者
23
Issues
是
组织
无
最新版本
231
Forks
Apache-2.0
协议

这是一款简单易用、高性能、支持多端的 AI 推理部署框架。它基于有向无环图设计,将前处理、推理和后处理抽象为图的节点,支持流水线并行、任务并行等优化方式。兼容 TensorRT、OpenVINO、MNN 等多种推理后端,适配主流文生图、大语言、检测等模型,实现一套代码多端部署。
评论
评分:
暂无精选评论