项目详情
由
分享


HelloGitHub 评分
10.0
6 人评分
开源•Apache-2.0
讨论
收藏
分享
1.2k
星数
是
中文
C++
主语言
是
活跃
39
贡献者
14
Issues
是
组织
2.5.0
最新版本
145
Forks
Apache-2.0
协议
更多

这是一款简单易用、高性能、支持多端的 AI 推理部署框架。它基于有向无环图设计,将前处理、推理和后处理抽象为图的节点,支持流水线并行、任务并行等优化方式。兼容 TensorRT、OpenVINO、MNN 等多种推理后端,适配主流文生图、大语言、检测等模型,实现一套代码多端部署。
评论
评分:
暂无精选评论