下拉刷新
项目详情
navbar_avatar分享
repo_avatar
HelloGitHub 评分
10.0
6 人评分
简单易用的多端 AI 推理部署框架
开源Apache-2.0
收藏
分享
1.2k
星数
中文
C++
主语言
活跃
39
贡献者
14
Issues
组织
2.5.0
最新版本
145
Forks
Apache-2.0
协议
更多
nndeploy image
这是一款简单易用、高性能、支持多端的 AI 推理部署框架。它基于有向无环图设计,将前处理、推理和后处理抽象为图的节点,支持流水线并行、任务并行等优化方式。兼容 TensorRT、OpenVINO、MNN 等多种推理后端,适配主流文生图、大语言、检测等模型,实现一套代码多端部署。
收录于:
第 110 期
标签:
AI
C++

评论

评分:
暂无精选评论