项目详情
由分享
HelloGitHub 评分
0 人评分
开源•BSD-3-Clause
认领
讨论
收藏
分享
3.3k
星数
否
中文
Python
主语言
是
活跃
54
贡献者
110
Issues
是
组织
无
最新版本
213
Forks
BSD-3-Clause
协议
更多
该项目是由 PyTorch 团队开源的 Python 库,旨在简化大型语言模型 (LLMs) 的运行,轻松在桌面、服务器、iOS 和 Android 等平台上运行 LLMs 聊天应用。用户可以直接通过命令行与大模型交互,或启动 WebUI 在浏览器中使用。此外,基于 ExecuTorch 生成的 PTE 文件,它还能生成适用于移动设备的 LLMs 聊天应用,支持 Llama 3 和 Mistral 等大模型。
评论
评分:
暂无精选评论