项目详情
由
分享


HelloGitHub 评分
0 人评分
开源•Apache-2.0
认领
讨论
收藏
分享
31.3k
星数
否
中文
Python
主语言
是
活跃
58
贡献者
783
Issues
是
组织
2025-02-2
最新版本
2k
Forks
Apache-2.0
协议
更多

该项目是用于微调和优化大型语言模型(LLM)的 Python 工具库。它通过动态量化和显存优化技术,提高了模型微调速度,同时将显存占用降低 70%-80%,并支持多种硬件配置、LLM、超长上下文任务等功能。除此之外,还提供了可直接在线体验的 Jupyter Notebook 示例,降低了大模型微调的门槛。
评论
评分:
暂无精选评论