项目详情
由
分享
HelloGitHub 评分
0 人评分
新手友好的 LLM 微调工具库
过去 7 天共收获 362 颗 Star ✨
使用方向键查看日期,Home 和 End 跳至首尾,Escape 关闭提示。| 日期 | Star | 较前日 |
|---|---|---|
| 周三 | 79,337 | — |
| 周四 | 79,395 | +58 |
| 周五 | 79,449 | +54 |
| 周六 | 79,506 | +57 |
| 周日 | 79,569 | +63 |
| 周一 | 79,617 | +48 |
| 周二 | 79,699 | +82 |
79.7k
星数
否
中文
Python
主语言
是
活跃
458
贡献者
482
Issues
是
组织
无
最新版本
7k
Forks
Apache-2.0
协议

该项目是用于微调和优化大型语言模型(LLM)的 Python 工具库。它通过动态量化和显存优化技术,提高了模型微调速度,同时将显存占用降低 70%-80%,并支持多种硬件配置、LLM、超长上下文任务等功能。除此之外,还提供了可直接在线体验的 Jupyter Notebook 示例,降低了大模型微调的门槛。
评论
评分:
暂无精选评论