项目详情
由
分享
HelloGitHub 评分
10.0
4 人评分
从零开始训练小型语言模型
过去 7 天共收获 180 颗 Star ✨
使用方向键查看日期,Home 和 End 跳至首尾,Escape 关闭提示。| 日期 | Star | 较前日 |
|---|---|---|
| 周一 | 65,066 | — |
| 周二 | 65,098 | +32 |
| 周三 | 65,129 | +31 |
| 周四 | 65,174 | +45 |
| 周五 | 65,207 | +33 |
| 周六 | 65,230 | +23 |
| 周日 | 65,246 | +16 |
65.2k
星数
否
中文
Python
主语言
是
活跃
27
贡献者
63
Issues
否
组织
无
最新版本
9k
Forks
Apache-2.0
协议

这不仅是一个微型语言模型的实现,更是一份入门 LLM 的教程,旨在降低学习和上手 LLM 的门槛 。它提供了从数据预处理到模型训练、微调和推理的全流程代码和教程。最小模型仅 0.02B 参数,可在普通 GPU 上轻松运行。
评论
评分:
暂无精选评论