/ Projects
这里收录偏工程实践的项目实现,覆盖客户端、前端工具链、Agent 工作流等
从零实现 SFT、Expert Iteration 和 GRPO,训练一个 1.5B 参数的语言模型在 MATH 数据集上学会数学推理。
只用基础框架的基础功能,如何从脚本开始手搓transformer,训练一个自己的大模型?