/ Projects
这里收录偏工程实践的项目实现,覆盖AI大模型、计算机系统、数据库等领域
从底层理解操作系统的基本原理,实现页表、系统调用,trap机制、写实复制、线程切换、锁等关键机制
从零实现 SFT、Expert Iteration 和 GRPO,训练一个 1.5B 参数的语言模型在 MATH 数据集上学会数学推理。
只用基础框架的基础功能,如何从脚本开始手搓transformer,训练一个自己的大模型?
用C++实现数据库的关键模块
久负盛名的公开课,用Golang实现著名的Raft算法,一场debug到头秃的体验