nanoGPT

~300 行的教学 GPT 实现。在 OpenWebText 复现 GPT-2（124M）。干净可改代码学 transformer。Andrej Karpathy 出品。适合从零理解 GPT 架构。可在 Shakespeare（CPU）或 OpenWebText（多 GPU）训练。