全部 skill

用尽可能少的改动，让 PyTorch 训练跑在多张 GPU 上。

W&B：记录机器学习实验、跑超参搜索、管理模型注册表与看板。

高速的 BPE/WordPiece 分词，以及自定义词表训练。

OBLITERATUS：用 diff-in-means 方法消除大模型的拒答行为。

TRL：做 SFT、DPO、GRPO、RLOO 等奖励建模与强化学习微调。

HuggingFace hf CLI: search/download/upload models, datasets.EN

Axolotl: YAML LLM fine-tuning (LoRA, DPO, GRPO).EN

LLaMA-Factory 微调 LLM 专家指引——WebUI 无代码、100+ 模型、2/3/4/5/6/8-bit QLoRA、多模态支持。

Axolotl 微调 LLM 专家指引——YAML 配置、100+ 模型、LoRA/QLoRA、DPO/KTO/ORPO/GRPO、多模态支持。

面向研究与生产优化的快速分词器。Rust 实现 1GB <20 秒完成分词。支持 BPE、WordPiece、Unigram。训练自定义词表、追踪对齐、处理填充/截断。与 transformers 无缝集成。需高性能分词或自定义分词器训练时使用。

用 TRL 的强化学习微调 LLM——SFT 做指令微调、DPO 做偏好对齐、PPO/GRPO 做奖励优化、以及奖励模型训练。需 RLHF、用偏好对齐模型、或从人类反馈训练时使用。与 HuggingFace Transformers 配合。

最简单的分布式训练 API。4 行给任意 PyTorch 脚本加分布式支持。DeepSpeed/FSDP/Megatron/DDP 统一 API。自动设备放置、混合精度（FP16/BF16/FP8）。交互式配置、单启动命令。HuggingFace 生态标准。

把 LLM 量化为 8-bit 或 4-bit，省 50-75% 内存且精度损失极小。GPU 内存有限、需装更大模型、或想更快推理时使用。支持 INT8、NF4、FP4 格式、QLoRA 训练、8-bit 优化器。与 HuggingFace Transformers 配合。

用 MLflow 追踪 ML 实验、管理带版本的模型注册、部署到生产、复现实验——框架无关的 ML 生命周期平台。

用 W&B 自动日志追踪 ML 实验、实时可视化训练、用 sweeps 优化超参、管理模型注册——协作式 MLOps 平台。