共 3 个 skill · 数据来自 GitHub 与精选合集,每日更新
Orchestra-Research/AI-Research-SKILLs/06-post-training/trl-fine-tuning
用 TRL 的强化学习微调 LLM——SFT 做指令微调、DPO 做偏好对齐、PPO/GRPO 做奖励优化、以及奖励模型训练。需 RLHF、用偏好对齐模型、或从人类反馈训练时使用。与 HuggingFace Transformers 配合。
Orchestra-Research/AI-Research-SKILLs/06-post-training/openrlhf
带 Ray+vLLM 加速的高性能 RLHF 框架。用于大模型的 PPO、GRPO、RLOO、DPO 训练(7B-70B+)。基于 Ray、vLLM、ZeRO-3。比 DeepSpeedChat 快 2×,分布式架构、GPU 资源共享。
Orchestra-Research/AI-Research-SKILLs/06-post-training/grpo-rl-training
用 TRL 做 GRPO/RL 微调、面向推理与任务特定模型训练的专家指引。