OpenRLHF 训练

Orchestra-Research/AI-Research-SKILLs/06-post-training/openrlhf

12.1k 0TeX研究
平台通用(跨宿主)

带 Ray+vLLM 加速的高性能 RLHF 框架。用于大模型的 PPO、GRPO、RLOO、DPO 训练(7B-70B+)。基于 Ray、vLLM、ZeRO-3。比 DeepSpeedChat 快 2×,分布式架构、GPU 资源共享。

全部 skill