共 2 个 skill · 数据来自 GitHub 与精选合集,每日更新
Orchestra-Research/AI-Research-SKILLs/06-post-training/miles
用 miles(slime 的生产就绪 fork)做企业级 RL 训练指引。用 FP8/INT4 训练大 MoE 模型、需训练-推理对齐、或需推测性 RL 达最大吞吐时使用。
Orchestra-Research/AI-Research-SKILLs/19-emerging-techniques/moe-training
用 DeepSpeed 或 HuggingFace 训练专家混合(MoE)模型。有限算力训练大规模模型(比稠密省 5× 成本)、实现 Mixtral 8x7B 或 DeepSeek-V3 类稀疏架构、或扩容量而不按比例增算力时使用。覆盖 MoE 架构、路由机制、负载均衡、专家并行、推理优化。