HF Accelerate 分布式训练

Orchestra-Research/AI-Research-SKILLs/08-distributed-training/accelerate

12.1k 0TeX研究
平台通用(跨宿主)

最简单的分布式训练 API。4 行给任意 PyTorch 脚本加分布式支持。DeepSpeed/FSDP/Megatron/DDP 统一 API。自动设备放置、混合精度(FP16/BF16/FP8)。交互式配置、单启动命令。HuggingFace 生态标准。

全部 skill