全部 skill

加速长序列 Transformer 的训练与推理。

Outlines：按 JSON、正则或 Pydantic 约束做结构化生成。

用 Flash Attention 优化 transformer 注意力，2-4× 加速、10-20× 省内存。训练/跑长序列（>512 token）transformer、注意力遇 GPU 内存问题、或需更快推理时使用。支持 PyTorch 原生 SDPA、flash-attn 库、H100 FP8、滑动窗口注意力。

SwanLab 实验追踪指引。需开源运行追踪、本地或自托管仪表盘、ML 工作流轻量媒体日志时使用。

生成中保证合法 JSON/XML/代码结构、用 Pydantic 模型做类型安全输出、支持本地模型（Transformers、vLLM）、用 Outlines（dottxt.ai 的结构化生成库）最大化推理速度。