全部 skill

Outlines：按 JSON、正则或 Pydantic 约束做结构化生成。

vLLM：高吞吐的大模型推理服务，兼容 OpenAI API，支持量化。

带 Ray+vLLM 加速的高性能 RLHF 框架。用于大模型的 PPO、GRPO、RLOO、DPO 训练（7B-70B+）。基于 Ray、vLLM、ZeRO-3。比 DeepSpeedChat 快 2×，分布式架构、GPU 资源共享。

用 vLLM 的 PagedAttention 与连续批处理高吞吐服务 LLM。部署生产 LLM API、优化推理延迟/吞吐、或在有限 GPU 内存服务模型时使用。支持 OpenAI 兼容端点、量化（GPTQ/AWQ/FP8）、张量并行。

生成中保证合法 JSON/XML/代码结构、用 Pydantic 模型做类型安全输出、支持本地模型（Transformers、vLLM）、用 Outlines（dottxt.ai 的结构化生成库）最大化推理速度。