共 19 个 skill · 数据来自 GitHub 与精选合集,每日更新
NousResearch/hermes-agent/optional-skills/research/darwinian-evolver
用 Imbue 的进化循环迭代优化提示词、正则、SQL 与代码。
NousResearch/hermes-agent/optional-skills/mlops/flash-attention
加速长序列 Transformer 的训练与推理。
sickn33/agentic-awesome-skills/skills/optim-agent
引导 agent 驱动的、具可衡量目标的可配置系统参数优化,用于 HPO、推理调优、仿真或 RL/控制实验。
NousResearch/hermes-agent/optional-skills/mlops/training/unsloth
Unsloth: 2-5x faster LoRA/QLoRA fine-tuning, less VRAM.EN
sickn33/agentic-awesome-skills/skills/complexity-cuts
用一次一变换、verify-revert-stop 的手册降低既有代码的大 O。新代码用 lemmaly;数学级收益升级到 mathguard。
sickn33/agentic-awesome-skills/skills/prompt-engineer
用框架(RTF、RISEN、CoT、RODES、Chain of Density、RACE、RISE、STAR、SOAP、CLEAR、GROW)将用户提示转为优化提示。
Orchestra-Research/AI-Research-SKILLs/03-fine-tuning/unsloth
Unsloth 快速微调专家指引——训练快 2-5×、内存省 50-80%、LoRA/QLoRA 优化。
Orchestra-Research/AI-Research-SKILLs/10-optimization/awq
激活感知的 4-bit 权重量化,3× 加速且精度损失极小。在有限 GPU 内存部署大模型(7B-70B)、需比 GPTQ 更快推理且更好保精度、或用于指令微调与多模态模型时使用。MLSys 2024 最佳论文。
Orchestra-Research/AI-Research-SKILLs/10-optimization/bitsandbytes
把 LLM 量化为 8-bit 或 4-bit,省 50-75% 内存且精度损失极小。GPU 内存有限、需装更大模型、或想更快推理时使用。支持 INT8、NF4、FP4 格式、QLoRA 训练、8-bit 优化器。与 HuggingFace Transformers 配合。
Orchestra-Research/AI-Research-SKILLs/10-optimization/flash-attention
用 Flash Attention 优化 transformer 注意力,2-4× 加速、10-20× 省内存。训练/跑长序列(>512 token)transformer、注意力遇 GPU 内存问题、或需更快推理时使用。支持 PyTorch 原生 SDPA、flash-attn 库、H100 FP8、滑动窗口注意力。
Orchestra-Research/AI-Research-SKILLs/10-optimization/gguf
高效 CPU/GPU 推理的 GGUF 格式与 llama.cpp 量化。在消费硬件、Apple Silicon、或需 2-8 bit 灵活量化且无 GPU 要求时部署模型时使用。
Orchestra-Research/AI-Research-SKILLs/10-optimization/gptq
训练后 4-bit 量化,精度损失极小。在消费 GPU 部署大模型(70B、405B)、需 4× 内存缩减且困惑度降 <2%、或比 FP16 更快推理(3-4×)时使用。与 transformers、PEFT 集成做 QLoRA 微调。
Orchestra-Research/AI-Research-SKILLs/10-optimization/hqq
无需校准数据的 LLM 半二次量化。把模型量化到 4/3/2-bit 且无校准数据集、用于快速量化工作流、或用 vLLM/HuggingFace Transformers 部署时使用。
Orchestra-Research/AI-Research-SKILLs/10-optimization/ml-training-recipes
全领域的实战 PyTorch 训练配方——LLM、视觉、扩散、医学影像、蛋白/药物发现、空间组学、基因组学。覆盖训练循环、优化器选择(AdamW、Muon)、LR 调度、混合精度、调试、系统化实验。训练或微调神经网络、调试 loss 尖峰或 OOM、选架构、或优化 GPU 吞吐时使用。
Orchestra-Research/AI-Research-SKILLs/08-distributed-training/deepspeed
DeepSpeed 分布式训练专家指引——ZeRO 优化阶段、流水线并行、FP16/BF16/FP8、1-bit Adam、稀疏注意力。
ruvnet/ruflo/.agents/skills/performance-analysis
Comprehensive performance analysis, bottleneck detection, and optimization recommendations for Claude Flow swarmsEN
a5c-ai/babysitter/library/specializations/desktop-development/skills/startup-time-profiler
剖析优化桌面应用启动时间。
a5c-ai/babysitter/library/specializations/desktop-development/skills/electron-memory-profiler
剖析 Electron 应用内存使用,检测泄漏,分析渲染进程内存,优化内存消耗。