共 22 个 skill · 数据来自 GitHub 与精选合集,每日更新
NousResearch/hermes-agent/optional-skills/mlops/pinecone
面向生产环境 RAG 与检索的托管向量数据库。
NousResearch/hermes-agent/optional-skills/mlops/inference/serving-llms-vllm
vLLM:高吞吐的大模型推理服务,兼容 OpenAI API,支持量化。
NousResearch/hermes-agent/optional-skills/mlops/huggingface-tokenizers
高速的 BPE/WordPiece 分词,以及自定义词表训练。
sickn33/agentic-awesome-skills/skills/vibe-code-cleanup
对 vibe-coded 全栈应用(Next.js、React、Node.js 等)进行安全的生产清理与加固。移除无用导入、未使用文件与破损引用,且不破坏路由或 API。
sickn33/agentic-awesome-skills/skills/pre-ship-gate
任何生产部署前运行的发布闸门:检查让部署“成功”而生产仍坏的静默失败模式,并验证线上版本而非只信部署输出。
NousResearch/hermes-agent/optional-skills/mlops/tensorrt-llm
High-throughput LLM inference on NVIDIA GPUs.EN
sickn33/agentic-awesome-skills/skills/graceful-shutdown
为服务器与 worker 实现优雅关停:排空连接、完成在途工作、释放资源,并在 SIGTERM/SIGINT 下干净退出。
sickn33/agentic-awesome-skills/skills/vibecode-production-qa-validator
面向全栈 Next.js 应用的 13 阶段生产 QA:构建验证、SEO 标签、OG 图、favicon、路由回归、API 鉴权、页面速度、懒加载、漏洞扫描、UI/UX 卡片、错误边界、数据库、安全渲染与清理。
sickn33/agentic-awesome-skills/skills/production-audit
对线上仓库做生产就绪度审计,覆盖 RLS、webhook、密钥、授权、Stripe 幂等、移动 UX 与部署健康。
sickn33/agentic-awesome-skills/skills/pre-release-review
运行只读的发布前评审,覆盖部署就绪、迁移、配置、密钥、滚动顺序、回滚风险与上线阻塞。
Orchestra-Research/AI-Research-SKILLs/15-rag/sentence-transformers
最先进句/文/图嵌入框架。提供 5000+ 预训练模型做语义相似、聚类、检索。支持多语言、领域、多模态模型。用于 RAG、语义搜索、相似任务的嵌入生成。最适合生产嵌入生成。
Orchestra-Research/AI-Research-SKILLs/15-rag/pinecone
面向生产 AI 应用的托管向量数据库。全托管、自动扩展、带混合搜索(稠密+稀疏)、元数据过滤、命名空间。低延迟(p95 <100ms)。用于生产 RAG、推荐系统、或大规模语义搜索。最适合无服务器托管基础设施。
Orchestra-Research/AI-Research-SKILLs/12-inference-serving/tensorrt-llm
用 NVIDIA TensorRT 优化 LLM 推理达最大吞吐与最低延迟。在 NVIDIA GPU(A100/H100)生产部署、需比 PyTorch 快 10-100× 的推理、或用量化(FP8/INT4)、在途批处理、多 GPU 扩展服务模型时使用。
Orchestra-Research/AI-Research-SKILLs/07-safety-alignment/nemo-guardrails
NVIDIA 的 LLM 应用运行时安全框架。特性:越狱检测、输入/输出验证、事实核查、幻觉检测、PII 过滤、毒性检测。用 Colang 2.0 DSL 写可编程护栏。生产就绪,跑在 T4 GPU。
Orchestra-Research/AI-Research-SKILLs/02-tokenization/huggingface-tokenizers
面向研究与生产优化的快速分词器。Rust 实现 1GB <20 秒完成分词。支持 BPE、WordPiece、Unigram。训练自定义词表、追踪对齐、处理填充/截断。与 transformers 无缝集成。需高性能分词或自定义分词器训练时使用。
Orchestra-Research/AI-Research-SKILLs/17-observability/langsmith
LLM 可观测性平台,做追踪、评估、监控。调试 LLM 应用、对数据集评估模型输出、监控生产系统、或构建 AI 应用系统化测试管线时使用。
Orchestra-Research/AI-Research-SKILLs/15-rag/qdrant
面向 RAG 与语义搜索的高性能向量相似度搜索引擎。需生产 RAG 系统要快速近邻搜索、带过滤的混合搜索、或 Rust 驱动可扩展向量存储时使用。
Orchestra-Research/AI-Research-SKILLs/14-agents/langchain
用 agent、chain、RAG 构建 LLM 应用的框架。支持多提供商(OpenAI、Anthropic、Google)、500+ 集成、ReAct agent、工具调用、记忆管理、向量库检索。构建聊天机器人、问答系统、自主代理、或 RAG 应用。最适合快速原型与生产部署。
Orchestra-Research/AI-Research-SKILLs/14-agents/crewai
自主 AI 协作的多代理编排框架。构建专业代理团队一起做复杂任务、需带记忆的基于角色协作、或需顺序/层级执行的生产工作流时使用。无 LangChain 依赖,精简快速执行。
Orchestra-Research/AI-Research-SKILLs/12-inference-serving/vllm
用 vLLM 的 PagedAttention 与连续批处理高吞吐服务 LLM。部署生产 LLM API、优化推理延迟/吞吐、或在有限 GPU 内存服务模型时使用。支持 OpenAI 兼容端点、量化(GPTQ/AWQ/FP8)、张量并行。
Orchestra-Research/AI-Research-SKILLs/08-distributed-training/megatron-core
用 NVIDIA Megatron-Core 高级并行策略训练大模型(2B-462B 参数)。训练 >1B 参数模型、需最大 GPU 效率(H100 上 47% MFU)、或需张量/流水线/序列/上下文/专家并行时使用。Nemotron、LLaMA、DeepSeek 用的生产框架。