Llama Guard 审核

Orchestra-Research/AI-Research-SKILLs/07-safety-alignment/llamaguard

12.1k 0TeX写作
平台通用(跨宿主)

Meta 的 7-8B 专用审核模型,过滤 LLM 输入/输出。6 类安全——暴力/仇恨、性内容、武器、物质、自残、犯罪策划。准确率 94-95%。用 vLLM、HuggingFace、Sagemaker 部署。与 NeMo Guardrails 集成。

全部 skill