Llama Guard 审核
Orchestra-Research/AI-Research-SKILLs/07-safety-alignment/llamaguard
平台通用(跨宿主)
Meta 的 7-8B 专用审核模型,过滤 LLM 输入/输出。6 类安全——暴力/仇恨、性内容、武器、物质、自残、犯罪策划。准确率 94-95%。用 vLLM、HuggingFace、Sagemaker 部署。与 NeMo Guardrails 集成。
Orchestra-Research/AI-Research-SKILLs/07-safety-alignment/llamaguard
Meta 的 7-8B 专用审核模型,过滤 LLM 输入/输出。6 类安全——暴力/仇恨、性内容、武器、物质、自残、犯罪策划。准确率 94-95%。用 vLLM、HuggingFace、Sagemaker 部署。与 NeMo Guardrails 集成。