软件下载帮助文档新闻资讯

Skill UI

浏览并发现 15857+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索 OWASP-LLM ，共找到 5 条记录

默认排序最新上传最多下载

AI模型提示注入攻击检测

detecting-ai-model-prompt-injection-attacks

mukul975/Anthropic-Cybersecurity-Skills

该工具提供多层级的AI模型提示注入攻击检测能力。通过结合正则表达式、结构异常评分和DeBERTa分类器，能够识别聊天机器人、AI代理和RAG流程中的直接或间接攻击。适用于构建输入验证层和历史交互日志审计，是保障LLM安全的关键组件。

持续LLM红队测试与安全防护

continuous-llm-red-teaming-with-promptfoo

mukul975/Anthropic-Cybersecurity-Skills

这是一个用于自动化、持续的LLM应用红队测试框架。它将Promptfoo和DeepTeam集成到CI/CD流程，依据OWASP Top 10、OWASP Agentic和MITRE ATLAS等标准，对LLM进行对抗性压力测试。核心目的是在模型或代码更新后，检测和阻止安全漏洞（如越狱、注入）的回归，作为关键的合并前安全门禁。

大模型安全护栏防御

defending-llms-with-guardrails

mukul975/Anthropic-Cybersecurity-Skills

用于为大语言模型（LLM）、检索增强生成（RAG）和智能体应用部署全面的运行时安全防护层。该技能集成了Llama Guard 3、NeMo Guardrails和LLM Guard等业界领先的护栏系统，用于检查和限制所有输入和输出数据。这对于需要防止越狱攻击、提示词注入（OWASP LLM01）、有害内容和敏感数据泄露的生产环境至关重要。

系统提示词泄露测试

testing-for-system-prompt-leakage

mukul975/Anthropic-Cybersecurity-Skills

本技能提供一套全面的LLM系统提示词泄露测试方法。利用越狱、编码和自动化扫描等多种技术，用于红队演练和渗透测试，以发现系统提示词中可能泄露的API密钥、凭证或业务逻辑，确保LLM应用的安全性。

AI大模型安全测试与红队演练

zhaoxuya520/reverse-skill

这是一套全面的框架，用于对大型语言模型（LLM）和AI智能体进行授权的安全评估。它涵盖了包括提示注入、工具滥用、RAG数据投毒、内存污染和系统提示词提取等关键漏洞。适用于红队演练、安全审计，确保AI系统在生产环境中的健壮性。

1

语言