产品简介
promptmap 2是一款自动化安全扫描工具，专门用于测试自定义大语言模型应用的提示注入漏洞。它支持白盒测试（提供系统提示）和黑盒测试（通过HTTP端点），使用双LLM架构进行漏洞评估，内置50多种测试规则。适合LLM开发者和安全测试人员，帮助提前发现安全风险。
核心功能
- 支持多种LLM提供商，包括OpenAI、Anthropic、Google、XAI及通过Ollama的开源模型
- 内置50+预构建测试规则，覆盖提示窃取、越狱、有害内容生成等6大类别
- 支持白盒和黑盒两种测试模式，适应不同测试场景
- 规则和评估条件可自定义，使用YAML配置文件
- 支持对任意HTTP端点进行黑盒扫描，配置灵活
快速开始
- 克隆仓库：运行 git clone https://github.com/utkusen/promptmap.git 并进入目录
- 安装依赖：执行 pip install -r requirements.txt
- 设置API密钥：根据使用的提供商设置环境变量，如 export OPENAI_API_KEY="your-key"
- 运行测试：使用命令如 python3 promptmap2.py --target-model gpt-3.5-turbo --target-model-type openai 进行扫描
界面预览
与其他方案对比
| 对比项 | 本工具 | 同类商业软件 | 在线服务 |
|---|---|---|---|
| 费用 | 开源免费 | 通常收费或含广告 | 可能有订阅或上传限制 |
| 隐私 | 本地运行，数据自持 | 依赖厂商政策 | 需上传数据到服务器 |
| 可定制性 | 源码开放，社区活跃 | 受限于官方功能 | 功能固定 |
适合谁用
- 开发自定义LLM应用的开发者，需要评估应用安全性
- 从事AI安全测试的工程师，进行自动化漏洞扫描
- 企业IT或安全部门，确保LLM应用合规和安全
下载与版本
当前最新版本为 main，发布于 。支持 Windows、macOS、Linux。
⚠️ 注意：本项目仅提供源代码下载，不包含可直接运行的安装包（exe/dmg/apk 等。下载后需要自行编译构建才能使用，适合有一定开发经验的用户。如果你不熟悉编译流程，建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/utkusen/promptmap