产品简介
guardllm GuardLLM 是一个独立的 Python 库,通过安全管道保护 LLM 应用处理外部内容,防止提示注入、数据泄露和滥用。它本地运行、无外部 API 调用,适合开发基于 LLM 应用的程序员和安全团队。
核心功能
- 输入内容清理和隔离(如 HTML/CSS 剥离)
- 启发式提示注入检测(毫秒级,无外部调用)
- 基于策略的工具授权和动作门控
- 请求绑定和防重放检查确保完整性
- 输出数据泄露防护和出处跟踪
快速开始
- 通过 pip install guardllm 安装库
- 参考 docs/quick_start.md 快速入门指南
- 运行教程如 python tutorials/01_web_search_sanitization.py
界面预览
与其他方案对比
| 对比项 | guardllm | 同类方案 |
|---|---|---|
| 检测延迟 | 平均 0.07ms | OpenAI 约 615ms |
| F1 分数 | 85.46 | OpenAI 61.79 |
适合谁用
- 开发基于 LLM 应用的程序员
- 处理外部内容的 AI 产品经理
- 需要安全集成工具的运维团队
下载与版本
当前最新版本为 main,发布于 。支持 Windows、macOS、Linux。
⚠️ 注意:本项目仅提供源代码下载,不包含可直接运行的安装包(exe/dmg/apk 等。下载后需要自行编译构建才能使用,适合有一定开发经验的用户。如果你不熟悉编译流程,建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用,请遵守相关法律法规。
- 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
- 项目源码地址:https://github.com/mhcoen/guardllm