产品简介
private-gpt PrivateGPT提供开源API,将本地AI模型转化为生产就绪的应用,支持RAG、工具使用等功能,无需依赖云API。适合开发者和企业构建隐私安全的AI解决方案。

核心功能
- 标准消息API,支持流式、异步和令牌计数
- 文件和产物摄取功能
- 检索与引用和代理式RAG
- 内置工具如web搜索、web获取和代码执行
- 自定义工具和MCP连接器支持
快速开始
- 安装PrivateGPT:使用brew(macOS)或uv(Linux/Windows)安装。
- 启动LLM服务器:例如运行ollama serve。
- 运行PrivateGPT:设置OPENAI_API_BASE环境变量并运行private-gpt serve。
- 打开UI:访问http://localhost:8080/ui进行测试。
界面预览


与其他方案对比
| 对比项 | private-gpt | 同类方案 |
|---|---|---|
| 隐私保护 | 数据完全本地处理,不依赖云 | 云API需上传数据,隐私风险高 |
| API兼容性 | 遵循Claude API,支持丰富工具和本地推理服务器 | 标准API可能功能有限且依赖在线服务 |
适合谁用
- 需要本地部署AI模型的软件开发者
- 企业IT团队构建私有AI平台
- 关注数据隐私的AI应用开发者
下载与版本
当前最新版本为 v1.0.1,发布于 2026-06-18。支持 Linux。点击页面「下载软件」按钮即可下载打包好的版本,根据你的电脑/手机系统来选择对应的软件。
注意事项
- 本工具仅供学习和研究使用,请遵守相关法律法规。
- 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
- 项目源码地址:https://github.com/zylon-ai/private-gpt