产品简介
wenda 闻达是一个支持本地离线部署的大语言模型调用平台,旨在解决个人和中小企业在内容生成时面临的计算资源限制和知识安全问题。它集成了知识库、多种LLM和自动化脚本,适合需要私有化、高效AI内容生成的中文用户。
核心功能
- 知识库集成:支持本地离线向量库、本地搜索引擎和在线搜索引擎
- 多种大语言模型:支持离线部署模型(如chatGLM、chatRWKV)和在线API(如OpenAI)
- Auto脚本:通过JavaScript脚本扩展自动化功能,如自定义对话流程和访问外部API
- 其他实用能力:包括对话历史管理、内网部署、多用户同时使用
- 平台化设计:针对特定环境优化,考虑个人和中小企业的计算资源局限性
快速开始
- 下载并解压闻达懒人包主体和对应模型文件
- 如需GPU加速,从网盘下载并安装CUDA11.8环境
- 双击运行对应模型的启动脚本(如运行GLM6B.bat)
界面预览
与其他方案对比
| 对比项 | wenda | 同类方案 |
|---|---|---|
| 部署方式 | 支持本地离线部署,无需持续网络连接 | 多数在线AI服务依赖云端服务器和网络连接 |
| 数据安全 | 知识库和对话本地存储,保障数据私密性 | 数据可能上传至第三方云端服务器,存在隐私风险 |
| 资源要求 | 优化适用于个人和中小企业的有限硬件资源 | 可能需要高性能GPU或昂贵的云端资源 |
适合谁用
- 需要本地化AI内容生成的个人开发者
- 计算资源有限但需要AI能力的中小企业
- 注重数据隐私和安全的企业用户
- 需要自定义对话流程和知识库集成的用户
下载与版本
当前最新版本为 main,发布于 。支持 Windows、macOS、Linux。
⚠️ 注意:本项目仅提供源代码下载,不包含可直接运行的安装包(exe/dmg/apk 等。下载后需要自行编译构建才能使用,适合有一定开发经验的用户。如果你不熟悉编译流程,建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用,请遵守相关法律法规。
- 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
- 项目源码地址:https://github.com/wenda-LLM/wenda