产品简介
ScriptedLLM 是一个约束对话代理框架,确保基于LLM的聊天机器人只说出允许的内容。专为需要高准确性的商业场景设计,如电商、客服、调查和HR机器人,解决LLM幻觉导致的错误信息问题。
核心功能
- 基于YAML的有限状态机场景定义
- 可插拔知识库与事实验证
- 带幻觉检测的输出验证
- 支持多LLM提供商(Ollama本地、OpenAI、Anthropic)
- 插件系统用于集成Telegram等
快速开始
- 第一步:安装 Python 3.11+ 和 Ollama(或准备 OpenAI/Anthropic API 密钥)
- 第二步:克隆仓库并安装依赖:git clone https://github.com/yourusername/scriptedllm.git && cd scriptedllm && pip install -e '.[dev]'
- 第三步:拉取 LLM 模型:ollama pull llama3.2
- 第四步:运行示例场景:scriptedllm run examples/shop/scenario.yaml
界面预览
与其他方案对比
| 对比项 | ScriptedLLM | 同类方案 |
|---|---|---|
| 准确性保证 | 使用状态机和验证器严格控制对话流程,防止幻觉 | 提示工程或微调无法完全避免幻觉 |
| 本地运行 | 支持Ollama本地运行,免费且保护隐私 | 多数方案依赖云端API,有成本和延迟 |
适合谁用
- 电商客服机器人运营人员
- 企业调查问卷设计者
- HR自动化对话系统管理员
- 需要精确信息输出的商业AI开发者
下载与版本
当前最新版本为 main,发布于 。支持 Windows、macOS、Linux。
⚠️ 注意:本项目仅提供源代码下载,不包含可直接运行的安装包(exe/dmg/apk 等。下载后需要自行编译构建才能使用,适合有一定开发经验的用户。如果你不熟悉编译流程,建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用,请遵守相关法律法规。
- 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
- 项目源码地址:https://github.com/gotogrub/ScriptedLLM