产品推荐 2026-07-26

TokHub:免费的AI API 网关监控工具(源码)

TokHub 是一个开源的 AI API 中转站监控与 OpenAI 兼容网关系统。

开源软件跨平台工具

产品简介

TokHub 为 AI API 中转站和企业提供一体化监控、推荐运营与网关管理。它解决监控不透明、推荐依赖人工、网关路由复杂等痛点,适合需要搭建 AI 服务导航、监控平台或专属网关的用户。

核心功能

  • 公开监控与推荐前台
  • 用户私有通道管理
  • 平台管理后台
  • OpenAI 兼容专属网关
  • 分层探测与健康评分

快速开始

  1. 复制 .env.example 文件为 .env
  2. 运行 docker compose up -d --build
  3. 访问 http://localhost:8080 使用默认账号 admin 登录

界面预览

与其他方案对比

对比项TokHub同类方案
监控深度分层探测(L1 连通性、L2 模型可用性、L3 真实生成)可能仅监控基础连通性
自托管支持支持 Docker 自托管,可分角色部署可能仅提供云服务或有限自托管
安全措施密钥使用 AES-GCM 加密,网关 Key 一次性展示可能使用标准加密,密钥管理较简单

适合谁用

  • AI API 中转站和模型服务商,需要监控通道状态和推荐运营
  • 企业 IT 管理员,需要搭建内部 AI 网关并记录用量审计
  • 开发者,需要集成多个 AI 上游服务并实现容灾路由

下载与版本

当前最新版本为 main,发布于 。支持 Windows、macOS、Linux。

⚠️ 注意:本项目仅提供源代码下载,不包含可直接运行的安装包(exe/dmg/apk 等。下载后需要自行编译构建才能使用,适合有一定开发经验的用户。如果你不熟悉编译流程,建议寻找同类开箱即用的替代方案。

注意事项

  • 本工具仅供学习和研究使用,请遵守相关法律法规。
  • 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
  • 项目源码地址:https://github.com/yaojingang/TokHub