产品推荐 2026-07-26

openllmetry:免费的LLM应用监控工具(源码)

基于OpenTelemetry的开源工具,为LLM应用提供全面可观测性。

开源软件跨平台工具

产品简介

openllmetry OpenLLMetry是基于OpenTelemetry的开源扩展,为生成式AI或LLM应用提供完整监控和可观测性,解决应用调试和性能分析痛点,适合开发和维护AI应用的团队。

openllmetry 主界面

核心功能

  • 基于OpenTelemetry标准实现开源可观测性
  • 支持Windows、macOS和Linux跨平台
  • 集成OpenAI、Anthropic等主流LLM提供商
  • 支持Chroma、Pinecone等多种向量数据库
  • 提供简单SDK快速集成和监控

快速开始

  1. 安装SDK:运行 pip install traceloop-sdk
  2. 在代码中初始化:导入 Traceloop 并调用 Traceloop.init()
  3. 本地测试时,可添加参数禁用批量发送

界面预览

openllmetry 界面截图

openllmetry 界面截图

与其他方案对比

对比项openllmetry同类方案
专注领域专为LLM应用设计,内置对特定提供商和向量数据库的支持通用可观测性工具,需要手动集成LLM相关组件

适合谁用

  • 开发和维护LLM应用的软件工程师
  • 监控AI应用性能的DevOps人员
  • 使用向量数据库构建智能应用的产品经理

下载与版本

当前最新版本为 0.62.1,发布于 2026-06-28。支持 Windows、macOS、Linux。

⚠️ 注意:本项目仅提供源代码下载,不包含可直接运行的安装包(exe/dmg/apk 等。下载后需要自行编译构建才能使用,适合有一定开发经验的用户。如果你不熟悉编译流程,建议寻找同类开箱即用的替代方案。

注意事项

  • 本工具仅供学习和研究使用,请遵守相关法律法规。
  • 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
  • 项目源码地址:https://github.com/traceloop/openllmetry