产品简介
llm-concurrency-test 这是一个基于浏览器的工具，用于测试OpenAI或Anthropic等LLM API的并发处理能力。无需后端，API密钥安全保留在浏览器中，适合需要快速评估API性能的开发者和测试人员。
核心功能
- 流式请求和首令牌时间测量
- 实时时间线图表更新
- 并发比率判断（并发/部分并发/顺序）
- 一键导出JSON/CSV测试数据
- 轻/重预设测试配置
快速开始
- 访问工具网址 https://0xaungkon.github.io/llm-concurrency-test/
- 输入API密钥、端点URL和模型名称
- 设置并发数、最大令牌和超时时间
- 点击"RUN TEST"按钮开始测试
界面预览
与其他方案对比
| 对比项 | llm-concurrency-test | 同类方案 |
|---|---|---|
| 运行环境 | 纯浏览器端运行，无需安装软件或后端 | 可能需要命令行工具、客户端安装或后端服务 |
| 隐私安全 | API密钥仅存于浏览器，不发送到第三方 | 可能需将密钥上传到服务器或云端 |
| 实时测试 | 提供流式请求和实时时间线更新 | 可能只提供最终结果，缺乏实时反馈 |
适合谁用
- 需要评估LLM API并发性能的开发者
- 测试API是否支持并发请求的运维工程师
- 使用LLM API进行应用开发的程序员
下载与版本
当前最新版本为 v1.0.0，发布于 2026-06-30。支持 多平台。点击页面「下载软件」按钮即可下载打包好的版本，根据你的电脑/手机系统来选择对应的软件。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/0xAungkon/llm-concurrency-test