产品推荐 2026-07-25

textgen:开源免费本地运行的本地大语言模型运行客户端

一个开源的桌面应用,用于本地运行大语言模型,支持文本、视觉、工具调用。

开源软件跨平台工具

产品简介

textgen TextGen是一个开源桌面应用,允许用户在本地计算机上运行大语言模型,实现文本聊天、视觉理解、工具调用等功能,完全私密无遥测。适合需要保护数据隐私的开发者和研究人员。

textgen 主界面

核心功能

  • 支持多模态聊天(文本和视觉)
  • 提供OpenAI和Anthropic兼容API
  • 工具调用功能包括web搜索和数学计算
  • 本地训练LoRA模型进行微调
  • 图像生成功能支持扩散模型

快速开始

  1. 从GitHub releases页面下载便携版安装包
  2. 解压下载的文件到本地目录
  3. 双击运行textgen可执行文件启动应用
  4. 下载GGUF格式模型文件放入user_data/models文件夹
  5. 在应用中选择模型开始聊天或生成文本

界面预览

textgen 界面截图

与其他方案对比

对比项textgen同类方案
隐私保护100%离线运行,零遥测,数据完全本地许多云AI服务需要网络连接,可能收集用户数据
功能集成集成文本、视觉、工具调用、训练、图像生成其他工具可能只专注于单一功能如聊天或代码生成
易用性提供便携版,解压即用,无需复杂安装某些AI工具需要配置环境或依赖云服务

适合谁用

  • 需要在本地运行AI模型以保护隐私的开发者
  • 希望实验不同后端和模型的研究人员
  • 需要离线AI聊天和视觉理解功能的用户
  • 想集成AI API到本地应用的开发者

下载与版本

当前最新版本为 v4.9,发布于 2026-05-20。支持 Windows、Linux。点击页面「下载软件」按钮即可下载打包好的版本,根据你的电脑/手机系统来选择对应的软件。

注意事项

  • 本工具仅供学习和研究使用,请遵守相关法律法规。
  • 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
  • 项目源码地址:https://github.com/oobabooga/textgen