产品简介
MagicWX 是一款Android端侧大模型推理应用，支持一键下载和本地运行10个主流大语言模型，完全离线，无需服务器。适合需要离线AI聊天、注重隐私的Android用户。
核心功能
- 支持10个主流大语言模型一键下载与本地推理
- 双推理架构：RWKV和Transformer
- 支持多种量化模式，优化性能
- 3种聊天模板：ChatML、Llama3、Gemma
- 现代UI设计，基于Jetpack Compose
快速开始
- 克隆项目代码到本地
- 使用Android Studio打开项目
- 编译并安装应用到Android设备
- 启动应用，选择模型一键下载后开始聊天
界面预览
与其他方案对比
| 对比项 | MagicWX | 同类方案 |
|---|---|---|
| 离线支持 | 完全离线运行，无需服务器 | 可能需要联网或依赖云端 |
| 模型支持 | 支持10个主流大语言模型 | 可能只支持少数模型 |
| 推理架构 | 双架构（RWKV+Transformer），优化性能 | 可能只支持单一架构 |
适合谁用
- 需要在无网络环境下使用AI聊天的用户
- 希望本地测试和运行大语言模型的开发者
- 注重数据隐私，不愿将数据上传到云端的用户
下载与版本
当前最新版本为 1.0.1，发布于 2023-11-28。支持 Android。点击页面「下载软件」按钮即可下载打包好的版本，根据你的电脑/手机系统来选择对应的软件。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/Pangu-Immortal/MagicWX