项目简介
Xiaozhi ESP32 Server Java 是基于 Xiaozhi ESP32 项目开发的 Java 企业级服务端,采用多模块 + 双进程架构设计,为 ESP32 智能硬件提供完整的后端支撑和可视化管理平台。
核心亮点
- 多模块 + 双进程架构 — 管理后台与对话服务独立运行,互不影响,支持分别扩容
- 多 AI 平台集成 — OpenAI / 智谱 / 讯飞 / Ollama / Dify / Coze,MCP 工具协议扩展
- 语音全链路 — 本地 & 云端 STT/TTS,音色克隆,双向流式交互,实时打断,智能防误打断,极速响应
- 声纹识别 — 识别家庭成员,多成员独立记忆,共用设备互不干扰
- WebSocket + MQTT — 实时双向通信,服务端主动唤醒与消息推送,OTA 分批升级与时间窗控制
- 多设备就近应答 — 同空间多台设备同时唤醒,仅一台应答
- IoT 智能家居 — 语音指令控制设备,多设备协同,Function Call 智能决策
- RAG 知识库 — 多格式文档解析(PDF / Office / 图片),检索增强生成
- 长期记忆与记忆图谱 — 记住用户偏好与关键信息,理解人物关系,跨会话记忆
- 全链路监控 — Token / 时延 / 设备活跃度多维可视化,运维指标对接,设备接入一键自检
- 一键部署 — bin 脚本 / Docker Compose,Flyway 自动建表,模型自动下载
技术栈
项目架构
双进程架构:两个独立进程共享 MySQL 和 Redis,可分别部署与扩容。
xiaozhi-server:8091 — 管理后台,提供 REST API、用户/设备/角色管理、OTA 升级xiaozhi-dialogue:8092 — 对话服务,处理 WebSocket/MQTT 实时音频流、AI 对话管道
dialogue支持横向扩展,新实例自动注册至server,通过设备 OTA 实现负载均衡。
适用人群
- 已购买 ESP32 硬件,需要功能完善的管理平台
- 需要企业级稳定性和扩展性
- 个人开发者,希望快速搭建使用
- 需要支持大量设备并发连接的场景
功能对比
部分功能未开源,有需求请通过下方联系方式沟通
部署
Docker
mkdir xiaozhi && cd xiaozhi
curl -O https://raw.githubusercontent.com/joey-zhou/xiaozhi-esp32-server-java/main/docker-compose.yml
docker compose up -d
等容器都 healthy 后打开 http://localhost:8084,账号 admin / 123456。 详见 Docker 部署。
源码
git clone https://github.com/joey-zhou/xiaozhi-esp32-server-java
cd xiaozhi-esp32-server-java
docker compose -f docker-compose-db.yml up -d # 起 MySQL + Redis,已有可跳过
./scripts/download_models.sh # 下载模型和原生库,首次必须
bin/all.sh start # 自检、编译并启动
cd web && npm install && npm run dev # 前端
Windows 用 bin\all.ps1 start。详见 CentOS 部署 / Windows 部署。
models/和lib/不在 Git 仓库中,首次部署需通过脚本下载。 语音识别与合成全用第三方 API 的话,只跑./scripts/download_base.sh即可(仅 VAD 模型和原生库)。
登录之后
要自己配一个大模型的 API Key 才能对话,系统不预置任何密钥。 语音识别用内置本地模型、语音合成用免费 Edge TTS,都可以先不管。 见配置说明。
设备侧填这两个地址(分属两个进程,别写混):
- OTA:
http://<内网IP>:8091/api/device/ota - WebSocket:
ws://<内网IP>:8092/ws/xiaozhi/v1/
改了服务端口时,要同步改 xiaozhi.server.port 与 xiaozhi.dialogue.port,
否则下发给设备的地址还是旧端口。
文档
性能测试
我们开发了专门的 WebSocket 并发测试工具 Xiaozhi Concurrent,用于评估系统的性能和稳定性。测试工具支持模拟大量设备同时连接,测试完整的 WebSocket 通信流程,并生成详细的性能报告和可视化图表。
📖 测试工具的详细使用说明、安装步骤和参数配置请查看:Xiaozhi Concurrent 仓库
基准测试结果
以下测试数据基于腾讯云服务器(8核8G,100M按量付费带宽) 环境,100个设备、100并发连接、持续5轮 对话测试:
性能指标
服务器资源占用
音频传输质量
测试结果可视化
商业合作
我们接受各种项目开发,如果您有特定需求或对商业版本感兴趣,欢迎通过微信联系洽谈。
贡献指南
欢迎任何形式的贡献!如果您有好的想法或发现问题,请通过以下方式联系我们:
微信
微信群超200人无法扫码进群,可以加我微信备注 小智 我拉你进微信群
欢迎加入我们的QQ群一起交流讨论,QQ群号:790820705
免责声明
本项目仅提供技术实现代码,不提供任何媒体内容。用户在使用相关功能时应确保拥有合法的使用权或版权许可,并遵守所在地区的版权法律法规。
项目中可能涉及的示例内容或资源均来自网络或由用户投稿提供,仅用于功能演示和技术测试。如有任何内容侵犯了您的权益,请立即联系我们,我们将在核实后立即采取删除等处理措施。
本项目开发者不对用户使用本项目代码获取或播放的任何内容承担法律责任。使用本项目即表示您同意自行承担使用过程中的全部法律风险和责任。