Skip to content
Zetesis-LabsPublic

About

Altavoz de voz LiveKit sobre ReSpeaker XVF3800 + XIAO ESP32-S3 (firmware Zig + agente Python)

Resources

Stars

4 stars

Watchers

0 watching

Forks

Repository files navigation

Sebastian

Altavoz de voz sobre Seeed ReSpeaker XVF3800 + XIAO ESP32-S3, con tres usos: asistente conversacional, micrófono USB y grabador de reuniones. Incluye firmware, agente de voz, servidor de administración, dashboard e instalador web.

Repositorio: github.com/Zetesis-Labs/Sebastian.

Estado actual

main incluye conversación, micrófono USB, flota (adopción, configuración deseada frente a ejecutada), reuniones (captura, subida reanudable, transcripción, resumen y consulta desde el panel), perfiles de agente con clave por perfil y anuncios al altavoz. ROADMAP.md fija lo próximo y MILESTONE.md los criterios de operación autónoma.

Las instantáneas documentales de septiembre de 2026 (estado, pruebas, sesión de campo, procedencia) y las exploraciones de julio viven en docs/history/. Describen el código de entonces, no el actual.

Componentes

Directorio Responsabilidad
firmware/ Zig sobre ESP-IDF y SDK LiveKit C: hardware, audio, activación local, sesiones, USB y configuración persistente.
agent/ Python con LiveKit Agents: conversación Gemini/OpenAI, Home Assistant por MCP y captura de reuniones.
server/ Go/OpenAPI: flota, sesiones, reuniones, transcripción y PostgreSQL.
dashboard/ React/TanStack Start: administración SSR de dispositivos, grabaciones y reuniones.
web-installer/ Instalación y configuración por WebSerial; disponible también dentro del dashboard.
helm/sebastian/ Chart del backend; configuración de despliegue en Mileto.

Cómo funciona

En conversación, «Okay Nabu» se detecta localmente. El dispositivo abre una sesión autenticada en Go; el servidor crea una sala LiveKit nueva y despacha el agente. La placa entrega el audio previo a la activación y publica el micrófono. El agente responde por la misma sala. Al cerrar, la placa vuelve a la escucha local.

El XVF3800 procesa los cuatro micrófonos y genera el reloj I2S a 48 kHz. El ESP32 usa puertos separados para captura y reproducción. El canal actual es LEFT/comms, con procesamiento del XVF. LiveKit puede alojarse en el entorno propio; BVC se activa por defecto solo cuando el agente detecta LiveKit Cloud. Gemini es el proveedor conversacional por defecto y OpenAI es seleccionable.

En modo micrófono USB, la placa entrega PCM mono al ordenador. La interfaz USB convive con el perfil agente mediante un árbitro que evita lectores simultáneos del micrófono. Las reuniones se inician desde el perfil agente y usan una sesión de captura dedicada, sin conversación con el modelo.

Desarrollo

Compilación, lint y pruebas se ejecutan dentro del devcontainer. En macOS, el flasheo y la lectura del USB se realizan desde el host con los artefactos generados en el contenedor.

  1. Preparar las variables y abrir el entorno según DEVCONTAINER.md.
  2. Dentro del contenedor, aplicar migraciones con make server-migrate y arrancar make server-run, make agent y make dashboard-dev en terminales separados.
  3. Compilar con make fw-build; desde el host, flashear con make flash.
  4. Configurar/adoptar la unidad desde el instalador y el panel. Las sesiones usan POST /v1/sessions con identidad y secreto del dispositivo.

La guía de ejecución detalla los prerrequisitos, el aprovisionamiento y la verificación. No se guardan credenciales reales en Git.

Documentación

Documento Uso
docs/ARCHITECTURE.md Componentes, flujos y límites del sistema implementado.
ROADMAP.md Prioridades actuales y propuestas históricas identificadas como tales.
MILESTONE.md Criterios pendientes para operación autónoma y recuperación.
docs/FIRMWARE.md Módulos, ABI y restricciones de firmware.
docs/HARDWARE.md Placa, buses y conexiones.
docs/PROFILES.md / docs/USB_MIC.md Perfiles locales y convivencia del micrófono USB.
Flota Requisitos de adopción y administración.
Reuniones / diseño Requisitos y diseño de reuniones.
Agentes Perfiles de agente: proveedor, modelo, voz y clave por perfil.
docs/history/ Instantáneas de septiembre de 2026 y exploraciones de julio. Históricas.

Licencia

MIT. Ver LICENSE.

About

Altavoz de voz LiveKit sobre ReSpeaker XVF3800 + XIAO ESP32-S3 (firmware Zig + agente Python)

Resources

Stars

4 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages