Ontem comecei testes com o ReSpeaker Lite, da Seed.
Uso o Homeassistant numa máquina virtual no Proxmox. Atualmente, separei 8GB de RAM para o HAOS.
O ponto fraco do sistema, até o momento, é a parte de reconhecimento da fala (speech to text), feita pelo addon Whisper com a biblioteca faster-whisper.
Ficou bem lento e com baixa taxa de acerto, seja em PT, seja em EN. Testei apenas o modelo tiny-int8.
Minhas perguntas:
-
Alguém tem usado o ReSpeaker Lite?
-
Se sim, qual modelo tem dado bons resultados para a língua portuguesa?
-
Qual a configuração de memória e CPU para resultados bons?
-
Rodam o Whisper como addon no HAOS ou em uma VM/máquina separada?
Grato pela atenção.
Ola amigo compartilhando com.voce uns testes que estou fazendo. Tenho um xiaozhi, um rasp com uma ps3 eye e um rhwspeaker chegando. Usando tudo localmente, ollama piper e whisper. Pelos poucos testes que fiz o que achei melhor e usar o whisper com o modelo largev3 ou largev3 turbo. Isso rodando na minha máquina gamer com placa de video 7900xt. Usando rocm com whisper e modelo qwen 3 8b. Nao testei usando nenhuma api na nuvem.
1 curtida
Opa,
Eu não tenho GPU disponível pelo momento então parei com os testes.
Vou retomar assim que decidir como vou rodar localmente os modelos via Ollama.
Meu interesse, para a parte do Voice to Text, que é a mais crítica, é usar algum modelo otimizado para português, como o freds0/whisper-small-portuguese ou patrickvonplaten/whisper-medium-24-2, ambos abaixo de 2GB.
Boa tarde!
Estou com um ambiente parecido com o seu, mas rodando em um respberry 4 de 8GB. Meu ReSpeaker Lite chegou recentemente e estou fazendo alguns testes, os resultados estão bem parecidos com os seus. O reconhecimento está bem ruim em português, e mesmo em inglês não está muito bom. Você conseguiu algum avanço?
Vou fazer a contra trial do HA Cloud, pelo menos pra ver como funciona.
Voces tentaram o Speech-to-Phrase ?
No whisper eu nao consigo nada muito util de medium para baixo. Nao tem muita a ver com o mic.
Não testei o Speech-to-Phrase, pois gostaria de um assistente mais genérico, que possa responder qualquer coisa e não só comandar a casa. Fiz mais alguns com o Whisper com o modelo small-int8 e tive resultados melhores, mas nada excelente. Como estou rodando em um i5 8ª geração, do modelo medium para cima a resposta fica muito lenta.
Opa,
Assinei um plano da Nabu Casa, até para dar apoio financeiro ao projeto, mas ainda não tive tempo de testar.
Atualmente, tirei o HA da máquina virtual e coloquei em um PC com um modesto Celeron J1800 e 4GB. Então rodar local modelos ficou ainda mais difícil. Mas a intenção agora é rodar em outro local , seja no Proxmox do homelab seja via cloud.
Algum sucesso com o HA Cloud?
Não justifica você usar HA cloud. Um dos principais benefícios é seu uso local. Com sua segurança e privacidade administrados por vc.
O investimento em um bom mini PC vai trazer tranquilidade e longevidade em seu projeto.
Investir em um mini PC acima da média te dará a oportunidade de realizar ideias que hoje não tem, mas terá. Principalmente se usar proxmox. Investir em um básico vai fazer você gastar de novo se quiser buscar novas soluções.
Está aí uma boa sugestao:
https://mg.olx.com.br/belo-horizonte-e-regiao/informatica/computadores-e-desktops/beelink-mini-pc-eqi12-intel-12a-i3-1220p-500gb-24gb-1512363806?utm_medium=shared_link&utm_source=direct
Alguma atualização desse setup com o Nabu Casa? Também rodo o HA numa VM que até tem 8gb de RAM, mas estou considerando pegar o Nabu Casa pra experimentar com ReSpeaker.