老韭菜南亥
@daweifs
Joined September 2021
0 Following 0 Followers
想把 LLM 也放到本地，可以先启动 llama.cpp：
llama-server
-hf ggml-org/gemma-4-E4B-it-GGUF
-np 2 -c 65536 -fa on --swa-full
然后把 speech-to-speech 的 LLM 地址指向：
这样才算比较完整的本地语音 Agent
Show more
Most Popular Users
