老韭菜南亥
@daweifs
加入 September 2021
0 正在关注 0 粉丝
想把 LLM 也放到本地，可以先启动 llama.cpp：
llama-server
-hf ggml-org/gemma-4-E4B-it-GGUF
-np 2 -c 65536 -fa on --swa-full
然后把 speech-to-speech 的 LLM 地址指向：
这样才算比较完整的本地语音 Agent
显示更多
热门用户
