老韭菜南亥
@daweifs
加入 September 2021
0 正在關注 0 粉絲
想把 LLM 也放到本地，可以先启动 llama.cpp：
llama-server
-hf ggml-org/gemma-4-E4B-it-GGUF
-np 2 -c 65536 -fa on --swa-full
然后把 speech-to-speech 的 LLM 地址指向：
这样才算比较完整的本地语音 Agent
顯示更多
熱門用戶
