老韭菜南亥
@daweifs
参加 September 2021
0 フォロー中 0 ファン
想把 LLM 也放到本地，可以先启动 llama.cpp：
llama-server
-hf ggml-org/gemma-4-E4B-it-GGUF
-np 2 -c 65536 -fa on --swa-full
然后把 speech-to-speech 的 LLM 地址指向：
这样才算比较完整的本地语音 Agent
もっと見る
人気のあるユーザー
