🎭 我去,满世界都在往对话机器人里塞大模型的时候,NPC-Forge 反着来,做出来的对话 NPC 一点大模型都不用。
作者是 Giovanni Blu Mitolo,项目按 AGPL-3.0 开源,另外提供商业授权选项。
做游戏 NPC 或者终端助手,现在的默认答案是接一个大模型:显存要够,要么就得联网调 API,每句话等个一两秒,偶尔还一本正经地编。放到嵌入式设备或者一台老机器上,这条路基本走不通。
NPC-Forge 走的是确定性路线,不训练模型、不做 embedding,全靠数据集驱动。它做出来的角色有自己的性格,能记住多轮上下文,能做情感分析,能调工具,响应是毫秒级的,纯 CPU 就能跑,浏览器里、老硬件上、嵌入式板子上都行。因为不是生成式的,它不会瞎编,也没有那层安全对齐过滤。改完数据集执行一次 npc-forge reboot 就生效,不用重新训练。作者还提到,它对拼写错误、脏话、感叹词和词序颠倒的容错比 NLP.js 更好。
仓库里内置了第一个 NPC 叫 TERMy,一个说话带点讥讽的 Linux 终端助手,你用大白话说想干什么,它翻译成 shell 命令。同时它实现了 OpenAI 兼容接口,需要的时候能接到 Open WebUI 这类工具上。
目前是实验性版本,只支持 Linux 和 WSL,尝鲜之前心里有个数。
GitHub:
顯示更多