长上下文很快会把普通 prompt 塞满。模型也会卡住。rlm 就是用来让模型继续拆问题和递归调用的项目。
rlm 是一个给 Recursive Language Models 用的推理库项目。
项目说明把关键动作写得很实。常见的 `llm.completion(prompt, model)` 在这里会换成 `rlm.completion(prompt, model)`,上下文会放进 REPL 环境里,模型可以继续检查内容,再递归发起子模型调用。仓库里还放了 inference engine、多种 sandbox 执行环境,以及 training 目录下的 verifiers 训练线,推理和训练都能顺着项目说明往下看。
要处理超长材料、复杂任务拆分,或者想研究递归式语言模型的人会更需要它。短 prompt 问答场景里,普通调用链通常已经够用了。
GitHub 现在约 4.9k stars
工具地址:
显示更多