ollama我操你妈
kimi k3直接不给Pro Plan用了
感觉 Ollama 的 GLM5.2 降智了?还是最近 K3 用多了产生的错觉?但是 K3 已经下班了,过几天才会回来。🥲
试了一下ollama 20刀的版本
说实话额度不咋多,但3h限额给的感觉可以和GPT 20x媲美了
想给 Agent 换本地模型省点 token,装好 Ollama 随手拉一个模型,跑起来超级慢,内存也被撑爆。
Magnitude 这个开源推理服务器换了个做法,先给机器做体检,芯片、内存、带宽摸一遍,再推荐哪些模型装得下、大概能跑多快。
选定之后它负责下载、调参、常驻后台跑,模型要用时才加载,闲置或内存吃紧就自动卸掉,不用我们盯着。
GitHub:
接入方式挺省事,一句话直接丢给手头的 Agent ,它自己就会装工具、挑模型、把配置改到本地模型上。
支持 Claude Code、Codex、OpenCode、Cline 等 8 个工具接入,推理加速和并发参数也按这台机器预先调好。
模型、提示词、文件全在本机,下载完断网照用。Mac 内存大又心疼 token 的,可以试试。
显示更多
本地LLM封神!Ollama让云端大模型下岗 🔥
还在为ChatGPT贵+慢+泄密烦恼?
Ollama 直接把大模型搬回家!
GitHub 17.1万星,本地AI的Docker!
3分钟安装:
curl -fsSL | sh
ollama run qwen3
2026推荐:
• 8GB内存 → Qwen3 4B / Phi-4
• 16GB+ → Qwen3 8B(中文最强)
• 24GB+ → Qwen2.5-Coder 32B(接近GPT-4o)
核心优势:
1、完全离线
2、隐私安全
3、零成本
4、接VSCode / OpenWebUI超丝滑
官网:
GitHub:
显示更多
本地跑大模型的工具越来越多,光推理引擎就有 Ollama、llama.cpp、vLLM,还没算模型和界面。
LLMs-local 把本地跑大模型相关的资源整理到了一起,推理引擎、模型、硬件、教程都有。
推理引擎收录了 Ollama、llama.cpp、vLLM 这些,界面有 Open WebUI、Lobe Chat,模型按用途分好了类。
GitHub:
还收录了微调工具、Agent 框架、训练教程和硬件选购建议,一份清单基本能摸清整个生态。
打算在自己机器上跑模型的朋友,可以先翻翻这份合集找找方向。
显示更多
试着和kimi k3聊聊天!
coding就不做了,等ollama cloud上线k3我再试用
必须推荐找工作神器啊,又是一个实用级开源项目,而且支持本地大模型 ollama 跑,昨天一天涨了 2.3k stars。
让 Codex 或者 Hermes 给你安装之后, 找工作之前把你的简历 PDF 丢给 这个 Agent,给你评分,针对性修改
显示更多
如果你想把自己的电脑变成一个私人 ChatGPT,可以看看这两个开源工具:
Ollama + Open WebUI
Ollama 负责本地跑模型。
Open WebUI 负责提供类似 ChatGPT 的网页界面。
这套组合最适合处理不想丢到云端的东西:
私人笔记、项目资料、客户文档、本地知识库、草稿改写。
Ollama 17 万+ Star,Open WebUI 13 万+ Star,基本算本地 AI 工作台的默认组合了。
不是替代最强 ChatGPT。
而是给自己留一个私密、可控、随时能用的 AI 工作台。
GitHub:
显示更多
电脑用了一整天,过几天却想不起当时具体干了什么?
Dayflow AI 时间追踪工具会自动记录 Mac 上的屏幕活动,并整理成时间线、Standup 和 Weekly Review。
支持 Ollama / LM Studio 本地模型,也能接 Gemini、ChatGPT、Claude,开源、MIT
👉
显示更多