Llama.cpp的新MTP支持使本地模型速度翻倍!在A10G上,Qwen3.6-27B生成速度从每秒25个token提升至45个,增幅78%。确保系统支持MTP,更新Llama.cpp至最新版本,运行模型,享受加速带来的便捷。这一进步显著提升工作效率,值得尝试!
顯示更多
终于 speculative decoding(先支持 dflash) 在 llama cpp 合并了
想把 LLM 也放到本地,可以先启动 llama.cpp:
llama-server
-hf ggml-org/gemma-4-E4B-it-GGUF
-np 2 -c 65536 -fa on --swa-full
然后把 speech-to-speech 的 LLM 地址指向:
这样才算比较完整的本地语音 Agent
顯示更多
今天来聊聊Gate交易所整体的资产情况,我们主要来用Defi Llama的Cex版块做分析。
链接:
链上数据揭示交易所真实实力:不只规模,更要质量
在加密市场,交易所的竞争早已不只看交易量。DeFiLlama的链上数据,正在成为衡量交易所综合实力的重要标尺。
资金流动是市场情绪的晴雨表。 单日净流入能捕捉短期热度,但连续一周甚至一个月的正流入,才更接近真实的资金沉淀。当Gate在24小时、7日、30日三个周期同时录得正流入时,传递的信号就很明确了:资金不仅愿意进来,更愿意留下来。单日流入可能是行情所致,而多周期同时为正,说明这并非短期脉冲,而是持续的趋势。
资产规模决定承载能力,清洁资产比例决定质量。 Gate可追踪链上资产规模位列全球前列,但更值得关注的是其清洁资产占比——剔除平台关联代币后的净资产比例。这个数字越高,说明储备越不依赖自身发行的代币,抗风险能力越强。规模决定天花板,清洁资产占比决定这份规模是否扎实。
多链覆盖是基础设施能力的体现。 Gate的资产分布在Bitcoin、Ethereum等多条公链,这意味着钱包、充提、风控体系需要在不同链上同时运行。用户能接入的资产种类越丰富,平台被考验的就越不是上币速度,而是跨链基础设施的稳定性。
交易量反映资金活跃度,而未平仓量则揭示深层需求。 资金进入平台后,不只在账户里停留——Gate的24小时现货交易量持续保持高位,说明资金在真实流转。与此同时,未平仓量(Open Interest)处于行业前列,意味着大量仓位并未在当日结算了结,而是选择继续留在市场等待方向。
Gate未平仓量与清洁资产的比例约为行业较高水平,反映出衍生品交易活跃度的同时,也对平台的风险限额、清算机制和资金管理能力提出了更高要求。
如果说资产规模代表平台的“体量”,清洁资产比例衡量其“健康度”,多链覆盖展现其“纵深”,那么交易量与未平仓量的结合,则揭示了平台资金在真实市场中的流转与沉淀。这四者共同构成了衡量交易所综合实力的完整坐标。
顯示更多
想在本地跑 Qwen、Llama、DeepSeek,但不确定电脑能不能带得动?🥲
Can I Run AI :一个本地大模型硬件检测网页工具
可以通过浏览器识别 CPU、GPU、内存信息,再匹配不同模型的显存需求、量化方案和运行等级
适合在下载 Ollama / LM Studio / GGUF 模型之前,先判断一下:
8G 显存适合跑什么?
Mac 统一内存能不能撑住 14B?
32B 模型是不是已经超出当前设备范围?
不能替代真实跑分,但很适合用来排除明显不合适的模型,少走一些下载完才发现跑不动的弯路
顯示更多
「
终于知道币圈人为什么
混不好 AI 圈了
Anthropic
Perplexity
Llama
三个单词能正确发音的
没几个人
」
Curve DAO 于 9 月 2 日批准向 yRisk 提供资金,使其负责 crvUSD 和 Llamalend 的风险管理,替代已提前结束合作的 LlamaRisk。yRisk 获得 12.5 万枚 frxUSD 及 568,181 枚 CRV 的一年期可撤销归属资金。yRisk 两名成员同时是 Resupply 的主要开发者,而该协议曾于 2025 年 6 月因捐赠攻击损失约 960 万美元;相关信息未在提案及 Curve 的比较评估中披露。治理投票中,yRisk 获得约 5.37 亿枚 veCRV 支持票,反对票为零。(The Defiant)
顯示更多
两项最新研究发现,ChatGPT、Claude、Gemini和Llama等美国主流AI模型,碰到涉及中国等威权国家的政治敏感问题时,更容易拒答,给出的内容也可能更贴近当地官方叙事。Meta独立监督委员会上月公布的研究还发现,面对“批评威权政府”的请求,多个模型的回应程度明显低于针对政治自由国家政府的类似请求。
研究人员警告,大规模网络宣传如果能长期影响AI的回答,向互联网灌输宣传内容就会获得新的战略价值。中共的审查和外宣一旦渗进训练数据,西方模型也可能替党国机器复读;自由世界不能再把数据来源当成没有政治风险的中性材料。
顯示更多
本地跑大模型的工具越来越多,光推理引擎就有 Ollama、llama.cpp、vLLM,还没算模型和界面。
LLMs-local 把本地跑大模型相关的资源整理到了一起,推理引擎、模型、硬件、教程都有。
推理引擎收录了 Ollama、llama.cpp、vLLM 这些,界面有 Open WebUI、Lobe Chat,模型按用途分好了类。
GitHub:
还收录了微调工具、Agent 框架、训练教程和硬件选购建议,一份清单基本能摸清整个生态。
打算在自己机器上跑模型的朋友,可以先翻翻这份合集找找方向。
顯示更多