TwiScan
热门
社区
账号集合
登录
注册
English
日本語
한국의
简体中文
繁体中文
注册并分享邀请链接,可获得视频播放与邀请奖励。
立即注册
铁锤人
@lxfater
我在用 AI 协助我创业, 维护 3w star 项目,写过 1200w 浏览文章,商务联系: 微信:tiechuiren101,邮件:lxfater
@gmail
.com
加入 January 2012
1.4K
正在关注
109.1K
粉丝
铁锤人
@lxfater
2026.10.04 09:58
国庆后,估计每个人都想试试本地跑大模型 因为现在千亿参数 12gb 显存就能跑起来了 但想知道自己的显卡能跑多快? 可以查这个网站:LocalMaxxing。 一个本地大模型跑分社区,用户上传自己机器的实测结果,可以按模型、显卡、推理引擎和量化格式筛选。 主要看三件事: 1. 生成速度:每秒输出多少 token 2. 首字延迟:发出问题后多久开始回答 3. 显存占用:这套配置能不能装得下 准备买显卡,或者折腾本地模型时,可以先找相近配置,看看别人跑出来的表现,再决定怎么配。 自己也能用 CLI 测速,把结果上传到排行榜。比较时记得看具体测试条件,同一个模型换引擎、换量化,速度也会变。
显示更多
0
0
8
111
18
转发到社区
热门用户
New York Post
@nypost
4.3M 粉丝
オリコンニュース
@oricon
2M 粉丝
空空道人
@Kongkongda5882
41.3K 粉丝
ツイッター速報〜BreakingNews
@tweetsoku1
259.7K 粉丝
TVer新着
@TVer_info
101.9K 粉丝
吴说区块链
@wublockchain12
182.3K 粉丝
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K 粉丝
华尔街观察 Xtrader
@cnfinancewatch
140.7K 粉丝
狱
@Wx1n11124
318K 粉丝
Bloomberg
@business
10.5M 粉丝
中國新聞社
@CNS1952
550.2K 粉丝
billboard
@billboard
16.8M 粉丝
WangNextDoor
@WangNextDoor2
111K 粉丝
Reuters
@Reuters
26.5M 粉丝
allincrypto 熬鹰资本 🇨🇳
@thankUcrypto
213.7K 粉丝