TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
铁锤人
@lxfater
我在用 AI 协助我创业, 维护 3w star 项目,写过 1200w 浏览文章,商务联系: 微信:tiechuiren101,邮件:lxfater
@gmail
.com
Joined January 2012
1.4K
Following
109.1K
Followers
铁锤人
@lxfater
2026.10.04 09:58
国庆后,估计每个人都想试试本地跑大模型 因为现在千亿参数 12gb 显存就能跑起来了 但想知道自己的显卡能跑多快? 可以查这个网站:LocalMaxxing。 一个本地大模型跑分社区,用户上传自己机器的实测结果,可以按模型、显卡、推理引擎和量化格式筛选。 主要看三件事: 1. 生成速度:每秒输出多少 token 2. 首字延迟:发出问题后多久开始回答 3. 显存占用:这套配置能不能装得下 准备买显卡,或者折腾本地模型时,可以先找相近配置,看看别人跑出来的表现,再决定怎么配。 自己也能用 CLI 测速,把结果上传到排行榜。比较时记得看具体测试条件,同一个模型换引擎、换量化,速度也会变。
Show more
0
0
8
111
18
Forward to community
Most Popular Users
Tibo
@thsottiaux
1M Followers
FinancialJuice
@financialjuice
959.2K Followers
Binance Wallet
@BinanceWallet
2.8M Followers
First Squawk
@FirstSquawk
579.8K Followers
Binance
@binance
16.1M Followers
LiveSquawk
@LiveSquawk
504.2K Followers
Serenity
@aleabitoreddit
1.1M Followers
ClaudeDevs
@ClaudeDevs
834.7K Followers
CNBC
@CNBC
6.3M Followers
Seeking Alpha
@SeekingAlpha
348.7K Followers
TheStreet
@TheStreet
1.2M Followers
Boris Cherny
@bcherny
641.8K Followers
The Wall Street Journal
@WSJ
22.3M Followers
Thariq
@trq212
405.5K Followers
New York Post
@nypost
4.3M Followers