TwiScan
인기
커뮤니티
계정 컬렉션
로그인
회원가입
English
日本語
한국의
简体中文
繁体中文
가입 후 초대 링크를 공유하면 동영상 재생 및 초대 보상을 받을 수 있습니다.
지금 가입
铁锤人
@lxfater
我在用 AI 协助我创业, 维护 3w star 项目,写过 1200w 浏览文章,商务联系: 微信:tiechuiren101,邮件:lxfater
@gmail
.com
가입 January 2012
1.4K
팔로잉 중
109.1K
팬
铁锤人
@lxfater
2026.10.04 09:58
国庆后,估计每个人都想试试本地跑大模型 因为现在千亿参数 12gb 显存就能跑起来了 但想知道自己的显卡能跑多快? 可以查这个网站:LocalMaxxing。 一个本地大模型跑分社区,用户上传自己机器的实测结果,可以按模型、显卡、推理引擎和量化格式筛选。 主要看三件事: 1. 生成速度:每秒输出多少 token 2. 首字延迟:发出问题后多久开始回答 3. 显存占用:这套配置能不能装得下 准备买显卡,或者折腾本地模型时,可以先找相近配置,看看别人跑出来的表现,再决定怎么配。 自己也能用 CLI 测速,把结果上传到排行榜。比较时记得看具体测试条件,同一个模型换引擎、换量化,速度也会变。
더 보기
0
0
8
111
18
커뮤니티로 전달
인기 있는 사용자
オリコンニュース
@oricon
2M 팬
ツイッター速報〜BreakingNews
@tweetsoku1
259.7K 팬
TVer新着
@TVer_info
101.9K 팬
New York Post
@nypost
4.3M 팬
空空道人
@Kongkongda5882
41.3K 팬
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K 팬
Bloomberg
@business
10.5M 팬
吴说区块链
@wublockchain12
182.3K 팬
中國新聞社
@CNS1952
550.2K 팬
モデルプレス
@modelpress
2.1M 팬
billboard
@billboard
16.8M 팬
MANTANWEB/毎日キレイ
@mantanweb
68.6K 팬
First Squawk
@FirstSquawk
579.8K 팬
Reuters
@Reuters
26.5M 팬
WangNextDoor
@WangNextDoor2
111K 팬