注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 合本版
合本版 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 合本版 的推特
🍲 真香!Soup 能在一张 4GB 显存的笔记本显卡上微调 80 亿参数的大模型,一个 YAML 配置加一条命令就开跑。 今年 2 月才建的仓库,GitHub 上已经 8000 多 star、1200 多个 fork,Apache-2.0 协议,背后那套方法还挂了预印本,Zenodo 的 DOI 是 10.5281/zenodo.21918325。 想微调一个自己的模型,卡在显存上的人太多了:手里是张游戏本的 3050,想碰 Llama-3.1-8B 连加载都加载不进去,只能去租云上的卡,调参调一半还得盯着账单。Soup 的解法是让冻结的基础模型权重待在内存里,训练时按层一层一层喂给 GPU,显存峰值被压到 3.32GB——官方在 RTX 3050 笔记本版上实测 119.6 tokens/s,在 H100 上独立复现是 113 tokens/s,两边的显存峰值一模一样。 整套流程被收成了几条命令:起配置、开训、直接跟训完的模型对话、推回 Hugging Face。SFT、DPO、GRPO、PPO、ORPO 这些后训练方法都在里面,Llama、Qwen、Gemma、Mistral、DeepSeek、Phi-4 这一百多个模型都有现成配置可以抄。 更有意思的是项目自述:这玩意本身就是在一台 4GB 显存的笔记本上开发和维护的。最近一个版本合进去的 60 个改动,全部来自维护者之外的 22 位贡献者。 有一点得说清楚:按层送显存这个功能目前还标着 Beta,上面那组性能数字是在旧版本上测的,作者自己注明了修完一个正确性问题之后还没在 4GB 卡上重测。 显存不够,不再是不能微调的理由了。 GitHub:
显示更多
【合池鐵路東沖隧道順利貫通】11月10日,新建合肥至池州鐵路東沖隧道順利貫通,這是合池鐵路全線貫通的首座隧道。合池鐵路起自安徽省合肥市合肥西站,終至池州市九華山站,線路全長約199.5公里,其中新建線路長度約117公里,設計時速250公里,預計2029年具備開通運營條件。
显示更多
合上教案,我不在是老师,我是女人,也喜欢体验更多关心,更多的性,互相欢愉,满足,这是大家都追求的,我也一样,礼貌点别喷我。。。
显示更多
合則來,不合聚散 不管是感情、職場、約砲都是如此 這個世界怎麼會變成如此厭世與卑劣 但在這裏第五年了遇到了很多人事物 也學到了很多姿勢、知識、汁式 😳 希望能渲染「𝐏𝐞𝐚𝐜𝐞 & 𝐋𝐨𝐯𝐞」 謝謝這幾年支持我跟赴約的粉絲!! 還有獻上自己肉體跟技術ㄉ男主們 男孩們別害羞!可以把自己當作禮物送給我嗎
显示更多
0
0
160
33
转发到社区
合着升级救不回来,AT&T上突然没信号的18 Pro Max,苹果让换机
合着押在亚利桑那的2650亿美元还不够,台积电又在考虑得州了
【合武高鐵金寨史河特大橋鋼桁梁主體工程完工】8月21日,合武高鐵金寨史河特大橋鋼桁梁主體工程完工。金寨史河特大橋位於安徽省六安市金寨縣,主橋鋼桁梁全長540米,採用上承式雙結合連續鋼桁梁結構形式,是合武高鐵安徽段重難點工程。安徽合肥至湖北武漢高速鐵路是中國“八縱八橫”高鐵網沿江通道的重要組成部分,設計時速350公里,建成後將進一步優化長江經濟帶鐵路網布局。
显示更多
0
27
116
23
转发到社区