注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 SERVING
SERVING 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 SERVING 的推特
Sounds like you're not very happy serving me? 看样子你很不乐意为我服务?
0
1
864
42
转发到社区
男子展示酒店传菜员的技术 知道“端盘子都没人要你”的含金量了 Man Shows Off Hotel Food-Serving Skills – Now We Know What "You Can't Even Handle a Tray" Really Means
显示更多
若要寻七夕浪漫的源头,一定要来一趟仙女湖!这个夏天跟我一起解锁仙女湖“夏凡季”~ Angie's Vlog-Fairy Lake in Xinyu, Jiangxi. The legendary birthplace of China's Qixi Festival — is serving full fantasy vibes this summer with its Fairy Descending Season. Roam three mist-shrouded romantic islands, meet roaming immortal NPCs, cool off in bubble showers and water games, and catch breathtaking live Xianxia theater as golden hour spills over the lake. This is a magical summer escape you don't want to miss. Tag someone you'd wander this fairyland with. #FairyLake# #Xinyu# #QixiLegend# #ChinaTravel# #SummerEscape# #JiangxiTravel# #节日里的江西#
显示更多
传承科学薪火 赓续报国初心——唐河县科技馆举办两弹元勋科学家精神主题活动Carrying forward the torch of science and continuing the original aspiration of serving the country - Tanghe County Science and Technology Museum holds a theme activity on the spirit of the two-particle experts
显示更多
肉菩提盛开,10多个军警大1轮番灌满肉菊,狂喷的浓精充当润滑油。#fansly# #NSFW# Thick semen flows out along the flower’s pistil, the wildly spurting cum serving as slick lubricant.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​ 完整版请前往下述订阅或 ➡️订阅: ➡️Subscribe:
显示更多
0
3
1.6K
329
转发到社区
手上有 NVIDIA DGX Spark的話,先把 agent 安裝起來。叫它去讀 @MiaAI_lab 的 sparkDash,再叫它在機器上寫一個、或改一個 model switcher、service switcher。 Switcher 實際怎麼設 一份 registry。每個 serving stack 一張卡。現在七張。 每張卡帶:它在哪台機器、要探的 IP 加 port、它該回報的 model id、以及啟動跟關掉的兩支腳本。 四張在 head,`:8888`、`:8889`,loopback 探。三張在 worker,27B 在 `:8888`、TTS 在 `:8010`、MiniMax 在 `:8000`,走 CX7 探。啟動關掉走 ssh,因為腳本在 worker 上。 兩台都用 8888 這個 port。所以不能用 port 當鑰匙。要用 host 加 port,再加上它回報的 model id。Head 跟 worker 能同時掛在同一塊面板上、又不會認錯,就靠這對。 活著沒有,靠便宜的探針。OpenAI 那種 stack 打 models 那個端點。 沒有 id 清單的卡,就只看探針回不回。 切換順序是寫死的,不是聰明的。先停掉全部。兩台都把 page cache 丟掉。UMA 上這步不能省,否則下一包權重要進記憶體時,空閒檢查會過不了。再跑目標自己的 start 腳本。輪詢到 API 肯回答。Dashboard 不自己發明啟動參數。它叫操作員寫好的腳本。 畫面上一個 stack 一張卡。亮著的那張綠點。節點、host:port、現在活著的 model id。Start、Stop、Switch。連到它的 console。切換進行中,進度從 operation log 流下來。 旁邊那些附屬服務另開一區,不算進 UMA 預算。`:8814` 那個檔案上傳。普通的 node process,記住 pid。要開再開,要關再關。模型切走,它還在。 我們活在最好的時代,能想出來就可能創造出來. 我剛做完,現在在用。
显示更多
CMP 170HX 今天又有一个比较实在的进展。 8G版解锁64G之后,已经有人单卡把 Qwen3.8-27B 跑到 200K 级真实长上下文了。 vLLM 0.27.1,175W,不超频,1K 大概84 tok/s,64K 还有75 tok/s,200K 还能跑57 tok/s,而且做了160K左右的 needle retrieval,不只是显存能分配出来,是真的在跑长上下文。 温度也还不错,持续负载核心大概66度,显存71度,功耗173W左右。这个和之前170tune测出来的175W甜点位基本对上了。 但我还是那句话,别一看到256K、262K就高潮。 现在公开证据能确认的是200K级真实跑通,不是262K连续跑几天,更不是24到72小时 serving 0 Xid。 还有一点,这个案例用的版本并没有包含最新的 WPR2 修复,所以它证明的是长上下文能力,不代表满显存稳定性问题已经彻底解决。 目前我的判断还是没变。 8G版越来越像真正能拿去部署的64G AI卡了。 10G版的80G,继续当彩票看。没有多人独立复现,没有全显存唯一pattern,没有多CUDA context,没有24到72小时0错误,我就不加一分钱估值。
显示更多
🔥X 平台杠开源了整个平台的算法权重,这次连“你的每个动作值多少分”都公开了。 X 直接放出了主要生产权重、可见性过滤规则、账号与内容标签系统、SimClusters,以及真正用于训练和 Serving 的 Phoenix 生产代码。 先猜你会对每条帖子做什么,再按一张“行为价目表”算分,然后经过限流、去重、圈外折扣、新作者扶持,最后决定你看到什么。 工作原理: 1、先找一批“候选帖子”,现在主要有三个入口: • Thunder:你关注的人刚发的内容 • Phoenix Retrieval:根据你的历史行为和内容语义,从全网找 AI 认为你可能感兴趣的帖子 • SimClusters:根据“哪些人经常喜欢同一类东西”形成兴趣簇,再从这些圈子里捞内容 2、然后 Phoenix 对每条帖子预测一串概率: 点赞 / 回复 / 转发 / 引用 / 分享 / 私信分享 / 复制链接 / 点击 / 看视频 / 关注作者…… 负反馈也一起预测: 不感兴趣 / 静音 / 拉黑 / 举报 / 没有停留。 而且它看的信息比“你过去点过什么赞”多得多。 新版生产模型里还有国家、语言、位置、当地时间、年龄段、性别、已安装 App、帖子年龄等上下文。 3、真正炸裂的地方来了: X 这次把主要生产默认权重公开了。 正向: • 复制链接分享:+20 • 回复:+5 • 引用:+5 • 私信分享:+5 • 关注作者:+4 • 普通分享:+2 • 转发:+1 • 点赞:+0.5 • 点击帖子:+0.4 负向更加夸张: • 举报:−234 • 静音作者:−58.8 • 不感兴趣:−43.2 • 拉黑作者:−31.2 还有一个非常有意思的隐藏项: 如果你和作者互相关注,而且对方发的是原创帖,“你会回复它”的权重额外 +15。 基础回复权重是 5。 也就是说,这类帖子对应的回复预测权重可以直接来到 20。 当然,这些数字不能简单理解成: “1 次复制链接 = 40 个赞”。 系统计算的是: 某个行为发生的概率 × 对应权重。 而且 X 自己在代码里专门解释,这些权重同时考虑了行为价值和这种行为在全网有多稀有。 4、打完分还没结束。 圈外内容,也就是你没有关注的账号,默认分数还要乘 0.75。 同一个作者连续出现,也会被强行衰减。 按目前公开的默认参数计算: 同一批候选里,同一个作者的第二条大约只剩 62.5%,第三条约 43.75%,继续出现会越来越接近 25% 的下限。 所以疯狂连续刷帖,并不能无限霸占推荐流。 更有意思的是,小账号真的有代码级“新人保护”。 当前默认参数里: 作者粉丝不超过 1000,帖子浏览低于 1000,满足条件的原创帖,有机会被系统主动往大约第 16 位附近的目标分数抬。 另外,超过 48 小时的帖子,在打分之前就会被过滤。 5、这次对创作者最重要的一个变化,是“限流”终于开始变得可解释了。 X 把 Visibility Filtering 整条链路开出来了。 Spam、恶意链接、NSFW、辱骂、Do Not Amplify 等标签,都可能让一条帖子在“推荐给非关注者”时直接被 DROP。 这就解释了过去一种很常见的现象: 你的粉丝依然可以看到你。 陌生人的 For You 推荐流里,你却几乎消失了。 X 还配套推出了 Under the Hood,可以查看自己账号和帖子身上影响可见性的标签统计。 6、另外还有一个旧版解读需要更新。 Phoenix 内部依然采用 Candidate Isolation。 模型给某条候选帖打基础分时,它看不到同一批里的其他候选帖,所以 Phoenix 这一层的分数不受 Batch 里其他帖子的影响。 但之后还会继续经过: 作者多样性衰减、圈外 0.75 折扣、新作者扶持,以及 DPP 多样性重排。 所以“每条帖子独立打分”依然成立于 Phoenix 这一层。 最终出现在第几位,依然会受到整个推荐管线影响。 几个最值得记住的结论: 第一,复制链接分享的默认权重非常高。 X 明显很在意一条内容有没有强到让人愿意“带出信息流”。 第二,回复远比普通点赞值钱。 互相关注关系里的原创内容,回复预测还会得到巨额加权。 第三,连续刷屏会被作者多样性机制主动压制。 第四,小账号确实存在明确写进代码里的冷启动机会。 第五,负反馈非常贵。 举报、静音、不感兴趣带来的负权重,远高于一次普通点赞提供的正权重。 第六,这次透明度已经高了一个级别,但距离 100% 仍有空间。 真实生产数据和 checkpoint 没有开放,部分 Grox prompts 和 Botmaker 规则依然保留。 对于创作者来说,新的优先级已经非常清晰: 让内容值得被回复、私信分享、复制链接带走; 建立真实的双向关系; 减少连续刷屏; 尽量避免触发“不感兴趣”、静音、举报和各种安全标签。 X 的算法越来越像一个实时预测“你下一步会做什么”的 AI 编辑部。
显示更多