雨夹雪❄️
@mizorewww
大一
开发者 交易员 欢迎私聊 兴趣使然 关注你说明我喜欢你 推文以玩抽象为主
telegram: @aac6fef
donate me: 0xea169FFfF00034DB719107A2d7F02C427E8BBaE3 (BSC)
1.2K 正在关注 5.3K 粉丝
介绍比Jev快50倍，在你设备上跑的laya-mlx!
只在你的设备上占用最高1G内存
Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统
我将其移植到MLX,并且做了一些性能优化!
视频中就是这个模型在我的本地M3Max上玩贪吃蛇
这个模型能够以每秒决策60次的速度玩贪吃蛇！
显示更多
看到贴吧里有人说，新版deepseek v4.1 flash写小说的长上下文能力非常差
这也符合我之前发现DeepSeek v4 flash长上下文聊天能力非常差的观察
这个为了coding特化的模型还是苦了小说和rp用户啊
显示更多
实际上也就和deepseek 官方的v4flash差不多快
可以散了，朋友们！
短对话
好像一点都不快？
原来强制XMoney
开了工单给我改回来了
kimi k3上架ollma了
估计这么大的模型ollama的套餐也不会给你用多少
我按按95%输入、5%输出、90%缓存命中，结合社区实测推测了ollama 20刀每月的额度
发现大部分模型在ollama里打了0.2折左右
然而deepseek却比官方还要贵
现在我相信梁文锋说自己的成本是护城河了...
显示更多
