哈哈哈，GPT的网页版已经无法满足我的需求了，刚刚竟然拿1个问题2个回合就塞满了256K上下文，所以未来是啥，未来就是长KVCache，长Context，长Memory，这些的背后是啥，是存储！！！！！！！！！！！！All In 存储！！！！！！！！！！！！！！

当全国的常年失业人口达到1亿以上的时候，针对失业本身的生意和内部自流动，就会繁荣起来，这就是经济的自发调节，所以，什么和失业有关的生意可以先布局起来？

A社的人真的已经邪教化了，完全臣服于邪教教主阿迪王，黎曼猜想这个，本来以为真构造了什么新结构新思路，原来只是用别人的思路去做跑批。。。而且是个非常喜欢在领导面前整活邀功的谄媚下属干的，然后领导很高兴，指示要大肆宣传，这下好了，以后别的Claude员工就有样学样吧，这个公司离倒闭不远了

用了这么多多模态的模型，不说解题的智力吧，光就是对图片的识别和理解，GPT也排第一了，为啥？为啥？GPT在5.4以后到底发生了什么，为什么成为智商第一了，是全球烧钱第一的打标团队带来的吗？

在一群日本AV女性的激励下，我的AI AV工作流学习之路进步的非常快，已经用ComfyUI搭建了第一个环境，SD不允许上传IU的脸，就改用了我的推特好朋友玉米同学的脸@yum_707！下一步我将继续学习首尾帧技术输出更长的内容！

越来越多的AV女优开始学习AI，明日見未来 @MIRAI_being 竟然还关注了我！我还有什么理由不认真学习！！！！本来我不想学习视频工作流的，现在开始我得认真学习，外语（AV（误，是AI））得学啊！！！

刷到一个抖音，真的是震撼到我了，然后搜了一圈，发现竟然是真的，就是很多人，拉屎是不擦屁股的，喜欢等粑粑风干自然脱落。我用湿纸巾擦屁股已经很多年了，真的是无法忍受任何污点在内裤上，这世界真是癫，不过想想也是，印度估计不擦屁股的比例很高，日本人肯定最爱干净

看到张本智和与张本美和包揽WTT横滨冠军赛男女单打冠军，真心为他们高兴啊，话说张本智和打了两界奥运会，已经是老将了，竟然才23岁😂，未来统治力可期！ #归化球员# #乒乓球# #中日关系#

我怕有误会，补充说明下：不是让你去做AI Agent的创业，这也挺难，我说的是，此时此刻的你，应当竭尽全力的，去学习AI Agent的学习、工作甚至生活的方式，去努力步入新的范式，效率和生产力超出你的想象，而生产力是啥，就是钱，学习=赚钱！！！！！

再翻出1年半之前的言论，当时很多人觉得Telegram已经饱和了，但其实刚刚才开始，过去1年多里，专注做Telegram二次开发的基本都赚到钱了。AI也是如此，当下的AI Agent远没有饱和，事实上，很多工程边界也才刚刚做到完善，无论是个人，还是公司此刻All In AI Agent是最正确、最高效、最明智的决策！！！

10多年前，我搞了个国内的PPT论坛， PPT，希望他们也能被收购，再不卖掉等技术代差抹平，后面就不值钱了

Cloudflare迈出了人类的一小步，发布了为AI Agent打造的无头浏览器Kitesurf，但这是也是人类自取灭亡开始的一大步，浏览器发明出来，本质上是为了满足人的视觉感观，这会沾沾自喜自己为AI革命做出了范式改变，殊不知也在悄无声息中被AI剥夺了权利和欲望，胚胎可以营养液培养的日子真的不远了！

虚假的创业：AI无所不能，中转账搭到飞起，AI Coding快速开发App，异想天开创造需求，烧掉上亿一无所获，美其名曰连续创业者。 真正的创业：几千万女大学生失业，地陪刚需爆炸，做个地陪App，1年狂揽几十亿服务费，左拥右抱夜夜笙歌！

在华强北，一切皆有可能，英伟达6000Pro工作站版，完美改被动散热服务器版！NVIDIA RTX 6000 Pro workstation card, flawlessly modded into a passively cooled server version!

今天聊一个有趣的话题，权重开源是真开源还是假开源，我站在一个软件从业者的角度，结论是：“权重开源是假开源，但权重开源也不错了，而英伟达推动开源虚伪的一逼，建议犬决黄仁勋！”。下面稍微展开说一说 1、如何理解权重开源 权重文件，本质上是不可逆的二进制文件，存储的是神经网络训练完成后得到的大量数值参数，而根据这些权重文件，配合模型结构代码+推理引擎，就可以运行大模型，实现非大模型官方的推理服务。比如微软和OpenAI签署的协议，就可以简单化理解为，OpenAI给微软发放自己的权重文件，微软把文件部署在Azure集群上，对外提供推理服务。 再通俗一些，就类似Windows下面你下载的exe文件，MacOS下面你下载的dmg文件，或者Linux下面，你从仓库里下载的deb、rpm等等，没错，就是这个意思，很多人会问了，这不扯嘛，我在软件网站不是随便下载exe文件吗，怎么就成开源了。 哈哈，那我就举一个更通俗的例子，比如腾讯，他的王者荣耀游戏，研发完成后，会编译成一个又一个二进制的可执行文件（我们就假设是一堆exe执行程序），正常情况下，这是放在自己的服务器上运行的，不对外，你显然也下载不到啊。开放权重，就好比腾讯把网站王者荣耀全套运行程序放在官网提供下载，你自己去买一台服务器，就能运行服务，并且在客户端上修改服务器地址后，就能加载你自己服务器上的游戏角色，那么顺其自然的，你就成了网管，还能自己调人物数据。 但是，这种终究是假开源，因为如何生成二进制文件，对这个过程的开放，才是真开源。 2、什么是真开源？ 还是腾讯这个例子，王者荣耀游戏研发时的所有代码文件的开放，才能算是真开源，只有开放了全部源代码，你才能最大程度的随意修改游戏内容，比如换贴图、改逻辑、增场景等等。 而开放权重，只是给了你运行他程序的权利（当然了，这也很重要），并没有赋予你修改程序、自由扩展的权利，从开源精神的角度看，只开放权重显然是假开源，真正的开源需要做到： -可以使用对方的研发成果 -可以研究对方的原发过程 -可以修改对方的原始代码 -可以重新编译或者重建 -可以自行分发原始版本 -可以分发修改后的版本 而大模型厂家如果做真开源，那就得做到： 1）模型架构开源 这里面包括完整的网络结构、配置文件、Tokenizer、位置编码方式、MoE路由设计、上下文长度以及其他关键技术细节（甚至是设计文档、评审过程等等） 2）训练时全套代码 包括预训练、微调、强化学习、数据加载、分布式训练、混合精度、容错和检查点保存等各式各样的训练时代码，当然也最好包括全部的设计文档、架构图、数据库建模原始文件等等 3）数据信息 哈哈，这个就微妙了，因为大部分数据都是来路不明甚至违法犯罪，这里开源就要求原始数据全部直接打包公开，也许有几百T甚至几百P（强烈要求字节开源他的训练数据信息，他肯定下载了全世界的A片） 假如无法开放数据信息，其实是无法完全复制训练过程的，但即使数据没有，也应该开放或告知： -使用了哪些数据源 -各类数据所占比例 -数据是怎样清洗的 -如何去重 -如何过滤低质量内容 -如何处理版权和个人信息 -是否使用了合成数据 -是否使用其他模型生成或者筛选数据 以上东西都涉及相关处理代码，相关代码和工程文件都应该开放 4）模型权重开源 包括最终权重文件，最好还能提供关键训练阶段的检查点、优化器状态和继续训练所需要的模型状态等等。 5）完整训练配方 包括超参数、学习率、批次大小、训练阶段、数据配比、上下文长度变化、损失函数、优化器以及训练算力配置等，这些其实和设计文档类似，都是架构师脑子里的东西落地的细节。 6）后训练过程 包括监督微调、偏好学习、强化学习、拒绝采样、奖励模型、安全对齐和人工标注规则等等。 7）评测体系 包括内部的评测体系（评测代码、测试集、评分标准和未经筛选的结果等），也包括对外的应对和调优相关的内容。 所以你看，其实没开源，因为上面的东西啥都没有，当你理解了这些之后，你就会觉得A社的人，阴阳怪气黄仁勋没毛病啊。 3、英伟达为什么虚伪？ 所以，黄仁勋谈AI开源，确实也是道德绑架，别人几百亿的设备、几亿几十亿的数据和标注，所产出的东西，为啥说开源就开源，凭啥？投资人同意了吗，投资人都没发话，你英伟达发什么话！ 而英伟达之所以推动权重开源，我相信除了黄仁勋确实境界比较高（渴望推动人类生产力的进步）之外，更多的还是考虑英伟达的商业帝国 权重开源了，参与者变多，GPU的消耗一定增加 从训练的角度，权重并不是终点，而是成为了越来越多的训练的起点，SFT、LoRA、持续预训练、蒸馏、上下文训练、多模态扩展、知识库补充等等。 从推理的角度，权重更是千行百业生产力起步的开始，有了开放权重，人类推理的进步可以说会提速100倍以上。 所以你看，谁是赢家，那么现阶段显然是英伟达，甚至我认为黄仁勋虽然对其他ASIC推理十分恐慌，但他依然看到了权重是训练的开始这一条发展规律，从而能更加确保CUDA和英伟达GPU的训练霸主地位。 那么说到CUDA，这就是最虚伪的地方了，你倒是开源啊！！！围绕英伟达生态，以下这些东西，可以说毛线的源代码都没有 -CUDA -驱动 -编译器 -数学库 -通信库 -推理优化工具 -性能分析工具 -固件 -硬件特性接口 -开发者生态 而我作为华强北从业者，甚至固件的二进制（别提源代码了）都要通过AIC从英伟达服务器上偷哈哈哈，然后尼玛4090后还偷不到了（因为怕被偷，英伟达加了很多强签名和痕迹溯源） 然后替英伟达说话的人，会提到英伟达确实开放了Linux GPU内核模块的源代码，但我要戳穿这个虚伪的是，这些内核模块仍然需要与对应版本的GSP固件和用户态驱动组件配合使用，并且，最恶心的是，这个开源仓库是英伟达内部代码库加工后的快照而已，每个驱动版本只有一次代码提交，根本看不到内部修改逻辑和过程，外部的大规模重构贡献，也是绕到内部合并提交再发布。 这种是什么，就是最恶心、最叽叽歪歪、最不相信开发者、最下作的开源方式，这就是英伟达商业风格的缩影 所以，你们说犬决黄仁勋过不过分！ ----- 最后总结一下：除了黄仁勋是王八蛋之外，我认为权重的开源，本质上是推动全社会的推理生产力的进步，那么，为了不侮辱开源这两个词，完全可以换一个说法：“权重开源，这叫人工智能大模型时代的已经形成的一种约定俗成的商业模式和手法，并且所有从业者，在投资回报和人类生产力进步两者之间，逐渐找到了一种微妙的平衡，小心翼翼的推动着产出文件的开放。”