枫原万葉
@46ge5
新帐号
本职是做 LLM pre-train & post-train 的，目前已对 LLM 丧失兴趣，但偶尔也分享一些 AI 知识
231 正在關注 1.4K 粉絲
5 年前已经有了GPT-3，CLIP，AlphaFold2，DALLE，Github Copilot，Scaling Law 也深入人心。
Google 的量子计算如果有上面的水准，那 Google 市值应该10万亿起步。鉴定为不吹能死。
顯示更多
广大家长什么时候能明白，孩子要考研、读水硕是因为他荒度本科、是个废物，而不是因为他勤奋努力好学上进、学术上更进一步？
Instagram 算是极少数主体功能脱胎换骨式改变的主流平台，区别于 YouTube、twitter 等
以前 instagram是发图片帖子的，后来抄袭 snapchat 搞 stories （大家现在发的最多的就是story、5分钟打开3次app也是因为story），然后抄袭 tiktok 的短视频
曾经的天才创新产品，在不断抄袭后变成了一艘忒修斯之船
顯示更多
对很多学生而言，想选机器人专业，和梦想是去火星，两种思维是很像的
他不知道去火星为了什么、有哪些技术问题、甚至不知道火星有多远，但他感觉去火星很酷
他不知道真实机器人行业是什么样子，哪些核心技术有待突破、哪些是骗子、为什么机器人可以跳舞但是不能送外卖，他只会告诉你机器人很酷、未来是硅基生命的世界
顯示更多
数学届对AI的悲观是有道理的，任何行业都会面临“该外包多少东西给 AI” 的问题，不仅仅是社会/经济学原因，而是行业本身的发展
我们很放心地把基本数值运算外包给计算器解决，因为我们相信10秒内算出四位数乘法不是一个必要能力，不影响对数学世界的开拓。但是如果不理解勾股定理或者算数基本定理呢？
最怕的就是 AI 让某些学科的发展陷入局部最优了：在 AI 有足够创造力生产力之前，学生就丢掉核心素质、进入这个学科的人大量减少
顯示更多
玩开放世界游戏，也能暴露我的拖延症、对失败的恐惧。我很少会直接找boss，而是喜欢徘徊在主线周围，找到更多的武器盾牌药水，无限推迟和boss战斗的时间
真大神都是进游戏直奔boss老巢，身上就几件破烂装备，硬是靠过硬的实力将boss斩于马下
顯示更多
之前看 Sutton 团队的 maintain plasticity in continual learning，一度以为神经元可塑性是个低垂的果实，但实际上不是
每个人都知道 continual learning 非常重要，train once, deploy forever 是不合理的
但因为 LLM 已经很强大，在外面包装能近似 continual learning、self-improve 的脚手架比解决模型内部问题要简单得多，关注后者的人太少了
顯示更多
title 这玩意在创业融资、在startup当首席的时候，真的非常好使。
离职之后给自己简历美化很正常，别吹太大就行（这种无中生有的 title 其实还好，更没底线的是直接抢别人的 title)。而且需要 title 的人很多，万一冲突就搞笑了。（像字节一个项目解散，能流出5个“总负责人”🤣
顯示更多
如果 ai chatbot 的广告展示模式走通了，那 LLM 的训练目标就不仅仅是回答质量，而会包括广告点击率、回答页面停留时间等等
晚点 latepost 的文章真的越来越low，估计他们内部有严重的流量焦虑吧。现在的炒作文风越来越盛、频繁夹带私货真假混叙、内容质量肉眼可见的下滑。
几年前刚关注他们的时候，看他们讲字节、特斯拉，基本字斟句酌、来源准确、慢工出细活。现在发的东西，完全败坏掉了曾经创立时的调性。
可能一方面也是因为国内几大营销号天天发核弹把大家的情绪阈值抬到很高很高，导致平实客观的文字反而没多少人愿意看。于是劣币驱逐良币，国内的“前沿报道”彻底变成不吹不编不炒作就会死。
顯示更多
以前觉得中国学生太可怜了，应试教育阶段没法探索和发展自己的爱好，放出来之后又立刻面临人生方向的选择，根本没有机会找到人生爱好和赚大钱重合的方向。
后来发现大部分人的爱好和赚大钱二者的重合区域其实就是 0（极少部分天赋怪除外）。所以如果不是良好家庭背景，请直接选匹配你智力的赚钱方向就行，这是最不会后悔的选择
顯示更多
