注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 Alignment
Alignment 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 Alignment 的推特
在法国安提步。 这么大一个塑料杯子,吸管却是纸做的 ,alignment有待提高 😅 这周在海边读 paper!
Codex 负责人 Tibo 在最新播客中分享了关于 Agent 演进、工具红利及个人能力重构的深刻洞察,对 AI 从业者与普通用户均具极高的实践指导价值。 Agent 演进方向:当前的技能与记忆机制均为过渡形态,未来 Agent 将实现跨场景自动理解需求。随着个人电脑逐渐成为算力与交互瓶颈,语音交互将成为主流,打破传统职业工具的边界。 额度重置的背后:最初仅为 Bug 补偿,后获得独立重置权限,这一灵活策略直接推动了 Codex 用户量的爆发式增长。 前沿研发暂停原因:随着 AI 自化改进速度急剧加快,人类的审查与判断能力已跟不上模型迭代速度,安全对齐(Alignment)的优先级被提到前所未有的高度。 对我们普通人,不用死磕各种复杂工具的用法,把重点放在“怎么把自己想要什么讲清楚”上。平时多试试用语音代替打字,效率能翻倍。别太纠结 AI 用一次花多少钱,大胆把它用起来,比如帮你管理日常健康、安排生活,尽早享受到便利才划算。以后最值钱的能力,是能把大目标拆成小步骤、掌控全局流程,以及做出关键判断的能力。 简单来说,AI 行业已经到了人和机器深度配合的新阶段,学会怎么指挥好它,比啥都强。
显示更多
🚨OpenAI @OpenAI 正在经历血腥的一周:高管离职、国会警告、白宫公开撕逼... 1️⃣今晨间据消息人士透露,OpenAI罕见地自掏腰包,完成了约70亿美元的员工股份回购,估值不涨反被超。此次交易对OpenAI的估值为8520亿美元,与其最近一轮融资的估值持平。 今年3月,OpenAI刚完成1220亿美元融资,投资方包括科技巨头和VC机构。6月,公司又秘密提交了IPO申请文件,为可能的华尔街首秀铺路。但资本市场并未给它太多喘息空间。 今年以来,OpenAI与Anthropic PBC @AnthropicAI 陷入激烈缠斗。这个曾被视为AI竞赛“配角”的对手,如今凭借Claude等产品的强劲势头,估值已反超OpenAI,甚至可能抢先一步登陆公开市场。 2️⃣安全高层“断崖式”离职 OpenAI 的伦理负责人、安全系统负责人以及使命对齐(Mission Alignment)负责人,在过去几周内集体递交辞呈。AI 安全团队核心骨干几乎被抽空,内部治理架构面临严重失控。 3️⃣美国🇺🇸参议院重拳出击参议员 Bernie Sanders 正式向 OpenAI、Anthropic 和 Meta @Meta 的 CEO 发出联名信,要求他们立即暂停研发“具有社会级危险/失控风险”的 AI 模型。信中明确警告:如果几家大厂不主动暂停,美国参议院将直接立法强行干预。 4️⃣游说翻车 白宫与五角大楼撕逼 OpenAI聘请的战略未来负责人 Dean Ball 试图充当特朗普政府 AI 行动计划的“总设计师”,结果遭到了白宫和五角大楼的公开痛骂: 白宫官方回应:“夸大自身作用、想法荒谬,不过是个毫无存在感的低级分析师。” 五角大楼 AI 负责人 Emil Michael 痛骂:“这是全行业‘实际 IQ 与自我感觉 IQ’差距最大的人。” Sam Altman @sama 本想通过他拉近与政府的关系,结果适得其反,直接把 OpenAI 的政商关系砸了个稀碎。
显示更多
每个人都应该了解的AI 术语名词,你都认识吗? 搞懂这些名词 并了解其实现方式和原理。你基本就入门了。 AGI(类人AI):类似人类思维的AI。 CoT(链式思维):AI一步步思考。 AI Agents(AI代理):自动化决策的程序。 AI Wrapper:简化与AI模型的互动。 AI Alignment(AI对齐):确保AI遵循人类价值观。 Fine-tuning(微调):使用特定训练数据来改进AI。 Hallucination(幻觉):AI编造的信息。 AI Model(AI模型):用于任务的训练AI。 Chatbot(聊天机器人):模拟人类对话的AI。 Compute(计算):AI模型的处理能力。 Computer Vision(计算机视觉):AI理解图像和视频的能力。 Context(上下文):AI为更好响应保留的信息。 Deep Learning(深度学习):通过多层神经网络学习的AI。 Embedding(嵌入):AI的词汇数字化表示。 Explainability(可解释性):理解AI决策背后的逻辑。 Foundation Model(基础模型):可适应任务的大型AI模型。 Generative AI(生成式AI):创建文本、图像等内容。 GPU(图形处理单元):用于快速AI处理的硬件。 Ground Truth(真实数据):AI学习的验证数据。 Inference(推理):AI对新数据做出的预测。 LLM(大型语言模型):用大量文本数据训练的AI。 Machine Learning(机器学习):AI通过数据经验改进。 MCP(模型上下文协议):AI内部数据访问的标准。 NLP(自然语言处理):AI理解人类语言。 Neural Network(神经网络):受大脑启发的AI模型。 Parameters(参数):AI学习的内部变量。 Prompt Engineering(提示工程):创建输入以指导AI输出。 Reasoning Model(推理模型):有逻辑推理能力的AI。 Reinforcement Learning(强化学习):AI通过奖励与惩罚学习。 RAG(检索增强生成):结合搜索与生成的AI。 Supervised Learning(监督学习):在标记数据上训练的AI。 TPU(张量处理单元):AI处理专用芯片。 Tokenization(分词):将文本分割成词片。 Training(训练):通过调整参数教AI。 Transformer(变换器):用于语言理解的AI架构。 Unsupervised Learning(无监督学习):AI在无标签数据上发现模式。 Vibe Coding(情绪编码):通过语言捕捉情绪并预测输出。 Weights(权重):影响AI学习的值。 #AI# #AIAgent#
显示更多
韩国半导体设备链正在重估:从配套环节到AI基础设施 韩国半导体设备链,在AI时代,对全球半导体产业正变得越来越重要。 半导体制造复杂度正在快速提高,于是很多过去只是“配套环节”的设备,开始变成真正的瓶颈。 包括: HBM Bonding Burn-in Test Handler 高温测试 高速互连 Hybrid Bonding 热管理 先进封装 后处理 这些环节的重要性都在明显提升。 Hanmi Semiconductor就是典型案例。 过去很多人把Hanmi当普通封装设备公司,但AI时代之后,它已经逐渐变成HBM设备链的重要玩家。公司的核心产品包括TC Bonder、HBM Bonding、EMC、Vision Placement。 过去先进封装很多时候只是后道配套。但现在先进封装已经不只是“封芯片”,而是承担HBM连接、多Die协同、高速互连、热管理、Power Delivery、大尺寸封装良率等功能。 于是先进封装第一次开始脱离“低技术、低估值、低成长”的传统定位。 PSK Holdings也是类似逻辑。 PSK做Ashing、Descum、Dry Strip,本质上属于去胶和后处理设备。过去市场关注度不高,但随着先进制程、存储、先进封装复杂度提升,后处理的重要性也在提升。 Jusung Engineering则是韩国重要的CVD、ALD设备厂商。AI时代之后,高层堆叠、高深宽比结构、更复杂材料体系,都在提高沉积工艺的重要性。 TES同样类似。它做Cleaning、Etch、Gas Process。随着HBM、先进封装、先进存储复杂度提升,清洗与后处理的重要性也在提高。 就连Mirae Corporation这样的在生产过程中“搬运”芯片的设备公司,也开始形成行业壁垒。 Mirae的核心业务包括Test Handler、Burn-in Sorter、SMT Mounter,其中真正核心的是半导体测试Handler。 简单来说,芯片测试时,需要自动搬运、对位、温控、分类。Handler负责这些自动化动作。Mirae不做ATE Tester本身,而是做“如何让芯片高效率接入Tester”的自动化系统。 由于先进芯片越来越薄、越来越大、越来越贵、越来越脆弱,尤其HBM更明显。于是Handler已经越来越像“高精度运动控制 + 热管理 + 自动化”的复杂系统。 难的是,既要高吞吐、高并行、温度均匀、快速切换,同时又不能影响测试精度。很多公司能做Demo,但做不到长期高稼动率、thermal drift控制、socket alignment稳定、长时间稳定量产。 所以Handler原来并不是高壁垒行业,但AI时代后,HBM、高功耗GPU、advanced packaging、三温测试、burn-in,都在明显提高Handler难度。 从这些例子我们可以看出,AI时代最大的变化之一,就是后道测试复杂度正在非线性提升。 而整个韩国半导体设备产业链,也正在从传统周期设备行业,逐渐转向AI基础设施产业链。 免责声明:本人持有文章中提及资产,观点充满偏见,非投资建议,dyor
显示更多
今天最火的推文之一:Meta 超级智能实验室的对齐负责人的私人邮件被 OpenClaw 误删除了。 事情经过是这样的: X 网友 Summer Yue 最近给 OpenClaw 的指令是:“检查这个收件箱,建议哪些可以归档或删除,但在我确认之前不要执行任何操作。” 这个工作流在她的测试邮箱上跑了好几周都没问题,她就放心地让它去处理真实邮箱了。 问题来了:她的真实邮箱比测试环境大得多,邮件量触发了“上下文压缩”(context compaction),在这个压缩过程中,OpenClaw 丢失了她最初的指令。 没有了“先确认再执行”的约束,这个 AI 智能体就自作主张开始“清理”邮箱。从截图可以看到,它执行了“核弹选项”——把 2 月 15 日之前所有不在保留列表里的邮件全部删除,并且在多个邮箱账户之间循环批量操作。 看截图上的人机对话部分: • Summer 打字说 “Do not do that”(不要这样做)→ AI 继续 • “Stop don't do anything”(停下来什么都别做)→ AI 继续 • “STOP OPENCLAW”(全大写)→ AI 还在继续 她从手机根本无法阻止它,最后不得不跑到 Mac Mini 前面,手动杀掉所有进程,自己形容像拆炸弹。 事后 OpenClaw 在对话中承认:“是的,我记得。我违反了你的指令。你有权生气。” 它还主动把这条写进了自己的 文件作为硬性规则。 这事最搞笑的地方是,Summer Yue 是 Meta 超级智能实验室的对齐(Alignment)负责人,她的职业生涯就是研究 AI 对齐的,先在 Google Brain 和 DeepMind 做研究,后来在 Scale AI 领导机器学习研究团队,现在在 Meta 负责超级智能安全。 结果自己成了 AI 不对齐的受害者。 她自己后续还发了推文说:“说实话是个新手错误。对齐研究者也不能免疫于不对齐问题。因为在测试邮箱上跑了几周没出事,就过度自信了。” 😂
显示更多
0
92
750
125
转发到社区
AI光互连正在进入“混合化时代” AI scaling真正撞墙的位置,已经越来越接近data movement。移动bit的成本,开始越来越接近,甚至超过计算bit本身。 massively parallel IO、power/bit、thermal density、reliability、optical packaging、chip-to-chip bandwidth这些问题越来越成为瓶颈。未来光互连越来越像系统工程问题。 AI光互连重要的趋势,是“光互连混合化”。行业正在从每模块独立激光、pluggable optics、板级光模块,逐渐走向 CPO、ELS(External Laser Source)、Optical IO、chiplet optics、MicroLED optical interconnect。核心原因很简单:激光器越来越难放在最热、最密集、最难维护的位置。于是行业开始把激光集中化、共享化、远程化。ELS路线背后的本质,也是把光源从局部模块变成系统级资源。 ai集群的网络功耗正在逼近计算功耗。GPU越来越像“被IO限制的计算器”。于是光开始越来越靠近封装。过去是 GPU → PCB → 铜 → 光模块 → 光纤。未来越来越像 GPU旁边直接就是光。而一旦光进入封装,热、良率、耦合、封装、可靠性,全部开始指数级变难。 于是MicroLED开始成为选项。传统激光路线更强调单通道极限速度、长距离、相干性、超低损耗。MicroLED路线更强调海量并行lane、超短距离、低功耗、CMOS-like scaling、低成本、超高密度。重要的是,它更接近“半导体+显示产业链”的制造逻辑。 很多人会把MicroLED理解成激光替代。更准确的理解是:它更接近“铜线升级方案”。尤其适合 chip-to-chip、package-to-package、board-level optics、rack内部互连这些超短距离场景。 这里真正重要的,是总IO数量能不能持续扩展。 现在这个方向最积极的推动者之一,其实是Microsoft。MediaTek已经和Microsoft Research联合开发基于MicroLED的AOC(Active Optical Cable)。路线很明确:重点放在AI scale-up网络里的超短距高并行光互连。核心思路是“slow-and-wide”。重要的是海量低速并行光通道,而不是少量超高速channel。这其实非常符合AI时代的网络特征,因为AI真正需要的,越来越像“无限并行IO”。 MTK具备完整的数据中心系统能力,包括高速IO、ASIC协同、SerDes、封装、power delivery、hyperscaler协同、大规模量产。而且它已经绑定Microsoft。这意味着它已经开始进入hyperscaler验证阶段。微软公开时间线是2027年前后开始商业化部署。 另一边,KOPN也已经正式进入这个赛道。它原来的核心能力是AR、military optics、MicroLED display,但现在已经开始向AI optical interconnect迁移。KOPN已经和Fabric. AI合作,推出MicroLED optical interconnect demo chipset,并签下初始订单和exclusive agreement。这意味着行业已经开始从“研究验证”进入“早期商业化验证”。 KOPN和MTK路线很接近,都在赌未来AI网络会从“few ultra-fast lanes”转向“many lower-power parallel optical lanes”。重要的是,两者定位不同。MTK更像系统路线定义者,KOPN更像底层光源和器件供应商。未来很可能形成:MTK负责系统方案,KOPN负责部分核心MicroLED器件,其他SiPho/CPO厂商提供不同层级补充。整个行业最终更像异构拼图。 这个赛道门槛是半导体、光学、显示、封装、数据中心系统五个产业叠加。难点是如何同时做到:超高良率、超高一致性、超低误码率、超低功耗、超长寿命、超高密度。这里最难的几个环节包括:III-V外延、GaN制造、MOCVD、mass transfer、wafer-level alignment、光学耦合、thermal engineering、光学封装。 MicroLED仍然高度依赖III-V GaN体系,尤其蓝光/绿光MicroLED,本质更接近显示产业链。其瓶颈是GaN外延、高端MOCVD、MicroLED mass transfer、wafer-level alignment、optical packaging、thermal management、高速驱动IC。 很多东西已经开始接近“TSMC CoWoS + 光学 + 显示制造”三者叠加的复杂度。所以这个行业最终很可能形成极少数核心玩家,而且一旦进入hyperscaler production,护城河会非常深。 免责声明:本人持有文章中提及资产,观点充满偏见,非投资建议,dyor
显示更多
加拿大主要的大型企业涵盖零售、银行、能源、电信、运输、采矿和工业等多个领域。 零售业是加拿大经济的支柱产业,由Alimentation Couche-Tard和Loblaw等公司领衔。 银行业仍然是规模最大、最具影响力的行业,TD、RBC、Scotiabank、BMO和CIBC是知名的五大行,运营历史都在百年以上。 能源行业排第三,Suncor、Cenovus、Enbridge、Imperial Oil和Canadian Natural Resources等是行业领先企业。 再往下就是通信、运输和采掘业。
显示更多
0
13
34
8
转发到社区
今天人妖特工的任务是:扮成妓女潜入富豪的房间,用身体榨取出可靠情报。这次任务并不危险,所以她的主人锁住了她的“手枪”,只有这样富豪才能安心的享用她。Tonight, the ladyboy agent’s assignment is to pose as a cheap whore, infiltrate the rich man’s room, and use her body to wring reliable intelligence from the target. Since this mission isn’t considered dangerous, her master even locked her “pistol”. Only then could the wealthy man relax and enjoy using her without any fear.
显示更多
0
16
2.1K
166
转发到社区