注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 SAFETY
SAFETY 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 SAFETY 的推特
吴说获悉,Arthur Hayes 在最新文章《Safety First》中表示,他认为 Anthropic、OpenAI 等美国 AI 公司强调“安全优先”、放缓 AGI 开发,并非主要出于安全考虑,而是因为当前价格下的 AI 需求不足;如果训练支出下降,将直接削弱数据中心和芯片的算力需求。Hayes 称,AI 实验室本身尚未盈利,但其算力需求已支撑超过 1 万亿美元投资级债务以及数千亿美元低评级债务和贷款。 Hayes 进一步认为,如果 AI 算力需求不及预期,相关债务可能减值,并通过私募股权控制的保险与再保险体系传导风险;美国政府最终可能选择成为“最后算力买家”,或通过救助保险业避免信用事件。无论哪种路径,他都认为最终结果将是更多货币投放,从而推高比特币及部分加密资产价格。
显示更多
Elon Musk’s mother heaps praise on China’s public safety!@elonmusk 马斯克母亲对中国的安全赞不绝口!
推掉 offer、延毕转AI safety,他一个月重新拿到 offer 刚看完一篇研究员求职复盘,作者 Yong Zheng-Xin,布朗大学五年级 PhD。 他的经历有点特别:读到最后一年,从多语言 / post-training 直接 pivot 到 AI safety,拿了 Astra Fellowship(在 OpenAI 做),为此把毕业推到 2027,还推掉了手上已有的 offer。 后来重启求职,本来计划 7 月才开始面,结果担心 headcount,5 月中就上了,6 月中就拿到满意的 offer,甚至撤掉了一些还在进行的面试。 他写了 6 个让他意外的点,我觉得对正在找 research 岗的人挺有用,整理一下👇 1/ 真正起作用的,可能只有一两篇 paper,甚至一篇都不靠 他多语言方向的 paper 数量远超 safety,还拿过 best paper。但 pivot 之后,这些一篇都没影响到面试结果。 paper 的作用其实就两个:① 敲门,你做过 team 感兴趣的东西,于是被放进 pipeline;② deep dive,research presentation 时聊一篇的动机和细节,有时短到只有 20 分钟。 所以发表数量除了证明 credibility,没那么重要。你随时可以转去一个你觉得更重要的方向,只要在新领域证明够强、team 想要你。 2/ 面试轮次的花样,超出预期 他本来以为就是 fresh-grad SWE 那套:LeetCode + behavioral + 一些 LLM / 深度学习。结果遇到了 system design、并行编程(用 asyncio 手写并发),甚至还有专门评估你“用 AI agent 用得好不”的轮次。 结论很简单:永远预期 wildcard。 3/ Work trial(试岗)越来越常见 他原以为 work trial 只在 AI safety 岗比较常见,结果发现 AI startup 也越来越多。 试岗和 onsite 完全是两回事:不是飞过去面几轮,而是真的跟团队一起做一个任务,有时还是开放式的。通常带薪,但有的线下试岗能持续整整一周。 副作用是:试岗期间你几乎没法准备别家面试,因为得全力扑在当前任务上。同时面多家、又赶时间的话,这点排期要特别小心。 4/ 时机的权重,比你想的大 去年秋天,AI safety 岗极难找,远不如 RL 相关的多;但现在一堆 startup 开始招 safety(比如 Lila、Mechanize)。 几个现实: 你的工作 viral 了,会有一波机构同时来找你,别被打懵,接住这个时机。 你的方向变热,机会整体变多,但窗口可能不到一个月,也可能拖上几个月。 headcount 一定要问 recruiter,尤其你打算推迟、或想同时面多家时。 面试可以试着往后推一两个月,但一旦开面,各轮之间的间隔通常很短。有些岗位还希望你下个月、下下个月就入职(这点能谈)。 5/ Return offer 很稀少 SWE 那边 return offer 基本是常态,research 岗就完全 case-by-case。 他 2024 在 Meta 实习,return 全职 offer 很少,高度依赖 headcount 和 team,身边不少人没拿到。他在 OpenAI 做 Astra fellowship,最后也还是和所有应聘者一样走完了全部面试轮。听说有的机构更快,如果 team match 成了,再补一两轮就行。 6/ 很多面试,跟你的方向根本没关系 他从能力研究(多语言)转到 safety,本以为 safety 相关的面试会占大头。 结果并不是。他遇到很多轮跟 safety 毫无关系,甚至跟他研究兴趣都不沾边。有些地方还是在考你“作为一个 AI researcher 够不够全面”。 他觉得这有道理(领域跑得快,基本功值得查),但预期还是落空了。也许 senior 岗会不一样。 前两天刚写完 Silvia Sapora 那篇顶级 ML Research Scientist 面试指南,这篇刚好补充了另外一个视角。
显示更多
英伟达 CEO 黄仁勋宣布,与 100 多家行业合作伙伴共同推出 NVIDIA Open Agent Safety Platform,整合 OpenShell 与 Sentry,旨在为 AI Agent 系统建立开放的安全基础设施和“信任层”。Bitdeer 联合创始人吴忌寒随后表示,Bitdeer AI 正与英伟达合作参与该平台建设,重点围绕 Agentic AI 的安全基础设施展开。
显示更多