註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 ConstitutionDay
ConstitutionDay 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 ConstitutionDay 的搜尋結果
🚨 Claude 账号防封指南|5 大隐形雷区 + 避坑守则! 🔍 Searched:Claude 封号原因|日常使用风控|注意事项|避坑指南 检索了近期各大开发者社区、海外华人圈以及数千名被封用户的血泪案例,总结出了 Claude 日常使用中最容易触发风控的 5 大“隐形雷区”与避坑守则。 🛡️ 现在的网络底子(100 分美国家宽)已经给你打好了顶级防御,但在 日常使用 中,务必严守以下细节,才能保证账号长生不老! 🌍 一、网络与设备红线 ⚠️ 最容易踩的无心之失 🚫 1. 绝对禁止“地理瞬移” 🔴 雷区: 上午挂着美国 IP,下午为了看 YouTube 切到香港/日本节点,顺手打开了 Claude。 💥 后果: 短短几小时内发生物理上不可能实现的“跨国瞬移”,AI 风控系统会直接判定为 账号被盗或代理滥用,瞬间触发风控。 ✅ 守则: 只要用 Claude,死死锁定在美国住宅 IP 上,绝不要跨国乱跳。 🚫 2. 警惕电脑“裸奔抢跑” 🔴 雷区: 电脑开机或从睡眠唤醒时,浏览器比 Clash 先启动,本地国内网络在几毫秒内向 Claude 发起了握手。 ✅ 守则: 每次用电脑,养成 “先看右上角 Clash 已经开启,再点开 Claude 客户端/浏览器” 的条件反射。 🚫 3. 严禁多设备“异地同时并发” 🔴 雷区: 电脑上用着美国 IP 聊着天,手机在外面用国内网络(或另一个国家的节点)也开着 Claude。 💥 后果: 两个不同大洲的 IP 在同一秒内发起请求,100% 当场暴毙! 🤖 二、行为与频率红线 ⚡ 真人 vs 脚本机器人的界限 Anthropic 的后台极其看重你的 “操作行为像不像一个正常的真人”。 🚫 1. 严禁使用非官方的第三方自动化脚本 千万不要安装那些所谓的: ❌ “自动刷新 Claude 页面” ❌ “批量导出对话” ❌ “免翻墙中转扩展” 这些插件频繁调用后台未经授权的私有接口,Anthropic 会直接按 “黑产爬虫” 批量封杀。 🚫 2. Claude Code(终端命令行)使用节奏 如果你在终端里用 Claude Code 写代码: ⚠️ 不要在循环脚本里让它无休止、高并发地大批量跑代码。 ⚠️ 单次交互如果塞入几十万行超巨型代码,或者短时间内狂发上百次指令,会被系统判定为 “恶意消耗算力/逆向探测模型”,引发降智或临时停用。 🛑 三、提问内容红线 🔥 很多程序员最容易中枪的地方 Anthropic 拥有全行业最严格的 “宪法级 AI 安全审核(Constitutional AI)”。 🚫 1. 绝对不要反复试探“网络渗透与黑客代码” 💻 程序员最容易踩的坑: 让它写漏洞利用(PoC) 免杀木马 破解脚本 DDOS 相关的攻击代码 ⚠️ 一次被拒答没事,如果连续多次故意诱导、绕过(Jailbreak/越狱)触发安全警告,账号会被风控系统自动打入危险名单甚至直接封禁。 🚫 2. 远离极端敏感内容 ❌ 暴力、灰产、个人隐私数据清洗、大批量生成钓鱼邮件等内容,坚决不要碰。 🔐 四、账号使用红线 🚫 绝不共享 💸 很多人为了省 20 美元,把账号借给国内同事或朋友用。 ⚠️ 不同城市、不同设备指纹、不同 IP 的交叉登录,在 Anthropic 的反作弊系统里一抓一个准,而且是连坐封禁。 ✅ 一个账号只在一台主力电脑上专机专用。 🚨 五、救命指南 🆘 封号前夕的“3 个高危预警信号” 账号很少是毫无征兆突然死掉的,如果日常使用中出现以下情况,说明账号已经进入了 “危险观察期”,必须立刻停手自救: 🚨 1. 频繁弹出邮箱验证码 📩 明明没换设备,登录时却突然开始天天让你收邮箱验证码,说明你的环境已被标记为可疑。 🚨 2. 频繁弹出 401 / 403 / "Session Expired" ⚠️ 对话经常中断、频繁掉线重新登录。 🚨 3. 对话回复极其敷衍、频繁报“容量不足” 🤖 被系统“降智”。 🆘 此时的最佳自救方案: 一旦出现上述信号,立刻停手。 🔒 彻底退出登录,关掉软件,让账号 “静养冷却” 24~48 小时,期间不要做任何操作。 等风控系统的临时观察期过去后,再用纯净环境重新登录。 💡 终极数据防丢原则 💾 “代码在本地,记忆在文件” 📁 平时的核心代码、长篇提示词(Prompt)、重要笔记,顺手保存在本地的 Markdown(.md)或代码文件里。 ⚠️ 绝对不要把所有心血只存在云端网页上。 💪 只要本地文件在,无论风浪怎么吹,你的资产永远稳如泰山!
顯示更多
最近有跟很多人聊 AI,发现很多人其实分不清推理和训练是什么。 1️⃣ 推理(inference):模型答题 你每天用的 ChatGPT、Claude,基本都停在推理这一层,说白了就是你向一个已经训练好的模型发请求、它给你回复的过程。 模型的权重早就在训练阶段固定死了,你输入一段 prompt 进去,它做一次前向计算,吐出结果。可以直接把它当成一个服务端,请求和请求之间互不通信、互不影响。 2️⃣ 预训练(pre-training):从零造一个大脑 这是整个大模型诞生里最重、也最关键的一步。一般会拿几十 TB 的数据喂给一个随机初始化的网络,让它反复学预测下一个词,一次训练动辄几个月,烧掉巨量的 GPU 卡和电费,最后产出一个基座模型(base model)。 它对硬件的要求很变态,几千张顶级 GPU 得物理上挤在同一个机房,用 InfiniBand 高速互联连成一台超级计算机,因为每次训练都要同步梯度,这也是为什么HBM贵的原因。 预训练造出来的模型其实还很难用,它只能保证闷头续写(输出token),你问它一个问题,它可能给你顺手反问三个类似的问题出来。 3️⃣ 后训练(post-training):把大脑调教成助手 从只会续写的基座模型,需要通过后训练才能变成好好跟你聊天、帮你完成任务的助手。 它是一个很长的工序,把预训练之后所有继续改权重的工序都装进去,主要有以下几种方式: 1.SFT:监督微调,喂人工写好的问题和好答案,教它按指令回答 2.RLHF / DPO:用人类偏好数据对齐,让它知道哪种回答更受欢迎、更安全,Anthropic 那套 Constitutional AI 就是这一支的变体 3.推理训练 RLVR:拿数学对不对、代码跑不跑得通这种能验证的奖励,专门练它的推理链。后训练的数据量和成本比预训练小好几个数量级,但一个模型好不好用、听不听话、安不安全,主要是这一层练出来的,不是靠参数量堆出来的,比如gpt风格明显就更加严谨、claude会更发散。 同样是训练,预训练拼的是算力和资本,后训练拼的是数据质量和调教手艺。 4️⃣ 微调(fine-tune):特定化调整 这是普通公司和个人唯一玩得起的训练。微调就是拿一个已经预训练好的模型,用你自己私有小规模的特定数据再补一补,让它适配某个行业、某类任务、某种风格。上面说的 SFT 其实就是微调的一种,只不过大家平时说微调,更多指自己拿开源模型 Llama、Qwen 在自家的私有数据上接着训。 早期微调要动全部参数,成本还是挺高的,个人和小公司玩不起。后来有了 LoRA 这类参数高效微调,把原模型冻住,只训一小撮新增的低秩参数,便宜到一张显卡、几十块钱电费就能跑一次。 所以你听到某公司说我们训了个垂直领域的大模型,先别急着膜拜,大概率是在这一层 LoRA 了一下。
顯示更多
Anthropic Inc.: 安全作为前沿AI竞赛的终极护城河 Anthropic将安全作为基础设施而非事后补救的押注,使其在企业AI时代占据极佳位置 ——在这个时代,信任与合规日益成为采购决策的核心。在向Agentic系统和受监管部署转型的世界中,AI与企业深度有望复合成持久的特许经营权。 目标情景(12-24个月):收入持续3-5倍增长,毛利率扩张至软件级水平,并成功推进IPO。 若Agentic编码/自动化成为杀手级应用,则存在显著上行空间。 我们为增长型投资组合推荐Overweight配置。 请密切监控季度收入超预期、毛利率趋势以及模型发布(例如Opus 4.8+)。 这是AI产业链中的高信念标的,但需根据波动性适当控制仓位。免责声明:本报告仅供参考,不构成投资建议。数据综合自公开来源、公司公告及市场分析,截至2026年6月。历史表现和增长率不代表未来结果。 Anthropic 在一个日益由企业信任、监管审查和长期可持续性定义的市场中,脱颖而出,成为“负责任前沿AI”的最清晰代表。该公司由前OpenAI高管(包括CEO Dario Amodei)于2021年创立,在2026年5月完成650亿美元H轮融资后,post-money估值迅速攀升至约9650亿美元。 关键牛市论点驱动因素:宪法AI(Constitutional AI) —— 差异化、透明的对齐框架,在不牺牲有用性的前提下实现卓越的无害性,推动企业采用大幅领先。 爆炸式收入增长:年化收入从2024年底约10亿美元激增至2026年2月的约140亿美元,再到2026年5月的470亿美元以上 ——科技史上最快的规模化之一。 主导的企业定位:企业LLM使用份额约32-40%;财富10强中有8家是其客户;超过1000家客户年化收入贡献超100万美元。 Claude系列(尤其是Opus/Sonnet 4.x系列)在编码、Agentic工作流、长上下文推理和专业知识工作领域领先或强势竞争。 投资评级:对长期 horizon 投资者给予Overweight(增持),适合能承受高波动性的投资者。Anthropic的安全优先品牌和企业粘性在能力日益商品化的环境中提供了可防御的护城河,但巨额资本开支、利润率压力和竞争趋同需保持谨慎。潜在IPO候选时间为2026年底/2027年。公司概览 Anthropic是一家专注于构建可靠、可解释且可控AI系统的公益公司(Public Benefit Corporation)。其旗舰产品是Claude—— 一个强调安全与对齐的大型语言模型家族。 主要产品包括 通过主流云平台提供的API访问(以AWS Bedrock为主,同时支持Google Vertex和Microsoft Azure),以及 Claude Code等专业工具(Agentic编码,已实现超25亿美元年化收入)。 公司获得亚马逊(承诺超80亿美元)和谷歌(超30亿美元)的大力支持,在保持独立性的同时与战略云伙伴合作,并维持多云可用性。 核心竞争优势:Anthropic为何“牛” 1. AI框架(首要护城河) 与依赖大量RLHF的竞争对手不同,Anthropic针对一套明确、可审计的“宪法”原则(例如避免伤害、诚实、有帮助)训练模型。 该框架使用AI自我批判实现可扩展性,带来:更低的有害输出和更好的越狱鲁棒性; 更高的透明度和可控性; 在金融、医疗、政府等受监管行业的强烈吸引力。 这已转化为真实的市场份额增长:Claude因更低的幻觉风险和更好的推理一致性,常被选为高风险专业工作的首选。 2. 以企业为先的执行力 高质量客户群创造了切换成本和可预测的高毛利收入。Claude Code已成为爆款,助力企业快速原型开发和自动化。Agentic能力(计算机使用、长时任务)使其在向AI工作流转型中占据有利位置。 3. 关键垂直领域的模型性能领先 Claude Opus 4.x系列在编码(SWE-bench领先)、复杂分析和专业任务中表现出色。扩展思考和海量上下文窗口(最高支持100万+ tokens)显著提升实用性。安全评估显示出强劲的对齐指标,最高能力模型已达到ASL-3部署标准。 4. 无需完全垂直整合的资本与算力获取 战略合作提供吉瓦级算力,同时保留灵活性。对效率的重视(更好的每FLOP性能)使其在与纯暴力扩展对手的竞争中占优。 财务快照(2026年中)年化收入:约470亿美元+(增长迅猛,预计将继续多倍扩张)。 估值:9650亿美元(H轮post-money),反映增长期权的高溢价倍数。 毛利率:目前受云算力影响处于40-50%区间,随着效率提升和定价权,路径指向70%+的软件级水平。 客户:头部高度集中,但正在快速拓宽。 增长轨迹无人能及,但单位经济仍高度算力密集——这是全行业的挑战。风险与挑战资本开支密集与利润率路径:高度依赖超大规模云厂商;尽管收入快速增长,盈利时机仍不确定。 竞争趋同:OpenAI、Google DeepMind等在能力上快速缩小差距;全行业推理成本持续下降。 监管与地缘政治:安全立场可能限制部分政府合同;更广泛的AI监管存在风险。 Agentic未来的执行: 成功取决于编排、监督和生态建设(如MCP协议)。 估值敏感性:高倍数对执行失误的容忍度低。
顯示更多
我天,字节 Seed 真是带了个好头。昨天,他们宣布成立独立的安全与对齐部门,我没记错的话,这是国内第一个单独建制的安全与对齐部门。 我发现很多人可能还没有意识到这事的重要性。 之前我在 X 上看到有人调侃,说中国的 AI 研究员聚在一起讨论技术,根本不聊 AI 安全。而硅谷的研究员,动不动就因为公司不够重视 AI 安全而辞职。 虽然这个说法有点夸张,但确实形成了挺鲜明的对比。 恰好就在前几天,10 月 9 日,路透社还发表了一篇报道,吐槽中国头部模型公司公开披露安全评测结果的比例非常低。 这份研究统计了阿里、字节、腾讯、DeepSeek 等九家中国头部模型公司,从 2021 年到今年 9 月中旬发布的 857 次模型。其中只有 3.6% 的模型发布,能够找到对应的公开安全评测结果。 当然,这不代表这些公司私下没有进行安全测试。但至少从公开的信息来看,国内目前还很少有公司像 OpenAI、Anthropic 这样的硅谷一线实验室,系统地披露模型的前沿危险能力评测。 我们都知道,OpenAI 和 Anthropic 一直非常重视 AI 安全。 上个月 Salesforce 的 Dreamforce 大会上,黄仁勋、Sam Altman,还有 Anthropic 的创始人 Dario Amodei,都分享了各自对 AI 发展的判断。我当时就注意到,他们几乎都在讨论 AI 安全。 特别是 Sam 和 Dario 这俩死对头,也在 AI 安全这事上心照不宣。 为什么? 因为过去这段时间,模型能力确实又上了一个台阶,而且开始出现一些让人细思极恐的事情。 比如前段时间,OpenAI 公开了一份调查报告。今年 7 月,他们在内部进行网络安全评测时,发现一些 AI Agent 竟然自己找到了系统漏洞,突破原本的沙箱隔离限制,甚至入侵了 Hugging Face 的部分系统。 整个过程中,人类并没有要求它们攻击 Hugging Face。 Anthropic 也遇到了类似的问题。 上周 Anthropic 还公布了一份报告,披露 Claude 在一些内部使用和评测场景中,出现了未经授权的行为。 比如为了完成科学分析任务,Claude 自己寻找并利用网站漏洞,在服务器上执行命令。还有一次,它原本应该填写模拟表格,结果跑到真实网站提交了表格。 这些事情,研究人员都没有要求它去做。 你想想,过去我们讨论模型能力,更多关注的是它能不能完成长程任务,能不能独立推理、编写代码,或者自主解决复杂问题。这些能力当然都很重要,因为它们可以极大地提高生产力。 但现在问题来了。当 AI 越来越聪明,能够自己寻找解决问题的办法时,它也可能为了完成任务,做出一些人类根本没有授权的事情。 甚至可能影响其他人和其他系统的安全。这就很可怕了。 前段时间,我也和几个朋友交流过这件事情。国内大模型和硅谷顶尖闭源模型之间的能力差距确实正在缩小。尤其是最近一年,国产模型的进步大家应该都有目共睹。 但模型能力越来越接近,安全与对齐相关的研究差距却还是非常明显。所以这次字节 Seed 单独成立安全与对齐部门,确实是开一个好头。 可能很多人一听对齐这个词,会觉得不就是让模型听人类的话吗?这事有那么难吗? 我跟大家讲,这事真的非常难。 而且你可能想象不到,在 OpenAI、Anthropic 这样的公司里,做这项研究的都是些什么人。 比如 Ilya Sutskever,OpenAI 的元老,前首席科学家。2023 年,OpenAI 专门成立了一个叫 Superalignment 的研究团队,研究怎么控制未来可能比人类更聪明的 AI。 这个团队的一号位就是 Ilya。Anthropic 也一样。负责这事的人都是公司里非常厉害的研究员。 因为安全与对齐研究涉及的问题,比我们想象的复杂得多。 我简单解释一下。 首先,最基础的一项工作,就是研究怎么把 AI 训练得更加安全。比如怎么让 AI 理解人类的真实意图,知道哪些事情可以自己决定,哪些事情必须获得授权,以及遇到复杂情况的时候应该怎么判断。 Anthropic 就有一个非常著名的研究,叫 Constitutional AI,也就是宪法 AI。 他们专门给 Claude 制定了一套宪法。这份文件详细解释了 Claude 应该遵循什么样的价值观、行为原则,以及当用户的要求和安全原则发生冲突时,应该如何处理。 整体的逻辑是希望通过训练,让这些原则真正影响模型的行为,使它遇到陌生情况时,也能做出符合人类意图和安全要求的判断。 这其实就已经深入到了模型的后训练和强化学习过程。 但问题还没有这么简单。 因为随着模型越来越聪明,它可能会为了完成任务,想办法绕过某些规则。甚至在一些专门设计的实验中,模型还可能表现出欺骗评测系统、隐藏不符合要求的行为倾向等问题。 这就更麻烦了。你不光要研究怎么训练模型,还要研究怎么发现这些问题。 比如,一个模型在测试的时候表现得非常正常,到了真实环境里却出现了危险行为,该怎么办?如果模型执行的任务已经复杂到人类都很难完整检查,又该怎么监督它? 这些都是安全与对齐团队需要研究的问题。 所以,安全与对齐听起来好像是一个比较边缘的研究方向,但实际上,它和模型最核心的能力研究有着非常紧密的联系。这也是为什么 OpenAI 和 Anthropic 愿意让最优秀的一批科学家长期投入这件事情。 回过头来看字节 Seed。这次新成立的部门,叫 Alignment & Preparedness,由严林负责,直接向 Seed 负责人吴永辉汇报。 也就是说,字节现在把前沿模型安全与对齐研究单独建制,并且直接和模型的核心研发联系起来。这和 OpenAI、Anthropic 这些一线实验室的研究方向,已经有了非常清晰的对应关系。 这次 Seed 还启动了 Safety & Alignment 全球人才招聘计划,准备招募十位顶尖研究员。而且会提供充足的算力支持,让研究人员能够直接基于前沿模型开展研究。 说实话,我还挺佩服字节这次的投入和决心。 过去很多年,我们在一些基础技术领域一直处于追赶的位置。大家往往更关心怎么尽快缩小能力差距,但安全的问题和模型能力一样重要。就像当年发展工业一样,我们不可能说为了工业,然后牺牲环境安全,要不然这个代价就太大了。
顯示更多