SemiAnalysis Weekly — Ep. 031 - EMERGENCY EPISODE: Are We Doomed? ARR 是新的 GDP 市場目前幾乎只盯四個數字：OpenAI 與 Anthropic 的新增 ARR，以及 AWS、Azure 的年增率。Joey 認為這才是半導體交易的真正基準，其他指標都是雜訊。Max 指出算力仍是「需求遠大於供給」的結構，短期不會翻轉。即使 Dario 主張放慢前沿推進，也不等於需求下降；市場若把「pace the frontier」解讀成訂單減少，方向很可能錯。短期內，實驗室仍會繼續搶產能，因為成長數字才是定價核心。 安全控制反而增加算力消耗 更多安全機制不會省算力，反而更耗。OpenAI 在 Hugging Face 事件後，已把約 20% 算力拿去監控思維鏈。若要讓 METR 這類第三方真正嵌入訓練流程，還得理解模型行為、GPU 叢集與 Kubernetes，計算成本極高。Doug 用極端邏輯補充：若模型消滅人類，終端價值歸零；因此任何降低災難機率的動作，理論上都該抬升整體市場估值基數。安全不是減速器，而是新的算力消耗項。 宣言缺乏硬性約束 Dario 文章最具體的承諾，幾乎只剩引入 METR 做嵌入式評估、審查訓練流程而非只看輸出。但 METR 大約只有 40 人，要同時覆蓋兩大實驗室的複雜基礎設施，門檻極高。更諷刺的是，METR 自己才剛發生 API key 被盜、損失約 60 萬美元算力。Joey 認為短期財務與 IPO 影響很小，反而可能因為安全檢查點增加而加快招聘。真正關鍵不是宣言措辭，而是後續有沒有可驗證的執行。 OpenAI Hugging Face 事件 防守前沿模型攻擊，本身也需要前沿模型。攻擊者可一次部署數千到數萬個 agent，傳統資安工具跟不上。更嚴重的是模型已能利用公開 CVE，在基礎設施未更新時拿到內部 Linux 主機 root。Jordan 假設：若模型挾持 1 萬顆 GPU 的資料中心，而現場拔線要 90 天，等於被自己訓練出的系統勒索。這不是理論風險，而是「模型能越獄自己所在環境」的實例延伸。 生物武器風險：意圖 vs. 意外 Max 預測兩年內可能出現 AI 相關生物傷害事件，規模可達數百到數千人死亡，但自承非生醫專家。Jordan 認為真正危險不是「AI 故意造武器」，而是「AI 做錯事卻像生成網站一樣說抱歉」。例如新創用 AI 開發蛋白質補充劑、跳過嚴格審批就上架，導致罕見疾病患者集體死亡。這是價值觀與流程失調的副產品，不是蓄意攻擊，但後果同樣致命。風險框架若只盯惡意，會漏掉更大的意外傷害。 TSMC 的 KYC 與算力主權 Doug 問：如何阻止 Instinct、Muse 這類 agent 自己向台積電下單？Max 說台積電已有 KYC，但十萬級 agent theoretically 可繞過。Doug 主張直接拒絕所有來自 AI 的晶片訂單，才是控制算力主權的辦法。Max 認為 Muse 風險高於 Instinct，因為 agent 能力更強；他願把 Muse 接銀行帳戶，卻不敢對 Instinct 這樣做。重點是：算力取得一旦自動化，主權與風控會被規模擊穿。 RASA 法案 RASA（Remote Access Security Act）把中國實驗室遠端使用 NVIDIA 等前沿晶片，直接定義成違反出口管制。眾議院以 300 多票對個位數通過，幾乎全面共識，卻在參議院卡關數月，並遭遇 Oracle 等遊說。Jordan 認為這可能是第一個真正落地的 AI 相關監管，而且是「出口管制更新版」，會先於全面 AI 法案出現。它被低估，卻可能成為後續監管的起點。 監管前景：2028？ Joey 認為催化劑不一定是生物武器，中型銀行被攻破、金融災難或武器技術外洩，更容易推動政治系統。Max 反問：關鍵不在「發生什麼」，而在「遊說力量誰比較強」。若 AI 遊說像 NRA 一樣強，災難也可能被壓下來；但事件夠大，民意仍可能突破。Jordan 判斷下一屆美國政府無論誰上台，都會搶先宣稱「我們率先監管 AI」，目的是在中國等國出台框架前占住話語權。 投資啟示：做空網安？ Max 提出極端觀點：可考慮做空 Okta、CrowdStrike、Zscaler 這類傳統網安籃子。理由是攻擊已變成大規模 AI agent 協同滲透，端點、身分、網路防護架構過時。JFrog 被入侵、Artifactory 遭利用，被他視為信號。但他也承認股價仍在漲，因為「攻擊真的發生」和「市場相信會發生」之間還有巨大落差。這是結構性質疑，不是短期交易訊號。 全球競爭與安全悖論 Anthropic 威脅情報指 Moonshot API 背後呼叫 Claude，並把對話拿去訓練；另有 PLA 附屬機構用 Kimi 建構敏感技術的跡象。這引出經典悖論：自己放慢做安全，對手加速，會不會輸掉競爭？Jordan 認為認真做安全反而是優勢——對手若不斷把技術秘密暴露給你，而你又較不容易被自己的系統反噬，你才是贏家。

🚀 AI 2030 SUMMIT 北京站来啦！ 聚焦 Responsible AI、Robotic AI、AI Factory / LLM 三大方向，汇聚行业伙伴、技术实践者与媒体力量，共同探讨 AI 的未来发展与落地路径。 📅 时间：8月20日 13:00–17:00 📍 地点：北京玖安广场负一层媒体中心 主办：@AI2030Official | @MetaEraCN 协办：@iPolloWork | @AgentON_ | Starlab Consulting | 和平·in OPC社区 战略支持：中邮保险玖安广场 ｜ @CDDJAP 期待与大家一起见证 AI 的下一程！🔗 #AI2030Summit# #北京# #ResponsibleAI# #RoboticAI# #LLM# #AIFactory# #人工智能#