註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 AI推論
AI推論 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 AI推論 的搜尋結果
Intel Crescent Island AI GPU Intel 在 Computex 2026 詳細揭露代號「Crescent Island」的下一代資料中心 AI GPU,基於 Xe3P 架構打造,專為agentic AI優化。 主要規格與特色: - 採用 LPDDR5X 記憶體(非 GDDR/HBM),參考設計 160GB,最高可達 480GB,有效緩解 HBM 記憶體短缺問題。 - 預估使用 640-bit 匯流排,搭配 24GB LPDDR5X 模組,提供約 684 GB/s 頻寬。 - 功耗 350W,PCIe 擴充卡形式,氣冷設計,適合傳統 4U/5U 伺服器。 - 支援 FP4 至 FP64 多種資料類型,兼顧高效能推論與科學運算。 - 八張卡可提供 3.8TB 本地 GPU 記憶體,適合大型模型或多 AI 代理部署。 優勢分析: 使用 LPDDR5X 可讓更多 AI 資料靠近運算單元,減少資料搬移,提升推論效率;同時降低先進封裝壓力,更易大規模生產。搭配 Intel oneAPI 軟體堆疊,提供開放且 Day 0 就緒的開發環境。 Intel 表示 Crescent Island 將於 2026 年下半年推出,預計成為企業本地 AI 推論的重要解決方案。
顯示更多
Marvell Bravera SC6 Marvell $MRVL 於 2026 年 8 月 4 日 FMS 2026 發表 AI 記憶體基礎架構新品,核心為 Bravera SC6(MV-SF1410)PCIe Gen6 SSD 控制器。 核心亮點: - 專為 AI 推論優化,讓更多 KV Cache 從昂貴 HBM 轉移至 SSD,提升基礎架構效率、降低寫入放大並延長 NAND 壽命。 - 效能為上一代 Bravera SC5(PCIe Gen5)的 2 倍。 支援 PCIe Gen6(向下相容 Gen1–5)、NVMe 2.2,單埠四通道。 - 採用 NAND-agnostic 架構,相容多家廠商 SLC/MLC/TLC/QLC,方便超大規模雲端與 OEM 彈性採購部署。 - 預計 2026 年第四季開始送樣。 同時發表 Structera X(機架級 CXL 記憶體擴充與池化)與 Photonic Fabric(Pod 級光學共享記憶體,跨機架最高 50 公尺、支援最高 32TB 暖 KV Cache 卸載,聲稱可提升 2–3 倍 token 吞吐量)。 整體目標是讓記憶體更獨立於運算擴展,減少 GPU 停滯、提高利用率與 token 效率,協助超大規模業者因應大型模型與長上下文需求。
顯示更多
TrendForce: 預估2027年Server CPU出貨年增破40%,Arm-Based產品市占持續擴大 根據TrendForce最新AI server產業研究,隨著各AI服務業者積極推出AI Agent相關應用,server CPU需求自2025下半年起穩步成長。預估2026年出貨年增幅將達31%;2027年因AI推論需求持續成長、Agentic AI服務滲透率提升,出貨量有望再年增逾40%。這將改變長期由x86主導的市場格局。 AI Agent服務興起使雲端資料中心server AI推論工作負載占比增加,逐漸改變server內部CPU與GPU/ASIC配比。業者規劃的機櫃方案與成長態勢,將從過往的1:8向1:2、甚至1:1方向發展,進一步增添server CPU出貨動能。 競爭格局方面,2025年以Intel、AMD為主的x86陣營主宰近90%市場,Arm-based產品市占率才剛突破10%。2026年雙方皆積極出貨爭取AI推論商機,但Intel新品因製程與封裝挑戰遞延,僅靠既有Emerald Rapids、Granite Rapids支撐,又受限自家製程產能吃緊,出貨成長受限、市占下滑。AMD新品Venice已小規模量產,主力仍為Genoa與Turin平台,雖受TSMC產能影響,預估市占將顯著成長至約27%。 Arm-based方面,AWS持續導入Graviton、NVIDIA Grace需求擴張、Google Axion大量出貨、Microsoft Cobalt 100與Arm自研AGI進入量產,使2026年Arm出貨成長優於x86,市占突破20%。TrendForce預期2027年Arm市占可望擴大至30%,主要動能來自NVIDIA Vera明顯擴大出貨,以及Google、AWS、Microsoft、OpenAI、Arm、Huawei等新CPU大量生產,加上阿里巴巴倚天720/730等新品帶動。x86陣營中,Intel新品仍小量釋出,AMD出貨更穩健並預計2027上半年推新品,市占持續提升。
顯示更多
富士通、國產次世代 CPU「FUJITSU-MONAKA」與 AI 伺服器開始銷售——支援主權 AI 基礎建設 富士通於 9 月 14 日宣布,開始銷售國產次世代 CPU「FUJITSU-MONAKA」,並提供搭載該 CPU 的國產伺服器「Fujitsu MONAKA Server」。 CPU 單體將從 11 月起面向雲端業者、資料中心業者及伺服器廠商進行全球展開。MONAKA Server 則以日本與歐洲市場為中心,依序提供給企業、研究機構及防衛領域等。 隨著生成式 AI 快速普及,計算資源不足與電力消耗增加成為全球課題。富士通希望透過兼具高性能與省電的國產處理器與伺服器,實現主權 AI(Sovereign AI)基礎建設。 FUJITSU-MONAKA 技術重點: - 世界首款採用 2nm 製程技術與 3D 堆疊結構的 CPU。 - 運算核心使用最先進的 2nm 製程,快取與 I/O 部分使用 5nm 製程,依功能搭配最適製程,兼顧性能與成本。 - 採用富士通獨有的超低電壓運作技術。 - 最高運作頻率 3.8GHz,記憶體傳輸速度 8800MT/s。 - AI 推論方面,以專用指令硬體加速矩陣運算,並結合 Arm 架構的 SVE2 向量運算與軟體最佳化,宣稱 AI 推論吞吐量為其他公司 CPU 的 2 倍,相同處理量所需的伺服器台數與耗電可減半。 - 安全方面搭載 Arm CCA 機密運算功能,可保護記憶體中處理中的資料與應用程式,支援雲端與多租戶環境下的安全 AI 應用。 Fujitsu MONAKA Server: - 國內設計開發,並在石川縣笠島工廠製造的國產伺服器。 - 具備零件來源與製造履歷可追蹤的追溯性,強化供應鏈透明度與可靠性。 - 產品線包含面向 AI Agent 與 AI 推論的 2U 與 1U 機架式伺服器。 - 1U 機型利用 CDI/CXL 技術,實現伺服器間記憶體與加速器的彈性共享(資源池化),可緩解 AI 推論的記憶體不足問題,並具備因應未來模型規模擴大的擴充性。 - 活用富士通長期累積的冷卻技術:空冷可在環境溫度 40°C、水冷可在水溫 45°C 下運作,伺服器冷卻所需耗電最多可降低 80%。 富士通未來將以本伺服器為核心,與 AI 平台「Fujitsu Kozuchi」及企業用生成式 AI「Takane」連動,推出主權 AI 平台。目標是從國內開發、國內製造的 AI 基礎設施到 AI 服務,提供垂直整合方案,支援日本企業與公共機關的 AI 應用。
顯示更多
早安!10/16 外電綜合整理 - 2330台積電: 美系重申正向美系大行表示3Q毛利率略低於預估,但符合市場共識,反映2奈米製程及海外營運造成的毛利率稀釋影響。4Q毛利率指引中間值為66%,顯示仍承壓。不過,上調明後年資本支出至830億美元及920億美元,因應2奈米及1.4奈米擴產需求。 關於先進封裝,券商對於支援9倍及14倍光罩尺寸的晶片充滿信心,如果Google/聯發科未來版本的TPU需要採用CoWoS/CoPoS封裝技術。另,正在評估與TeraFab合作的可能性,但合作晶圓廠必須由台積電負責營運。重申正向。 - 3406玉晶光: 歐系重申正向 與3M進行私募合作,擴大光學互連領域的商機。歐系券商正面看待,因認為3M的EBO技術可能為玉晶光開啟1億美元的潛在市場規模,該技術今年7月已正式部署至微軟Azure資料中心。券商預期雙方合作有機會進一步擴展至CPO領域。玉晶光可能參與改良MT光纖插芯(MT Ferrule),重申正向。 - 2454聯發科: 美系重申正向 據彭博社報導字節跳動繼與博通及高通合作之後,目前已接近與聯發科達成協議,將由聯發科提供ASIC設計及統包式服務支援。美系券商預期1H27共同開發AI推論晶片,1H28 tape-out, 29年量產。券商預估該專案可能在2029年為聯發科貢獻200億至250億美元營收。 手機方面,券商預期聯發科有望在三星高階手機裡取得3成市佔。重申正向。 - BT載板:美系上修臻鼎/景碩/南電/欣興目標 美系券商預估BT載板產業的供需缺口將由今年預估的1%,擴大至明後年的11%及14%。漲價部分,預期27-28年逐年成長,會造成如此供需失衡原因在於光收發模組的mSAP需求加速成長,擴大BT載板廠商的可服務市場規模。券商同時預估mSAP的毛利率會衝過50%以上。對臻鼎/景碩/南電/欣興調升獲利預估並升目標。 #每日外電#
顯示更多
正當市場認為 Rubin CPX 已被 Nvidia 從產品藍圖中移除之際,我最新的產業調查顯示,Nvidia 已重啟 Rubin CPX,預計於 1Q27 開始生產。相較舊版,重啟後的 Rubin CPX 擁有更強的預填充(prefill)效能,GPU 規格與機櫃架構也都有明顯改變,足以證明 Nvidia 對 prefill 方案的高度重視。 關鍵改變如下: 1. Rubin CPX GPU 規格 CPX 算力接近 Rubin,單顆 GPU 最高功耗也同為 2,300 W。CPX 記憶體改為 168 GB HBM4,低於 Rubin 的 288 GB HBM4,但高於舊版 CPX 的 128 GB GDDR7。 2. 機櫃設計 新版 CPX 採用獨立的 MGX ETL 機櫃,不再像舊版與 Rubin 共櫃。客戶可依需求配置 64、128、192 或 256 顆 CPX。在 CPX 機櫃中,每 64 顆 CPX 組成一個機櫃模組,每個機櫃模組配置 8 個運算托盤(每個托盤有 8 顆 CPX)與 1 個交換機托盤。 3. Scale-up 與 scale-out NVLink 僅用於同一托盤內 8 顆 CPX GPU 的 scale-up,每顆 CPX 的 NVLink 頻寬為 1–1.5 TB/s(vs. 每顆 Rubin 的 3.6 TB/s)。同一機櫃模組內的托盤間,透過 Spectrum-6 Ethernet(全銅 L1)進行 scale-out;跨機櫃模組時,則由各模組的 Spectrum-6 透過 OSFP 光纖進行 scale-out。 4. 運作方式 CPX 需與 Vera Rubin NVL72 搭配,Nvidia 建議 CPX 與 Rubin 的比例為 1:1。CPX 負責預填充(prefill)並建立 KV cache,再透過 Ethernet RDMA 傳給 Rubin 執行解碼生成(decode)。 5. 產品定位:長上下文 prefill 的最高性價比方案 目前 AI 推論工作量中,超過一半來自處理輸入內容(context)並建立相對應的 KV cache,因此,CPX 以更彈性的部署方式與更低成本承接 prefill。每個運算托盤(有 8 個 CPX)約有 1.34 TB HBM4,足以支援大多數長上下文 prefill 與 KV cache 建立需求。
顯示更多
0
12
286
27
轉發到社區
SUMCO(3436.T)〈2026年12月期 第3季法說會資料〉 1、第三季轉盈,第四季營收因台勝科出表而下滑 1)3Q26營收1,175億日圓,季增約3%,略低於1,180億日圓的財測;營業利益20億日圓,財測原本是0,前兩季分別虧損52億和11億日圓。EBITDA利潤率29.8%。 2)本季淨利54億日圓,EPS 15.65日圓。主要靠出售台勝科(Formosa Sumco Technology, 3)台勝科從9月30日起改成權益法認列的關聯企業,第四季合併數字不再包含它的營收和營業利益。 4)4Q26財測營收1,070億日圓,季減105億日圓;營業利益10億日圓,淨利40億日圓。全年營收預估4,395億日圓,年增約7%,營業損益仍是虧損33億日圓。 5)日圓對美元每變動1日圓,年度營業利益約受影響12億日圓。全年股利維持20日圓。 2、300mm出貨創高,產能開始跟不上 1)公司表示,第三季300mm受先進邏輯和記憶體需求帶動,出貨量大幅增加。季節變動圖顯示,2026年300mm月出貨從第一季約780萬片升到第三季約900萬片,是2019年以來同期最高。 2)200mm則有AI相關功率元件需求開始起來,第三季月出貨約440萬片,高於2025年同期,但仍明顯低於2021、2022年水準。 3)長約(LTA)價格維持住。 4)公司預期第四季300mm需求在AI帶動下仍強,已經快無法滿足客戶要求量;200mm需求也會超過目前的供給能力。追加需求會依照和客戶的既有關係與價格來分配。 3、客戶庫存去化,邏輯端降得最快 1)SUMCO推估的主要客戶300mm晶圓庫存圖顯示,邏輯客戶的庫存月數從2025年高點明顯下滑,最近幾季降得很快。 2)記憶體客戶的庫存量仍高,但庫存月數大致持平、略為下滑。 4、不擴產,供需會更緊 1)公司認為半導體市場會在AI帶動下維持高成長,300mm需求由AI和資料中心用的先進品帶動。 2)但以目前價格和通膨來看,擴產投資不符合經濟效益;就算決定擴產,也需要好幾年,所以預期供需會更緊。200mm需求也會持續超過現有供給。 5、AI伺服器推升先進邏輯晶圓需求 1)AI訓練和代理式AI的推論都在推高運算量,AI伺服器成為整體伺服器出貨成長的主力。 2)GPU和CPU採用小晶片設計,不同功能用不同製程世代,例如GPU核心從3奈米走向2奈米,CPU核心從2奈米走向1.4奈米,I/O和快取則用5奈米、7奈米等,因此各世代製程的晶圓需求都在增加。 3)公司依調查機構資料推估,伺服器用邏輯300mm晶圓需求會從2025年每月不到30萬片,增加到2029年約75萬片;2奈米和1.4奈米占比會逐年擴大。 4)公司表示會升級製造設備,加強供應先進品的能力。 6、財務結構改善 1)9月底現金及約當現金1,207億日圓,比去年底增加455億日圓;有息負債從3,537億日圓降到2,508億日圓。 2)自有資本比率從51.3%升到61.2%,淨負債權益比從0.48倍降到0.23倍;有形與無形固定資產因台勝科出表減少約2,717億日圓。 3)前三季營業現金流770億日圓,資本支出297億日圓,自由現金流481億日圓。資本支出比去年同期的693億日圓少了一半以上。
顯示更多
軟銀成立「SB Neo」進軍美國Neocloud市場 軟銀公司與軟銀集團公司於2026年7月宣布,在美國共同成立SB Neo, Inc.(暫定名),由軟銀公司持股51%、軟銀集團持股49%,成為軟銀公司的合併子公司。 SB Neo將利用軟銀集團開發中的10吉瓦級能源與AI基礎設施,預計2028年3月(FY2027)正式推出neocloud服務,為美國大型企業及超大規模雲端業者提供大規模AI模型訓練與推論所需的運算資源。未來將分階段擴大規模,目標達到10吉瓦級AI基礎設施。 軟銀公司已在日本自2026年5月提供「Infrinia AI Cloud OS」驅動的GPU雲端測試版服務,將把累積的技術與經驗應用於美國市場。軟銀集團則負責提供美國現有的大型AI基礎設施支援。 孫正義表示,集團將共同打造世界級AI基礎設施,推動AI革命;宮川潤一則強調,將加速在美發展neocloud業務,並計畫在日本興建吉瓦級AI資料中心。
顯示更多
【AI推薦引擎】朱克伯格終於拿出一套反烏托邦但賺錢的AI方案 Meta團隊正在開發 Muse Image和Muse Video當中,但無論人工智能(AI)製造的低品質內容多令人反感,董事長朱克伯格(Mark Zuckerberg)認為,AI將創造「一個全新、幾乎無限的個性化內容宇宙」,讓人停留更長時間。
顯示更多
【研究顯示】AI推動企業招聘增長 但機會偏向資深員工 根據一項41國的新研究,採用AI的企業新增就業崗位數量多於未採用AI的企業。Bharat Chandar和Bouke Klein Teeselink的論文中指出,在採用AI的企業中,資深職位員工數量在五年間增長了6.7%,而初級職位就業人數下降3%。
顯示更多