OCP Global Summit 2025_ARM_What AI Wants: New Silicon, New Systems, and a New Era for the Data Center

前言

在 OCP Global Summit 2025 上，ARM 分享了他們對 AI 時代資料中心演進的觀點。隨著 AI 工作負載爆炸式成長，效能與能效（performance per watt）已成為產業唯一的核心指標。ARM 透過回顧 Neoverse 的發展歷程、強調客製化晶片的重要性，以及提出 Chiplet System Architecture（CSA）的構想，展現了他們在推動新一代資料中心基礎設施上的角色與策略 What AI Wants New Silicon, New …。

內容

ARM 提到，從 2011 年 OCP 成立到今天，雲端與基礎設施已進入全新的發展階段。ARM 也在同一年開始投入基礎架構市場，最初希望透過開放架構與軟體投資讓更多人打造專屬 CPU。然而現實顯示，設計 CPU 遠比預期困難且昂貴，多數企業難以承擔。

隨後在 2018 年，ARM 推出了 Neoverse 平台，並正式成為 OCP 白金會員。如今，所有主要 hyperscaler（AWS、Google、Microsoft、Meta 等）都在部署 ARM Neoverse，以因應 AI 對效能與能效的雙重挑戰。ARM 強調，如今每天有超過 40 億次 AI 查詢，2024 年新增的 AI 算力達 16 zettaflops，並預計 2030 年資料中心耗電將增加 160 GW，相當於全美住宅用電總量 What AI Wants New Silicon, New …。

面對如此龐大的需求，ARM 認為傳統「通用零件組裝」的資料中心模式已不敷使用。現在的趨勢是 客製化晶片設計：針對 AI 訓練與推論需求，進行 CPU、加速器、記憶體與網路的深度協同設計，以追求最佳化的 performance per watt。

ARM 同時指出，打造新晶片的成本高達數十億美元，但真正的挑戰不在資金，而是時間、人才與驗證複雜度。為了降低開發門檻，他們提出了 ARM Total Design 計畫，結合晶圓代工、EDA、設計服務與韌體合作夥伴，形成生態系，共同縮短上市時間。

在這個基礎上，ARM 與超過 70 家夥伴合作，於 2025 年初推出 Chiplet System Architecture (CSA)。CSA 的目標不是打造「真正的 chiplet marketplace」，而是定義一致的系統架構與介面標準，讓不同公司能在同一平台上協同設計。ARM 強調：「封裝就是新的主機板」，異質整合的重心已經從電路板移至封裝層級，這也是 chiplet 時代的核心轉變 What AI Wants New Silicon, New …。

總結

ARM 在演講中提出的核心訊息是：AI 時代的資料中心必須走向深度客製化與能效最優化。無論是 Neoverse 的持續演進，還是 CSA 的提出，ARM 的戰略都是在產業快速成長中提供一條「可協同、可加速、可擴展」的道路。對產業而言，這是一個不再依賴 off-the-shelf 零件，而是透過專屬設計與生態合作來驅動未來的時代。

延伸觀點

1. 技術影響

   • ARM 的 CSA 提案凸顯 chiplet 異質整合 在 AI 資料中心的重要性，這和目前光通訊領域的 CPO（Co-Packaged Optics） 概念有異曲同工之妙。兩者都將「系統最佳化」拉到封裝層級，以突破能效與頻寬的瓶頸。

2. 供應鏈觀察

   • ARM 透過 Total Design 將晶圓代工、EDA 與設計服務納入一個合作框架，這意味著未來半導體設計不再是單一公司獨立完成，而是更像「模組化合作」。這對 台積電、三星、EDA 公司（Synopsys、Cadence） 以及 OSAT 廠商來說都是關鍵機會。

3. 市場趨勢

   • AI 時代的資料中心需求，會推動 專屬 CPU + AI 加速器 + 高頻寬記憶體 的深度整合，ARM 的定位是成為「設計生態系的核心 IP 供應商」。這種模式可能在 汽車、工業、甚至國防 AI 應用 擴散，市場潛力不僅限於雲端。