2024 年剩余時間有望成為數(shù)據(jù)中心芯片市場繁忙的一年，因為競爭對手芯片制造商都在準備發(fā)布新處理器。

分析師表示，AMD 和英特爾預計將推出新的競爭性數(shù)據(jù)中心 CPU，而包括超大規(guī)模廠商和初創(chuàng)公司在內(nèi)的其他芯片制造商計劃推出新的AI芯片，以滿足 AI 工作負載不斷飆升的需求。比如英特爾在本周二確認其用于人工智能訓練和推理的新型 Gaudi 3 人工智能加速器預計將于 2024 年第三季度全面上市，而 Meta 在周三宣布其下一代人工智能推理處理器現(xiàn)已投入生產(chǎn)并已在其數(shù)據(jù)中心使用。

Omdia 數(shù)據(jù)中心 IT 首席分析師 Manoj Sukumaran 表示，雖然服務器銷量預計將增長 6%，從 2023 年的 1080 萬臺服務器出貨量增長到 2024 年的 1150 萬臺，但 2024 年服務器收入預計將同比增長 59%，這表明處理器仍然是一個熱門且不斷增長的市場。事實上，在未來五年內(nèi)，服務器收入預計將增加一倍以上，到 2028 年達到 2700 億美元。

“盡管單位出貨量沒有大幅增長，但收入增長相當快，因為這些服務器內(nèi)部裝有大量芯片，因此服務器價格大幅上漲，”Sukumaran 告訴Data Center Knowledge。 “這對芯片供應商來說是一個巨大的機會。”

 協(xié)處理器是熱門商品

數(shù)據(jù)中心運營商對“協(xié)處理器”有很大的興趣——旨在補充和增強主處理器功能的微處理器。

Sukumaran 表示，傳統(tǒng)上，數(shù)據(jù)中心服務器市場以 CPU 為中心，CPU 是通用服務器中最昂貴的組件。他表示，2020 年只有超過 11% 的服務器擁有協(xié)處理器，但到 2028 年，預計超過 60% 的服務器將配備協(xié)處理器，這不僅可以提高計算能力，還可以提高效率。

Nvidia H100 和 AMD MI300 GPU、谷歌云張量處理單元 (TPU) 等協(xié)處理器以及其他定制專用集成電路 (ASIC) 很受歡迎，因為它們能夠?qū)崿F(xiàn) AI 訓練、AI 推理、數(shù)據(jù)庫加速、網(wǎng)絡卸載和安全功能和視頻轉碼，Sukumaran 說。

分析師指出，視頻轉碼是一個使 Netflix、YouTube 和其他流媒體能夠優(yōu)化從電視到智能手機等不同用戶設備的視頻質(zhì)量的過程。

AMD 和 Intel 與 ARM CPU的 CPU 市場仍然利潤豐厚。英特爾仍然是市場份額的領先者，但來自初創(chuàng)公司 Ampere 和其他云服務提供商的 AMD 和基于 Arm 的 CPU 近年來已經(jīng)削弱了英特爾的主導地位。

Omdia 的數(shù)據(jù)顯示，雖然英特爾擁有 61% 的 CPU 市場份額，但 AMD 已經(jīng)獲得了顯著的吸引力，從 2020 年服務器出貨量的不到 10% 增長到 2023 年的 27%。 Arm CPU 去年占據(jù)了 9% 的市場份額。

Sukumaran 表示：“過去幾年，Arm 軟件生態(tài)系統(tǒng)已經(jīng)相當成熟，Arm CPU 的低功耗和高核心密度對云服務提供商很有吸引力?！?/span>

事實上，谷歌云周二宣布其首款基于 Arm 的 CPU（稱為Google Axion 處理器）將于今年晚些時候向客戶提供。

英特爾今年的目標是通過發(fā)布下一代服務器處理器來重新在CPU市場站穩(wěn)腳跟。帶有 E 核的全新英特爾至強 6 處理器（之前代號為“Sierra Forest”）預計將于 2024 年第二季度上市，專為需要功效和性能的超大規(guī)模企業(yè)和云服務提供商而設計。

緊隨其后的是推出帶有 P 核的全新 Intel Xeon 6 處理器，以前的代號為 Granite Rapids，主打高性能。然而，AMD 并沒有坐以待斃，計劃發(fā)布名為 Turin 的第五代 EPYC CPU。

Moor Insights & Strategy 副總裁兼首席分析師馬特·金博爾 (Matt Kimball) 表示：“AMD 毫無疑問是性能領先者，并且在從英特爾手中奪取市場份額方面表現(xiàn)出色?！睅缀跛羞@些都已通過超大規(guī)模企業(yè)存儲在云端，AMD 也希望進一步擴大其在本地企業(yè)中的收益。 2024 年，從性能角度來看，您將看到英特爾在服務器端 CPU 方面再次具有競爭力?！?nbsp; 

 芯片制造商開始關注人工智能推理

各個垂直領域的公司都在競相構建人工智能模型，因此人工智能培訓的規(guī)模仍然很大。但 Tirias Research 創(chuàng)始人兼首席分析師 Jim McGregor 表示，到 2024 年，人工智能推理芯片市場將開始出現(xiàn)。

“正在向推理處理轉變，”他說。 “我們看到大量人工智能工作負載和生成式人工智能工作負載的出現(xiàn)。他們已經(jīng)訓練了模型?，F(xiàn)在，他們需要一遍又一遍地運行它們，并且希望盡可能高效地運行這些工作負載。因此，期待看到供應商推出新產(chǎn)品。”

McGregor 表示，Nvidia 憑借其 GPU 在人工智能領域占據(jù)主導地位，但 AMD 已于 12 月發(fā)布了用于人工智能訓練和推理的 Instinct MI300 系列 GPU，推出了可行的競爭產(chǎn)品。

雖然 GPU 甚至 CPU 都用于訓練和推理，但越來越多的公司（包括高通、Amazon Web Services (AWS) 和Meta等超大規(guī)模企業(yè)，以及 Groq、Tenstorrent 和 Untether AI 等 AI 芯片初創(chuàng)公司）已經(jīng)構建或正在開發(fā)專門用于人工智能推理的芯片。分析師還表示，這些芯片更加節(jié)能。

Kimball 表示，當組織部署 Nvidia H100 或 AMD MI300 時，這些 GPU 非常適合訓練，因為它們很大，具有大量內(nèi)核，并且具有高帶寬內(nèi)存，具有高性能。

“推理是一項更輕量級的任務。他們不需要 H100 或 MI300 的強大功能，”他說。

 2024 年頂級數(shù)據(jù)中心芯片

以下是預計將于 2024 年推出的處理器列表。

AMD

AMD 首席執(zhí)行官蘇姿豐在 2023 年第四季度財報電話會議上表示AMD 計劃在 2024 年下半年推出下一代服務器處理器 Turin。 Turin基于該公司新的Zen 5核心。

“Turin 是現(xiàn)有第四代 EPYC 平臺的直接替代品，通過添加下一代 Zen 5 核心、新的內(nèi)存擴展功能和更高的核心數(shù)量，擴展了我們的性能、效率和 TCO 領先地位，”她在會上表示財報電話會議。

目前還沒有該產(chǎn)品的具體細節(jié)。但 Moor Insights & Strategy 分析師 Kimball 表示，這款產(chǎn)品將具有重要意義。他表示：“AMD 將尋求從性能和每瓦性能的角度進一步將自己與英特爾區(qū)分開來。”自去年 12 月推出以來，AMD 也看到了對其 Instinct MI300 加速器（包括 MI300X GPU）的巨大需求。 蘇姿豐在財報電話會議上表示，該公司計劃今年為云、企業(yè)和超級計算客戶積極提高 MI300 的產(chǎn)量。 

英特爾

英特爾高管計劃今年發(fā)布幾款主要芯片：Gaudi 3 AI 加速器和下一代 Xeon 服務器處理器。

Gaudi 3將用于AI訓練和推理，瞄準企業(yè)市場。它的設計目的是與 Nvidia 和 AMD 的 GPU競爭。英特爾表示這款 AI 芯片將比其前身 Gaudi 2 提供四倍的人工智能計算能力和 1.5 倍的內(nèi)存帶寬。

英特爾高管補充道，與 Nvidia 的 H100 GPU 相比，Gaudi 3 預計訓練和推理時間將加快50%，推理能效將提高 40%。

分析師金博爾表示：“這將具有巨大的節(jié)能效果和更低的價格。”

至于下一代Intel Xeon 6處理器，Sierra Forest將包括一個具有288個核心的版本，這將是業(yè)界最大的核心數(shù)量。這也是該公司首款“E-core”服務器處理器，旨在平衡性能與能源效率。

Granite Rapids 是一款“P 核”服務器處理器，專為實現(xiàn)最佳性能而設計。該公司表示，與 Sapphire Rapids 相比，它將為 AI 工作負載提供兩到三倍的性能提升。

英特爾發(fā)言人表示，Gaudi 3 將于 2024 年第二季度向 OEM 供應，預計在第三季度全面上市。 Sierra Forest（現(xiàn)稱為具有 E 核的英特爾至強 6 處理器）預計將于 2024 年第二季度上市。英特爾發(fā)言人表示，Granite Rapids（現(xiàn)在稱為帶有 P 核的英特爾至強 6 處理器）預計將“很快”推出。

這一消息是在英特爾去年推出第五代至強 CPU之后發(fā)布的。

英偉達

3月中旬，英偉達宣布將于今年晚些時候開始出貨下一代Blackwell GPU，分析師表示，這將使這家芯片巨頭能夠繼續(xù)主導AI芯片市場。

Blackwell GPU 的新系列專為云提供商和企業(yè)而設計，在單個 GPU 上提供 20 petaflops 的 AI 性能，使組織能夠以四倍的速度訓練 AI 模型，將 AI 推理性能提高 30 倍，并使用多達 25高管們表示，能效比 Nvidia 上一代 Hopper 架構芯片高出數(shù)倍。

Nvidia 還將在 2024 年第二季度發(fā)貨基于 Hopper 的 H200。該公司最近宣布了新的基準測試，表明它是運行生成式人工智能工作負載的最強大的平臺。該公司表示，在推理 700 億個參數(shù)的 Llama 2 模型時，H200 的性能比 H100快 45% 。

Ampere

去年 5 月，這家由英特爾前總裁 Renee James 領導的初創(chuàng)公司宣布了一個新的定制設計、與 Arm 兼容的服務器處理器系列。具有多達 192 個核心。該公司高管表示，該處理器名為AmpereOne，專為云服務提供商而設計，可同時提供高性能和高能效。

AWS

AWS 是與 Nvidia、AMD 和 Intel 等大型芯片制造商合作的超大規(guī)模提供商之一，并使用他們的處理器為客戶提供云服務。但他們也發(fā)現(xiàn)構建自己的定制芯片來為自己的數(shù)據(jù)中心供電并為客戶提供云服務是有利且具有成本效益的。

AWS 今年將推出Graviton4，一種用于通用工作負載的基于 Arm 的 CPU，以及用于人工智能訓練的 Tranium2。 AWS 安納普爾納實驗室產(chǎn)品和業(yè)務開發(fā)高級總監(jiān) Gadi Hutt 表示，去年，該公司還推出了第二代人工智能推理芯片 Inferentia2。

“我們的目標是為客戶提供選擇的自由，并以顯著降低的成本為他們提供高性能，”赫特說。

Tranium2 的計算能力是其首款 Tranium 處理器的四倍，內(nèi)存是其三倍。 Hutt 表示，AWS 在 60,000 個芯片集群中使用第一個 Tranium 芯片，而 Tranium2 將在 100,000 個芯片集群中使用。

微軟Azure

微軟最近發(fā)布了用于人工智能和生成式人工智能任務的 Microsoft Azure Maia 100 AI 加速器，以及用于通用計算工作負載的基于 Arm 的處理器 Cobalt 100 CPU。

該公司去年 11 月表示，將于 2024 年初開始推出這兩款處理器，最初為 Microsoft Copilot 和 Azure OpenAI Service 等微軟服務提供支持。

該公司表示，Maia AI 加速器專為 AI 訓練和推理而設計，而 Cobalt CPU 是一款節(jié)能芯片，旨在提供良好的每瓦性能。

谷歌云

Google Cloud 是超大規(guī)模領域的開拓者，于 2013 年首次推出了定制張量處理單元 (TPU)。TPU 專為人工智能訓練和推理而設計，可在 Google Cloud 上向客戶提供。這些處理器還支持 Google 服務，例如搜索、YouTube、Gmail 和 Google 地圖。

該公司去年年底推出了第五代 TPU 。該公司表示，Cloud TPU v5p 訓練模型的速度比其前身快 2.8 倍。

谷歌云周二宣布開發(fā)出首款基于 Arm 的 CPU，名為Google Axion 處理器。使用 Arm Neoverse V2 CPU 構建的新 CPU 將于今年晚些時候向 Google Cloud 客戶提供。

該公司表示，客戶將能夠在許多谷歌云服務中使用 Axion，包括谷歌計算引擎、谷歌 Kubernetes 引擎、Dataproc、Dataflow 和 Cloud Batch。

分析師 Kimball 預計，隨著谷歌云開始為其客戶部署自己的 CPU，AMD 和英特爾的收入將受到打擊。

Meta

宣布，Meta 今年已在其數(shù)據(jù)中心部署了用于人工智能推理的下一代定制芯片。

下一代人工智能推理芯片之前代號為Artemis，是該公司為 Meta 的人工智能工作負載設計的元訓練和推理加速器 (MTIA) 系列定制芯片的一部分。

Meta去年推出了第一代人工智能推理芯片MTIA v1。該公司表示，與第一代芯片相比，新的下一代芯片的性能提高了三倍，每瓦性能提高了1.5倍。

Cerebras Systems

人工智能硬件初創(chuàng)公司 Cerebras Systems于 3 月中旬推出了第三代人工智能處理器 WSE-3。這款晶圓級芯片的性能是其前身的兩倍，并在高端人工智能訓練市場與英偉達展開競爭。

該公司在三月中旬還與高通合作，為其客戶提供人工智能推理服務。在 Cerebras 硬件上訓練的模型經(jīng)過優(yōu)化，可在 Qualcomm Cloud A100 Ultra 加速器上運行推理。

Groq

Groq是一家位于加利福尼亞州山景城的人工智能芯片初創(chuàng)公司，它構建了 LPU 推理引擎來運行大型語言模型、生成式人工智能應用程序和其他人工智能工作負載。

Groq 于 2020 年發(fā)布了首款人工智能推理芯片，目標客戶是超大規(guī)模企業(yè)、公共部門、人工智能初創(chuàng)公司和開發(fā)商。公司發(fā)言人表示，該公司將于 2025 年發(fā)布下一代芯片。

Tenstorrent

Tenstorrent是一家總部位于多倫多的人工智能推理初創(chuàng)公司，有著悠久的歷史：其首席執(zhí)行官是 Jim Keller，一位芯片架構師，曾在蘋果、AMD、特斯拉和英特爾工作，幫助設計了 AMD 的 Zen 架構以及早期蘋果 iPad 和 iPhone 的芯片。

Tenstorrent 戰(zhàn)略和企業(yè)傳播副總裁 Bob Grim 表示，該公司今年已開始接受 Wormhole AI 推理芯片的訂單，并將于今年晚些時候正式推出。

他說，Tenstorrent 正在向企業(yè)、實驗室和任何需要高性能計算的組織銷售由 32 個 Wormhole 芯片驅(qū)動的服務器。 Grim 表示，Tenstorrent 目前專注于人工智能推理，但其芯片也可以為人工智能訓練提供支持，因此該公司計劃未來也支持人工智能訓練。

Untether AI

Untether AI是一家總部位于多倫多的人工智能芯片初創(chuàng)公司，致力于打造節(jié)能人工智能推理芯片。

該公司發(fā)言人表示，該公司的總裁是前英特爾公司副總裁兼總經(jīng)理 Chris Walker，該公司于 2021 年推出了首款產(chǎn)品，并計劃于今年推出第二代 SpeedAI240 芯片。

該發(fā)言人表示，Untether AI 的芯片專為各種外形尺寸而設計，從用于嵌入式應用的單芯片設備到 4 芯片 PCI-Express 加速卡，因此其處理器可用于從邊緣到數(shù)據(jù)中心的各個環(huán)節(jié)。

本文由半導體產(chǎn)業(yè)縱橫（ID：ICVIEWS）綜合

*聲明：本文系原作者創(chuàng)作。文章內(nèi)容系其個人觀點，我方轉載僅為分享與討論，不代表我方贊成或認同，如有異議，請聯(lián)系后臺。