166 次瀏覽

Meta 揭曉四款定制 AI 晶片,強化資料中心能力與供應鏈彈性

Meta 週三揭曉四款專為人工智慧相關任務設計的公司自用晶片,作為公司龐大資料中心擴張計畫的一部分。 這些專用矽晶圓屬於 Meta 訓練與推論加速器(MTIA)系列晶片,該系列於 2023 年首次公開揭露,隨後在 2024 年推出第二代版本。Meta 工程副總裁韋基均松告訴 CNBC,透過設計由公司自製再由台積電製造的定制晶片,該社交媒體巨頭能在其資料中心船隊上獲得更高的性能比價格,而不僅依賴供應商。 「這也為我們在矽晶圓供應方面提供更多多元性,並在一定程度上抵禦價格波動,」宋說:「這讓我們有了更多的槓桿。」 首款新晶片 MTIA 300 數週前已部署,旨在協助訓練支撐 Meta 核心排序與推薦任務的小型 AI 模型,宋表示。這些任務包括在 Facebook 和 Instagram 等該公司應用程式家族中向使用者顯示相關內容及線上廣告。 即將推出的晶片(MTIA 400、MTIA 450 和 MTIA 500)旨在用於更先進的生成式 AI 相關推論任務,例如根據人們的文字提示創建圖像和影片。宋表示,這些晶片不會用於訓練巨大的大型語言模型。 Meta 在部落格文章中提到,已完成 MTIA 400 的測試,並「正走在於數據中心部署的路徑上」,而其他兩款晶片則預計在 2027 年投入運作。 「任何矽晶圓公司或團隊每六個月釋放一款新晶片都是不尋常的,節奏非常快,」宋說。「這樣做的主要原因是我們目前發現需要快速擴建產能,並花費大量資本支出(CapEX),因此希望隨時擁有最先進的晶片進行部署。」 宋表示,公司預期這些晶片將具有「五年以上的使用壽命」。 Meta 在人工智慧的開銷豪擲包括路易斯安那州的一間巨型資料中心,以及俄亥俄州和印第安納州的另外兩間。根據彭博社報導,Meta 還正在尋求租賃德克萨斯星大門(Stargate)場址的空間,因為 OpenAI 和 Oracle 已放棄擴大該 AI 資料中心場址的計畫。 谷歌等科技巨頭近年來一直在開發自己的內部矽晶圓以填充資料中心,尋求替代昂貴且供應受限的英偉達和 AMD GPU。 這些超大型科技公司一直創造所謂的應用特定積體電路(ASIC),其尺寸較小且價格便宜於通用型 AI 主力 GPU,但僅限於執行更狹窄的任務集。 谷歌率先在 ASIC 領域開拓,於 2015 年推出首款 Tensor Processing Unit;亞馬遜則於 2018 年宣布其首款定制晶片。儘管這些科技巨頭將 AI 晶片納入各自雲端運算平台供客戶使用,Meta 的 MTIA 晶片完全用於內部用途。 即將推出的 MTIA 晶片將包含更多高頻寬記憶體(HBM),以協助推動生成式 AI 相關推論任務。 科技業的巨型 AI 推進導致更廣泛市場出現記憶體晶片短缺,這意味著 Meta 宏偉的矽晶圓路線圖可能會面臨未來的供應鏈限制。 「我們絕對擔心 HBM 供應,」宋表示。「但我們認為,對於我們計劃建設的內容,已確保我們的供應。」 記憶體通常具有週期性業務特徵,晶圓廠會與三星、SK 海力士和美光等供應商簽訂短期合約來獲取商品。 宋並未評論公司是否已與記憶體供應商簽署更長期合約以應對短缺,但表示 Meta 採取「多元化」方法對待其供應鏈和矽晶圓策略。 最近幾週,Meta 達成協議,在多個年份內用數百萬顆英偉達 GPU 及多於 6000 兆瓦的 AMD GPU 填滿其資料中心。「工作負載變化如此之快,我們確保擁有選項,」宋表示,指的是晶片交易。 Meta 的新自用晶片由台積電製造,該公司主要在台灣運營,在亞利桑那州擁有一座大型新晶圓製作校園。 Meta 拒絕評論這些晶片是否會在亞利桑那州製造。 Meta 總共運作和規劃的資料中心有 30 個,其中 26 個位於美國。

參考來源

READ NEXT

相似新聞