上個月就有報道稱,微軟和OpenAI正在開發自己的AI芯片,並計劃在11月發佈,希望可以更高效、更低成本地適配其開發的大型語言模型(LLM),滿足未來算力的需求。此前微軟先後向OpenAI投資瞭數十億美元,利用英偉達最新的H100計算卡,以滿足處理訓練和擴展AI所需的巨大計算負載。
這次開發者大會上,微軟宣佈推出其芯片實驗室設計的兩款定制芯片,分別是Azure Maia 100 AI加速器和Azure Cobalt 100處理器。
微軟表示,目前這些芯片都處於“部署的第一階段”,明年初會出現在數據中心,首先用於運行Copilot、Azure OpenAI和其他服務。微軟沒有透露具體有多少芯片可用,但即便有瞭自己的定制芯片,未來仍將使用英偉達和AMD等合作夥伴的芯片為客戶服務。
Azure Maia 100 AI加速器所使用的GPU就是代號為“雅典娜(Athena)”的項目,基於臺積電(TSMC)的5nm工藝制造,擁有1050億個晶體管,目前初始服務器正在接受GPT 3.5 Turbo的測試。Azure Cobalt 100處理器擁有128核心,支持64位Armv9指令集,使用瞭Arm為微軟定制的Neoverse CSS平臺,可能是基於Neoverse N2內核。
微軟稱,Maia的服務器采用完全定制的基於以太網的網絡協議設計,可實現更好的擴展性和端到端工作負載性能。
發表評論 取消回复