IT之家 10 月 8 日消息，微軟公司于 10 月 2 日發(fā)布博文，宣布面向客戶和合作伙伴，正式開放 Azure H200 v5 系列虛擬機(jī)，幫助企業(yè)應(yīng)對日益繁重的 AI 工作負(fù)載需求。
微軟在博文中表示：“H200 v5 系列虛擬機(jī)，通過規(guī)模、效率和增強(qiáng)性能等，推動客戶和 Microsoft AI 服務(wù)（如 Azure 機(jī)器學(xué)習(xí)和 Azure OpenAI 服務(wù)）普及和落地”。
OpenAI 的基礎(chǔ)設(shè)施負(fù)責(zé)人 Trevor Cai 表示，OpenAI 正在利用新的虛擬機(jī)系列推動研究和開發(fā)，并為用戶微調(diào) ChatGPT。
Cai 表示：“我們很高興能夠采用 Azure 的新 H200 虛擬機(jī)。我們發(fā)現(xiàn) H200 在最小遷移工作下提供了更好的性能，我們期待使用這些虛擬機(jī)加速我們的研究，改善 ChatGPT 體驗，并推動我們的使命”。
Azure H200 v5 系列虛擬機(jī)采用微軟方案實現(xiàn)“增強(qiáng)效率和性能”，包括 8 個英偉達(dá) H200 Tensor Core GPU，解決了企業(yè)用戶在計算能力方面捉襟見肘的困境。
IT之家援引微軟官方新聞稿，Azure H200 v5 系列虛擬機(jī)在運(yùn)行 LLAMA 3.1 405B 模型推理工作負(fù)載時，吞吐量提升達(dá) 35%。
Azure ND H200 v5 系列虛擬機(jī)最高提供 141GB HBM，相比較上一代 H100 v5 提高了 76%，此外帶寬為 4.8 TB/s，提高了 43%。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。