IT之家 4 月 7 日消息，AMD 近日公布了一系列基準(zhǔn)測(cè)試，聲稱其銳龍移動(dòng)版 7040 Phoenix 系列和 8040 系列處理器在運(yùn)行大型語言模型 (LLMs) 方面，性能最高可領(lǐng)先于英特爾最新的 Core Ultra Meteor Lake CPU 達(dá) 79%。
IT之家注意到，本次測(cè)試對(duì)比的是 AMD 銳龍 7 7840U 和英特爾 Core Ultra 7 155H 處理器，兩款芯片均配備了硬件神經(jīng)網(wǎng)絡(luò)處理單元 (NPU)。AMD 展示了多張幻燈片，對(duì)比了這兩款處理器的 Mistral 7b、Llama v2 和 Mistral Instruct 7B 等大型語言模型的性能表現(xiàn)。在 Llama v2 對(duì)話測(cè)試中，使用 Q4 位寬時(shí)，AMD 處理器的性能比 Core Ultra 7 高出 14%。而在 Mistral Instruct 測(cè)試中，使用相同位寬的情況下，AMD 處理器則快了 17%。
在同樣的大型語言模型測(cè)試中，AMD 處理器在響應(yīng)速度上也展現(xiàn)出優(yōu)勢(shì)。例如，在 Llama v2 對(duì)話測(cè)試的“示例提示詞生成首個(gè) Token”速度測(cè)試中，AMD 處理器比 Core Ultra 7 快了 79%，而在 Mistral Instruct 測(cè)試中則快了 41%。
AMD 還展示了另一組測(cè)試結(jié)果，涵蓋了各種位寬、塊大小和質(zhì)量水平的 Llama v2 7B 對(duì)話測(cè)試。整體來看，銳龍 7 7840U 的平均性能比英特爾競(jìng)品高出 55%，在 Q8 位寬設(shè)置下性能提升甚至達(dá)到 70%。不過 AMD 也表示，在實(shí)際應(yīng)用中運(yùn)行大型語言模型時(shí)，使用 4 位的 K M 量化可以取得更好的平衡，而對(duì)于需要極致精度的編碼等任務(wù)，則可以使用 5 位的 K M 量化設(shè)置。
從目前來看，AMD 在人工智能性能方面暫時(shí)領(lǐng)先于英特爾。盡管銳龍 7040 系列架構(gòu)在理論性能 (TOPS) 上與 Meteor Lake 相當(dāng)，但 Tom'sHardware 在去年年底就發(fā)現(xiàn)，在 AI 負(fù)載方面，AMD 通常能擊敗 Meteor Lake。這似乎更像是軟件優(yōu)化問題，而非硬件或驅(qū)動(dòng)程序的問題。
不過這種性能差距應(yīng)該不會(huì)持續(xù)太久。畢竟，神經(jīng)網(wǎng)絡(luò)處理單元的發(fā)展才剛剛開始。如果更多的應(yīng)用程序不采用 OpenVINO 框架，預(yù)計(jì)英特爾將改變策略，尋求一種更易被開發(fā)者采納的優(yōu)化方案。此外，英特爾也計(jì)劃在今年晚些時(shí)候發(fā)布下一代 Lunar Lake 移動(dòng) CPU 架構(gòu)，據(jù)稱其 AI 性能將是 Meteor Lake 的 3 倍（同時(shí) CPU 核心部分的 IPC 性能也將大幅提升）。
總而言之，AMD 目前在神經(jīng)網(wǎng)絡(luò)處理單元性能方面占據(jù)優(yōu)勢(shì)，尤其是擁有更強(qiáng) NPU 性能的銳龍 8040 系列處理器。但是，隨著年底英特爾 Lunar Lake 架構(gòu)的發(fā)布及其人工智能優(yōu)化計(jì)劃的實(shí)施，戰(zhàn)局可能會(huì)發(fā)生逆轉(zhuǎn)。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。