設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

10 分鐘 Whisper 模型處理測試:英偉達(dá) RTX 4090 比蘋果 M3 Max 慢 86%

2023/12/14 7:07:28 來源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 12 月 14 日消息,開發(fā)人員 Oliver Wehrens 近日測試了蘋果 M1 Pro、M2 Ultra 和 M3 Max 三款 Apple Silicon 芯片升級 MLX 框架后訓(xùn)練 AI 能力,并對比了英偉達(dá)的 RTX 4090 顯卡。

Wehrens 使用 OpenAI 的語音識別模型 Whisper 進(jìn)行測試,主要測量轉(zhuǎn)錄 10 分鐘音頻文件所需時間。

測試結(jié)果顯示 M1 Pro 處理音頻時間需要 216 秒,英偉達(dá) RTX 4090 顯卡處理時間需要 186 秒。

而具有 76 個 GPU 的 M2 Ultra 和具有 40 個 GPU 的 M3 Max 處理性能更為優(yōu)秀,分別為 95 秒和 100 秒。

此外蘋果 Apple Silicon 芯片功耗也更為優(yōu)秀。英偉達(dá) RTX 4090 在運(yùn)行狀態(tài)下,比閑置狀態(tài)下高出 242W。

而配備 M1 Pro 芯片在運(yùn)行狀態(tài)下,僅比閑置狀態(tài)下高出 38W。

IT之家此前報道,MLX 框架特點(diǎn)如下:

  • 熟悉的 API:Python 和 C++ API 具有熟悉的框架,如 NumPy 和 PyTorch,使經(jīng)驗豐富的研究人員易于學(xué)習(xí)。

  • 輕松高效:MLX 使用可組合的功能轉(zhuǎn)換來優(yōu)化 Apple Silicon 的性能。

  • 延遲計算:能夠防止不必要的計算并提高資源效率。

  • 動態(tài)設(shè)計:能夠適應(yīng)輸入形狀變化,簡化了調(diào)試和測試過程。

  • 軟硬結(jié)合:MLX 無縫利用蘋果設(shè)備的 CPU 和 GPU,確保用戶能夠充分利用硬件。

  • 統(tǒng)一內(nèi)存優(yōu)勢: MLX 利用蘋果統(tǒng)一內(nèi)存,能夠進(jìn)一步加強(qiáng)數(shù)據(jù)移動速度

  • 研究人員友好:MLX 專為研究人員設(shè)計。

相關(guān)閱讀:

蘋果推出 MLX 深度學(xué)習(xí)框架:專為 Apple Silicon 優(yōu)化,可實(shí)現(xiàn)“軟硬結(jié)合”

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:蘋果,AI,模型,MLX

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知