設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

蘋果牌“AI”官方詳解:Apple Intelligence 本地 30 億參數(shù)模型,云端基于蘋果芯片服務(wù)器

2024/6/12 13:42:06 來(lái)源:IT之家 作者:汪淼 責(zé)編:汪淼
感謝IT之家網(wǎng)友 Apllo、前Apple用戶 的線索投遞!

IT之家 6 月 12 日消息,蘋果在昨日的 WWDC24 上重磅公布了 Apple Intelligence(蘋果智能),將為 iPhone、Mac 等設(shè)備引入一系列 AI 功能。

隨后,蘋果機(jī)器學(xué)習(xí)官網(wǎng)公布了 Apple Intelligence 的詳細(xì)信息。據(jù)蘋果官方介紹,Apple Intelligence 擁有兩個(gè)基礎(chǔ)模型:

  • 本地模型:設(shè)備上約 30 億參數(shù)的語(yǔ)言模型,測(cè)試得分高于諸多 70 億參數(shù)的開源模型(Mistral-7B 或 Gemma-7B);

  • 云上模型:可通過(guò)私有云計(jì)算并在 Apple 芯片服務(wù)器上運(yùn)行的更大云端語(yǔ)言模型。

蘋果表示,Apple Intelligence 由多個(gè)高性能生成模型組成,這些模型專門針對(duì)用戶的日常任務(wù),并且可以動(dòng)態(tài)適應(yīng)他們當(dāng)前的活動(dòng)。Apple Intelligence 中內(nèi)置的基礎(chǔ)模型針對(duì)用戶體驗(yàn)進(jìn)行了微調(diào),例如編寫和精煉文本、對(duì)通知進(jìn)行優(yōu)先級(jí)排序和總結(jié)、為用戶與家人和朋友的對(duì)話創(chuàng)建有趣圖像,以及采取應(yīng)用內(nèi)操作來(lái)簡(jiǎn)化應(yīng)用之間的交互。

在預(yù)訓(xùn)練方面,蘋果的基礎(chǔ)模型在 AXLearn 框架上進(jìn)行訓(xùn)練,這是蘋果于 2023 年發(fā)布的開源項(xiàng)目。它構(gòu)建在 JAX 和 XLA 之上,使蘋果能夠在各種訓(xùn)練硬件和云平臺(tái)上可擴(kuò)展地訓(xùn)練模型,包括 TPU 以及云和本地 GPU。

IT之家注意到,蘋果承諾在訓(xùn)練基礎(chǔ)模型時(shí),該公司從不使用用戶的私人個(gè)人數(shù)據(jù)或用戶交互,并且會(huì)使用過(guò)濾器來(lái)刪除互聯(lián)網(wǎng)上公開的個(gè)人身份信息,例如社會(huì)保障和信用卡號(hào)碼。蘋果還過(guò)濾了臟話和其他低質(zhì)量?jī)?nèi)容,以防止其包含在訓(xùn)練語(yǔ)料庫(kù)中。除了過(guò)濾之外,蘋果還執(zhí)行數(shù)據(jù)提取、重復(fù)數(shù)據(jù)刪除以及應(yīng)用基于模型的分類器來(lái)識(shí)別高質(zhì)量文檔。

在優(yōu)化方面,蘋果在設(shè)備端模型和服務(wù)器端模型都使用了 grouped-query-attention,設(shè)備上模型使用 49K 的詞匯大小,而服務(wù)器模型使用 100K 的詞匯大小,其中包括額外的語(yǔ)言和技術(shù)標(biāo)記。

通過(guò)優(yōu)化,蘋果號(hào)稱在 iPhone 15 Pro 上,能夠?qū)崿F(xiàn)每個(gè) prompt token 約 0.6 毫秒的首次 token 延遲,以及每秒 30 個(gè) token 的生成速率。

在指令跟蹤評(píng)估(IFEval)測(cè)試中,蘋果本地模型性能優(yōu)于包括 Phi-3-mini、Mistral-7B 和 Gemma-7B 等模型,且與 DBRX-Instruct、Mixtral-8x22B 和 GPT-3.5-Turbo 相比毫不遜色;而云上模型水平基本與 GPT-4-Turbo 持平。

蘋果計(jì)劃在今年夏天推出的 iOS 18、iPadOS 18 和 macOS Sequoia 測(cè)試版中,開放 Apple Intelligence,然后會(huì)以測(cè)試版的形式,于今年秋季向公眾開放,但部分功能、更多語(yǔ)言和平臺(tái)支持需要等到明年。

Apple Intelligence 可以免費(fèi)使用,但僅限于配備 A17 Pro 芯片或任何 M 系列芯片的設(shè)備。這意味著要使用這些功能,你需要一部 iPhone 15 Pro 或 iPhone 15 Pro Max,即將推出的 iPhone 16 系列也將支持 Apple Intelligence。

在 Mac 方面,你需要一臺(tái)配備 M1 或更高版本的 Mac,而對(duì)于 iPad,你需要一臺(tái)配備 M1 芯片或更高版本的 iPad Pro 或 iPad Air。

蘋果 WWDC24 開發(fā)者大會(huì)主題演講專題

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:蘋果AI,WWDC24,Apple Intelligence

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知