IT之家 3 月 22 日消息，當(dāng)?shù)貢r(shí)間周四，AMD 宣布推出專為本地運(yùn)行大語(yǔ)言模型（LLM）設(shè)計(jì)的應(yīng)用 GAIA（發(fā)音為/?ɡa?.?/）并在 Github 開(kāi)源，目前僅限于 Windows 平臺(tái)。
GAIA 是一款生成式 AI 應(yīng)用，能夠在 Windows PC 上實(shí)現(xiàn)本地化私密運(yùn)行 LLM，并針對(duì)銳龍 AI 300 系列處理器進(jìn)行了優(yōu)化，標(biāo)志著 AMD 在邊緣計(jì)算領(lǐng)域的又一重要布局。
在 NPU 上運(yùn)行 GAIA 可提高 AI 特定任務(wù)的性能。從 Ryzen AI 軟件版本 1.3 開(kāi)始，混合支持部署同時(shí)使用 NPU 和核顯的量化 LLM。
其核心組件基于 ONNX TurnkeyML 的 Lemonade SDK 開(kāi)發(fā)，采用檢索增強(qiáng)生成（RAG）技術(shù)框架，通過(guò)本地向量索引實(shí)現(xiàn) YouTube、GitHub 等外部數(shù)據(jù)的實(shí)時(shí)檢索與分析。
系統(tǒng)工作流包含 LLM 連接器、LlamaIndex RAG 管道和代理 Web 服務(wù)器三大模塊，支持 Llama、Phi 等主流模型。功能模塊包含四大 AI 智能體：
Chaty：支持歷史對(duì)話的聊天機(jī)器人
Clip：YouTube 視頻搜索與問(wèn)答專家
Joker：具備幽默風(fēng)格的笑話生成器
Simple Prompt：模型直接交互測(cè)試工具
硬件方面，AMD 提供普通版與混合版兩種安裝方案。普通安裝包兼容任意 Windows PC（含非 AMD 硬件設(shè)備），通過(guò) Ollama 后端實(shí)現(xiàn)跨平臺(tái)支持。
混合安裝包專為配備銳龍 AI 300 系列處理器的設(shè)備進(jìn)行優(yōu)化，可智能分配 NPU 與集成顯卡的計(jì)算負(fù)載。AMD 表示，Ryzen AI 軟件自 1.3 版本起支持量化模型在 NPU 和集成顯卡間的混合部署。
隱私與性能優(yōu)勢(shì)方面：
本地化處理確保醫(yī)療、金融等敏感行業(yè)數(shù)據(jù)不出境
響應(yīng)延遲降低至毫秒級(jí)（相較云端方案縮短 40-60%）
NPU 專用架構(gòu)實(shí)現(xiàn)每瓦性能提升，支持離線環(huán)境運(yùn)行
該項(xiàng)目采用 MIT 開(kāi)源協(xié)議，代碼庫(kù)已在 GitHub 開(kāi)放。AMD 特別鼓勵(lì)開(kāi)發(fā)者貢獻(xiàn)自定義代理模塊，目前已有多個(gè)行業(yè)定制化代理處于開(kāi)發(fā)階段。
此外，盡管 GAIA 目前暫不支持 Linux / macOS 系統(tǒng)，但 AMD 官方文檔透露未來(lái)可能擴(kuò)展多平臺(tái)支持。
IT之家附 Github 地址：
https://github.com/amd/gaia
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。