IT之家 3 月 7 日消息，AMD 公司今天發(fā)布公告，表示用戶可以本地化運(yùn)行基于 GPT 的大語(yǔ)言模型（LLM），從而構(gòu)建專屬的 AI 聊天機(jī)器人。
AMD 表示用戶可以在包括采用 AMD 新 XDNA NPU 的 Ryzen 7000 和 Ryzen 8000 系列 APU，以及內(nèi)置 AI 加速核心的 Radeon RX 7000 系列 GPU 設(shè)備上，本地運(yùn)行 LLM 和 AI 聊天機(jī)器人。
AMD 在公告中詳細(xì)介紹了運(yùn)行步驟，例如運(yùn)行 70 億參數(shù)的 Mistral，搜索并下載“TheBloke / OpenHermes-2.5-Mistral-7B-GGUF”；如果運(yùn)行 70 億參數(shù)的 LLAMA v2，搜索并下載“TheBloke / Llama-2-7B-Chat-GGUF”。
AMD 并不是第一個(gè)這樣做的公司，英偉達(dá)（NVIDIA）最近也推出了 "Chat with RTX"，這是一個(gè)由 GeForce RTX 40 和 RTX 30 系列 GPU 支持的人工智能聊天機(jī)器人。它采用 TensorRT-LLM 功能集進(jìn)行加速，基于本地化數(shù)據(jù)集提供快速生成的人工智能結(jié)果。
IT之家附上公告原文地址，感興趣的用戶可以訪問(wèn)閱讀。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。