IT之家 12 月 5 日消息，安全公司 Lasso Security 日前發(fā)現(xiàn) AI 模型平臺(tái) Hugging Face 上存在 API 令牌漏洞，黑客可獲取微軟、谷歌、Meta 等公司的令牌，并能夠訪問(wèn)模型庫(kù)，污染訓(xùn)練數(shù)據(jù)或竊取、修改 AI 模型。
IT之家從安全公司報(bào)道中獲悉，由于平臺(tái)的令牌信息寫(xiě)死在 API 中，因此黑客可以直接從 Hugging Face 及 GitHub 的存儲(chǔ)庫(kù)（repository）獲得平臺(tái)上各模型分發(fā)者的 API 令牌（token），安全人員一共從上述平臺(tái)中找到 1681 個(gè)有效的令牌。
經(jīng)過(guò)一步分析資料，安全人員獲得了 723 家企業(yè)組織的帳號(hào)，其中包括 Meta、微軟、谷歌、VMware 及 Hugging Face 官方等。其中 655 個(gè)令牌具有寫(xiě)入權(quán)限，其中 77 個(gè)還能寫(xiě)入多個(gè)組織，令研究人員得以全權(quán)控制多家知名公司的模型庫(kù)，例如 Pythia 的 EleutherAI、Meta Llama 2、Bloom 的 BigScience Workshop。
安全公司警告，只要黑客成功控制這些模型庫(kù)，就能發(fā)動(dòng)多種攻擊。不限于最基本的竊取模型和數(shù)據(jù)集，或是污染模型本身，讓現(xiàn)有模型“夾帶私貨”，從而危害依賴這些基礎(chǔ)模型的應(yīng)用及公共設(shè)施。
此外，安全公司發(fā)現(xiàn)一個(gè) Hugging Face 此前宣布已停用的 org_api tokens 存在漏洞，安全人員稍微修改了代碼，就令這款 API “復(fù)活”，成功令研究人員下載平臺(tái)上多款不公開(kāi)的模型，包括微軟的私有模型。
目前安全公司已經(jīng)上報(bào)相關(guān)漏洞，而微軟、Meta、谷歌、VMware 等公司也紛紛撤銷(xiāo)了此前的 API 令牌及暴露的 token。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。