IT之家 12 月 25 日消息，英國衛(wèi)報昨日（12 月 24 日）發(fā)布博文，報道稱 OpenAI 的 ChatGPT 搜索存在安全問題，其返回結(jié)果可以被頁面的隱藏內(nèi)容操縱，甚至可能返回惡意代碼。
英國衛(wèi)報重點測試了 ChatGPT 搜索工具對包含隱藏內(nèi)容的網(wǎng)頁處理情況，IT之家注：這里的隱藏內(nèi)容可能包含來自第三方、可以更改 ChatGPT 響應(yīng)的指令（也稱為“提示注入”），以及填充大量虛假好評，影響生成結(jié)果的內(nèi)容。
根據(jù)測試結(jié)果，ChatGPT 搜索工具可以被惡意使用，盡管頁面存在部分負(fù)面評論，但可以影響 ChatGPT 結(jié)果為積極的正面評估，安全研究人員還發(fā)現(xiàn) ChatGPT 可以從其搜索的網(wǎng)站返回惡意代碼，出現(xiàn)了含有釣魚惡意行為的虛假網(wǎng)站。
CyberCX 的網(wǎng)絡(luò)安全研究員 Jacob Larsen 認(rèn)為，ChatGPT 當(dāng)前的搜索系統(tǒng)發(fā)布后，人們創(chuàng)建專門用于欺騙用戶的網(wǎng)站的風(fēng)險很高，所幸的是該功能仍處于測試階段，OpenAI 團(tuán)隊正在努力解決這些問題。
安全公司 SR Labs 的首席科學(xué)家 Karsten Nohl 則建議將 AI 聊天服務(wù)視為“輔助功能”，不應(yīng)完全信任其未經(jīng)過濾的輸出內(nèi)容。
Nohl 將 AI 搜索面臨的問題比作“SEO 中毒”，黑客利用這種技術(shù)操縱網(wǎng)站在搜索結(jié)果中排名靠前，并在網(wǎng)站中植入惡意軟件或代碼，他認(rèn)為 ChatGPT 的搜索功能也面臨類似的挑戰(zhàn)。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。