IT之家 8 月 7 日消息，近日有網(wǎng)友在 macOS 15.1 測試版中發(fā)現(xiàn)了蘋果公司為 Apple Intelligence 的智能回復(fù)（Smart Reply）功能設(shè)置的一系列內(nèi)部指令。這些指令以 JSON 文件的形式存在，詳細(xì)規(guī)定了該功能的工作流程。其中最引人注目的是，蘋果明確要求系統(tǒng)“不要編造事實(shí)，不要產(chǎn)生幻覺”。
據(jù)IT之家了解，智能回復(fù)是蘋果郵件應(yīng)用的一項(xiàng)功能，旨在通過分析郵件內(nèi)容自動生成可能的回復(fù)選項(xiàng)，這一功能的背后是蘋果自研的智能技術(shù)。然而，與其他生成式 AI 一樣，智能回復(fù)也面臨著“幻覺”問題，即系統(tǒng)可能會生成虛假或誤導(dǎo)性的信息。
為了防止這種情況發(fā)生，蘋果在系統(tǒng)內(nèi)部設(shè)置了嚴(yán)格的指令。根據(jù)泄露的指令，智能回復(fù)功能被要求僅提取郵件中明確提出的問題，并提供相應(yīng)的回答選項(xiàng)。這一做法有助于減少 AI 在生成回復(fù)時(shí)的錯誤。
雖然蘋果明確要求 AI 不要編造信息，但業(yè)內(nèi)人士認(rèn)為，要完全消除“幻覺”問題仍然面臨挑戰(zhàn)。因?yàn)樯墒?AI 模型本質(zhì)上并不理解文本內(nèi)容，無法準(zhǔn)確判斷信息的真?zhèn)巍?/p>
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。