IT之家 12 月 30 日消息，據(jù)英國(guó)《衛(wèi)報(bào)》今日?qǐng)?bào)道，劍橋大學(xué)的一項(xiàng)研究警告稱，人工智能 (AI) 技術(shù)可能被用來(lái)操控在線用戶的選擇 —— 從購(gòu)買商品到投票決定。
研究指出，一個(gè)名為“意圖經(jīng)濟(jì)”的新興市場(chǎng)正在成形。在這一市場(chǎng)中，AI 助手不僅可以分析和預(yù)測(cè)用戶意圖，還能操控這些意圖，并將相關(guān)數(shù)據(jù)出售給希望獲利的公司。
劍橋大學(xué)萊弗休姆未來(lái)智能研究中心 (LCFI) 的研究人員將“意圖經(jīng)濟(jì)”視為取代“注意力經(jīng)濟(jì)”的下一階段發(fā)展。
IT之家注：“注意力經(jīng)濟(jì)”通過(guò)社交平臺(tái)吸引用戶注意力并推送廣告，而“意圖經(jīng)濟(jì)”則更加深入，直接針對(duì)用戶的動(dòng)機(jī)和決策過(guò)程。
科技公司可以利用 AI 技術(shù)分析用戶的需求，并將這些信息拍賣給出價(jià)最高的廣告商?！伴L(zhǎng)期以來(lái)，注意力一直是互聯(lián)網(wǎng)的核心貨幣。”LCFI 技術(shù)史學(xué)家喬尼?潘恩博士指出，“社交媒體平臺(tái)通過(guò)吸引用戶注意力驅(qū)動(dòng)經(jīng)濟(jì)增長(zhǎng)。然而，意圖經(jīng)濟(jì)若缺乏監(jiān)管，將把用戶的動(dòng)機(jī)變成新的交易籌碼，導(dǎo)致對(duì)用戶意圖的爭(zhēng)奪戰(zhàn)?！?/p>
研究進(jìn)一步分析，大型語(yǔ)言模型可以實(shí)時(shí)分析用戶行為和心理數(shù)據(jù)，預(yù)測(cè)并引導(dǎo)其決策過(guò)程。例如，AI 助手可能會(huì)主動(dòng)詢問(wèn)用戶是否要觀看某部電影或幫助安排娛樂(lè)活動(dòng)，從而影響用戶的選擇。
這種 AI 技術(shù)還能根據(jù)用戶的行為軌跡和心理特征動(dòng)態(tài)調(diào)整建議。研究警示，這可能導(dǎo)致 AI 工具被用于操控對(duì)話，以實(shí)現(xiàn)廣告商或第三方的商業(yè)目標(biāo)。
報(bào)告特別指出，科技公司已經(jīng)在利用 AI 推動(dòng)定制化廣告。例如，Meta 公司開(kāi)發(fā)的 Cicero 模型表現(xiàn)出在推測(cè)和引導(dǎo)人類意圖方面的“類人水平”。
AI 模型甚至能夠在對(duì)話中推測(cè)用戶信息，并利用交流內(nèi)容進(jìn)一步挖掘個(gè)人數(shù)據(jù)。這可能引發(fā)隱私保護(hù)和倫理方面的擔(dān)憂。
研究表明，大語(yǔ)言模型可以低成本地利用用戶的說(shuō)話風(fēng)格、立場(chǎng)、年齡、性別、對(duì)奉承的偏好等等，結(jié)合經(jīng)紀(jì)人的出價(jià)，最大限度地實(shí)現(xiàn)既定目標(biāo)（如銷售電影票）。在這個(gè)世界里，AI 模型將引導(dǎo)對(duì)話，為廣告商、企業(yè)和其他第三方服務(wù)。
研究進(jìn)一步預(yù)測(cè)，未來(lái)廣告商可能競(jìng)拍用戶的預(yù)訂意圖，如餐廳或酒店預(yù)訂。而 AI 技術(shù)將使這一過(guò)程更加精確、高效和個(gè)性化，顯著提升商業(yè)化程度。
研究還援引 Meta Cicero 團(tuán)隊(duì)的警告稱：“ AI 系統(tǒng)可能會(huì)通過(guò)對(duì)話巧妙地引導(dǎo)用戶，以實(shí)現(xiàn)特定目標(biāo)?！?/p>
英偉達(dá)首席執(zhí)行官黃仁勛曾表示，未來(lái)的 AI 模型將理解用戶需求，并根據(jù)情境提供最合適的信息。這表明，AI 技術(shù)在預(yù)測(cè)和影響用戶決策方面的潛力不容忽視。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。