IT之家 7 月 8 日消息，近年來，人們在分辨真假信息方面遇到越來越多的挑戰(zhàn)，尤其是網(wǎng)絡(luò)上充斥大量的虛假新聞和夸大宣傳。研究表明，人類在判斷真假話方面表現(xiàn)得并不好。
據(jù)IT之家了解，傳統(tǒng)測謊手段，例如測謊儀，因其準(zhǔn)確性問題而飽受詬病。一些人認(rèn)為，人工智能 (AI) 可以幫助我們提高識別謊言的準(zhǔn)確率。未來的某一天，基于人工智能的測謊系統(tǒng)或許能幫助我們識別社交媒體上的虛假信息、評估網(wǎng)絡(luò)上的各種言論，甚至還能甄別求職者的簡歷和面試回答中的夸大之處。然而，問題在于我們是否會信任這些系統(tǒng)，以及它們是否值得信賴。
德國維爾茨堡大學(xué)經(jīng)濟(jì)學(xué)家 Alicia von Schenk 及其團(tuán)隊最近研發(fā)了一款人工智能測謊工具，該工具的準(zhǔn)確率明顯高于人類水平。他們進(jìn)行了相關(guān)實驗以探究人們?nèi)绾问褂眠@一工具，實驗結(jié)果顯示，使用該工具的人在識別謊言方面確實有所提升，但同時也會導(dǎo)致更多的人被懷疑說謊。
研究人員在發(fā)表于 iScience 期刊的論文中提到，他們讓參與者書寫周末計劃。其中一半的參與者被要求撒謊，并會因為說服人相信謊言而獲得少量金錢獎勵。研究共收集了來自 768 人的 1536 份陳述。
隨后，研究人員利用谷歌的人工智能語言模型 BERT，對其中 80% 的陳述進(jìn)行訓(xùn)練，以幫助算法區(qū)分真假話。測試結(jié)果表明，該工具能以 67% 的準(zhǔn)確率識別出剩余 20% 陳述的真?zhèn)?。相比之下，人類的平均?zhǔn)確率僅為 50% 左右。
為了解人們?nèi)绾谓柚斯ぶ悄芄ぞ咦R別謊言，von Schenk 團(tuán)隊又將另外 2040 名志愿者分成小組進(jìn)行了一系列測試。
其中一項測試顯示，當(dāng)人們可以選擇支付少量費用使用人工智能測謊工具并獲得獎勵時，只有三分之一的人會選擇使用該工具。von Schenk 推測，這可能是因為人們對這項技術(shù)持懷疑態(tài)度，或者高估了自己的識謊能力。
然而，選擇信任該工具的那三分之一人對其表現(xiàn)出了極大的依賴?！爱?dāng)人們主動選擇依賴這項技術(shù)時，他們幾乎都會遵循人工智能的預(yù)測…… 他們非常信任其判斷?！眝on Schenk 說。
這種依賴會影響我們的行為。通常情況下，人們傾向于相信他人說的是實話。這項研究也印證了這一點 —— 盡管參與者知道一半的陳述是謊言，但他們只標(biāo)記出其中的 19%。然而，當(dāng)人們選擇使用人工智能工具后，標(biāo)記為謊言的比例上升到了 58%。
在某種程度上，這或許是一件好事。此類工具可以幫助我們在日常生活中識別更多的謊言，例如社交媒體上的虛假信息。
但另一方面，這也會破壞信任，而信任是人類行為的基礎(chǔ)，有助于我們建立良好的人際關(guān)系。如果準(zhǔn)確的判斷建立在社會關(guān)系的惡化之上，那么這樣的準(zhǔn)確性還有價值嗎？
其次，準(zhǔn)確率問題也不容忽視。研究人員承認(rèn)，他們的目標(biāo)僅僅是讓 AI 比人類表現(xiàn)更好，但對于社交媒體內(nèi)容的真實性判定或求職者的簡歷審核等場景來說，僅僅“比人類強”可能還不夠，因為這會帶來更多的誤判和指控。
值得一提的是，傳統(tǒng)測謊手段也存在著缺陷。測謊儀旨在測量心率和其他生理喚醒指標(biāo)，因為人們曾認(rèn)為壓力是說謊者的特有生理反應(yīng)。但事實并非如此，這也是為什么測謊儀結(jié)果在美國法庭上通常不被采信的原因。
von Schenk 指出，由于人工智能測謊工具易于大規(guī)模應(yīng)用，其帶來的影響可能會更大。測謊儀每天只能檢測少數(shù)人，而人工智能測謊工具的應(yīng)用范圍幾乎是無限的。
“鑒于當(dāng)下充斥著大量虛假新聞和錯誤信息，此類技術(shù)的確有一定的益處，”von Schenk 說，“然而，我們確實需要對其進(jìn)行嚴(yán)格測試，以確保其遠(yuǎn)超人類的準(zhǔn)確率。如果人工智能測謊工具只會帶來大量的誤判，那么或許放棄使用才是更好的選擇。”
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。