IT之家 3 月 4 日消息,自 2022 年底 ChatGPT 推出以來(lái),關(guān)于人工智能語(yǔ)言模型將如何廣泛影響世界的討論一直存在。如今,隨著一項(xiàng)由斯坦福大學(xué)牽頭的新研究的發(fā)布,這一圖景逐漸清晰。研究發(fā)現(xiàn),AI 語(yǔ)言模型目前已在多個(gè)行業(yè)中協(xié)助處理高達(dá)四分之一的專(zhuān)業(yè)溝通任務(wù),尤其是在美國(guó)教育水平較低的地區(qū),其影響尤為顯著。
研究人員在報(bào)告中指出:“我們的研究揭示了一個(gè)新的現(xiàn)實(shí),即企業(yè)、消費(fèi)者乃至國(guó)際組織在溝通中已大量依賴(lài)生成式 AI?!痹撗芯孔粉櫫藦?2022 年 1 月到 2024 年 9 月期間,不同行業(yè)中大型語(yǔ)言模型(LLM)的采用情況。研究數(shù)據(jù)集涵蓋了美國(guó)消費(fèi)者金融保護(hù)局(CFPB)收到的 687,241 份消費(fèi)者投訴、537,413 份企業(yè)新聞稿、3.043 億份工作招聘啟事以及 15,919 份聯(lián)合國(guó)新聞稿。
通過(guò)使用統(tǒng)計(jì)檢測(cè)系統(tǒng)追蹤詞匯使用模式,研究人員發(fā)現(xiàn),在此期間,約 18% 的金融消費(fèi)者投訴(其中阿肯色州的所有投訴中有 30%)顯示出 AI 協(xié)助的跡象;企業(yè)新聞稿中有 24%、工作招聘啟事中有 15% 以及聯(lián)合國(guó)新聞稿中有 14% 的內(nèi)容也顯示出 AI 的參與。
研究還發(fā)現(xiàn),盡管城市地區(qū)的 AI 采用率總體較高(18.2%),但教育水平較低的地區(qū)使用 AI 寫(xiě)作工具的頻率更高(19.9%),高于教育水平較高的地區(qū)(17.4%)。這一現(xiàn)象與通常的技術(shù)采用模式相悖,通常情況下,受教育程度較高的人群會(huì)更快地采用新技術(shù)。
“在消費(fèi)者投訴領(lǐng)域,LLM 采用的地理和人口統(tǒng)計(jì)模式呈現(xiàn)出與歷史技術(shù)擴(kuò)散趨勢(shì)截然不同的特點(diǎn)。以往,技術(shù)采用通常集中在城市地區(qū)、高收入群體和受教育程度較高的人群中?!毖芯咳藛T指出。
研究人員指出,AI 寫(xiě)作工具可能為那些教育經(jīng)驗(yàn)較少的人群提供了一種“助力”。他們寫(xiě)道:“盡管城鄉(xiāng)數(shù)字鴻溝似乎仍然存在,但我們發(fā)現(xiàn)教育水平較低的地區(qū)在消費(fèi)者投訴中顯示出略高的 LLM 采用率,這表明這些工具可能成為消費(fèi)者維權(quán)中的‘平等化工具’。”
此前,AI 寫(xiě)作檢測(cè)服務(wù)的可靠性一直備受質(zhì)疑,而這項(xiàng)研究也證實(shí)了這一觀點(diǎn)。在單個(gè)文檔層面,AI 檢測(cè)器并不可靠,但在分析數(shù)百萬(wàn)份文檔的整體數(shù)據(jù)時(shí),一些特征性模式開(kāi)始浮現(xiàn),這些模式暗示了 AI 語(yǔ)言模型對(duì)文本的影響。
研究人員基于之前發(fā)布的統(tǒng)計(jì)框架開(kāi)發(fā)了一種方法,分析 ChatGPT 發(fā)布前后詞匯頻率和語(yǔ)言模式的變化。通過(guò)比較 ChatGPT 發(fā)布前后的大量文本,研究人員估算出人口層面上 AI 輔助內(nèi)容的比例。其假設(shè)是,大型語(yǔ)言模型傾向于選擇某些特定的詞匯、句式結(jié)構(gòu)和語(yǔ)言模式,這些模式與典型的人類(lèi)寫(xiě)作存在細(xì)微差異。
為了驗(yàn)證這種方法的可靠性,研究人員創(chuàng)建了已知 AI 內(nèi)容比例(從 0% 到 25%)的測(cè)試集,并發(fā)現(xiàn)其方法預(yù)測(cè)這些比例的誤差率低于 3.3%。這種統(tǒng)計(jì)驗(yàn)證使他們對(duì)自己的人口層面估算充滿(mǎn)信心。
IT之家注意到,盡管研究人員特別指出,他們的估算可能僅代表 AI 使用的最低水平,但實(shí)際的 AI 參與程度可能要高得多。由于難以檢測(cè)經(jīng)過(guò)大量編輯或由越來(lái)越復(fù)雜的 AI 生成的內(nèi)容,研究人員表示,他們報(bào)告的采用率可能大幅低估了生成式 AI 的真實(shí)使用水平。
根據(jù)研究人員的說(shuō)法,他們分析的所有領(lǐng)域(消費(fèi)者投訴、企業(yè)溝通、工作招聘啟事)都顯示出類(lèi)似的采用模式:在 ChatGPT 于 2022 年 11 月推出后的三到四個(gè)月開(kāi)始,采用率急劇上升,隨后在 2023 年底趨于穩(wěn)定。
研究人員承認(rèn),由于研究主要關(guān)注英語(yǔ)內(nèi)容,分析存在一定局限性。此外,如前所述,他們發(fā)現(xiàn)無(wú)法可靠地檢測(cè)經(jīng)過(guò)人工編輯的 AI 生成文本或由更新模型生成的模仿人類(lèi)寫(xiě)作風(fēng)格的文本。因此,研究人員認(rèn)為他們的研究結(jié)果僅代表實(shí)際 AI 寫(xiě)作工具采用率的下限。
研究人員指出,2024 年 AI 寫(xiě)作采用率的停滯可能反映了市場(chǎng)飽和或越來(lái)越復(fù)雜的 LLM 生成的文本能夠逃避檢測(cè)方法。他們總結(jié)道,如今我們生活在一個(gè)人類(lèi)寫(xiě)作與 AI 寫(xiě)作越來(lái)越難以區(qū)分的世界,這對(duì)社會(huì)溝通產(chǎn)生了深遠(yuǎn)影響。
“對(duì) AI 生成內(nèi)容的日益依賴(lài)可能會(huì)給溝通帶來(lái)挑戰(zhàn)?!毖芯咳藛T寫(xiě)道,“在敏感領(lǐng)域,過(guò)度依賴(lài) AI 可能導(dǎo)致信息無(wú)法解決實(shí)際問(wèn)題,或在對(duì)外發(fā)布時(shí)降低信息的可信度。過(guò)度依賴(lài) AI 還可能引發(fā)公眾對(duì)企業(yè)信息真實(shí)性的不信任?!?/p>
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。