IT之家 3 月 4 日消息，自 2022 年底 ChatGPT 推出以來(lái)，關(guān)于人工智能語(yǔ)言模型將如何廣泛影響世界的討論一直存在。如今，隨著一項(xiàng)由斯坦福大學(xué)牽頭的新研究的發(fā)布，這一圖景逐漸清晰。研究發(fā)現(xiàn)，AI 語(yǔ)言模型目前已在多個(gè)行業(yè)中協(xié)助處理高達(dá)四分之一的專(zhuān)業(yè)溝通任務(wù)，尤其是在美國(guó)教育水平較低的地區(qū)，其影響尤為顯著。
研究人員在報(bào)告中指出：“我們的研究揭示了一個(gè)新的現(xiàn)實(shí)，即企業(yè)、消費(fèi)者乃至國(guó)際組織在溝通中已大量依賴(lài)生成式 AI?！痹撗芯孔粉櫫藦?2022 年 1 月到 2024 年 9 月期間，不同行業(yè)中大型語(yǔ)言模型（LLM）的采用情況。研究數(shù)據(jù)集涵蓋了美國(guó)消費(fèi)者金融保護(hù)局（CFPB）收到的 687,241 份消費(fèi)者投訴、537,413 份企業(yè)新聞稿、3.043 億份工作招聘啟事以及 15,919 份聯(lián)合國(guó)新聞稿。
通過(guò)使用統(tǒng)計(jì)檢測(cè)系統(tǒng)追蹤詞匯使用模式，研究人員發(fā)現(xiàn)，在此期間，約 18% 的金融消費(fèi)者投訴（其中阿肯色州的所有投訴中有 30%）顯示出 AI 協(xié)助的跡象；企業(yè)新聞稿中有 24%、工作招聘啟事中有 15% 以及聯(lián)合國(guó)新聞稿中有 14% 的內(nèi)容也顯示出 AI 的參與。
研究還發(fā)現(xiàn)，盡管城市地區(qū)的 AI 采用率總體較高（18.2%），但教育水平較低的地區(qū)使用 AI 寫(xiě)作工具的頻率更高（19.9%），高于教育水平較高的地區(qū)（17.4%）。這一現(xiàn)象與通常的技術(shù)采用模式相悖，通常情況下，受教育程度較高的人群會(huì)更快地采用新技術(shù)。
“在消費(fèi)者投訴領(lǐng)域，LLM 采用的地理和人口統(tǒng)計(jì)模式呈現(xiàn)出與歷史技術(shù)擴(kuò)散趨勢(shì)截然不同的特點(diǎn)。以往，技術(shù)采用通常集中在城市地區(qū)、高收入群體和受教育程度較高的人群中?！毖芯咳藛T指出。
研究人員指出，AI 寫(xiě)作工具可能為那些教育經(jīng)驗(yàn)較少的人群提供了一種“助力”。他們寫(xiě)道：“盡管城鄉(xiāng)數(shù)字鴻溝似乎仍然存在，但我們發(fā)現(xiàn)教育水平較低的地區(qū)在消費(fèi)者投訴中顯示出略高的 LLM 采用率，這表明這些工具可能成為消費(fèi)者維權(quán)中的‘平等化工具’。”
此前，AI 寫(xiě)作檢測(cè)服務(wù)的可靠性一直備受質(zhì)疑，而這項(xiàng)研究也證實(shí)了這一觀點(diǎn)。在單個(gè)文檔層面，AI 檢測(cè)器并不可靠，但在分析數(shù)百萬(wàn)份文檔的整體數(shù)據(jù)時(shí)，一些特征性模式開(kāi)始浮現(xiàn)，這些模式暗示了 AI 語(yǔ)言模型對(duì)文本的影響。
研究人員基于之前發(fā)布的統(tǒng)計(jì)框架開(kāi)發(fā)了一種方法，分析 ChatGPT 發(fā)布前后詞匯頻率和語(yǔ)言模式的變化。通過(guò)比較 ChatGPT 發(fā)布前后的大量文本，研究人員估算出人口層面上 AI 輔助內(nèi)容的比例。其假設(shè)是，大型語(yǔ)言模型傾向于選擇某些特定的詞匯、句式結(jié)構(gòu)和語(yǔ)言模式，這些模式與典型的人類(lèi)寫(xiě)作存在細(xì)微差異。
為了驗(yàn)證這種方法的可靠性，研究人員創(chuàng)建了已知 AI 內(nèi)容比例（從 0% 到 25%）的測(cè)試集，并發(fā)現(xiàn)其方法預(yù)測(cè)這些比例的誤差率低于 3.3%。這種統(tǒng)計(jì)驗(yàn)證使他們對(duì)自己的人口層面估算充滿(mǎn)信心。
IT之家注意到，盡管研究人員特別指出，他們的估算可能僅代表 AI 使用的最低水平，但實(shí)際的 AI 參與程度可能要高得多。由于難以檢測(cè)經(jīng)過(guò)大量編輯或由越來(lái)越復(fù)雜的 AI 生成的內(nèi)容，研究人員表示，他們報(bào)告的采用率可能大幅低估了生成式 AI 的真實(shí)使用水平。
根據(jù)研究人員的說(shuō)法，他們分析的所有領(lǐng)域（消費(fèi)者投訴、企業(yè)溝通、工作招聘啟事）都顯示出類(lèi)似的采用模式：在 ChatGPT 于 2022 年 11 月推出后的三到四個(gè)月開(kāi)始，采用率急劇上升，隨后在 2023 年底趨于穩(wěn)定。
研究人員承認(rèn)，由于研究主要關(guān)注英語(yǔ)內(nèi)容，分析存在一定局限性。此外，如前所述，他們發(fā)現(xiàn)無(wú)法可靠地檢測(cè)經(jīng)過(guò)人工編輯的 AI 生成文本或由更新模型生成的模仿人類(lèi)寫(xiě)作風(fēng)格的文本。因此，研究人員認(rèn)為他們的研究結(jié)果僅代表實(shí)際 AI 寫(xiě)作工具采用率的下限。
研究人員指出，2024 年 AI 寫(xiě)作采用率的停滯可能反映了市場(chǎng)飽和或越來(lái)越復(fù)雜的 LLM 生成的文本能夠逃避檢測(cè)方法。他們總結(jié)道，如今我們生活在一個(gè)人類(lèi)寫(xiě)作與 AI 寫(xiě)作越來(lái)越難以區(qū)分的世界，這對(duì)社會(huì)溝通產(chǎn)生了深遠(yuǎn)影響。
“對(duì) AI 生成內(nèi)容的日益依賴(lài)可能會(huì)給溝通帶來(lái)挑戰(zhàn)?！毖芯咳藛T寫(xiě)道，“在敏感領(lǐng)域，過(guò)度依賴(lài) AI 可能導(dǎo)致信息無(wú)法解決實(shí)際問(wèn)題，或在對(duì)外發(fā)布時(shí)降低信息的可信度。過(guò)度依賴(lài) AI 還可能引發(fā)公眾對(duì)企業(yè)信息真實(shí)性的不信任?！?/p>
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。