小紅書(shū):有黑灰產(chǎn)團(tuán)伙用 AIGC 大模型批量生成同質(zhì)化素材,嚴(yán)重?cái)_亂社區(qū)生態(tài)

2025/2/19 8:46:02 來(lái)源:IT之家 作者:清源 責(zé)編:清源

IT之家 2 月 19 日消息,小紅書(shū)“薯管家”昨日發(fā)布“小紅書(shū)黑灰產(chǎn)賬號(hào)治理階段進(jìn)展公告(六)”并透露,截至今年 2 月 17 日,小紅書(shū)“黑灰產(chǎn)賬號(hào)”治理專(zhuān)項(xiàng)團(tuán)隊(duì)在 3 個(gè)月間共處置賬號(hào) 3208343 個(gè),其中 10 萬(wàn)粉以上賬號(hào) 401 個(gè),1 萬(wàn)粉以上賬號(hào) 9215 個(gè)。

據(jù)介紹,黑灰產(chǎn)賬號(hào)治理可分為兩大重點(diǎn)打擊領(lǐng)域。

  • 打擊黑灰產(chǎn)養(yǎng)號(hào):黑灰產(chǎn)團(tuán)伙先通過(guò)常見(jiàn)手段養(yǎng)號(hào),如批量發(fā)布同質(zhì)化影視綜二創(chuàng)視頻,把號(hào)養(yǎng)到高粉;隨后,黑灰產(chǎn)團(tuán)伙通過(guò)售賣(mài)賬號(hào)或發(fā)布虛假營(yíng)銷(xiāo)內(nèi)容進(jìn)行變現(xiàn)。過(guò)去三個(gè)月,治理團(tuán)隊(duì)共處置黑灰產(chǎn)養(yǎng)號(hào)超過(guò) 100 萬(wàn)個(gè)。近期,真人養(yǎng)號(hào)因其隱蔽性成為當(dāng)前治理重點(diǎn),黑灰產(chǎn)團(tuán)伙利用 AIGC 大模型批量生成同質(zhì)化素材,或采取熱點(diǎn)跟風(fēng)手段,通過(guò)超大規(guī)模矩陣養(yǎng)號(hào),嚴(yán)重?cái)_亂社區(qū)生態(tài)。

  • 打擊黑灰產(chǎn)惡意營(yíng)銷(xiāo):黑灰產(chǎn)團(tuán)伙會(huì)利用賬號(hào)兜售灰色 / 違法商品或服務(wù)。比如,提供“逾期協(xié)商”服務(wù)(幫助債務(wù)人不正當(dāng)逃避債務(wù)),或給用戶(hù)提供偽科學(xué)的“占卜玄學(xué)”服務(wù)。此外,黑灰產(chǎn)團(tuán)伙還會(huì)通過(guò)同質(zhì)化惡意營(yíng)銷(xiāo)矩陣方式,在多個(gè)行業(yè)和領(lǐng)域進(jìn)行違規(guī)營(yíng)銷(xiāo),動(dòng)輒組織數(shù)千黑灰產(chǎn)賬號(hào),發(fā)布虛假、低質(zhì)、惡意拉踩、惡意導(dǎo)流的營(yíng)銷(xiāo)內(nèi)容。例如,在旅游和教育行業(yè),打造“素人人設(shè)”鋪設(shè)矩陣號(hào);在創(chuàng)業(yè)領(lǐng)域,通過(guò)發(fā)布虛假內(nèi)容引導(dǎo)用戶(hù)購(gòu)課,并鋪設(shè)了大量矩陣號(hào)提供類(lèi)似服務(wù)。

據(jù)IT之家此前報(bào)道,小紅書(shū)去年 11 月宣布在接下來(lái)兩個(gè)月全面展開(kāi)對(duì)黑灰產(chǎn)賬號(hào)治理工作,主要針對(duì)“橫向評(píng)測(cè)黑灰產(chǎn)水軍”、“黑灰產(chǎn)賬號(hào)矩陣”進(jìn)行嚴(yán)厲打擊。該治理專(zhuān)項(xiàng)負(fù)責(zé)人表示,這將是小紅書(shū)史上最嚴(yán)黑灰產(chǎn)賬號(hào)治理行動(dòng)。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:小紅書(shū),人工智能

軟媒旗下網(wǎng)站: IT之家 最會(huì)買(mǎi) - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買(mǎi) 要知