圍繞著算法的爭議，從未停止過。2024 年，這個爭議被推至高潮。
推薦算法，興起于互聯(lián)網(wǎng)初期，近幾年已發(fā)展至應(yīng)用巔峰，也是早期阿里、字節(jié)等互聯(lián)網(wǎng)公司的重要增長引擎。
簡單來說，算法做的是數(shù)學(xué)題。一位不愿具名的內(nèi)容平臺技術(shù)負(fù)責(zé)人向鳳凰網(wǎng)科技表示，“優(yōu)秀的算法，往往得益于精密且循環(huán)往復(fù)的調(diào)參”。
打開購物平臺，你可以從數(shù)億的商品中迅速選出自己想要的那款；打開外賣軟件，平臺可以精準(zhǔn)為你匹配餐品和外賣騎手；打開短視頻 App，你可以準(zhǔn)確獲取感興趣、有價值的內(nèi)容，這一切的一切，都與推薦算法密不可分。
與技術(shù)從業(yè)者的關(guān)注點不同，普通人對算法的控訴，多集中于信息繭房、算法沒有價值觀、大數(shù)據(jù)殺熟等。
當(dāng)算法已與普通人的生活息息相關(guān)，也產(chǎn)生了一個更為致命的拷問，平臺會放縱算法無限向一個方向發(fā)展嗎？特別是，為了追求商業(yè)上的收益，會讓算法往失控的方向發(fā)展嗎？
多位在抖音、小紅書等平臺有過任職經(jīng)歷的相關(guān)從業(yè)者認(rèn)為，算法的“黑盒”在于，多數(shù)人所負(fù)責(zé)的只是“點”，很難有人能縱覽全貌，這讓處在“點”上的人，覺得算法就像一個黑盒。
前述技術(shù)負(fù)責(zé)人認(rèn)為，算法和背后的設(shè)計者之間一直有一個天平，而算法工程師負(fù)責(zé)把這個天平調(diào)節(jié)到最佳的位置?！敖^對不可能存在一直往某一個方向傾斜的情況，推薦是一個很復(fù)雜的事情，我們要把生態(tài)維持好，一定是多樣性平衡，而且我們會有非常多的手段去調(diào)控算法”。
針對算法的治理行動，這些年也從未停止。而新一輪的算法治理，目標(biāo)正是進(jìn)一步實現(xiàn)算法導(dǎo)向正確，算法公平公正，算法公開透明等。
現(xiàn)在，我們有必要打開這個黑盒。
推薦算法雖已不神秘，但各大平臺基于自身的資源建立的護(hù)城河，仍舊拉開了身位。在我們與各大互聯(lián)網(wǎng)公司的溝通中，不難發(fā)現(xiàn)一個默契的共識，在算法技術(shù)的推行以及生態(tài)的治理中，最受關(guān)注的公司仍舊是抖音。
為此，我們向抖音集團(tuán)副總裁李亮發(fā)出了對話邀約。
據(jù)李亮分享，抖音、頭條推薦算法的原理和行業(yè)相比并無特殊之處，不同的是每個平臺為算法定制的目標(biāo)，即更看重什么。抖音更為看重的指標(biāo)是用戶的長期留存。
其認(rèn)為，信息繭房一詞在推薦算法誕生前就已出現(xiàn)，從商業(yè)邏輯上來講，平臺沒有動力去制造所謂的“繭房”，也最有動力打破“信息繭房”。
由于算法作為一個“數(shù)學(xué)天才”，本身無法理解社會學(xué)、心理學(xué)、傳播學(xué)等多領(lǐng)域的現(xiàn)象，特別是在評論區(qū)，“一些爭議話題視頻下面經(jīng)常會有不同的觀點，甚至對罵，這些交互數(shù)據(jù)，包括評論、點贊、點踩、舉報等，會給算法一種交互很激烈、很熱鬧的信號，可能會讓視頻獲得更多流量”。
這自然是一種不健康的發(fā)展方向，抖音則會用內(nèi)容生態(tài)和運營的辦法，糾偏算法不合理的地方，降低不友善爭議流量的比例。
李亮也表明，利用不實信息、極端、對立言論博流量，是抖音持續(xù)打擊和治理的。他也相信，生態(tài)治理最終也將對平臺的健康發(fā)展有所助益。
以下為鳳凰網(wǎng)科技《浪潮》與李亮的對話，在不改變原意的情況下，經(jīng)編輯發(fā)布：
“抖音的算法并不神秘”
《浪潮》：對于科技和互聯(lián)網(wǎng)行業(yè)來說，算法是一項很關(guān)鍵的技術(shù)，尤其是推薦算法，你覺得它創(chuàng)造了哪些價值？
李亮：推薦算法是信息過載時代解決信息獲取效率的工具，如今已存在于人們衣食住行的方方面面。比如電商平臺是商品推薦，外賣平臺是商家推薦，OTA 平臺是民宿、酒店、機(jī)票推薦。
在視頻行業(yè)，算法把相關(guān)內(nèi)容推薦給可能感興趣的用戶，實現(xiàn)信息找人，信息在這個過程中得到高效率、更精準(zhǔn)的分發(fā)。當(dāng)信息連接到感興趣的人，就會產(chǎn)生更大效益，比如說今年史鐵生的《我與地壇》在抖音上翻紅，非常多 00 后的網(wǎng)友重讀史鐵生，也帶動這本書的銷量增長，而傳統(tǒng)書店將暢銷書擺放在更顯眼的位置，也是一種“推薦算法”。
推薦算法讓信息高效分發(fā)，給小眾內(nèi)容、普通人更多被看到的機(jī)會，促進(jìn)知識普惠，農(nóng)技精準(zhǔn)傳播，寶藏小店被發(fā)現(xiàn)，農(nóng)產(chǎn)品走出大山等等，都是推薦算法給各行各業(yè)帶來的價值。對用戶來說，推薦算法降低信息獲取成本，可以減少因瀏覽大量無效數(shù)據(jù)而造成的時間、精力浪費，拓展新的興趣。
《浪潮》：外界總說抖音的算法神秘，實際上是否如此？抖音采用的也是協(xié)同過濾這類經(jīng)典推薦算法嗎？還是已經(jīng)歷經(jīng)了幾番迭代，升級的重點是什么？
李亮：推薦系統(tǒng)是非常多算法和策略的集合，協(xié)同過濾是其中重要的一種，現(xiàn)在業(yè)界主流的推薦系統(tǒng)依然會采用協(xié)同過濾的技術(shù)思路，但在實現(xiàn)的細(xì)節(jié)上，例如如何利用協(xié)同數(shù)據(jù)做好向量表征的學(xué)習(xí)，如何把這種向量表征用在內(nèi)容推薦上，學(xué)界和業(yè)界一直在迭代。除了上述技術(shù)思路，我們也會應(yīng)用其他有效的算法，例如過去我們做過對視頻內(nèi)容本身進(jìn)行理解而進(jìn)行的推薦，現(xiàn)在學(xué)界業(yè)界也有很多基于大模型的推薦的嘗試。
總體上說，抖音推薦算法的原理和行業(yè)相比并無特殊之處，不同的是每個平臺為算法定制的目標(biāo)，即更看重什么。抖音真正的北極星指標(biāo)是用戶的長期留存，所謂北極星指標(biāo)，就是指引大方向的指標(biāo)。留存是一種“人數(shù)”上的概念，也就是我們希望有更多人使用抖音，更多人認(rèn)可抖音。長短期不僅僅是時間上的不同，在結(jié)果上也會有不一樣的導(dǎo)向，比如長期留存會更關(guān)注興趣探索、長期使用，而短期留存會更關(guān)注點贊、完播時長等目標(biāo)。
《浪潮》：普通人對于算法的爭議點還在于，目前平臺沒有主動給大家更多樣化的算法制度選擇，比如可以選擇按時間順序來排列，抖音是否考慮過更多樣化的算法模式，這背后有什么技術(shù)難點嗎？
李亮：我們所生活的社會處于信息過載狀態(tài)，任何一個體量還可以的內(nèi)容平臺，每天新增的內(nèi)容供給遠(yuǎn)遠(yuǎn)超過個人所能消費的，按時間順序排列不現(xiàn)實。目前抖音的算法中有興趣探索機(jī)制，幫助用戶探索等多元多樣的內(nèi)容，抖音也提供了關(guān)閉個性化推薦算法選項，推薦的內(nèi)容是非個性化的，是一種平臺大部分人喜歡的內(nèi)容推薦算法，而非個性化喜歡。
“平臺最有動力打破信息繭房”
《浪潮》：有人說信息繭房是因為人性本惰，不愿意思考，所以主動接受了算法投喂的信息，這才是思維固化的真相，你怎么看待這個觀點？
李亮：“信息繭房”這個詞在推薦算法成熟之前就出現(xiàn)了，算法不是“信息繭房”形成的先決因素。
現(xiàn)在普遍對“信息繭房”的擔(dān)心，其實是所謂的信息偏食，即信息來源單一。事實上，每個渠道分發(fā)信息都有局限性，比如公眾號關(guān)注列表來源于我們自己的喜好，過去門戶網(wǎng)站是根據(jù)編輯的價值判斷，朋友圈的信息則是被我們的好友關(guān)系過濾。只看公眾號，門戶或者朋友圈，都會陷入所謂的“繭房”。但實際上，大部分人都是看朋友圈，也看抖音，也看新聞客戶端，信息來源是很綜合的。
另外從商業(yè)邏輯上來講，平臺沒有動力去制造所謂的“繭房”，也最有動力打破“信息繭房”，業(yè)界和學(xué)界的研究都表明了多元化內(nèi)容有益于用戶的長期留存。
《浪潮》：抖音都做了哪些更具體的事情？
李亮：我們從幾方面來做這件事：
1）抖音的內(nèi)容分發(fā)機(jī)制并不只是推薦，還包括搜索、社交分享和熱點熱榜。這些分發(fā)機(jī)制都是非興趣推薦的。以熱榜為例，會展示當(dāng)天重要的新聞事件，在話題內(nèi)容會匯集事件的最新進(jìn)展，平衡不同的、理性的觀點，幫助用戶了解事件的全貌；
2）抖音加強(qiáng)了社交推薦的機(jī)制，用戶可以長按視頻，點擊“推薦”，這條視頻就會被分發(fā)給抖音內(nèi)的好友，并顯示是“xxx 推薦”，這種社交推薦是對興趣推薦的豐富和補(bǔ)充；
3）抖音的算法中有興趣探索機(jī)制，幫助用戶探索更多元內(nèi)容，例如某個用戶只表現(xiàn)出對音樂類視頻感興趣，平臺會通過算法挖掘和音樂相關(guān)的品類，試探性地為用戶推薦美術(shù)、舞蹈等類型的視頻，幫助用戶探索其他興趣點。另外，雖然用戶的興趣點是多元的，但是總是有大興趣點和小興趣點，在推薦時我們會給小興趣點更多的權(quán)重，避免總是給用戶推薦同一類型的內(nèi)容。
4）抖音會刻意做多樣化推薦，避免越推越密集。比如用戶對萌寵感興趣，簡單來說，在不考慮多樣性的情況下，這個用戶可能會被連續(xù)推薦 3 個寵物貓和 2 個其他內(nèi)容，在考慮多樣性情況下，用戶只會被推薦一個寵物貓視頻，增加內(nèi)容的多樣性。
5）用戶可以通過對內(nèi)容或者賬號點擊“不感興趣”，以及在內(nèi)容管理工具里面設(shè)置自己的內(nèi)容偏好來更好的優(yōu)化、掌控自己的推薦。
從人性上講，思考、學(xué)習(xí)、接受不同觀點，本身就是困難的，但用戶可以通過與算法的交互，優(yōu)化算法表現(xiàn)，讓算法成為我們工作和生活的幫手，比如對不感興趣的內(nèi)容多點“不感興趣”，有目的的主動搜索，用戶搜索的內(nèi)容對于推薦結(jié)果也會有較大影響。
《浪潮》：算法其實很難去理解情緒化的東西，比如很難理解什么是友善，可能會把對立、情緒化的內(nèi)容當(dāng)成是一種“友好互動”，進(jìn)而去進(jìn)行更多推薦分發(fā)，這個情況真實存在？
李亮：一些爭議話題視頻下面經(jīng)常會有不同的觀點，甚至對罵。如果單純根據(jù)互動數(shù)據(jù)做推薦會產(chǎn)生這類問題，是不健康的。所以抖音的推薦機(jī)制，會把這類問題考慮進(jìn)去，我們不希望不友善的討論內(nèi)容得到更多分發(fā)。綜合包括評論、點贊、點踩、舉報在內(nèi)的信號，降低不友善爭議流量的比例。
《浪潮》：這個糾偏過程具體是怎么操作的？
李亮：糾偏機(jī)制分幾個層面展開：第一層是對“不友善”言論的進(jìn)一步刻畫，把是否存在攻擊對立性表達(dá)作為評論審核的一個重要問題項，把對立性言論（嚴(yán)重的例如侮辱謾罵 / 仇恨性言論，中度的例如對立貶損，輕度的例如否定與指責(zé)）納入評論處置范疇。我們有相關(guān)數(shù)據(jù)統(tǒng)計，今年以來，相關(guān)的言論在社區(qū)獲得的曝光量已經(jīng)下降了 43%。
第二層是對整體對立性評論氛圍作為一個治理對象，當(dāng)評論區(qū)整體出現(xiàn)了多方對立情緒，多方觀點以不友善的表達(dá)方式爭執(zhí)不休時，我們會截停一部分的視頻流量。
第三層，在視頻層面，對于通過制造對立 / 放大負(fù)面情緒等方式博眼球的行為也有明確的管控，在視頻流量的上漲過程中，我們會為其設(shè)置多輪流量關(guān)卡，審核其是否“值得”這么多的流量，可以說，這背后是平臺運營為算法導(dǎo)航。
《浪潮》：所以“算法鼓勵憤怒”其實是一種不正確的說法？
李亮：這里可能包含了比較復(fù)雜的社會學(xué)、心理學(xué)、傳播學(xué)問題，比如極化現(xiàn)象、回聲室效果，學(xué)術(shù)界已經(jīng)有比較多的研究，比如就有研究發(fā)現(xiàn)用戶在社交媒體上接觸到對立觀點后，不但沒有反思、修正自己的觀點，反而讓他們變得更加極端、更加憤怒。
從平臺視角看，我們希望用戶有機(jī)會看到多樣的視頻和評論。但同時，我們會嘗試?yán)斫庖曨l和評論的“煽動性”，對于不實或引導(dǎo)用戶發(fā)表極端觀點的視頻，會限制流量的分發(fā)；對于煽動仇恨、對立的評論，也會限制評論的曝光；對于客觀理性表達(dá)的視頻 / 評論，才會得到正常的推薦分發(fā)和曝光。
“生態(tài)治理長期來看對平臺有助益”
《浪潮》：算法雖然是一個極其高明的“數(shù)學(xué)天才”，但在很多時候，算法都算計不過人心。我們也了解到非常多人會利用算法的這些特點，以致于滋生灰黑產(chǎn)。你之前介紹過很多次某營銷號案例，這是目前抖音在算法治理方面遇到的最經(jīng)典問題之一嗎，這個問題是從什么時候開始爆發(fā)的？
李亮：是的。算法通?；谠O(shè)定的規(guī)則、數(shù)據(jù)和模型來運行。它能快速處理海量的數(shù)據(jù)和復(fù)雜的模式識別。然而類似百準(zhǔn)數(shù)據(jù)潘某某的營銷號往往會利用一些狡猾的手段來創(chuàng)作內(nèi)容。比如，營銷號可能會使用表面看起來正常，但實際上帶有誤導(dǎo)性的標(biāo)題、文案和發(fā)布策略，迎合算法對熱度、關(guān)鍵詞、用戶興趣等因素的偏好，通過制造虛假的熱度，如刷贊、刷評論或者是在內(nèi)容中故意夾雜一些容易引起算法關(guān)注但內(nèi)容不實的信息。這種情況下，算法最初可能會因為這些營銷號的行為符合部分規(guī)則而給予一定的推薦，從而可能導(dǎo)致誤判。
營銷號問題在互聯(lián)網(wǎng)上長期存在。這類賬號一方面編造虛假信息，如炮制明星緋聞，致使不實消息泛濫；另一方面過度營銷，推送劣質(zhì)廣告，惡意刷量以博眼球。這不僅破壞了用戶的優(yōu)質(zhì)體驗，也侵蝕平臺內(nèi)容生態(tài)，攪亂信息傳播秩序，讓平臺健康環(huán)境面臨挑戰(zhàn)。利用不實信息、極端、對立言論博流量，是抖音持續(xù)打擊和治理的。
《浪潮》：營銷號的治理牽扯的問題是什么？
李亮：首先我們明確打擊不實信息，嚴(yán)格封禁反復(fù)發(fā)布不實內(nèi)容的賬號。治理不實言論涉及多方面復(fù)雜因素，是一個長期工作，保障各方權(quán)益與平臺健康發(fā)展，也主要涉及一些考量：
其一，證據(jù)收集不易。封禁營銷號需充分證據(jù)證明其不實，遵循確定信息源、核實真實性并留存記錄等嚴(yán)格程序，證據(jù)不足直接封禁易引發(fā)法律糾紛，賬號所有者可能以平臺違反服務(wù)合同、侵犯用戶權(quán)益、造成經(jīng)濟(jì)損失等理由起訴。
其二，我們會根據(jù)情節(jié)情況分級進(jìn)行治理。區(qū)分炮制謠言和無意識傳播，區(qū)分信息的危害程度，做出相應(yīng)的管理。
《浪潮》：但是營銷號的不實言論長期困擾著一些企業(yè)和個人，我們之前也聽到過一些聲音，覺得在抖音投訴這些營銷號沒有專人對接，一般情況下都是走平臺化的投訴通道，這是不是因為抖音在相關(guān)問題的治理上有一套自己的流程方法？
李亮：關(guān)于是否專人對接的問題，我們認(rèn)為核心還是不實內(nèi)容能得到有效、及時的處理。
抖音對平臺不實信息，首選會做主動的發(fā)現(xiàn)和治理。針對不實信息，尤其是社會信息，專業(yè)知識等影響較大的內(nèi)容，會通過站內(nèi)挖掘，站外監(jiān)控，風(fēng)險互通等渠道，主動進(jìn)行不實信息的線索發(fā)現(xiàn)，由專門搭建的相關(guān)專業(yè)團(tuán)隊進(jìn)行內(nèi)容研判，對明確的不實信息錄入不實信息庫，發(fā)起回查和其他處置干預(yù)。依托這樣的信息庫算法能力，目前我們會對站內(nèi)疑似的高風(fēng)險不實信息進(jìn)行召回和人工識別等進(jìn)一步判斷，在明確為不實信息后，會對新增和存量內(nèi)容都做處置。
同時我們還在積極發(fā)現(xiàn)其他虛假不實類內(nèi)容的特征，比如同質(zhì)化批量發(fā)布“一眼假”的內(nèi)容，針對這些內(nèi)容特征構(gòu)建算法能力，進(jìn)行風(fēng)險發(fā)現(xiàn)，從而提升對虛假不實類內(nèi)容的治理能力。
抖音對于不實言論主要采用平臺化的投訴處理流程，包括投訴受理、初步核實、深入調(diào)查（如有必要）、處理決策與執(zhí)行、反饋與監(jiān)督等環(huán)節(jié)。
抖音平臺上有海量內(nèi)容，通過標(biāo)準(zhǔn)化和規(guī)模化處理能力，能夠確保大量的投訴得到有序處理，提高處理效率。這種規(guī)?；奶幚矸绞揭脖阌谄脚_收集和分析數(shù)據(jù)。平臺可以通過統(tǒng)計不同類型賬號不實言論的投訴頻率、涉及的行業(yè)領(lǐng)域等信息，來更好地了解問題的分布，從而有針對性地優(yōu)化治理策略。平臺化投訴通道避免了人為因素可能帶來的不公平。平臺化流程是基于預(yù)先設(shè)定的規(guī)則來運行的。這些規(guī)則適用于所有的投訴案例，確保了每個投訴都能在相同的規(guī)則下得到公正的審核。
同時，對于謠言多發(fā)的輿情敏感企業(yè)，抖音會重點關(guān)注相關(guān)涉企不實信息，侵權(quán)舉報后臺如識別到相關(guān)舉報信息，會轉(zhuǎn)至高優(yōu)受理隊列，相比常規(guī)隊列能加快 4-6 個小時的處置時間。內(nèi)部還建立了跨部門溝通機(jī)制，減少信息傳遞的偏差，我們還專門培養(yǎng)了熟悉特定企業(yè)謠言的“專家”員工，以便能及時對情況進(jìn)行研判處置。我們有統(tǒng)計數(shù)據(jù)，11 月抖音累計受理網(wǎng)絡(luò)涉企侵權(quán)舉報 18425 件，處置賬號 935 個，有效舉報 11300 件，投訴成功率約 61.3%。
《浪潮》：算法治理其實是一個全球難題，有的平臺被質(zhì)疑算法出發(fā)點是提升用戶的參與度，而根據(jù)實驗，讓參與度提升的最有效辦法就是讓人憤怒，為了追求使用者的參與者，算法就決定散播一些“駭人聽聞”的內(nèi)容，它本質(zhì)上是高層的一些決策導(dǎo)致了算法應(yīng)用的走向，這個情況抖音有沒有碰到過？
李亮：上面也提到過，抖音的算法目標(biāo)是長期收益，所有的優(yōu)化迭代都圍繞著這個目標(biāo)，看長期效果。抖音更關(guān)注“用戶長期對平臺的認(rèn)同”。事實上我們發(fā)現(xiàn)，用戶參與也分很多種類型，比如利用爭議誘導(dǎo)情緒而引發(fā)的評論并不能帶來長期收益，就不會成為抖音關(guān)注的目標(biāo)，比如“駭人聽聞”的內(nèi)容很可能是刻意博流量，是抖音明確要打擊治理的，對這類生態(tài)問題的打擊并不會帶來平臺長期留存的下降，反而平臺是更有收益的。
本文來自微信公眾號：鳳凰網(wǎng)科技，原標(biāo)題《獨家對話抖音集團(tuán)李亮：平臺沒動力制造“繭房”》
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。