集體罷工，超 200 位 Stack Overflow 版主怒控 ChatGPT 將引發(fā)「垃圾內(nèi)容」洪水

大家都還記得，ChatGPT 剛出來(lái)時(shí)，它的代碼生成功能讓人們大感新鮮。

然而，隨著各種似是而非、真假難辨的答案如潮水般涌入，被逼急的 Stack Overflow 不得不連夜下封殺令 ——ChatGPT，禁！

具體來(lái)說(shuō)，Stack Overflow 的版主有權(quán)封禁疑似發(fā)布 ChatGPT 等 AI 生成內(nèi)容的賬號(hào)，并且直接刪帖。

然而，Stack Overflow 最近卻發(fā)布了這樣一條新規(guī)：

鑒于目前我們無(wú)法準(zhǔn)確識(shí)別 AI 生成的內(nèi)容，「假陽(yáng)性」的概率非常高，這種一言堂的過(guò)度禁言措施，可能會(huì)讓網(wǎng)站損失大量有貢獻(xiàn)的網(wǎng)友。

因此，只有在真實(shí)可驗(yàn)證的情況下，版主們才能禁言賬號(hào)。而不管是寫作風(fēng)格等主觀猜測(cè)，還是 GPT 檢測(cè)器的結(jié)果，都不可作為衡量指標(biāo)。

這條版規(guī)一發(fā)，簡(jiǎn)直讓版主們瞬間炸了鍋！

在他們看來(lái)，這簡(jiǎn)直是對(duì) LLM 幻覺(jué)肆意擴(kuò)散的公然默許，是對(duì)社區(qū)清明環(huán)境的公開(kāi)破壞，是道德的淪喪，人性的扭曲……

其中一些版主，已經(jīng)憤而罷工了。

保衛(wèi)我們的社區(qū)不被 AI 侵占

一些版主和用戶寫了一封公開(kāi)信，憤怒控訴新規(guī)將使 Stack Overflow 這個(gè)大家心中的代碼問(wèn)答圣地徹底淪陷。

他們義憤填膺地表示，AI 生成的內(nèi)容會(huì)對(duì)「平臺(tái)和內(nèi)容的完整性、可信度構(gòu)成重大威脅」。而運(yùn)營(yíng)者的決定將破壞 Stack Overflow 成為「高質(zhì)量信息庫(kù)」的目標(biāo)。

從前，版主只要自己認(rèn)定帖子內(nèi)容是 AI 生成的，就能自行刪帖或封號(hào)。

但如今，這個(gè)標(biāo)準(zhǔn)變得非常嚴(yán)苛。以往的慣用方法，如今都不再適用。

而這些版主們認(rèn)為，這將意味著：以后在 Stack Overflow 上，AI 生成的內(nèi)容可以被肆意發(fā)布，絲毫不用顧忌社區(qū)對(duì)此是何看法。

從此，一打開(kāi) Stack Overflow，我們很可能會(huì)看到滿眼的錯(cuò)誤信息，和抄襲來(lái)的內(nèi)容。

另外，新政也將剝奪 Stack Exchange 社區(qū)自行定義政策的余地。

遺憾的是，到目前為止，運(yùn)營(yíng)者與版主們尚未取得良好的直接溝通，版主們最后能做的就是 —— 選擇罷工，不再對(duì)平臺(tái)的帖子進(jìn)行審核。

在他們看來(lái)，自己的罷工是拯救社區(qū)「免于完全價(jià)值流失」的最后手段。

版主的抗議公開(kāi)信全文

在大量 AI 生成的內(nèi)容被刪除之后，Stack Overflow 公司頒布了一項(xiàng)新的「禁令」，默許不正確的信息和不受約束的剽竊行為在 Stack Exchange 上泛濫。這對(duì)該平臺(tái)及其內(nèi)容的完整性和可信度構(gòu)成了重大威脅。

以下簽名者，是 Stack Overflow 和 Stack Exchange 的志愿版主、貢獻(xiàn)者和用戶。

從即日起，我們將對(duì) Stack Overflow 和 Stack Exchange 開(kāi)展全面罷工，以抗議 Stack Overflow 公司現(xiàn)在以及將來(lái)將要強(qiáng)加給我們的政策和平臺(tái)規(guī)則變動(dòng)。

我們通過(guò)合理的方式實(shí)現(xiàn)平臺(tái)變革的努力被忽視了，我們的擔(dān)憂也被無(wú)視了。現(xiàn)在，作為最后的手段，我們要退出這個(gè)我們已經(jīng)投入了超過(guò)十年的關(guān)心和志愿努力的平臺(tái)。

我們堅(jiān)信 Stack Exchange 的核心使命：以問(wèn)答的形式提供一個(gè)高質(zhì)量的信息庫(kù)，而 Stack Overflow 公司最近采取的行動(dòng)則直接損害了這個(gè)目標(biāo)。

具體來(lái)說(shuō)，版主不再被允許以 AI 生成的答案為由，在部分情況下刪除 AI 生成的答案。這使得幾乎所有 AI 生成的答案都可以自由發(fā)布，而無(wú)需考慮社區(qū)對(duì)此類內(nèi)容已有的既定共識(shí)。

反過(guò)來(lái)，這使得不正確的信息（俗稱「幻覺(jué)」）和剽竊行為在該平臺(tái)上肆意泛濫。

正如 Stack Overflow 公司之前指出的那樣，這破壞了我們對(duì)平臺(tái)的信任。

此外，直接發(fā)給版主的政策細(xì)節(jié)與公開(kāi)概述的準(zhǔn)則有很大不同，版主還被禁止在公開(kāi)場(chǎng)合分享這些細(xì)節(jié)。

這些政策無(wú)視此前上賦予給每個(gè) Stack Exchange 社區(qū)決定各自政策的余地，在沒(méi)有和社區(qū)交換意見(jiàn)的情況下進(jìn)行直接修改，推翻社區(qū)的共識(shí)，還拒絕三思而行。

在這件事得到我們滿意的解決之前，我們將暫停這些活動(dòng)，包括但不限于以下：

?發(fā)布和處理 flag

?運(yùn)行 SmokeDetector，反垃圾郵件機(jī)器人

?關(guān)閉或投票關(guān)閉帖子

?刪除或投票刪除帖子

?審查隊(duì)列中的任務(wù)

?運(yùn)行協(xié)助審核的機(jī)器人，如檢測(cè)抄襲、低質(zhì)量答案和粗魯?shù)脑u(píng)論等

在 Stack Overflow 公司收回這一新政策，以解決版主的擔(dān)憂，并允許版主有效地執(zhí)行針對(duì) AI 生成的答案的既定政策之前，我們呼吁全面罷工，此舉將作為保護(hù) Stack Exchange 平臺(tái)和用戶免受完全價(jià)值損失的最后努力。

同時(shí)，我們也想提醒 Stack Overflow 公司，一個(gè)完全依賴志愿者的網(wǎng)絡(luò)，不能一直忽視、虐待，并將矛頭指向這些志愿者。

Stack Overflow 的新政策

新規(guī)中寫明，Stack Overflow 官方對(duì)目前的內(nèi)容審核方法進(jìn)行了一系列分析后發(fā)現(xiàn)，AI 生成的內(nèi)容審核機(jī)制并不準(zhǔn)確。

也就是說(shuō)，對(duì)于一些內(nèi)容是否由 AI 生成的判定并不一定正確，負(fù)責(zé)的版主或者志愿者可能會(huì)出現(xiàn)錯(cuò)誤判斷的情況。

官方擔(dān)心，此舉會(huì)助長(zhǎng)對(duì)某些地區(qū)或國(guó)家的用戶的偏見(jiàn)，或是把大量合法的內(nèi)容發(fā)布者拒之門外。

為了解決這個(gè)問(wèn)題，官方要求負(fù)責(zé)審核內(nèi)容的版主在封號(hào)之前，需要用非常嚴(yán)格的證據(jù)標(biāo)準(zhǔn)來(lái)確定該用戶發(fā)布的內(nèi)容是由 AI 生成的。

在新規(guī)下，版主們慣用的基于用戶寫作風(fēng)格，以及論壇行為等好用的標(biāo)準(zhǔn)都將不能再使用，因?yàn)檫@并不算「嚴(yán)格」。

官方表示，版主們所慣用的方法并不能 100% 的進(jìn)行裁定。

同時(shí)，GPT 檢測(cè)器在官方看來(lái)也不可取。誤判率過(guò)高，不可接受，不能作為判定的可靠指標(biāo)。

總之，新規(guī)中官方對(duì)版主的權(quán)力進(jìn)行了限制。只有經(jīng)過(guò)嚴(yán)格證據(jù)審查得出的結(jié)論才能采納，并采取進(jìn)一步行動(dòng)（如封停賬號(hào)等）。

任何靠直覺(jué)、猜測(cè)的方式都不應(yīng)該再采用。

為什么不得不罷工？一個(gè)版主的血淚控訴

一位版主在 Stack Overflow 上發(fā)帖，詳細(xì)解釋了版主們不得不選擇罷工的原因。

ta 表示，大家這樣做，或多或少都是為了整個(gè)社區(qū)的利益。

2022 年 11 月下旬，隨著 ChatGPT 的推出，大量用戶開(kāi)始瘋狂把 AI 生成的答案搬運(yùn)上來(lái)。

用 ChatGPT 生成的答案，與真人用戶的回答非常相近

比如下面這位網(wǎng)友就表示，自己先新建了一個(gè)賬戶，然后把沒(méi)有答案的隨機(jī)問(wèn)題貼進(jìn) ChatGPT 里，再把生成的答案 po 出來(lái)。

在一個(gè)半小時(shí)內(nèi)，ta 就 po 出了 9 個(gè)回答，并取得了 1 個(gè)接受、3 個(gè)贊成，以及 62 個(gè)聲望值。

隨后，這些隨機(jī)復(fù)制粘貼自 ChatGPT 的回答，迅速產(chǎn)生巨大的影響，這位網(wǎng)友非常期待后續(xù)的情況。

玩花了的網(wǎng)友們引起的審核團(tuán)隊(duì)的注意，他們警鈴大作，立即為 Stack Overflow 制定了新規(guī)。

新規(guī)自然是有道理的，Stack Overflow 從 2008 年成立以來(lái)，就一直靠社區(qū)志愿者審核來(lái)維持運(yùn)營(yíng)。

但 ChatGPT 生成的答案通?？雌饋?lái)很好，無(wú)數(shù)網(wǎng)友在瘋狂發(fā)布這些答案，會(huì)給志愿者造成巨大的負(fù)擔(dān)。

因此，社區(qū)才不得不發(fā)布禁令。

這位版主表示，禁令發(fā)布后，版主們兢兢業(yè)業(yè)，直接參與了社區(qū)管理團(tuán)隊(duì)，在方方面面幫助這項(xiàng)新政策在這條社區(qū)實(shí)行。

而處理帖子的過(guò)程，也非常麻煩。

審核團(tuán)隊(duì)會(huì)使用 JavaScript 腳本來(lái)幫助審核，需要工具的時(shí)候，他們會(huì)直接上手去寫。他們還會(huì)擴(kuò)展現(xiàn)有的網(wǎng)站功能。

每天，版主們都會(huì)處理大量的帖子，還會(huì)經(jīng)歷被辱罵之類的情況。

因此，在周一接到新版禁令后，版主們非常心累。畢竟，大家都是志愿者，而不是正式員工。他們已經(jīng)為社區(qū)付出夠多了……

罷工者的訴求

罷工的版主們想要什么？歸根結(jié)底還是問(wèn)題解決。

有些問(wèn)題需要官方親自承認(rèn)，有些問(wèn)題需要員工們公開(kāi)進(jìn)行討論，明確到底應(yīng)該做什么。

ChatGPT 規(guī)則是由整個(gè)社區(qū)共同制定的規(guī)則，并且已經(jīng)得到了廣泛的支持。

員工不應(yīng)該僅僅使用非公開(kāi)渠道（聊天室和版主團(tuán)隊(duì)）進(jìn)行大規(guī)模的規(guī)則變更，走這些渠道就意味著廣大用戶將無(wú)法知曉。

版主被要求根據(jù)一項(xiàng)從未公開(kāi)的規(guī)則來(lái)處理 flag。而實(shí)際上，網(wǎng)站上的所有內(nèi)容都表明了舊有的政策仍然有效。

因此，版主仍然會(huì)收到無(wú)法與該政策一致處理的 flag。最終，社區(qū)肯定會(huì)注意到這種不同。

那些在公告公開(kāi)之前就發(fā)帖講解政策變化的少數(shù)版主，其實(shí)他們正冒著失去版主權(quán)力、無(wú)法訪問(wèn)版主團(tuán)隊(duì)的風(fēng)險(xiǎn)。這對(duì)版主來(lái)說(shuō)非常不公平。

Philippe 發(fā)帖怒斥新規(guī)，他表示，官方所擔(dān)心的可能產(chǎn)生的種族歧視是一種赤裸裸的指責(zé)。但很顯然，沒(méi)有人希望被無(wú)端指控為種族歧視。

在最壞的情況下，新規(guī)反映出員工認(rèn)為版主和社區(qū)持對(duì)立態(tài)度。

員工對(duì)政策的表述非常含糊（正如前面所說(shuō)的，公開(kāi)的和私下的政策存在差異），并且沒(méi)有提供他們認(rèn)為做得不正確的具體實(shí)例。

他們希望版主不再將 GPT 檢測(cè)器作為唯一的判斷標(biāo)準(zhǔn)，這當(dāng)然可以，但是對(duì)于一個(gè)在兩個(gè)小時(shí)內(nèi)發(fā)布了十幾個(gè)長(zhǎng)回答的人來(lái)說(shuō)，很明顯，這些回答肯定不全是他們自己寫的，他們只是在復(fù)制粘貼地回答問(wèn)題。

根據(jù)政策，這是不可接受的，但版主們應(yīng)該如何處理呢？

版主們是否可以在沒(méi)有直接證據(jù)證明其為抄襲的情況下使用檢測(cè)工具？

然而，現(xiàn)實(shí)是，沒(méi)人告訴版主他們到底應(yīng)該怎么做……

參考資料：

• https://openletter.mousetail.nl/

本文來(lái)自微信公眾號(hào)：新智元 （ID：AI_era）

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。