大反轉(zhuǎn)來了？Stack Overflow「ChatGPT 禁令」突然松動，而版主們不得不聯(lián)名罷工表示抗議，血淚控訴 LLM 生成的垃圾內(nèi)容將充斥整個社區(qū)。截至發(fā)稿前，公開信上已有 227 位用戶簽名。（而且還在不斷增加中）
大家都還記得，ChatGPT 剛出來時，它的代碼生成功能讓人們大感新鮮。
然而，隨著各種似是而非、真假難辨的答案如潮水般涌入，被逼急的 Stack Overflow 不得不連夜下封殺令 ——ChatGPT，禁！
具體來說，Stack Overflow 的版主有權(quán)封禁疑似發(fā)布 ChatGPT 等 AI 生成內(nèi)容的賬號，并且直接刪帖。
然而，Stack Overflow 最近卻發(fā)布了這樣一條新規(guī)：
鑒于目前我們無法準(zhǔn)確識別 AI 生成的內(nèi)容，「假陽性」的概率非常高，這種一言堂的過度禁言措施，可能會讓網(wǎng)站損失大量有貢獻(xiàn)的網(wǎng)友。
因此，只有在真實可驗證的情況下，版主們才能禁言賬號。而不管是寫作風(fēng)格等主觀猜測，還是 GPT 檢測器的結(jié)果，都不可作為衡量指標(biāo)。
這條版規(guī)一發(fā)，簡直讓版主們瞬間炸了鍋！
在他們看來，這簡直是對 LLM 幻覺肆意擴(kuò)散的公然默許，是對社區(qū)清明環(huán)境的公開破壞，是道德的淪喪，人性的扭曲……
其中一些版主，已經(jīng)憤而罷工了。
保衛(wèi)我們的社區(qū)不被 AI 侵占
一些版主和用戶寫了一封公開信，憤怒控訴新規(guī)將使 Stack Overflow 這個大家心中的代碼問答圣地徹底淪陷。
他們義憤填膺地表示，AI 生成的內(nèi)容會對「平臺和內(nèi)容的完整性、可信度構(gòu)成重大威脅」。而運(yùn)營者的決定將破壞 Stack Overflow 成為「高質(zhì)量信息庫」的目標(biāo)。
從前，版主只要自己認(rèn)定帖子內(nèi)容是 AI 生成的，就能自行刪帖或封號。
但如今，這個標(biāo)準(zhǔn)變得非常嚴(yán)苛。以往的慣用方法，如今都不再適用。
而這些版主們認(rèn)為，這將意味著：以后在 Stack Overflow 上，AI 生成的內(nèi)容可以被肆意發(fā)布，絲毫不用顧忌社區(qū)對此是何看法。
從此，一打開 Stack Overflow，我們很可能會看到滿眼的錯誤信息，和抄襲來的內(nèi)容。
另外，新政也將剝奪 Stack Exchange 社區(qū)自行定義政策的余地。
遺憾的是，到目前為止，運(yùn)營者與版主們尚未取得良好的直接溝通，版主們最后能做的就是 —— 選擇罷工，不再對平臺的帖子進(jìn)行審核。
在他們看來，自己的罷工是拯救社區(qū)「免于完全價值流失」的最后手段。
版主的抗議公開信全文
在大量 AI 生成的內(nèi)容被刪除之后，Stack Overflow 公司頒布了一項新的「禁令」，默許不正確的信息和不受約束的剽竊行為在 Stack Exchange 上泛濫。這對該平臺及其內(nèi)容的完整性和可信度構(gòu)成了重大威脅。
以下簽名者，是 Stack Overflow 和 Stack Exchange 的志愿版主、貢獻(xiàn)者和用戶。
從即日起，我們將對 Stack Overflow 和 Stack Exchange 開展全面罷工，以抗議 Stack Overflow 公司現(xiàn)在以及將來將要強(qiáng)加給我們的政策和平臺規(guī)則變動。
我們通過合理的方式實現(xiàn)平臺變革的努力被忽視了，我們的擔(dān)憂也被無視了?，F(xiàn)在，作為最后的手段，我們要退出這個我們已經(jīng)投入了超過十年的關(guān)心和志愿努力的平臺。
我們堅信 Stack Exchange 的核心使命：以問答的形式提供一個高質(zhì)量的信息庫，而 Stack Overflow 公司最近采取的行動則直接損害了這個目標(biāo)。
具體來說，版主不再被允許以 AI 生成的答案為由，在部分情況下刪除 AI 生成的答案。這使得幾乎所有 AI 生成的答案都可以自由發(fā)布，而無需考慮社區(qū)對此類內(nèi)容已有的既定共識。
反過來，這使得不正確的信息（俗稱「幻覺」）和剽竊行為在該平臺上肆意泛濫。
正如 Stack Overflow 公司之前指出的那樣，這破壞了我們對平臺的信任。
此外，直接發(fā)給版主的政策細(xì)節(jié)與公開概述的準(zhǔn)則有很大不同，版主還被禁止在公開場合分享這些細(xì)節(jié)。
這些政策無視此前上賦予給每個 Stack Exchange 社區(qū)決定各自政策的余地，在沒有和社區(qū)交換意見的情況下進(jìn)行直接修改，推翻社區(qū)的共識，還拒絕三思而行。
在這件事得到我們滿意的解決之前，我們將暫停這些活動，包括但不限于以下：
?發(fā)布和處理 flag
?運(yùn)行 SmokeDetector，反垃圾郵件機(jī)器人
?關(guān)閉或投票關(guān)閉帖子
?刪除或投票刪除帖子
?審查隊列中的任務(wù)
?運(yùn)行協(xié)助審核的機(jī)器人，如檢測抄襲、低質(zhì)量答案和粗魯?shù)脑u論等
在 Stack Overflow 公司收回這一新政策，以解決版主的擔(dān)憂，并允許版主有效地執(zhí)行針對 AI 生成的答案的既定政策之前，我們呼吁全面罷工，此舉將作為保護(hù) Stack Exchange 平臺和用戶免受完全價值損失的最后努力。
同時，我們也想提醒 Stack Overflow 公司，一個完全依賴志愿者的網(wǎng)絡(luò)，不能一直忽視、虐待，并將矛頭指向這些志愿者。
Stack Overflow 的新政策
新規(guī)中寫明，Stack Overflow 官方對目前的內(nèi)容審核方法進(jìn)行了一系列分析后發(fā)現(xiàn)，AI 生成的內(nèi)容審核機(jī)制并不準(zhǔn)確。
也就是說，對于一些內(nèi)容是否由 AI 生成的判定并不一定正確，負(fù)責(zé)的版主或者志愿者可能會出現(xiàn)錯誤判斷的情況。
官方擔(dān)心，此舉會助長對某些地區(qū)或國家的用戶的偏見，或是把大量合法的內(nèi)容發(fā)布者拒之門外。
為了解決這個問題，官方要求負(fù)責(zé)審核內(nèi)容的版主在封號之前，需要用非常嚴(yán)格的證據(jù)標(biāo)準(zhǔn)來確定該用戶發(fā)布的內(nèi)容是由 AI 生成的。
在新規(guī)下，版主們慣用的基于用戶寫作風(fēng)格，以及論壇行為等好用的標(biāo)準(zhǔn)都將不能再使用，因為這并不算「嚴(yán)格」。
官方表示，版主們所慣用的方法并不能 100% 的進(jìn)行裁定。
同時，GPT 檢測器在官方看來也不可取。誤判率過高，不可接受，不能作為判定的可靠指標(biāo)。
總之，新規(guī)中官方對版主的權(quán)力進(jìn)行了限制。只有經(jīng)過嚴(yán)格證據(jù)審查得出的結(jié)論才能采納，并采取進(jìn)一步行動（如封停賬號等）。
任何靠直覺、猜測的方式都不應(yīng)該再采用。
為什么不得不罷工？一個版主的血淚控訴
一位版主在 Stack Overflow 上發(fā)帖，詳細(xì)解釋了版主們不得不選擇罷工的原因。
ta 表示，大家這樣做，或多或少都是為了整個社區(qū)的利益。
2022 年 11 月下旬，隨著 ChatGPT 的推出，大量用戶開始瘋狂把 AI 生成的答案搬運(yùn)上來。
用 ChatGPT 生成的答案，與真人用戶的回答非常相近
比如下面這位網(wǎng)友就表示，自己先新建了一個賬戶，然后把沒有答案的隨機(jī)問題貼進(jìn) ChatGPT 里，再把生成的答案 po 出來。
在一個半小時內(nèi)，ta 就 po 出了 9 個回答，并取得了 1 個接受、3 個贊成，以及 62 個聲望值。
隨后，這些隨機(jī)復(fù)制粘貼自 ChatGPT 的回答，迅速產(chǎn)生巨大的影響，這位網(wǎng)友非常期待后續(xù)的情況。
玩花了的網(wǎng)友們引起的審核團(tuán)隊的注意，他們警鈴大作，立即為 Stack Overflow 制定了新規(guī)。
新規(guī)自然是有道理的，Stack Overflow 從 2008 年成立以來，就一直靠社區(qū)志愿者審核來維持運(yùn)營。
但 ChatGPT 生成的答案通常看起來很好，無數(shù)網(wǎng)友在瘋狂發(fā)布這些答案，會給志愿者造成巨大的負(fù)擔(dān)。
因此，社區(qū)才不得不發(fā)布禁令。
這位版主表示，禁令發(fā)布后，版主們兢兢業(yè)業(yè)，直接參與了社區(qū)管理團(tuán)隊，在方方面面幫助這項新政策在這條社區(qū)實行。
而處理帖子的過程，也非常麻煩。
審核團(tuán)隊會使用 JavaScript 腳本來幫助審核，需要工具的時候，他們會直接上手去寫。他們還會擴(kuò)展現(xiàn)有的網(wǎng)站功能。
每天，版主們都會處理大量的帖子，還會經(jīng)歷被辱罵之類的情況。
因此，在周一接到新版禁令后，版主們非常心累。畢竟，大家都是志愿者，而不是正式員工。他們已經(jīng)為社區(qū)付出夠多了……
罷工者的訴求
罷工的版主們想要什么？歸根結(jié)底還是問題解決。
有些問題需要官方親自承認(rèn)，有些問題需要員工們公開進(jìn)行討論，明確到底應(yīng)該做什么。
ChatGPT 規(guī)則是由整個社區(qū)共同制定的規(guī)則，并且已經(jīng)得到了廣泛的支持。
員工不應(yīng)該僅僅使用非公開渠道（聊天室和版主團(tuán)隊）進(jìn)行大規(guī)模的規(guī)則變更，走這些渠道就意味著廣大用戶將無法知曉。
版主被要求根據(jù)一項從未公開的規(guī)則來處理 flag。而實際上，網(wǎng)站上的所有內(nèi)容都表明了舊有的政策仍然有效。
因此，版主仍然會收到無法與該政策一致處理的 flag。最終，社區(qū)肯定會注意到這種不同。
那些在公告公開之前就發(fā)帖講解政策變化的少數(shù)版主，其實他們正冒著失去版主權(quán)力、無法訪問版主團(tuán)隊的風(fēng)險。這對版主來說非常不公平。
Philippe 發(fā)帖怒斥新規(guī)，他表示，官方所擔(dān)心的可能產(chǎn)生的種族歧視是一種赤裸裸的指責(zé)。但很顯然，沒有人希望被無端指控為種族歧視。
在最壞的情況下，新規(guī)反映出員工認(rèn)為版主和社區(qū)持對立態(tài)度。
員工對政策的表述非常含糊（正如前面所說的，公開的和私下的政策存在差異），并且沒有提供他們認(rèn)為做得不正確的具體實例。
他們希望版主不再將 GPT 檢測器作為唯一的判斷標(biāo)準(zhǔn)，這當(dāng)然可以，但是對于一個在兩個小時內(nèi)發(fā)布了十幾個長回答的人來說，很明顯，這些回答肯定不全是他們自己寫的，他們只是在復(fù)制粘貼地回答問題。
根據(jù)政策，這是不可接受的，但版主們應(yīng)該如何處理呢？
版主們是否可以在沒有直接證據(jù)證明其為抄襲的情況下使用檢測工具？
然而，現(xiàn)實是，沒人告訴版主他們到底應(yīng)該怎么做……
參考資料：
https://openletter.mousetail.nl/
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。