ChatGPT 的誕生，改寫了很多領(lǐng)域的游戲規(guī)則。現(xiàn)在，在很多地方，學(xué)校和大廠都下了 ChatGPT 封殺令。
12 月，ChatGPT 大紅大紫之際，就有諸多學(xué)者和研究人員發(fā)出警告：ChatGPT 很可能「殺死」大學(xué)論文。最近，紐約市教育局就正式對 ChatGPT 下了封殺令。
無獨(dú)有偶，在很多互聯(lián)網(wǎng)大廠，ChatGPT 也遭到了封殺。很多已經(jīng)習(xí)慣向 ChatGPT 咨詢代碼問題的碼農(nóng)們，原地爆哭……
大廠封殺 ChatGPT，碼農(nóng)哭了
近日，一位碼農(nóng)在網(wǎng)上發(fā)帖稱，在自己所在的大廠，辦公室 wifi 禁用了 ChatGPT。這直接把他整崩潰了。
博主表示，自己一名初級軟件工程師，而在團(tuán)隊(duì)中，前輩們總是很忙，沒有時間給他解釋問題。
每當(dāng)他在工作中卡住時，ChatGPT 都是他的救星。
但是昨天，當(dāng)他在辦公室坐下時，忽然發(fā)現(xiàn)沒法訪問 ChatGPT 了！他瞬間破防。
在他的帖子下，熱心網(wǎng)友紛紛獻(xiàn)計(jì)。
比如，買一個便宜的 VPS 和域名并設(shè)置一個反向代理到 ChatGPT 官網(wǎng)；在瀏覽器中啟用 DoH 和 ECH；使用一個在線代理；或者在手機(jī)上通過電子郵件將輸出結(jié)果發(fā)送給自己等等。
當(dāng)然，有網(wǎng)友對公司的這個操作表示贊同：「你司禁用 ChatGPT 是很有道理的，好好想想，如果你解決公司問題的代碼可以很輕易地被競爭對手獲得，會產(chǎn)生什么后果吧?！?/p>
「不要向 ChatGPT，或者從 ChatGPT 上復(fù)制粘貼代碼。在法律上，公司或客戶的代碼并不屬于你。而且你也沒有 ChatGPT 上代碼的版權(quán)。如果你這么做，會讓你面臨訴訟，被解雇。」
的確，已經(jīng)有大廠向員工發(fā)送電子郵件稱：「ChatGPT 不是不能用，但是如果你往里面上傳代碼，你就會面臨被解雇的風(fēng)險(xiǎn)，因?yàn)槲覀兊拇a非常敏感。」
不過，也有網(wǎng)友給出了扎心回復(fù)：「如果一個初級開發(fā)者在沒有 ChatGPT 的情況下，就無法完成工作，那么他對公司來說，真的是可有可無?！?/p>
紐約頒布禁令，師生全都禁用
就在 1 月 3 日，擁有全美最大公立學(xué)校系統(tǒng)的紐約市，正式頒布了「ChatGPT 禁令」。
也就是說，不管是老師還是學(xué)生，都無法在紐約市公立學(xué)校的網(wǎng)絡(luò)和設(shè)備上使用 ChatGPT。
最近，洛杉磯和巴爾的摩的學(xué)區(qū)也加入到了這個行列。
紐約市教育局發(fā)言人 Jenna Lyle 表示，雖然 ChatGPT 可以提供快速和簡單的問題答案，但它不能培養(yǎng)學(xué)生批判性思維和解決問題的能力，而這些對于學(xué)術(shù)和終身成功來說至關(guān)重要。
當(dāng)然，如果學(xué)校的目的是研究 ChatGPT 背后的技術(shù)，還是可以申請?jiān)L問的。
目前，ChatGPT 將對論文作弊的風(fēng)險(xiǎn)產(chǎn)生什么影響還有待觀察，因?yàn)閷W(xué)生仍然可以在校外訪問自己的設(shè)備和網(wǎng)絡(luò)。
而佐治亞州的科布縣的態(tài)度，不僅沒那么強(qiáng)硬，甚至還對采用 ChatGPT 頗有興趣。
該學(xué)區(qū)的一位發(fā)言人表示，「在高素質(zhì)的科布縣教師手中，ChatGPT 可以成為補(bǔ)充學(xué)生對學(xué)術(shù)內(nèi)容理解的寶貴工具，并可以幫助學(xué)生發(fā)展批判性思維能力?！?/p>
對此，在紐約精英高中 Brooklyn Tech 任教的 Adam Stevens 也認(rèn)為，禁用 ChatGPT 反而會帶來消極的影響。
畢竟在 15、20 年前，當(dāng)學(xué)生可以「在網(wǎng)上找到答案」時，這些人也是這么針對谷歌的。
Stevens 認(rèn)為，培養(yǎng)學(xué)生批判性寫作技能的最好方法是「邀請他們探索值得了解的事情」，并遠(yuǎn)離基于嚴(yán)格的評分標(biāo)準(zhǔn)的公式化寫作教學(xué)。
「當(dāng)然，如果你更看重學(xué)期末的分?jǐn)?shù)，那么 ChatGPT 確實(shí)是一個威脅?！?/p>
同樣，俄勒岡州桑迪市的一名高中英語老師也有類似的看法。
Shields 老師有 25 年教齡，她認(rèn)為，其實(shí)大可不必「談 ChatGPT 色變」，這款 AI 完全可以被用來幫助學(xué)生產(chǎn)生想法、組織思路，甚至撰寫整篇論文。
在她看來，教師們應(yīng)該接受，AI 是學(xué)生可以使用的一種工具，就像每個老師都教學(xué)生如何使用搜索引擎一樣。
很多學(xué)生苦于無話可寫，此時教師可以使用 ChatGPT 向?qū)W生展示如何生成提示，來刺激他們的寫作。
Shields 老師曾讓 ChatGPT 以 7 年級生、10 年級生和大學(xué)生的風(fēng)格寫同一個主題的文章，每個級別之間的句法差異程度令人震驚。因而，完全可以使用這種 AI 生成的反饋，來向?qū)W生展示如何改進(jìn)他們的寫作。
ICML 發(fā)文澄清：主要為防止抄襲，不影響潤色文章
前兩天，國際機(jī)器學(xué)習(xí)會議 ICML 2023 突然宣布：禁止使用大規(guī)模語言模型（如 ChatGPT）生成論文的內(nèi)容，除非這些文本是實(shí)驗(yàn)分析的一部分。
要求一經(jīng)提出，便引發(fā)了眾多研究人員的不滿：拼寫檢查和文本預(yù)測基于的就是語言模型，為啥不讓我們用？
對此 ，圖靈獎得主 Yann LeCun 評論道：「大型語言模型不能用，意思是換成中型和小型語言模型就行咯？」
隨后還不忘陰陽一句：「明年的 ICML 道德準(zhǔn)則應(yīng)該變成：研究人員必須徒手完成各種計(jì)算，不能借助計(jì)算機(jī)；各類圖形必須用筆和紙手繪；從今天起，ICML 的官方語言變?yōu)槿鸬湔Z（瑞典：？）。」
由于引發(fā)的討論太過激烈，ICML 不得不單獨(dú)發(fā)一條長文來解釋這個規(guī)定。概括來說，有三個要點(diǎn)：
政策禁止完全由 LLM「生成」的文本，但這并影響作者使用 LLM 來編輯或潤色自己寫的文本。
政策主要是防止使用 LLM 可能會出現(xiàn)的潛在問題，比如抄襲。
目前，政策僅適用于 ICML2023。隨著我們對 LLM 及其對科學(xué)出版的影響有了更深入的了解，這一政策可能會在未來的會議中發(fā)生變化。
大規(guī)模語言模型，爭議叢生
在過去的幾年里，大規(guī)模語言模型（LLM）的發(fā)展非常迅速。最近，這一進(jìn)展不僅沒有放緩，甚至還更快了。
正如大家看到的，過去幾個月發(fā)布的 LLM，如 OpenAI 的 ChatGPT，已經(jīng)能夠生成難以與人類相區(qū)分的文本片段。毫無疑問，這是自然語言處理和生成方面令人興奮的進(jìn)展。
但這種快速的進(jìn)展往往伴隨著意想不到的后果以及無法解答的問題。比如，由模型生成的文本和圖像是新穎的，還是現(xiàn)有工作的衍生品？
此外，文本片段、圖像以及其他由這些模型產(chǎn)生的內(nèi)容，又應(yīng)該歸誰所有：是生成模型的用戶，還是訓(xùn)練模型的開發(fā)者，抑或是制作訓(xùn)練數(shù)據(jù)的內(nèi)容創(chuàng)作者？
可以肯定的是，隨著大規(guī)模生成模型被更廣泛地應(yīng)用，這些問題都將隨著時間的推移得到解答，但現(xiàn)在還不行。尤其是距離 ChatGPT 的發(fā)布才過了不到 2 個月（2022 年 11 月底）。
而對于 ICML 來說，他們并沒有足夠的時間來觀察和調(diào)研 ChatGPT 將會對論文審稿和發(fā)表過程，產(chǎn)生何種影響。
考慮到針對這項(xiàng)新技術(shù)所采用的策略，會直接關(guān)系到研究人員的職業(yè)生涯。因此 ICML 表示，自己只能更加謹(jǐn)慎，甚至還會有些保守。
時有錯漏，但碼農(nóng)依然愛不釋手
其實(shí)，雖然 ChatGPT 經(jīng)常因?yàn)椤阜复馈苟怀?，但自它誕生一個多月來，很多碼農(nóng)的工作習(xí)慣，確實(shí)被它改變了。
在 12 月初，ChatGPT 亮相后，碼農(nóng)們發(fā)現(xiàn)可以用它生成代碼，立馬沸騰了。
ChatGPT 不僅可以回答任何領(lǐng)域的問題，而且生成的答案，有很大的概率非常精確和詳細(xì)。
比如，當(dāng)你問到「How to iterate over an keys and values array in Javascript」時，它生成了很完美的答案。
錦上添花的是，ChatGPT 還能通過一個支持性的例子和解釋，告訴你這個 JavaScript 中常見問題的最佳解決方案：
甚至，還可以用它給代碼糾錯。
不過隨后，碼農(nóng)們馬上發(fā)現(xiàn)，ChatGPT 生成的代碼，其實(shí)有不少問題。
ChatGPT 會「犯蠢」，背后原因其實(shí)很簡單 ——AI 的輸出，是概率性的。ChatGPT 沒有任何標(biāo)記了對錯的內(nèi)部記錄，它其實(shí)是一個統(tǒng)計(jì)模型，這個模型中，是在不同上下文中的語言組合。
而上下文的基礎(chǔ)，就是 GPT-3 訓(xùn)練所用的整體數(shù)據(jù)集，來自 ChatGPT 的 RLHF 訓(xùn)練的額外上下文，prompt 和之前的對話，以及很快就會有的反饋。
ChatGPT 的答案，本質(zhì)上就是從構(gòu)成 GPT-3 的互聯(lián)網(wǎng)數(shù)據(jù)語料庫中收集的概率結(jié)果。在 10 秒內(nèi)，ChatGPT 做出了結(jié)果的最佳猜測，這個猜測很可能是正確的。
當(dāng)然，也有錯誤的概率。
這就是為什么，網(wǎng)友用 ChatGPT 生成的代碼在 Stack Overflow 上瘋狂灌水、錯誤答案滿天飛時，后者連夜發(fā)布了官方封殺令。
雖然 ChatGPT 寫代碼的能力被很多人詬病，但其實(shí)，用還是可以用的。
其實(shí)，ChatGPT 最合適的定位，應(yīng)該是編碼輔助工具。在 ChatGPT 的發(fā)布方 OpenAI 看來，ChatGPT 的重要用途之一，正是幫助程序員檢查代碼。
對于開發(fā)者而言，它就是日益豐富的工具板中的一個工具。而且，就像任何自學(xué)模型一樣，ChatGPT 也會隨著時間的推移，不斷學(xué)習(xí)，不斷自我糾正和改進(jìn)。
很多時候，與其在 Stack OverFlow 上為相對簡單的問題（如何在 Flutter 中觸發(fā) HookConsumerWidget 的重建）等待幾天，不如直接向 ChatGPT 提問。
因?yàn)樵?ChatGPT 上，開發(fā)者們有很大概率，得到一個可以用于解決問題的起點(diǎn) ——
參考資料：
https://www.businessinsider.com/nyc-schools-ban-chatgpt-cheating-concern-grows-2023-1
https://www.theregister.com/2023/01/06/ai_conference_nyc_ban/?td=rt-3a
https://www.reddit.com/r/ChatGPT/comments/104rp2j/my_company_blocked_chatgpt/
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。