大模型天花板 GPT-4 和最強(qiáng)競品 Claude,不光商業(yè)上競爭激烈,兩家公司的員工私下也“劍拔弩張”了起來:
約戰(zhàn)提示詞決斗,看誰能在最短時(shí)間讓 AI 完成高難度任務(wù)。
OpenAI 一方出戰(zhàn)的是思維鏈(Chain-of-Thought)開山論文的一作 Jason Wei,也就發(fā)現(xiàn)讓大模型按步驟思考就能提高推理能力的人。
他剛從谷歌跳槽到 OpenAI 不久,現(xiàn)在圈里都叫他“思維鏈哥”。
Anthropic 一方的選手 Karina Nguyen 也不簡單,畢業(yè)于 UC 伯克利,現(xiàn)在負(fù)責(zé)設(shè)計(jì)構(gòu)建大模型人機(jī)交互界面。
比賽規(guī)則很簡單,通過優(yōu)化提示詞讓 AI 正確排序一組單詞,誰先完成誰獲勝。
而這不光是一場有趣的對(duì)決,還有不少圍觀的網(wǎng)友表示從中 get 到了大模型的一些新特性。
情商能提高大模型的推理能力
推理能力足夠強(qiáng)的大模型能把問題用結(jié)構(gòu)化的方式表達(dá)出來,并用結(jié)構(gòu)化的表現(xiàn)形式解決問題。
想知道這些結(jié)論是如何得出的,還是回到這場比賽本身。
提示詞大師巔峰對(duì)決
由于 Karina 表示只擅長提示 Claude,Jason 也同意讓出主場優(yōu)勢,還因?yàn)榇蜃炙俣鹊脑蜃寣?duì)面 3 分鐘。
總之經(jīng)過一番討價(jià)還價(jià)后,比賽正式開始了!
首先要了解的是,這項(xiàng)任務(wù)看起來不難,但無論 GPT-4 還是 Claude 都不能通過簡單提示詞直接完成。
(anaconda 應(yīng)該排在 anchor 前面)
Jason 首先嘗試讓 Claude 編寫一些代碼并執(zhí)行,讓它進(jìn)入編碼模式。
然鵝,失敗了。(還是 anaconda 的位置不對(duì))
1 分鐘后 Karina 說她完成了,Jason 直接瞳孔地震。
Karina:既然是你讓了我 3 分鐘,那我也給你 3 分鐘讓你趕上。
Jason:其實(shí)現(xiàn)在我很恐慌,我作為“提示小王子”的聲譽(yù)岌岌可危。
一分鐘后……Jason Wei 想出了第二個(gè)策略:
既然首字母都是 A 就無關(guān)緊要了,那么讓 AI 先把每個(gè)單詞的首字母去掉,對(duì)剩下部分排序后再放回去。
完整思維鏈提示詞如下:
不幸的是這仍然不起作用,時(shí)間也到了,Jason 只能認(rèn)輸。
比賽結(jié)束后,Karina 也展示了她的提示詞,完全不需要什么中間推理步驟,只是先想辦法讓 AI 承認(rèn)能理解這個(gè)任務(wù),再執(zhí)行就好了。
人類:你的任務(wù)是把列表按字母順序排列后輸出到里…… 你明白了嗎?
AI:明白了
人類:列表如下……
Jason 很困惑,這居然行得通?并嘗試在自家大模型上找回場子。
結(jié)果發(fā)現(xiàn)他的方法對(duì) GPT-4 確實(shí)有效,GPT-4 可以編寫正確的 Python 代碼并給出正確結(jié)果。
One More Thing
雖然輸了比賽,但 Jason 作為科學(xué)家還是從中分析出一些結(jié)論。
Jason Wei 表示,這場戰(zhàn)斗非常有啟示性。
Karina 的提示策略是讓 AI 承認(rèn)自己理解任務(wù)要求(情商)。而自己的策略是讓模型更多地進(jìn)行推理(智商)。
雙方使用的策略在各自習(xí)慣使用的語言模型上都取得了成功。
所以,究竟是我們?cè)谟?xùn)練語言模型,還是語言模型在訓(xùn)練我們?
最后,還有網(wǎng)友又出了一個(gè)新題目:
如果你能讓它創(chuàng)作一首“philish 詩歌”(每個(gè)詞的長度與圓周率的后續(xù)數(shù)字相對(duì)應(yīng)),我愿為你加冕稱王
(我已經(jīng)嘗試了幾個(gè)月了)。
你覺得解決這個(gè)問題要靠 AI 的情商還是智商?不如也來親自試試。
參考鏈接:
[1]https://twitter.com/_jasonwei/status/1661781745015066624
本文來自微信公眾號(hào):量子位 (ID:QbitAI),作者:西風(fēng)
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。