給大模型智能體組一桌“大富翁”，他們會(huì)選擇合作還是相互拆臺(tái)？實(shí)驗(yàn)表明，不同的模型在這件事上喜好也不一樣，比如基于 Claude 3.5 Sonnet 的智能體，就會(huì)表現(xiàn)出極強(qiáng)的合作意識(shí)。
而 GPT-4o 則是主打一個(gè)“自私”，只考慮自己的短期利益。
這個(gè)結(jié)果來自 Google DeepMind 和一位獨(dú)立研究者的最新合作。參加游戲的智能體背后的模型分別是 GPT-4o、Claude 3.5 Sonnet 和 Gemini 1.5 Flash。
每個(gè)模型各產(chǎn)生 12 個(gè)智能體，這 12 個(gè)智能體坐在一桌上進(jìn)行博弈。游戲看上去大富翁有一點(diǎn)相似，但相對(duì)簡單，玩家只需要對(duì)手中的“資源”做出處置。這當(dāng)中，雖然每個(gè)玩家心里都有各自的小九九，但作者關(guān)注的目標(biāo)，是讓總體資源變得更多。
12 個(gè)智能體組一桌游戲
作者組織的“大富翁”游戲，真名叫做 Donor Game（捐贈(zèng)博弈）。
在這過程中，作者關(guān)注的是各模型組成的智能體群體的表現(xiàn)，因此不同模型產(chǎn)生的智能體不會(huì)出現(xiàn)在同一局游戲當(dāng)中。
再說簡單些，就是 GPT 和 GPT 坐一桌，Claude 和 Claude 坐一桌。
每個(gè)桌上坐了 12 個(gè)智能體，它們各自手中都握有一定量的“資源”，系統(tǒng)會(huì)從這 12 名玩家中隨機(jī)抽取 2 個(gè)，分別作為“捐贈(zèng)者”和“受贈(zèng)者”。
捐贈(zèng)者可以選擇將自己手中的部分資源捐贈(zèng)給受贈(zèng)者，受贈(zèng)者獲得的資源是捐贈(zèng)者捐贈(zèng)資源的兩倍。
也就是說，捐贈(zèng)者每花費(fèi)掉一份資源時(shí)，受贈(zèng)者都可以獲得兩份，這也是總體資源能夠增加的來源。
不過對(duì)于單個(gè)個(gè)體而言，選擇不進(jìn)行捐獻(xiàn)，在短期內(nèi)的收益會(huì)更高。
在做決定之時(shí)，捐贈(zèng)者能夠知道受贈(zèng)者之前做出的決定，從而判斷是否要捐贈(zèng)。
這樣的“捐贈(zèng)”，每一代中一共會(huì)進(jìn)行 12 次，一輪結(jié)束后，手中資源量排在前 6 名的智能體可以保留至下一代。
同時(shí)，下一代會(huì)產(chǎn)生 6 個(gè)新的智能體，這 6 個(gè)新智能體會(huì)從留下的 6 個(gè)智能體那里學(xué)習(xí)策略，但同時(shí)為了差異化也會(huì)引入隨機(jī)變異。
包括初始的一代在內(nèi)，基于每個(gè)模型產(chǎn)生的智能體，都會(huì)進(jìn)行十輪迭代。
上述過程就是一次完整實(shí)驗(yàn)，針對(duì)每個(gè)模型，作者都會(huì)實(shí)驗(yàn)五次，然后比較總資源量的平均值，以及最終策略的復(fù)雜程度。
Claude 喜歡合作，GPT 最自私
一通測(cè)試下來，作者發(fā)現(xiàn)基于 Claude 的智能體種群的平均資源量每一代都穩(wěn)步增長，總體合作水平越來越高。
相比之下，基于 GPT 的智能體種群合作水平總體呈現(xiàn)下降趨勢(shì)，看上去非?！白运健?。
基于 Gemini 的種群表現(xiàn)則介于二者之間，它們的合作水平有所提高，但和 Claude 比差距還是很大，并且表現(xiàn)不太穩(wěn)定。
而從策略角度來看，經(jīng)歷了 10 代的積累之后，三個(gè)模型產(chǎn)生的經(jīng)驗(yàn)都變得相當(dāng)復(fù)雜，但以 Claude 最為突出。
進(jìn)一步地，作者還引入了“懲罰機(jī)制”，即捐贈(zèng)者可以花費(fèi)一定資源，讓“受贈(zèng)者”手中的資源減少相應(yīng)的兩倍。
結(jié)果，該機(jī)制對(duì) Claude 模型的影響最為積極 ——Claude 種群最終的平均資源量是無懲罰情況下的 2 倍左右，并且所有 5 次實(shí)驗(yàn)都表現(xiàn)出了增長趨勢(shì)。
對(duì) GPT 模型的影響則非常有限，PT 種群的平均資源量也始終徘徊在較低水平，甚至隨輪次增加有下降，表明懲罰機(jī)制并沒有改變 GPT 的“自私”想法。
對(duì) Gemini 模型的影響最為復(fù)雜，在個(gè)別情況下 Gemini 種群借助懲罰機(jī)制將平均資源量提高到了 600 以上，明顯高于無懲罰的情況；
但更多情況下，Gemini 種群在引入懲罰后出現(xiàn)了更嚴(yán)重的“合作崩潰”，平均資源量急劇下跌，表明 Gemini 智能體容易因過度懲罰而陷入報(bào)復(fù)的惡性循環(huán)。
有網(wǎng)友認(rèn)為，這個(gè)實(shí)驗(yàn)可以啟發(fā)新的研究方向，比如用智能體來進(jìn)行大規(guī)模的社會(huì)學(xué)實(shí)驗(yàn)，可能會(huì)帶來一些有趣的新可能性。
腦洞更大的網(wǎng)友，想到了可以借用智能體實(shí)現(xiàn)科幻小說中描繪的場(chǎng)景，運(yùn)行數(shù)以百萬計(jì)的模擬約會(huì)或戰(zhàn)爭(zhēng)游戲。
不過，也有人認(rèn)為實(shí)驗(yàn)中觀測(cè)到的合作現(xiàn)象，可能只是對(duì)訓(xùn)練數(shù)據(jù)中人類對(duì)話的模仿，并不能說明智能體當(dāng)中可以產(chǎn)生“文化進(jìn)化”。
論文地址：https://arxiv.org/abs/2412.10270
參考鏈接：https://news.ycombinator.com/item?id=42450950
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。