AI 的跨界，只有想不到，沒有辦不到。藝術(shù)學(xué)家們用深度學(xué)習(xí)模型分析拉斐爾的畫作，不僅能分析出用了什么顏料、怎么畫的，還能知道 500 年前拿著畫筆的是不是拉斐爾本人。
DALL-E、MidJourney 等工具的誕生，讓我們看到了 GenAI 高超的「創(chuàng)作技能」。但如果反過來，讓 AI 去分析藝術(shù)大師的畫作，它們又會(huì)有怎樣的表現(xiàn)？
最近，Science Advances 封面刊登了一篇來自意大利文化遺產(chǎn)科學(xué)研究所的論文。他們將兩幅著名的拉斐爾畫作進(jìn)行了 MA-XRF 掃描，并使用深度學(xué)習(xí)模型進(jìn)行分析。
結(jié)果發(fā)現(xiàn)，AI 不僅處理速度快，給出的結(jié)果也相當(dāng)準(zhǔn)確，還能為我們提供全新的見解和視角。
給油畫做 CT，讓 AI 看片子
論文地址：https://www.science.org/doi/10.1126/sciadv.adp6234
過去十年中，利用成像技術(shù)對繪畫進(jìn)行非侵入性研究方面取得了飛快的進(jìn)展。
藝術(shù)學(xué)家們不再只憑借自己的肉眼或?qū)嶒?yàn)對畫作進(jìn)行分析，而是采用類似于 MA-XRF（宏觀 X 射線熒光）的技術(shù)，進(jìn)行顏料識(shí)別、顏料分解、虛擬修復(fù)等應(yīng)用。
然而，無論進(jìn)行哪種用途，每次成像都會(huì)產(chǎn)生大量數(shù)據(jù)集，并且分析數(shù)據(jù)也需要特定的專業(yè)知識(shí)。因此，為了高效地利用這些復(fù)雜數(shù)據(jù)，計(jì)算機(jī)輔助的程序分析和計(jì)算方法也隨之發(fā)展。
比如，MA-XRF 掃描繪畫表面后可以得到含大量數(shù)據(jù)的 XRF 光譜。掃描區(qū)域通常包含上百萬個(gè)像素，這就意味著輸出是三維立方體形式的數(shù)百萬個(gè) XRF 光譜。
在這個(gè)過程中，研究人員們發(fā)現(xiàn)，人工智能大有用武之地，而且不僅僅止于數(shù)據(jù)的處理分析，還可以找出人類學(xué)者和經(jīng)典分析方法容易忽視的新見解。
而這篇論文所使用的模型正是基于 CNN 架構(gòu)，同時(shí)借鑒了 XRF 分析中常用的標(biāo)準(zhǔn)反卷積（deconvolution）方法，以 MA-XRF 光譜作為輸入，預(yù)測畫面上的元素分布，以及每種元素的絕對計(jì)數(shù)，就能夠?qū)λ妙伭线M(jìn)行分析。
訓(xùn)練數(shù)據(jù)集既包括實(shí)際 MA-XRF 掃描得到的數(shù)據(jù)，也使用了合成數(shù)據(jù)進(jìn)行訓(xùn)練，共包含 50 萬個(gè)蒙特卡羅模擬生成的光譜。
MC 模擬進(jìn)行光譜合成的過程如圖 1A 所示，圖 1B 則描述了所用深度神經(jīng)網(wǎng)絡(luò)的總體架構(gòu)，可以分為卷積塊和稠密塊兩部分。
原有的 CNN 假定圖像各部分具有平移不變性，但顯然 MA-XRF 光譜不是如此，每種元素所在的位置就代表了能量大小，這是用于預(yù)測的關(guān)鍵信息。
為了移除原有 CNN 中的平移不變性，訓(xùn)練卷積塊時(shí)會(huì)先保持密集塊參數(shù)固定，卷積塊訓(xùn)練完成后才會(huì)啟用。
圖 1 方法示意圖（A）MC 模擬中使用的圖像模型示意圖，生成用于訓(xùn)練網(wǎng)絡(luò)的合成 XRF 光譜（B）神經(jīng)網(wǎng)絡(luò)的示意圖，分為兩部分：卷積塊和密集塊
為了進(jìn)行試點(diǎn)實(shí)驗(yàn)，研究人員對兩幅拉斐爾的畫作進(jìn)行了掃描，分別是《God the Father》（圣父上帝）和《Virgin Mary》（圣母瑪利亞）。
1500 年，「文藝復(fù)興三杰」之一的拉斐爾為教堂創(chuàng)作了一幅宏偉的祭壇畫，但目前僅存有四幅殘片，這兩幅就是其中之二，現(xiàn)藏于意大利那不勒斯的卡波迪蒙特博物館。
左下：《圣母瑪利亞》右：《圣父上帝》
對《圣母瑪利亞》的人物面部分析如圖 3 所示。從元素分布圖像中可以推斷出，打底層和高光中使用鉛白（PB-L），人物膚色和明暗對比中使用了朱紅色（Hg-L）。
窗簾上的綠色是銅綠（Cu-K），而且人物的藍(lán)色斗篷上也存在銅元素，表明使用的顏料礦石是藍(lán)銅礦，并與天青石、鉛白進(jìn)行了混合，這一點(diǎn)可以從鉀和鉛的分布圖推斷出來。
圖 3 從 B 至 F 依次是 PB-L、Hg-L、Au-L、Cu-K、Fe-K 等元素的映射圖，左側(cè)顯示模型預(yù)測結(jié)果，右側(cè)顯示參考結(jié)果
除了推斷顏料成分，這項(xiàng)技術(shù)還能幫我們分析拉斐爾的繪畫技巧，幫我們看到這位大師在面部造型中采取了怎樣的微妙技法。
和上圖一樣，依舊有大量的鉛白色打底，使用土黃色的赭石（含大量鐵）賦予面部的三維度和陰影，眼周的紅朱砂（汞）和銅基顏料共同打造出了一種微妙的膚色。
圖 4 D 為從元素分布圖合成的 RGB 圖像，其余依次為掃描區(qū)域原圖以及 PB-L、Hg-L、Pb-M、S-K 等元素的分布圖
圖 5B 則能讓我們更精細(xì)地看到拉斐爾如何用鉛勾勒出建筑的細(xì)節(jié)，此外，鐵元素和鋅元素含量的顯著線性關(guān)系（圖 5E）則能告訴我們，他使用的赭石中包含大量鋅元素。
圖 5 畫中建筑細(xì)節(jié)的高分辨率 MA-XRF 元素分布圖
從圖 3-5 的元素分布圖，以及圖 7 的量化結(jié)果中可以看出，模型的預(yù)測結(jié)果與參考值匹配程度很高，元素凈計(jì)數(shù)也遵循相同的分布。
此外，經(jīng)過藝術(shù)學(xué)家的判斷，神經(jīng)網(wǎng)絡(luò)推斷出的顏料調(diào)色板符合 15 世紀(jì)畫家的實(shí)踐方法，并與其他方法所調(diào)查出的拉斐爾早期作品調(diào)色板相匹配。
圖 7 元素分布圖對比
這些發(fā)現(xiàn)代表了人工智能集成的關(guān)鍵進(jìn)步，AI 可以幫助更準(zhǔn)確、更高效地分析 XRF 光譜，從而進(jìn)一步促進(jìn)藝術(shù)領(lǐng)域各個(gè)學(xué)科的專家之間的合作。
這項(xiàng)方法的成功建立在兩個(gè)關(guān)鍵支柱之上。首先，我們已知的關(guān)于 X 射線如何與物質(zhì)相互作用，包括能量色散探測器的光譜響應(yīng)；其次，先進(jìn)的模擬軟件能夠生成與 XRF 儀器所獲得的非常相似的合成光譜。
AI + 畫作，發(fā)展「計(jì)算機(jī)輔助鑒賞」
事實(shí)上，Science 刊登的這篇研究并不是藝術(shù)學(xué)家們首次和 AI 進(jìn)行跨界合作。
去年 11 月，《福布斯》雜志就報(bào)道過一位英國學(xué)者的研究，而且同樣是針對拉斐爾的畫作。
他們使用深度學(xué)習(xí)算法分析了這幅《Madonna of the Rose》（玫瑰圣母），發(fā)現(xiàn)其中男性人物的臉（Joseph）并不是拉斐爾本人繪制的。
更加巧合的是，這個(gè)結(jié)果與藝術(shù)學(xué)家們長期以來的懷疑不謀而合。
長期以來，學(xué)者們就推測這幅畫有拉斐爾以外的其他人參與，并且還注意到，Joseph 面部的構(gòu)圖和描繪水平比不上畫面中的其他人物。
《玫瑰圣母》
研究人員僅用了 49 幅經(jīng)過認(rèn)證的拉斐爾畫作，就訓(xùn)練出了一個(gè)深度學(xué)習(xí)系統(tǒng)，通過筆觸、調(diào)色板和陰影等 4000 多個(gè)視覺特征識(shí)別藝術(shù)家的作品，準(zhǔn)確率高達(dá) 98%。
論文作者 Hassan Ugail 表示，相比任何人在不借助任何工具的情況下進(jìn)行分類或鑒別，AI 的準(zhǔn)確率要好得多。
算法分析了拉斐爾畫作的各個(gè)部分，以確認(rèn)哪些由藝術(shù)家本人繪制
然而，論文合著者、斯坦福大學(xué)的 David G. Strok 提醒我們，目前僅靠計(jì)算機(jī)結(jié)果仍不足以完成大多數(shù)藝術(shù)史領(lǐng)域的任務(wù)。
如果與傳統(tǒng)的鑒賞方法和藝術(shù)史研究相結(jié)合，計(jì)算機(jī)工具與 AI 技術(shù)將大有可為。一個(gè)正確的算法、一個(gè)經(jīng)過恰當(dāng)訓(xùn)練的 AI 模型，將節(jié)省寶貴的時(shí)間和資源，幫助我們更好地發(fā)掘藝術(shù)寶庫。
參考資料：
https://www.science.org/doi/10.1126/sciadv.adp6234
https://www.forbes.com/sites/lesliekatz/2023/12/22/ai-uncovers-hidden-secret-in-painting-by-renaissance-master-raphael/
本文來自微信公眾號(hào)：微信公眾號(hào)（ID：null），作者：新智元
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。