IT之家 7 月 25 日消息，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室的研究人員開發(fā)了一種名為“MAIA”的多模式自動(dòng)化可解釋性代理系統(tǒng)，該系統(tǒng)可以使用視覺(jué)語(yǔ)言模型來(lái)自動(dòng)執(zhí)行各種神經(jīng)網(wǎng)絡(luò)可解釋性任務(wù)。
麻省理工學(xué)院（MIT）計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室（CSAIL）最新研發(fā)了名為 MAIA 系統(tǒng)，可以使用視覺(jué)語(yǔ)言模型來(lái)自動(dòng)執(zhí)行各種神經(jīng)網(wǎng)絡(luò)可解釋性任務(wù)。
MAIA 的全稱是 Multimodal Automated Interpretability Agent，直譯過(guò)來(lái)為“多模態(tài)自動(dòng)可解釋性代理”，主要利用視覺(jué)語(yǔ)言模型，自動(dòng)執(zhí)行各種神經(jīng)網(wǎng)絡(luò)可解釋性任務(wù)，并配備了在其他人工智能系統(tǒng)上進(jìn)行實(shí)驗(yàn)的工具。
研究論文的共同作者，來(lái)自 MIT CSAIL 的博士后 Tamar Rott Shaham 表示：
我們的目標(biāo)是創(chuàng)建一個(gè)能夠自主進(jìn)行可解釋性實(shí)驗(yàn)的人工智能研究人員?，F(xiàn)有的自動(dòng)可解釋性方法只是在一次性過(guò)程中對(duì)數(shù)據(jù)進(jìn)行標(biāo)注或可視化。
另一方面，MAIA 可以生成假設(shè)，設(shè)計(jì)實(shí)驗(yàn)對(duì)其進(jìn)行測(cè)試，并通過(guò)迭代分析完善自己的理解。
通過(guò)結(jié)合預(yù)先訓(xùn)練好的視覺(jué)語(yǔ)言模型與可解釋性工具庫(kù)，我們的多模態(tài)方法可以在特定模型上組成和運(yùn)行有針對(duì)性地實(shí)驗(yàn)，來(lái)響應(yīng)用戶的詢問(wèn)，不斷完善其方法，直至能夠提供全面的答案。
該自動(dòng)代理被證明能夠完成三項(xiàng)關(guān)鍵任務(wù)：
可以為視覺(jué)模型內(nèi)部的各個(gè)組件貼標(biāo)簽，并描述激活這些組件的視覺(jué)概念
可以通過(guò)去除無(wú)關(guān)特征來(lái)清理圖像分類器，使其對(duì)新情況更加穩(wěn)健
還可以尋找人工智能系統(tǒng)中隱藏的偏差，幫助發(fā)現(xiàn)其輸出中潛在的公平性問(wèn)題。
MAIA 可以通過(guò)生成假設(shè)、設(shè)計(jì)實(shí)驗(yàn)來(lái)測(cè)試假設(shè)，并通過(guò)迭代分析改進(jìn)其理解，從而解釋人工智能模型的內(nèi)部機(jī)制，幫助我們了解人工智能模型如何運(yùn)作，并探究其安全性和偏差。
IT之家附上參考地址
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。