7 月 7 日下午消息，2023 世界人工智能大會(huì)期間，在“聚焦?大模型時(shí)代 AIGC 新浪潮 — 可信 AI”論壇上，螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布 AI 安全檢測平臺(tái)“蟻鑒 2.0”。
蟻鑒 2.0 可實(shí)現(xiàn)用生成式 AI 能力檢測生成式 AI 模型，可識(shí)別數(shù)據(jù)安全、內(nèi)容安全、科技倫理三大類的數(shù)百種風(fēng)險(xiǎn)，覆蓋表格、文本、圖像等多種數(shù)據(jù)和任務(wù)類型，是業(yè)內(nèi)首個(gè)實(shí)現(xiàn)產(chǎn)業(yè)級應(yīng)用的全數(shù)據(jù)類型 AI 安全檢測平臺(tái)。
在該論壇上，螞蟻集團(tuán)同時(shí)宣布，“蟻鑒 2.0”全面開放，面向全球開發(fā)者免費(fèi)提供 AIGC 安全性、AI 可解釋性、AI 魯棒性（穩(wěn)健性）三項(xiàng)檢測工具，可服務(wù)于數(shù)字金融、教育、文化、醫(yī)療、電商等領(lǐng)域的大規(guī)模復(fù)雜業(yè)務(wù)場景。
螞蟻集團(tuán)大安全事業(yè)群技術(shù)部總裁李俊奎表示，“生成式大模型是一種‘深黑盒’技術(shù)，‘蟻鑒 2.0’通過智能博弈對抗技術(shù)，模擬黑產(chǎn)以及自動(dòng)化生成海量測試集，可實(shí)現(xiàn)‘生成式機(jī)器人’對‘AIGC 生成式模型’的誘導(dǎo)式檢測計(jì)算，很像一個(gè) 24 小時(shí)不眠不休的‘安全黑客’在找茬大模型，從而找到大模型存在的弱點(diǎn)和安全問題所在?！?/p>
據(jù)了解，“蟻鑒 2.0”集成了螞蟻近 10 年可信 AI 實(shí)踐、1000 余項(xiàng)可信 AI 專利，支持零編碼測評。開發(fā)者通過 API 接口，將 AI 模型接入蟻鑒，就可以一鍵識(shí)別和挖掘模型漏洞。
此次論壇上，中國信通院、上海人工智能實(shí)驗(yàn)室、武漢大學(xué)、螞蟻集團(tuán)等多家單位共同發(fā)起《AIGC 可信倡議》，圍繞人工智能可能引發(fā)的經(jīng)濟(jì)、安全、隱私和數(shù)據(jù)治理等問題，提出構(gòu)建 AIGC 可信發(fā)展的全球治理合作框架，采用安全可信的數(shù)據(jù)資源、技術(shù)框架、計(jì)算方法和軟件平臺(tái)等全面提升 AIGC 可信工程化能力，最大限度確保生成式 AI 安全、透明、可釋。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。