IT之家 10 月 18 日消息，微軟為了營(yíng)造健康和諧的社區(qū)環(huán)境，減少圖片或文本中關(guān)于偏見(jiàn)、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容，于今年 5 月測(cè)試推出了 AI 內(nèi)容審核工具 Azure AI Content Safety，該工具經(jīng)過(guò)多月測(cè)試之后于今天正式發(fā)布。
IT之家注：Azure AI Content Safety 提供了一系列經(jīng)過(guò)訓(xùn)練的 AI 模型，能夠檢測(cè)圖片或文本中與偏見(jiàn)、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容，并可以理解并檢測(cè)包含八種語(yǔ)言的圖片或文本，為被標(biāo)記的內(nèi)容嚴(yán)重性進(jìn)行打分，指示人工審核員哪些內(nèi)容需要采取行動(dòng)。
該內(nèi)容審核工具最初整合到 Azure OpenAI 服務(wù)中，微軟現(xiàn)在以獨(dú)立系統(tǒng)方式正式推出。
微軟在官方博文中寫(xiě)道：“這意味著客戶(hù)可以將其用于來(lái)自開(kāi)源模型和其他公司模型的人工智能生成內(nèi)容，以及調(diào)用部分用戶(hù)生成的內(nèi)容，進(jìn)一步擴(kuò)展實(shí)用性”。
微軟表示，與其他同類(lèi)型產(chǎn)品相比，該款產(chǎn)品在公正性和理解上下文方面有顯著改進(jìn)，但該款產(chǎn)品仍需要依賴(lài)人工審核人員標(biāo)記數(shù)據(jù)和內(nèi)容。這意味著最終其公正性還是取決于人類(lèi)。而在處理數(shù)據(jù)和內(nèi)容時(shí)，人工審核人員可能帶著自己的偏見(jiàn)，因此依然無(wú)法做到完全中立審慎。
相關(guān)閱讀：
《微軟推出 Azure AI Content Safety，可自動(dòng)檢測(cè)仇恨暴力等負(fù)面網(wǎng)絡(luò)內(nèi)容》
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。