IT之家 10 月 18 日消息，微軟為了營造健康和諧的社區(qū)環(huán)境，減少圖片或文本中關(guān)于偏見、仇恨、暴力等相關(guān)的負面內(nèi)容，于今年 5 月測試推出了 AI 內(nèi)容審核工具 Azure AI Content Safety，該工具經(jīng)過多月測試之后于今天正式發(fā)布。
IT之家注：Azure AI Content Safety 提供了一系列經(jīng)過訓練的 AI 模型，能夠檢測圖片或文本中與偏見、仇恨、暴力等相關(guān)的負面內(nèi)容，并可以理解并檢測包含八種語言的圖片或文本，為被標記的內(nèi)容嚴重性進行打分，指示人工審核員哪些內(nèi)容需要采取行動。
該內(nèi)容審核工具最初整合到 Azure OpenAI 服務(wù)中，微軟現(xiàn)在以獨立系統(tǒng)方式正式推出。
微軟在官方博文中寫道：“這意味著客戶可以將其用于來自開源模型和其他公司模型的人工智能生成內(nèi)容，以及調(diào)用部分用戶生成的內(nèi)容，進一步擴展實用性”。
微軟表示，與其他同類型產(chǎn)品相比，該款產(chǎn)品在公正性和理解上下文方面有顯著改進，但該款產(chǎn)品仍需要依賴人工審核人員標記數(shù)據(jù)和內(nèi)容。這意味著最終其公正性還是取決于人類。而在處理數(shù)據(jù)和內(nèi)容時，人工審核人員可能帶著自己的偏見，因此依然無法做到完全中立審慎。
相關(guān)閱讀：
《微軟推出 Azure AI Content Safety，可自動檢測仇恨暴力等負面網(wǎng)絡(luò)內(nèi)容》
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。