微軟為了營(yíng)造健康和諧的社區(qū)環(huán)境，減少圖片或文本中關(guān)于偏見、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容，于今年 5 月測(cè)試推出了 AI 內(nèi)容審核工具 Azure AI Content Safety，該工具經(jīng)過多月測(cè)試之后于今天正式發(fā)布。
注：Azure AI Content Safety 提供了一系列經(jīng)過訓(xùn)練的 AI 模型，能夠檢測(cè)圖片或文本中與偏見、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容，并可以理解并檢測(cè)包含八種語(yǔ)言的圖片或文本，為被標(biāo)記的內(nèi)容嚴(yán)重性進(jìn)行打分，指示人工審核員哪些內(nèi)容需要采取行動(dòng)。
該內(nèi)容審核工具最初整合到 Azure OpenAI 服務(wù)中，微軟現(xiàn)在以獨(dú)立系統(tǒng)方式正式推出。
微軟在官方博文中寫道：“這意味著客戶可以將其用于來自開源模型和其他公司模型的人工智能生成內(nèi)容，以及調(diào)用部分用戶生成的內(nèi)容，進(jìn)一步擴(kuò)展實(shí)用性”。
微軟表示，與其他同類型產(chǎn)品相比，該款產(chǎn)品在公正性和理解上下文方面有顯著改進(jìn)，但該款產(chǎn)品仍需要依賴人工審核人員標(biāo)記數(shù)據(jù)和內(nèi)容。這意味著最終其公正性還是取決于人類。而在處理數(shù)據(jù)和內(nèi)容時(shí)，人工審核人員可能帶著自己的偏見，因此依然無法做到完全中立審慎。 
