微軟為了營(yíng)造健康和諧的社區(qū)環(huán)境，減少圖片或文本中關(guān)于偏見(jiàn)、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容，于今年 5 月測(cè)試推出了 AI 內(nèi)容審核工具 Azure AI Content Safety，該工具經(jīng)過(guò)多月測(cè)試之后于今天正式發(fā)布。
注：Azure AI Content Safety 提供了一系列經(jīng)過(guò)訓(xùn)練的 AI 模型，能夠檢測(cè)圖片或文本中與偏見(jiàn)、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容，并可以理解并檢測(cè)包含八種語(yǔ)言的圖片或文本，為被標(biāo)記的內(nèi)容嚴(yán)重性進(jìn)行打分，指示人工審核員哪些內(nèi)容需要采取行動(dòng)。
該內(nèi)容審核工具最初整合到 Azure OpenAI 服務(wù)中，微軟現(xiàn)在以獨(dú)立系統(tǒng)方式正式推出。
微軟在官方博文中寫(xiě)道：“這意味著客戶(hù)可以將其用于來(lái)自開(kāi)源模型和其他公司模型的人工智能生成內(nèi)容，以及調(diào)用部分用戶(hù)生成的內(nèi)容，進(jìn)一步擴(kuò)展實(shí)用性”。
微軟表示，與其他同類(lèi)型產(chǎn)品相比，該款產(chǎn)品在公正性和理解上下文方面有顯著改進(jìn)，但該款產(chǎn)品仍需要依賴(lài)人工審核人員標(biāo)記數(shù)據(jù)和內(nèi)容。這意味著最終其公正性還是取決于人類(lèi)。而在處理數(shù)據(jù)和內(nèi)容時(shí)，人工審核人員可能帶著自己的偏見(jiàn)，因此依然無(wú)法做到完全中立審慎。 
