中國信息通信研究院于2017年起開始內(nèi)容審核技術(shù)方面的研究，依托中國通信標準化協(xié)會、國內(nèi)頭部互聯(lián)網(wǎng)公司、重點行業(yè)企業(yè)共同研究制定了《網(wǎng)絡(luò)治理能力評估規(guī)范：第2部分-有害信息內(nèi)容識別服務(wù)系統(tǒng)》，從內(nèi)容識別系統(tǒng)的圖像、文本、音頻、視頻的智能識別基礎(chǔ)功能、性能兩個維度進行評測。2022年信通院針對當前內(nèi)容測評技術(shù)發(fā)展情況，更新和豐富了測試數(shù)據(jù)集，該內(nèi)容審核服務(wù)測評具有較高的行業(yè)認可度與標桿性質(zhì)，在國內(nèi)具有領(lǐng)先性和代表性。

螞蟻天鑒內(nèi)容風(fēng)控體系依托億級數(shù)據(jù)構(gòu)建底層算法模型，告別傳統(tǒng)的基于人工或靜態(tài)識別技術(shù)的內(nèi)容過濾方式，實現(xiàn)“圖、文、音、視、行”綜合感知融合互補，打造出智能高效的多模態(tài)內(nèi)容風(fēng)控引擎，滿足平臺對海量內(nèi)容的實時風(fēng)控需求，為網(wǎng)絡(luò)空間安全保駕護航。

其中，文本算法依托領(lǐng)域知識沉淀和風(fēng)險語料積累，通過自然語言理解、知識圖譜、對抗魯棒性增強等技術(shù)手段，準確識別非常規(guī)內(nèi)容如機器合成、異體字、卡通異化、隱晦表達等；圖像算法則采用強化混排、多模態(tài)預(yù)訓(xùn)練框架、多標簽圖像分類算法等技術(shù)，沉淀針對內(nèi)容風(fēng)險事實標簽體系的通用事實類識別能力，可在應(yīng)用端進行靈活組合適配不同場景的需求。

未來，天鑒內(nèi)容風(fēng)控體系將加強多模態(tài)內(nèi)容理解能力的建設(shè)，研發(fā)面向安全多模異構(gòu)數(shù)據(jù)理解的多模融合、跨模關(guān)聯(lián)和可控生成等技術(shù)，創(chuàng)研易于擴展的算法框架，快速響應(yīng)開放場景新內(nèi)容和新風(fēng)險的識別，打造適合不同行業(yè)場景的內(nèi)容風(fēng)控應(yīng)用。從而為構(gòu)建互利多贏、開放包容的內(nèi)容生態(tài)貢獻一份力量。

xiesc