螞蟻集團大安全技術部總裁李俊奎介紹，該平臺內嵌了自研的AI安全計算引擎，計算性能提升了數(shù)十倍；內置了40余種國內外主流及自研的攻擊算法模型，通過模擬黑產及自動進化攻擊手段，對AI模型“檢測—防御—升級”，可有效發(fā)現(xiàn)AI模型漏洞，減少系統(tǒng)性風險；此外，該平臺覆蓋了對模型未知情況下的“隨機噪聲”、“遷移攻擊”等攻擊樣本，更符合工業(yè)界應用的攻擊評測基準。
李俊奎說，該平臺支持零編碼測評，用戶上傳待測模型，選擇攻擊算法后，平臺可自動化評估AI安全風險，全面加固模型算法。該平臺現(xiàn)已開放AI模型魯棒性測評，未來持續(xù)增加模型可解釋性、算法公平性、隱私保護等特性的檢測服務。
據介紹，“蟻鑒”AI安全檢測平臺搭載的技術能力，已在螞蟻的交易安全、核身安全、內容安全等多個場景有效應用實踐。例如，在垃圾賬號治理場景上，通過平臺基于深度神經網絡的博弈攻防模型，模擬黑產攻擊手段提前防御，風險賬號漏過減少2成多；在內容安全文本場景，基于文本對抗訓練的模型，降低風險漏過38%；在憑證認證場景，基于平臺提前發(fā)現(xiàn)的模型問題和對抗訓練增強方案，消除23%的潛在黑產攻擊威脅項。
中國信通院云計算與大數(shù)據研究所內容科技部副主任石霖表示，人工智能技術與制造、醫(yī)療、能源、交通、城市建設等領域深度融合，AI算法問題也在不斷出現(xiàn)。算法黑箱、算法設計缺陷、數(shù)據依賴、對抗樣本攻擊等問題對智能技術的產業(yè)化應用帶來較大安全隱患。AI面向工業(yè)場景大規(guī)模應用，要實現(xiàn)全鏈路安全可信，持續(xù)加強模型魯棒性。
清華大學副教授李琦表示，人工智能算法的通用自動化檢測是研究和解決人工智能安全問題的核心。此次推出的AI安全檢測平臺，首次全面解決了不同場景下AI算法的系統(tǒng)化和自動化評測，并提供了AI工業(yè)級應用的安全量化評價指標，有助于為人工智能算法在工業(yè)界的大規(guī)模應用提供安全保障。
公開資料顯示，今年8月份，這項AI安全檢測平臺獲評信通院“2022年可信人工智能實踐案例”標桿案例。螞蟻集團自2015年起投入可信AI技術研究，擁有全球范圍內數(shù)量最多的“AI安全可信關鍵技術”專利，已在反欺詐、反洗錢、反盜用、企業(yè)聯(lián)合風控、數(shù)據隱私保護等場景落地。
