報告指出，隨著人工智能技術(shù)的快速發(fā)展，在全球范圍內(nèi)的不同應用場景中，AI正在逐步替代人類，承擔起越來越多的分析、決策等重要工作。而在傳統(tǒng)的人工智能技術(shù)中，由于因果關(guān)系、推導過程的不清晰，使得AI的分析、決策結(jié)果難以完全獲得人類的信賴。決策者采用人工智能技術(shù)做出的判斷，甚至可能引發(fā)公眾對公平性的質(zhì)疑。不僅如此，由黑產(chǎn)發(fā)起的、針對AI的攻擊，還可能誤導模型算法得出錯誤的決策結(jié)果。因此對于“AI魯棒性“、”AI可解釋性”、“AI公平性”的研究成為了人工智能下一步廣泛應用的關(guān)鍵環(huán)節(jié)。

同時，作為人工智能技術(shù)的重要資源，為了實現(xiàn)數(shù)據(jù)的合理利用和保護，探索如何借助技術(shù)手段，避免數(shù)據(jù)的過度采集、濫用盜用，既是行業(yè)研究的責任，也是用戶權(quán)益保護的基礎(chǔ)。而針對當前多數(shù)據(jù)所有權(quán)、地區(qū)法律法規(guī)差異大的現(xiàn)狀，探索借助技術(shù)手段、在保護隱私的前提下實現(xiàn)計算服務(wù)，也將進一步驅(qū)動和放大數(shù)據(jù)價值。

作為數(shù)字時代“抵御風險”的關(guān)鍵能力，AI安全可信技術(shù)的研究和應用，將被廣泛地應用于反欺詐、反洗錢、反賭博、數(shù)字身份識別、企業(yè)聯(lián)合風控等領(lǐng)域，極大地助力企業(yè)提升風險控制能力。

值得關(guān)注的是，報告中指出，專利申請主體對“專利目標市場”的選擇和布局，體現(xiàn)了企業(yè)或研究機構(gòu)的市場需求和技術(shù)自信。考慮到高額的專利申請和維護成本，單純以技術(shù)研究為目的的高校研究機構(gòu)，缺少大規(guī)模應用需求、或是國際化程度較低的企業(yè)，往往不會選擇在多地區(qū)進行專利申請和布局。由于“AI安全可信關(guān)鍵技術(shù)”是人工智能技術(shù)應用落地保障的關(guān)鍵，此次的專利檢索統(tǒng)計發(fā)現(xiàn)，微軟、NTT、IBM等國際科技企業(yè)均在大力全球范圍大力推動關(guān)鍵技術(shù)布局，而螞蟻集團以17個“專利目標市場”的覆蓋布局數(shù)居首位，表現(xiàn)搶眼。

xiesc