數(shù)字時代，隨著人工智能技術(shù)的廣泛應(yīng)用，為了更好地規(guī)范人工智能領(lǐng)域的科技活動，我國陸續(xù)發(fā)布了一系列法律和行政法規(guī)；在要求確保模型決策的安全可靠和公平公正的同時，也對企業(yè)內(nèi)針對模型的風(fēng)險管理和內(nèi)控制度提出了具體要求。

9月16日，九部委聯(lián)合制定的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》發(fā)布，針對算法治理提出要利用三年時間，逐步建立“治理機制健全”、“監(jiān)管體系完善”、“算法生態(tài)規(guī)范”的算法安全綜合治理格局。人工智能模型風(fēng)險治理作為“可信人工智能”技術(shù)發(fā)展中的重要環(huán)節(jié)，已經(jīng)成為企業(yè)可信人工智能研究和應(yīng)用的必要工作之一，企業(yè)應(yīng)該實施切實有效的治理措施，快速靈活應(yīng)對模型風(fēng)險。

據(jù)悉，此次測評參照的標準是由中國信通院聯(lián)合20余家行業(yè)優(yōu)秀企業(yè)和專家依托中國互聯(lián)網(wǎng)協(xié)會平臺聯(lián)合制定的《人工智能模型風(fēng)險治理能力成熟度模型》。該標準聚焦企業(yè)人工智能模型風(fēng)險治理，建立了一套圍繞人工智能模型的風(fēng)險治理能力成熟度的治理框架。

測評圍繞“AI模型全生命周期管理”、“應(yīng)急響應(yīng)”、“決策透明”、“專利保護”、“模型安全影響評估”、“交互與溝通”、“外部合作”等板塊展開；對參評企業(yè)在可信人工智能領(lǐng)域，包括魯棒性、可解釋性、公平性、數(shù)據(jù)隱私保護等不同維度的技術(shù)能力及技術(shù)治理方案都做出了規(guī)范和要求。

作為首批通過測試的參評單位，螞蟻集團全面風(fēng)險管理部高級專家楊舟也受邀參與了論壇分享。他表示，螞蟻集團本次送測的“智能金融犯罪風(fēng)險防控模型”，此前已廣泛應(yīng)用于反欺詐等金融犯罪風(fēng)險防控領(lǐng)域，不僅在魯棒性、可解釋性、隱私保護、公平性等領(lǐng)域的技術(shù)創(chuàng)新及實踐應(yīng)用上積累了豐富的經(jīng)驗，在操作風(fēng)險防控、模型全生命周期質(zhì)量管控、模型使用管理等模型治理方面，也做出了許多積極探索?？尚?、智能模型風(fēng)險管理體系已成為螞蟻全面風(fēng)險管理的核心模塊。

xiesc

<big id="lscm4"><span id="lscm4"></span></big>