亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān) 代聞看到，目前，生成式AI已經(jīng)應(yīng)用到企業(yè)創(chuàng)新的各個(gè)環(huán)節(jié)，從智能客服提升客戶體驗(yàn)，到自動(dòng)生成代碼提高技術(shù)生產(chǎn)力，到通過文生圖加速內(nèi)容創(chuàng)意，再到通過自動(dòng)化文檔處理提高組織運(yùn)營(yíng)效率，無(wú)處不在。

從代聞的介紹中了解到，原來都是技術(shù)部門利用人工智能工具幫助業(yè)務(wù)部門改良業(yè)務(wù)，而現(xiàn)在，隨著生成式AI的到來，關(guān)于生成式AI的需求越來越多從業(yè)務(wù)部門提出，生成式AI儼然已被視為提升業(yè)務(wù)競(jìng)爭(zhēng)力的重要手段。

生成式AI真正讓AI在企業(yè)加速落地，正因?yàn)槿绱?，才更需要考慮生成式AI落地的安全問題。除了剛才提到的Safetensors格式，生成式AI的安全問題其實(shí)非常多。

我們看到，OWASP公布了大型語(yǔ)言模型的十大安全風(fēng)險(xiǎn)，生成式AI的提供者會(huì)因?yàn)樵L問控制、權(quán)限控制、沙箱機(jī)制等問題造成數(shù)據(jù)泄露，這是技術(shù)層面上的。

此外，使用者使用不當(dāng)也會(huì)造成自己數(shù)據(jù)泄露，韓國(guó)三星的數(shù)據(jù)泄露問題就是典型的錯(cuò)誤示范。同時(shí)，它還提醒了企業(yè)在內(nèi)部自己落地生成式AI的重要性。

與其在生成式AI高速發(fā)展后因?yàn)榘踩纫荒_剎車，不如在高速發(fā)展的同時(shí)就解決安全問題。

從代聞的介紹中了解到，亞馬遜云科技正在從數(shù)據(jù)和模型的安全、應(yīng)用的安全，以及全球合規(guī)三大方面下手解決問題。

首先，在數(shù)據(jù)和模型安全方面來看。

作為全球規(guī)模最大的公有云服務(wù)商，亞馬遜云科技上存放著大量用戶數(shù)據(jù)，在防止數(shù)據(jù)泄露和數(shù)據(jù)篡改方面經(jīng)驗(yàn)豐富，可以說，數(shù)據(jù)安全是亞馬遜云科技的立身之根本。

從代聞的介紹中了解到，無(wú)論是數(shù)據(jù)在存儲(chǔ)狀態(tài)，還是傳輸又或者是使用狀態(tài)，亞馬遜云科技提供的都是一套業(yè)內(nèi)一流安全實(shí)踐。

在模型安全方面，亞馬遜云科技首先提到模型的訪問策略很重要。代聞表示，生成式AI的訪問策略將會(huì)非常地復(fù)雜，需要專門的服務(wù)來控制這些訪問策略，需要IAM（Amazon IAM）來不斷調(diào)整訪問策略。

此外，模型的版本控制和模型的運(yùn)營(yíng)狀態(tài)監(jiān)控也很重要。這里需要提到的是亞馬遜云科技的云上機(jī)器學(xué)習(xí)訓(xùn)練平臺(tái)Amazon SageMaker，2017年剛發(fā)布的時(shí)候主要是用于訓(xùn)練，而后又陸續(xù)拓展了很多實(shí)用功能。

比如，Amazon SageMaker Model Cards是用來記錄模型用途和元數(shù)據(jù)的，它能讓機(jī)器學(xué)習(xí)專家以外的人也能看懂；Amazon SageMaker Model Registry是用來存放模型的大倉(cāng)庫(kù)；Amazon SageMaker Model Monitor是監(jiān)控模型運(yùn)行的工具。

2023年，亞馬遜云科技發(fā)布了生成式AI托管服務(wù)Amazon Bedrock，用戶不用管基礎(chǔ)設(shè)施和安全的相關(guān)問題，直接調(diào)用API來使用生成式AI。同時(shí)，亞馬遜云科技還精選了包括AI21 Labs、Anthropic、Stability AI等第三方模型，這是亞馬遜認(rèn)可的安全的模型。

Amazon Bedrock為那些希望用自己數(shù)據(jù)微調(diào)模型的企業(yè)提供方便，讓企業(yè)安全地用自己的數(shù)據(jù)來做訓(xùn)練，能避免數(shù)據(jù)被共享或者泄露的問題。當(dāng)然，作為一項(xiàng)大的服務(wù)，它也集成了秘鑰管理系統(tǒng)Amazon KMS和權(quán)限管理系統(tǒng)Amazon IAM。

在應(yīng)用的開發(fā)階段要有安全手段。

作為大型云服務(wù)商，亞馬遜云科技在DevSecOps也有一套成熟的實(shí)踐。

2023年，新發(fā)布了一個(gè)叫Amazon CodeWhisperer的人工智能編碼服務(wù)，開發(fā)者負(fù)責(zé)寫注釋，它負(fù)責(zé)生成代碼。同時(shí)，它還能順便幫助開發(fā)者掃描安全漏洞。

相比之下，Amazon CodeGuru Security是一種更強(qiáng)大的安全掃描工具，它可以掃描代碼，也可以掃描調(diào)用包里的漏洞，能發(fā)現(xiàn)代碼的邏輯漏洞，甚至還能便捷地集成到開發(fā)的工作流里，持續(xù)掃描并發(fā)現(xiàn)問題。

在應(yīng)用上線后也要有安全手段。

應(yīng)用開發(fā)上線后，生成式AI應(yīng)用會(huì)像其他所有應(yīng)用一樣，享受到亞馬遜云科技應(yīng)用安全大禮包的悉心照顧，包括零信任、攻擊保護(hù)等多個(gè)方面的能力。

作為零信任理念的一個(gè)實(shí)踐，亞馬遜云科技發(fā)布了Verified Access，它可以不需要VPN就能實(shí)現(xiàn)遠(yuǎn)程安全訪問，它按照終端用戶的環(huán)境和身份來實(shí)現(xiàn)訪問授權(quán)，可以減少遠(yuǎn)程連接可能會(huì)帶來的安全風(fēng)險(xiǎn)。

Amazon Verified Permissions是另外一種零信任理念的實(shí)踐，它將零信任的能力延展到了用戶自己的應(yīng)用程序里，在應(yīng)用代碼里嵌入安全策略控制服務(wù)，在應(yīng)用開發(fā)階段就能落地零信任，上線后可進(jìn)行更細(xì)粒度的安全控制。

網(wǎng)絡(luò)防護(hù)上，亞馬遜云科技的有應(yīng)對(duì)DDoS攻擊的Amazon Shield，有做網(wǎng)絡(luò)應(yīng)用防護(hù)的Amazon WAF，還有做防火墻策略管理的Amazon Firewall Manager。

最后，還有一個(gè)不得不提的重量級(jí)安全服務(wù)——Amazon GuardDuty，這是一種基于AI的識(shí)別威脅檢測(cè)的服務(wù)，可以檢測(cè)數(shù)據(jù)庫(kù)、容器和無(wú)服務(wù)器等運(yùn)行環(huán)境下的安全威脅。

最后，越來越重要的合規(guī)問題。

安全合規(guī)是全球都普遍重視的問題，隨著云服務(wù)的發(fā)展，隨著包括生成式AI應(yīng)用在內(nèi)的，越來越多的數(shù)據(jù)和業(yè)務(wù)上云，企業(yè)在安全合規(guī)上的挑戰(zhàn)也越來越多，作為業(yè)務(wù)遍布全球的公有云服務(wù)商，亞馬遜云科技獲得了超過140個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證，覆蓋IaaS到PaaS的多個(gè)方面。

從代聞的介紹中了解到，亞馬遜云科技也在利用人工智能技術(shù)來提升合規(guī)的效率，采用人工智能技術(shù)來大規(guī)模審查安全機(jī)制，從而大幅減少手動(dòng)操作并降低人為錯(cuò)誤。

小結(jié)

6月份在美國(guó)舉辦的re:Inforce重點(diǎn)圍繞安全的主題來展開，然而，安全是一個(gè)重要的基礎(chǔ)，是為上層的業(yè)務(wù)應(yīng)用來服務(wù)的。作為當(dāng)下最熱的技術(shù)創(chuàng)新趨勢(shì)，生成式AI備受矚目，此次國(guó)內(nèi)的re:Inforce則是提醒企業(yè)用戶在落地生成式AI時(shí)要注意安全問題。

zhupb