“我們不能只是關(guān)注 AI 應(yīng)用本身,，而是從一個全棧的角度，去全面審視應(yīng)用,、模型、數(shù)據(jù),、基礎(chǔ)架構(gòu)的安全規(guī)范,、技術(shù)策略和平臺工具。生成式AI應(yīng)用就像是海面上的冰山,，我們想要在企業(yè)里安全地駕馭這項新技術(shù),，還需要關(guān)注海面下的冰川,。”

日前,，以“AI時代 全面智能的安全”為主題的亞馬遜云科技re:Inforce 2023中國站在北京舉辦,，這也是re:Inforce首次登陸國內(nèi)。人工智能的算力,、算法,、模型都離不開網(wǎng)絡(luò)和云，在大語言模型,、生成式AI持續(xù)升溫的背景下,，與AI相關(guān)的安全、合規(guī)等問題再次成為了行業(yè)關(guān)注的焦點,。

隨著基于大語言模型的應(yīng)用開始進入生產(chǎn)力場景,，模型如何與基礎(chǔ)設(shè)施,、安全等服務(wù)進行緊密集成，如何開發(fā)既安全又具備性價比的應(yīng)用,，也開始成為繼大模型本身之后的核心話題,。

據(jù)介紹，亞馬遜云科技已經(jīng)開始在國內(nèi)同優(yōu)秀的基礎(chǔ)模型創(chuàng)業(yè)公司展開合作,。明星企業(yè)百川智能加入了 APN 合作伙伴網(wǎng)絡(luò)，并上架亞馬遜云科技 Marketplace ,，開始加速幫助企業(yè)客戶對其開源模型的微調(diào)和部署,，促進生成式 AI 在企業(yè)場景中的落地。

在主題演講環(huán)節(jié)之后,，亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞,、亞馬遜云科技大中華區(qū)安全合規(guī)與治理產(chǎn)品總監(jiān)白帆、亞馬遜云科技大中華區(qū)技術(shù)專家團隊總監(jiān)王曉野一起向36氪等多家機構(gòu)分享了生成式AI,、大語言模型等前沿技術(shù)在云計算安全層面所帶來的挑戰(zhàn)及機遇,。

亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞

大語言模型和生成式AI能給傳統(tǒng)的網(wǎng)絡(luò)安全問題提供更具效率的全新解決方案，但也會衍生出此前并未系統(tǒng)性出現(xiàn)的新問題,。近期,，全球性安全組織OWASP列出了大語言模型應(yīng)用所面臨的十大威脅，比如當(dāng)企業(yè)沒有規(guī)定好數(shù)據(jù)邊界,、權(quán)限,、應(yīng)用的API控制，就有可能成為新的數(shù)據(jù)泄露途徑,。

目前,，亞馬遜云科技不僅提供了一系列的技術(shù)、服務(wù)和工具幫助更多企業(yè)充分釋放生成式 AI 的潛力,，同時確保安全合規(guī)是開展一切業(yè)務(wù)的基礎(chǔ),，包括其生成式 AI的各種工具，涵蓋數(shù)據(jù),、模型以及應(yīng)用各個環(huán)節(jié),。

代聞表示：大語言模型的出現(xiàn)加速了零信任在企業(yè)中的落地，亞馬遜云科技的零信任體系,，它包括身份認證,、可信網(wǎng)絡(luò)、以及高顆粒度的權(quán)限管理以及審計,。零信任和網(wǎng)絡(luò)控制并不是一個二選一的關(guān)系,，在亞馬遜云科技看來，零信任能夠?qū)崿F(xiàn)按需的授權(quán)和認證,，而網(wǎng)絡(luò)控制依然是非常需要的,，把這兩個概念應(yīng)該加起來,，才能夠?qū)崿F(xiàn)企業(yè)的端到端的應(yīng)用安全，尤其在大模型的時代中,。

在網(wǎng)絡(luò)世界里,，威脅與防控措施始終此消彼長、互為矛盾,。而現(xiàn)在,，大語言模型和生成式AI既是矛、也是盾,，如何因勢利導(dǎo),、揚長避短，也將成為未來大語言模型,、生成式AI大規(guī)模應(yīng)用的焦點問題,。

在IDC近期發(fā)布的《2023中國公有云托管安全服務(wù)能力報告》中，亞馬遜云科技在專家能力,、漏洞及威脅檢測,、威脅情報等7項目評估維度上是獲得滿分最多的廠商之一，其中“生態(tài)建設(shè)”評估維度是唯一獲得滿分的廠商,。

借大語言模型之所長

與傳統(tǒng)的機器學(xué)習(xí)方法相比,，大模型依靠數(shù)量龐大的神經(jīng)元和強大的計算能力，更強大,、更靈活,，能夠有效地處理海量數(shù)據(jù)集和復(fù)雜的任務(wù)，這對于解決云上日益復(fù)雜的合規(guī)問題事半功倍,，目前,，云上合規(guī)環(huán)境的變化正呈現(xiàn)如下趨勢：

• 在全球范圍內(nèi)相關(guān)法律法規(guī)日趨勢完善，據(jù)不完全統(tǒng)計,，目前已經(jīng)有超過130多個國家和地區(qū)制定和頒布了數(shù)據(jù)保護和隱私安全相關(guān)的法律法規(guī),；
• 隨著云計算的大規(guī)模普及，越來越多的重要數(shù)據(jù)正在加速上云,，而且數(shù)量和種類在增加,；
• 在全球的數(shù)智化轉(zhuǎn)型熱潮中，不同類型客戶的業(yè)務(wù)在發(fā)生持續(xù)變化,，包括大模型運用,、使用生成式AI工具給業(yè)務(wù)帶來了由量變向質(zhì)變的躍升，給安全合規(guī)帶來新的挑戰(zhàn),。

大語言模型和生成式AI提供了橫向能力,，最終會把能力輻射到很多不同的工具中去，還有可能會產(chǎn)生新的工具,，代聞?wù)J為：重點是如何用這些工具服務(wù)到廣大用戶,，在這樣的框架下,，如何能使用最合適的、高效的工具來支撐,，大量工具和解決方案能夠從數(shù)據(jù)保護,、隱私數(shù)據(jù)剔除、到運行環(huán)境來保障數(shù)據(jù)和模型的安全,。

比如把AI能力提升到安全審計流程中去,，這是一個循環(huán)往復(fù)的過程，AI為安全服務(wù),，安全反過來再為AI應(yīng)用服務(wù),，這是一個以負責(zé)任的AI（Responsible AI）為基礎(chǔ)框架，再使用合適的工具加以快速落地的過程,。代聞強調(diào)：這個領(lǐng)域現(xiàn)在充滿了未知,，我們需要保持開放的心態(tài)和謹慎樂觀,，讓生成式AI在企業(yè)服務(wù)中落地,。

一方面，亞馬遜云科技在全球獲得140多個安全標準和合規(guī)認證,，并將AI技術(shù)應(yīng)用到其安全及合規(guī)服務(wù)中,，能夠為大規(guī)模批量審查提供安全控制，利用自動化減少手工操作以降低錯誤,，利用AI提供一致性判斷,，利用AI/ML技術(shù)實現(xiàn)自動審查，全面提升合規(guī)效率,。

據(jù)介紹,，亞馬遜云科技通過在其500多項自身合規(guī)審計控制項中使用AI技術(shù)，將審計時間節(jié)約了53%,。

另一方面,，亞馬遜云科技通過APN合作伙伴網(wǎng)絡(luò)提供數(shù)百種行業(yè)領(lǐng)先的安全解決方案，多層保護客戶的應(yīng)用和數(shù)據(jù)安全,，攜手構(gòu)建1+1>2的安全合作,。

在技術(shù)上包括網(wǎng)絡(luò)安全、主機安全,、應(yīng)用安全,、身份認證、威脅檢測和事件分析,、數(shù)據(jù)治理以及安全自動化運維等,；咨詢方面則提供方案建議、合規(guī)建議以及全面的安全咨詢服務(wù)和合規(guī)服務(wù),。

來自數(shù)據(jù),、模型,、應(yīng)用的層層挑戰(zhàn)

在人工智能時代,，大語言模型承載著大量機構(gòu)、企業(yè),，和每個人的隱私,，而模型又與數(shù)據(jù)本身隔著多層神經(jīng)網(wǎng)絡(luò)，全棧安全則成為大模型自身迭代升級,，再向應(yīng)用層延伸所必須不斷面對的問題,。

白帆談到：與傳統(tǒng)業(yè)務(wù)相比，云上業(yè)務(wù)最大的區(qū)別是防守邊界感不一樣,，當(dāng)數(shù)據(jù)或業(yè)務(wù)遷移到云上時,，首先概念上的改變是物理邊界變成了邏輯邊界，邏輯邊界會使自身防護的略發(fā)生改變,，以前只需保護看得見的地方,，現(xiàn)在的重點是抽象化、看不見的地方,。

數(shù)據(jù)安全

高質(zhì)量數(shù)據(jù)是提升AI能力的關(guān)鍵,，并且，大語言模型,、生成式AI需要貫穿全周期的數(shù)據(jù)治理,，從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲和查詢，再到將數(shù)據(jù)傳輸給 AI平臺進行模型的訓(xùn)練,、調(diào)優(yōu)和推理,，以及全面實施數(shù)據(jù)分類和治理。

亞馬遜云科技提供了一整套的解決方案,、產(chǎn)品服務(wù)和最佳實踐,，幫助企業(yè)加速落地端到端的云原生數(shù)據(jù)戰(zhàn)略,，給生成式AI 提供高質(zhì)量的數(shù)據(jù)支持：

• 對于存儲中的數(shù)據(jù)，亞馬遜云科技通過實施安全密鑰管理,、靜態(tài)數(shù)據(jù)加密,、強制實施訪問控制、利用機制限制數(shù)據(jù)訪問,，保護存儲中的數(shù)據(jù),。其中，針對高質(zhì)量的數(shù)據(jù),，亞馬遜云科技有兩個保護重點,，防止數(shù)據(jù)泄漏以及防止數(shù)據(jù)篡改。本次大會上,，亞馬遜云科技推出了敏感數(shù)據(jù)保護解決方案,，可實現(xiàn)對企業(yè)敏感數(shù)據(jù)的自動化發(fā)現(xiàn)并在統(tǒng)一平臺管理數(shù)據(jù)資產(chǎn)；
• 對于傳輸中的數(shù)據(jù),，亞馬遜云科技從實施安全密鑰和證書管理,、執(zhí)行傳輸中加密、自動檢測意外數(shù)據(jù)訪問,、對網(wǎng)絡(luò)通信進行身份驗證四個方面對傳輸中的數(shù)據(jù)進行保護,。通過跨區(qū)域之間的數(shù)據(jù)傳輸,、VPC內(nèi)部以及VPC之間的傳輸,、遷移上云的過程中、以及TLS1.2+AES256從整個的基礎(chǔ)架構(gòu)上實現(xiàn)應(yīng)用層的加密和傳輸?shù)谋Ｗo,；
• 對于使用中的數(shù)據(jù),，亞馬遜云科技從身份認證、隔離環(huán)境,、多方協(xié)作以及數(shù)據(jù)共享四個方面,，進行使用中的數(shù)據(jù)保護。

模型安全

與紛紛推出大語言模型的科技企業(yè)不同,，亞馬遜云科技所發(fā)布的Amazon Bedrock和多種生成式AI服務(wù)和功能,，旨在幫助客戶構(gòu)建和擴展自己的生成式AI應(yīng)用程序。Amazon Bedrock提供了廣泛的基礎(chǔ)模型因此客戶可以選擇最能滿足需求的模型,。

王曉野介紹說：Amazon Bedrock的定位不是會放非常多的模型,，而是讓用戶有辦法最容易地使用生成式AI領(lǐng)域最領(lǐng)先的模型，所以我們會挑行業(yè)內(nèi)領(lǐng)先的模型,，希望用戶更容易地用到,，所以是用API的方式來推出。我們通過API以及跟包括IAM和VPC等基于云所構(gòu)建的環(huán)境,，把基礎(chǔ)設(shè)施上一系列最佳實踐通過Amazon Bedrock以API的方式提供出來,，讓客戶更好地使用,。

Amazon Bedrock通過接入基礎(chǔ)模型，提供API可以借助大模型加速生成式AI的應(yīng)用程序和開發(fā),，無須管理底層的基礎(chǔ)設(shè)施,；并負責(zé)任地選取合作伙伴便于客戶最快速地找到最合適的、能力最強的基礎(chǔ)模型,，例如AI21 Labs,、Anthropic、Stability AI,，最新的合作伙伴名單里增加了Cohere,。

Amazon Bedrock使用組織內(nèi)部的數(shù)據(jù)來訓(xùn)練大模型，同時給大模型做私有拷貝,，這個拷貝只提供給客戶服務(wù),，不會再與其他任何的大模型共享。此外,，訓(xùn)練數(shù)據(jù)只是在客戶賬戶里來幫助工作,，不會拿任何用戶的數(shù)據(jù)來增進自己的模型。這是很多企業(yè)在使用大模型時對于數(shù)據(jù)主權(quán),、數(shù)據(jù)保護方面的重要訴求,。

同時，Amazon Bedrock全面使用亞馬遜云科技的安全功能,，如Amazon KMS,、Amazon IAM等，在集成后可以全面管理加密,、權(quán)限控制和所有行為的日志,。

應(yīng)用安全

對于每一個負責(zé)任的人工智能企業(yè)來說，安全應(yīng)該貫穿到從開發(fā)到持續(xù)集成,、持續(xù)部署再到投產(chǎn),、監(jiān)控以及整個反饋的過程里面來。

王曉野談到：把生成式AI應(yīng)用到安全領(lǐng)域,，最直接的方式是把應(yīng)用的場景做好,，比如Amazon CodeWisperer用于代碼生成，以及近期發(fā)布的Amazon CodeGuru Security,，亞馬遜云科技把內(nèi)部數(shù)據(jù)集訓(xùn)練出來的模型能力放到經(jīng)過安全檢測的應(yīng)用場景中,，通過三層能力提供給客戶，全面支持不同層的客戶用生成式AI,。

在開發(fā)過程中,，Amazon CodeWhisperer作為AI編程助手，根據(jù)開發(fā)者指令利用內(nèi)嵌的基礎(chǔ)模型實時生成代碼建議，該服務(wù)內(nèi)置了代碼安全掃描功能,，可幫助開發(fā)者查找難以檢測的漏洞并提出補救建議,；Amazon CodeGuru Security可以掃描代碼，在代碼里面尋找漏洞,，包括調(diào)用包漏洞,，包括很多其他代碼邏輯的漏洞。

在應(yīng)用運行中,，企業(yè)可構(gòu)建零信任的應(yīng)用安全訪問策略,。這是一整套機制，需要對訪問大模型的應(yīng)用進行權(quán)限管理,，確保只有在擁有特定權(quán)限的應(yīng)用,，才能訪問或者調(diào)用大模型里的制定API。

亞馬遜云科技推出系列工具,，幫助客戶構(gòu)建零信任機制：

• 使用Amazon Verified Access 搭建無需VPN的網(wǎng)絡(luò)驗證系統(tǒng),、使用Amazon IAM或者客戶自己的用戶認證系統(tǒng)，來完成這個認證程序,，建立可信任的網(wǎng)絡(luò)通道,；
• Amazon Verified Permissions為用戶構(gòu)建的應(yīng)用程序提供細粒度授權(quán)和權(quán)限管理，用戶可以使用該服務(wù)管理其應(yīng)用程序的角色和屬性的訪問控制,；
• 發(fā)布開源語言CEDAR,，CEDAR用于編寫和執(zhí)行授權(quán)策略的開源的語言，可以更加高效地創(chuàng)建所有的訪問控制權(quán)限,。

代聞指出：零信任和網(wǎng)絡(luò)控制并不是一個二選一的關(guān)系,，兩者相加才能實現(xiàn)端到端的應(yīng)用安全，尤其是在大模型時代,。

針對網(wǎng)絡(luò)防護,，Amazon Shield用于防DDos攻擊,；Amazon WAF提供防火墻支撐,；Amazon Firewall Manager可以輕松管制防火墻策略。據(jù)介紹,，亞馬遜云科技去年緩解了70萬次DDos攻擊,，Amazon WAF上每天托管規(guī)則請求超過3500億條。

針對威脅識別,，Amazon GuardDuty使用了基于人工智能和機器學(xué)習(xí)的技術(shù),，使安全事件的誤報率減少50%。它能夠?qū)崿F(xiàn)初期的檢測,，還可以做持續(xù)的分析,，它會使用機器學(xué)習(xí)的技術(shù)來檢測所有的威脅，以智能化的手段給予采取行動的建議。