“我們不能只是關注 AI 應用本身,，而是從一個全棧的角度,，去全面審視應用,、模型、數據,、基礎架構的安全規(guī)范,、技術策略和平臺工具,。生成式AI應用就像是海面上的冰山,，我們想要在企業(yè)里安全地駕馭這項新技術，還需要關注海面下的冰川,?！?/p>

日前，以“AI時代 全面智能的安全”為主題的亞馬遜云科技re:Inforce 2023中國站在北京舉辦,，這也是re:Inforce首次登陸國內,。人工智能的算力、算法,、模型都離不開網絡和云,，在大語言模型、生成式AI持續(xù)升溫的背景下,，與AI相關的安全,、合規(guī)等問題再次成為了行業(yè)關注的焦點。

隨著基于大語言模型的應用開始進入生產力場景,，模型如何與基礎設施,、安全等服務進行緊密集成，如何開發(fā)既安全又具備性價比的應用,，也開始成為繼大模型本身之后的核心話題,。

據介紹,，亞馬遜云科技已經開始在國內同優(yōu)秀的基礎模型創(chuàng)業(yè)公司展開合作。明星企業(yè)百川智能加入了 APN 合作伙伴網絡,，并上架亞馬遜云科技 Marketplace ,，開始加速幫助企業(yè)客戶對其開源模型的微調和部署，促進生成式 AI 在企業(yè)場景中的落地,。

在主題演講環(huán)節(jié)之后,，亞馬遜云科技大中華區(qū)解決方案架構部總監(jiān)代聞、亞馬遜云科技大中華區(qū)安全合規(guī)與治理產品總監(jiān)白帆,、亞馬遜云科技大中華區(qū)技術專家團隊總監(jiān)王曉野一起向36氪等多家機構分享了生成式AI,、大語言模型等前沿技術在云計算安全層面所帶來的挑戰(zhàn)及機遇。

亞馬遜云科技大中華區(qū)解決方案架構部總監(jiān)代聞

大語言模型和生成式AI能給傳統(tǒng)的網絡安全問題提供更具效率的全新解決方案,，但也會衍生出此前并未系統(tǒng)性出現的新問題,。近期，全球性安全組織OWASP列出了大語言模型應用所面臨的十大威脅,，比如當企業(yè)沒有規(guī)定好數據邊界,、權限、應用的API控制,，就有可能成為新的數據泄露途徑,。

目前，亞馬遜云科技不僅提供了一系列的技術,、服務和工具幫助更多企業(yè)充分釋放生成式 AI 的潛力,，同時確保安全合規(guī)是開展一切業(yè)務的基礎，包括其生成式 AI的各種工具,，涵蓋數據,、模型以及應用各個環(huán)節(jié)。

代聞表示：大語言模型的出現加速了零信任在企業(yè)中的落地,，亞馬遜云科技的零信任體系,，它包括身份認證、可信網絡,、以及高顆粒度的權限管理以及審計,。零信任和網絡控制并不是一個二選一的關系，在亞馬遜云科技看來,，零信任能夠實現按需的授權和認證,，而網絡控制依然是非常需要的，把這兩個概念應該加起來,，才能夠實現企業(yè)的端到端的應用安全,，尤其在大模型的時代中。

在網絡世界里，威脅與防控措施始終此消彼長,、互為矛盾,。而現在，大語言模型和生成式AI既是矛,、也是盾,，如何因勢利導、揚長避短,，也將成為未來大語言模型,、生成式AI大規(guī)模應用的焦點問題。

在IDC近期發(fā)布的《2023中國公有云托管安全服務能力報告》中,，亞馬遜云科技在專家能力,、漏洞及威脅檢測、威脅情報等7項目評估維度上是獲得滿分最多的廠商之一,，其中“生態(tài)建設”評估維度是唯一獲得滿分的廠商,。

借大語言模型之所長

與傳統(tǒng)的機器學習方法相比，大模型依靠數量龐大的神經元和強大的計算能力,，更強大,、更靈活，能夠有效地處理海量數據集和復雜的任務,，這對于解決云上日益復雜的合規(guī)問題事半功倍,，目前，云上合規(guī)環(huán)境的變化正呈現如下趨勢：

• 在全球范圍內相關法律法規(guī)日趨勢完善,，據不完全統(tǒng)計,，目前已經有超過130多個國家和地區(qū)制定和頒布了數據保護和隱私安全相關的法律法規(guī)；
• 隨著云計算的大規(guī)模普及,，越來越多的重要數據正在加速上云,，而且數量和種類在增加,；
• 在全球的數智化轉型熱潮中,，不同類型客戶的業(yè)務在發(fā)生持續(xù)變化，包括大模型運用,、使用生成式AI工具給業(yè)務帶來了由量變向質變的躍升,，給安全合規(guī)帶來新的挑戰(zhàn)。

大語言模型和生成式AI提供了橫向能力,，最終會把能力輻射到很多不同的工具中去,，還有可能會產生新的工具，代聞認為：重點是如何用這些工具服務到廣大用戶,，在這樣的框架下,，如何能使用最合適的、高效的工具來支撐，大量工具和解決方案能夠從數據保護,、隱私數據剔除,、到運行環(huán)境來保障數據和模型的安全。

比如把AI能力提升到安全審計流程中去,，這是一個循環(huán)往復的過程,，AI為安全服務，安全反過來再為AI應用服務,，這是一個以負責任的AI（Responsible AI）為基礎框架,，再使用合適的工具加以快速落地的過程。代聞強調：這個領域現在充滿了未知,，我們需要保持開放的心態(tài)和謹慎樂觀,，讓生成式AI在企業(yè)服務中落地。

一方面,，亞馬遜云科技在全球獲得140多個安全標準和合規(guī)認證,，并將AI技術應用到其安全及合規(guī)服務中，能夠為大規(guī)模批量審查提供安全控制,，利用自動化減少手工操作以降低錯誤,，利用AI提供一致性判斷，利用AI/ML技術實現自動審查,，全面提升合規(guī)效率,。

據介紹，亞馬遜云科技通過在其500多項自身合規(guī)審計控制項中使用AI技術,，將審計時間節(jié)約了53%,。

另一方面，亞馬遜云科技通過APN合作伙伴網絡提供數百種行業(yè)領先的安全解決方案,，多層保護客戶的應用和數據安全,，攜手構建1+1>2的安全合作。

在技術上包括網絡安全,、主機安全,、應用安全、身份認證,、威脅檢測和事件分析,、數據治理以及安全自動化運維等；咨詢方面則提供方案建議,、合規(guī)建議以及全面的安全咨詢服務和合規(guī)服務,。

來自數據、模型,、應用的層層挑戰(zhàn)

在人工智能時代，大語言模型承載著大量機構,、企業(yè),，和每個人的隱私，而模型又與數據本身隔著多層神經網絡,，全棧安全則成為大模型自身迭代升級,，再向應用層延伸所必須不斷面對的問題。

白帆談到：與傳統(tǒng)業(yè)務相比,，云上業(yè)務最大的區(qū)別是防守邊界感不一樣,，當數據或業(yè)務遷移到云上時，首先概念上的改變是物理邊界變成了邏輯邊界,，邏輯邊界會使自身防護的略發(fā)生改變,，以前只需保護看得見的地方，現在的重點是抽象化,、看不見的地方,。

數據安全

高質量數據是提升AI能力的關鍵，并且,，大語言模型,、生成式AI需要貫穿全周期的數據治理，從數據源的獲取到數據的存儲和查詢,，再到將數據傳輸給 AI平臺進行模型的訓練,、調優(yōu)和推理，以及全面實施數據分類和治理,。

亞馬遜云科技提供了一整套的解決方案、產品服務和最佳實踐,，幫助企業(yè)加速落地端到端的云原生數據戰(zhàn)略,，給生成式AI 提供高質量的數據支持：

• 對于存儲中的數據，亞馬遜云科技通過實施安全密鑰管理、靜態(tài)數據加密,、強制實施訪問控制,、利用機制限制數據訪問，保護存儲中的數據,。其中,，針對高質量的數據，亞馬遜云科技有兩個保護重點,，防止數據泄漏以及防止數據篡改,。本次大會上，亞馬遜云科技推出了敏感數據保護解決方案,，可實現對企業(yè)敏感數據的自動化發(fā)現并在統(tǒng)一平臺管理數據資產,；
• 對于傳輸中的數據，亞馬遜云科技從實施安全密鑰和證書管理,、執(zhí)行傳輸中加密,、自動檢測意外數據訪問、對網絡通信進行身份驗證四個方面對傳輸中的數據進行保護,。通過跨區(qū)域之間的數據傳輸,、VPC內部以及VPC之間的傳輸、遷移上云的過程中,、以及TLS1.2+AES256從整個的基礎架構上實現應用層的加密和傳輸的保護,；
• 對于使用中的數據，亞馬遜云科技從身份認證,、隔離環(huán)境,、多方協(xié)作以及數據共享四個方面，進行使用中的數據保護,。

模型安全

與紛紛推出大語言模型的科技企業(yè)不同,，亞馬遜云科技所發(fā)布的Amazon Bedrock和多種生成式AI服務和功能，旨在幫助客戶構建和擴展自己的生成式AI應用程序,。Amazon Bedrock提供了廣泛的基礎模型因此客戶可以選擇最能滿足需求的模型,。

王曉野介紹說：Amazon Bedrock的定位不是會放非常多的模型，而是讓用戶有辦法最容易地使用生成式AI領域最領先的模型,，所以我們會挑行業(yè)內領先的模型,，希望用戶更容易地用到，所以是用API的方式來推出,。我們通過API以及跟包括IAM和VPC等基于云所構建的環(huán)境,，把基礎設施上一系列最佳實踐通過Amazon Bedrock以API的方式提供出來，讓客戶更好地使用,。

Amazon Bedrock通過接入基礎模型,，提供API可以借助大模型加速生成式AI的應用程序和開發(fā),，無須管理底層的基礎設施；并負責任地選取合作伙伴便于客戶最快速地找到最合適的,、能力最強的基礎模型,，例如AI21 Labs、Anthropic,、Stability AI,，最新的合作伙伴名單里增加了Cohere。

Amazon Bedrock使用組織內部的數據來訓練大模型,，同時給大模型做私有拷貝,，這個拷貝只提供給客戶服務，不會再與其他任何的大模型共享,。此外,，訓練數據只是在客戶賬戶里來幫助工作，不會拿任何用戶的數據來增進自己的模型,。這是很多企業(yè)在使用大模型時對于數據主權,、數據保護方面的重要訴求。

同時,，Amazon Bedrock全面使用亞馬遜云科技的安全功能,，如Amazon KMS、Amazon IAM等,，在集成后可以全面管理加密,、權限控制和所有行為的日志。

應用安全

對于每一個負責任的人工智能企業(yè)來說,，安全應該貫穿到從開發(fā)到持續(xù)集成,、持續(xù)部署再到投產、監(jiān)控以及整個反饋的過程里面來,。

王曉野談到：把生成式AI應用到安全領域,，最直接的方式是把應用的場景做好，比如Amazon CodeWisperer用于代碼生成,，以及近期發(fā)布的Amazon CodeGuru Security,，亞馬遜云科技把內部數據集訓練出來的模型能力放到經過安全檢測的應用場景中，通過三層能力提供給客戶,，全面支持不同層的客戶用生成式AI,。

在開發(fā)過程中，Amazon CodeWhisperer作為AI編程助手,，根據開發(fā)者指令利用內嵌的基礎模型實時生成代碼建議,，該服務內置了代碼安全掃描功能，可幫助開發(fā)者查找難以檢測的漏洞并提出補救建議,；Amazon CodeGuru Security可以掃描代碼,，在代碼里面尋找漏洞,，包括調用包漏洞,，包括很多其他代碼邏輯的漏洞,。

在應用運行中，企業(yè)可構建零信任的應用安全訪問策略,。這是一整套機制,，需要對訪問大模型的應用進行權限管理，確保只有在擁有特定權限的應用,，才能訪問或者調用大模型里的制定API,。

亞馬遜云科技推出系列工具，幫助客戶構建零信任機制：

• 使用Amazon Verified Access 搭建無需VPN的網絡驗證系統(tǒng),、使用Amazon IAM或者客戶自己的用戶認證系統(tǒng),，來完成這個認證程序，建立可信任的網絡通道,；
• Amazon Verified Permissions為用戶構建的應用程序提供細粒度授權和權限管理,，用戶可以使用該服務管理其應用程序的角色和屬性的訪問控制；
• 發(fā)布開源語言CEDAR,，CEDAR用于編寫和執(zhí)行授權策略的開源的語言,，可以更加高效地創(chuàng)建所有的訪問控制權限。

代聞指出：零信任和網絡控制并不是一個二選一的關系,，兩者相加才能實現端到端的應用安全,，尤其是在大模型時代。

針對網絡防護,，Amazon Shield用于防DDos攻擊,；Amazon WAF提供防火墻支撐；Amazon Firewall Manager可以輕松管制防火墻策略,。據介紹,，亞馬遜云科技去年緩解了70萬次DDos攻擊，Amazon WAF上每天托管規(guī)則請求超過3500億條,。

針對威脅識別,，Amazon GuardDuty使用了基于人工智能和機器學習的技術，使安全事件的誤報率減少50%,。它能夠實現初期的檢測,，還可以做持續(xù)的分析，它會使用機器學習的技術來檢測所有的威脅,，以智能化的手段給予采取行動的建議,。