“我們不能只是關(guān)注 AI 應(yīng)用本身,，而是從一個(gè)全棧的角度,，去全面審視應(yīng)用、模型、數(shù)據(jù),、基礎(chǔ)架構(gòu)的安全規(guī)范,、技術(shù)策略和平臺(tái)工具。生成式AI應(yīng)用就像是海面上的冰山,，我們想要在企業(yè)里安全地駕馭這項(xiàng)新技術(shù),，還需要關(guān)注海面下的冰川?！?/p>

日前,，以“AI時(shí)代 全面智能的安全”為主題的亞馬遜云科技re:Inforce 2023中國(guó)站在北京舉辦，這也是re:Inforce首次登陸國(guó)內(nèi),。人工智能的算力,、算法、模型都離不開(kāi)網(wǎng)絡(luò)和云,，在大語(yǔ)言模型,、生成式AI持續(xù)升溫的背景下，與AI相關(guān)的安全,、合規(guī)等問(wèn)題再次成為了行業(yè)關(guān)注的焦點(diǎn),。

隨著基于大語(yǔ)言模型的應(yīng)用開(kāi)始進(jìn)入生產(chǎn)力場(chǎng)景，模型如何與基礎(chǔ)設(shè)施,、安全等服務(wù)進(jìn)行緊密集成,，如何開(kāi)發(fā)既安全又具備性價(jià)比的應(yīng)用，也開(kāi)始成為繼大模型本身之后的核心話題,。

據(jù)介紹,，亞馬遜云科技已經(jīng)開(kāi)始在國(guó)內(nèi)同優(yōu)秀的基礎(chǔ)模型創(chuàng)業(yè)公司展開(kāi)合作。明星企業(yè)百川智能加入了 APN 合作伙伴網(wǎng)絡(luò),，并上架亞馬遜云科技 Marketplace ,，開(kāi)始加速幫助企業(yè)客戶對(duì)其開(kāi)源模型的微調(diào)和部署，促進(jìn)生成式 AI 在企業(yè)場(chǎng)景中的落地,。

在主題演講環(huán)節(jié)之后,，亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞、亞馬遜云科技大中華區(qū)安全合規(guī)與治理產(chǎn)品總監(jiān)白帆,、亞馬遜云科技大中華區(qū)技術(shù)專家團(tuán)隊(duì)總監(jiān)王曉野一起向36氪等多家機(jī)構(gòu)分享了生成式AI,、大語(yǔ)言模型等前沿技術(shù)在云計(jì)算安全層面所帶來(lái)的挑戰(zhàn)及機(jī)遇。

亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞

大語(yǔ)言模型和生成式AI能給傳統(tǒng)的網(wǎng)絡(luò)安全問(wèn)題提供更具效率的全新解決方案,，但也會(huì)衍生出此前并未系統(tǒng)性出現(xiàn)的新問(wèn)題,。近期，全球性安全組織OWASP列出了大語(yǔ)言模型應(yīng)用所面臨的十大威脅,，比如當(dāng)企業(yè)沒(méi)有規(guī)定好數(shù)據(jù)邊界,、權(quán)限,、應(yīng)用的API控制，就有可能成為新的數(shù)據(jù)泄露途徑,。

目前,，亞馬遜云科技不僅提供了一系列的技術(shù)、服務(wù)和工具幫助更多企業(yè)充分釋放生成式 AI 的潛力,，同時(shí)確保安全合規(guī)是開(kāi)展一切業(yè)務(wù)的基礎(chǔ),，包括其生成式 AI的各種工具，涵蓋數(shù)據(jù),、模型以及應(yīng)用各個(gè)環(huán)節(jié),。

代聞表示：大語(yǔ)言模型的出現(xiàn)加速了零信任在企業(yè)中的落地，亞馬遜云科技的零信任體系,，它包括身份認(rèn)證,、可信網(wǎng)絡(luò)、以及高顆粒度的權(quán)限管理以及審計(jì),。零信任和網(wǎng)絡(luò)控制并不是一個(gè)二選一的關(guān)系,，在亞馬遜云科技看來(lái)，零信任能夠?qū)崿F(xiàn)按需的授權(quán)和認(rèn)證,，而網(wǎng)絡(luò)控制依然是非常需要的,，把這兩個(gè)概念應(yīng)該加起來(lái)，才能夠?qū)崿F(xiàn)企業(yè)的端到端的應(yīng)用安全,，尤其在大模型的時(shí)代中,。

在網(wǎng)絡(luò)世界里，威脅與防控措施始終此消彼長(zhǎng),、互為矛盾,。而現(xiàn)在，大語(yǔ)言模型和生成式AI既是矛,、也是盾,，如何因勢(shì)利導(dǎo)、揚(yáng)長(zhǎng)避短,，也將成為未來(lái)大語(yǔ)言模型、生成式AI大規(guī)模應(yīng)用的焦點(diǎn)問(wèn)題,。

在IDC近期發(fā)布的《2023中國(guó)公有云托管安全服務(wù)能力報(bào)告》中,，亞馬遜云科技在專家能力、漏洞及威脅檢測(cè),、威脅情報(bào)等7項(xiàng)目評(píng)估維度上是獲得滿分最多的廠商之一,，其中“生態(tài)建設(shè)”評(píng)估維度是唯一獲得滿分的廠商。

借大語(yǔ)言模型之所長(zhǎng)

與傳統(tǒng)的機(jī)器學(xué)習(xí)方法相比,，大模型依靠數(shù)量龐大的神經(jīng)元和強(qiáng)大的計(jì)算能力,，更強(qiáng)大、更靈活，能夠有效地處理海量數(shù)據(jù)集和復(fù)雜的任務(wù),，這對(duì)于解決云上日益復(fù)雜的合規(guī)問(wèn)題事半功倍,，目前，云上合規(guī)環(huán)境的變化正呈現(xiàn)如下趨勢(shì)：

• 在全球范圍內(nèi)相關(guān)法律法規(guī)日趨勢(shì)完善,，據(jù)不完全統(tǒng)計(jì),，目前已經(jīng)有超過(guò)130多個(gè)國(guó)家和地區(qū)制定和頒布了數(shù)據(jù)保護(hù)和隱私安全相關(guān)的法律法規(guī)；
• 隨著云計(jì)算的大規(guī)模普及,，越來(lái)越多的重要數(shù)據(jù)正在加速上云,，而且數(shù)量和種類(lèi)在增加；
• 在全球的數(shù)智化轉(zhuǎn)型熱潮中,，不同類(lèi)型客戶的業(yè)務(wù)在發(fā)生持續(xù)變化,，包括大模型運(yùn)用、使用生成式AI工具給業(yè)務(wù)帶來(lái)了由量變向質(zhì)變的躍升,，給安全合規(guī)帶來(lái)新的挑戰(zhàn),。

大語(yǔ)言模型和生成式AI提供了橫向能力，最終會(huì)把能力輻射到很多不同的工具中去,，還有可能會(huì)產(chǎn)生新的工具,，代聞?wù)J為：重點(diǎn)是如何用這些工具服務(wù)到廣大用戶，在這樣的框架下,，如何能使用最合適的,、高效的工具來(lái)支撐，大量工具和解決方案能夠從數(shù)據(jù)保護(hù),、隱私數(shù)據(jù)剔除,、到運(yùn)行環(huán)境來(lái)保障數(shù)據(jù)和模型的安全。

比如把AI能力提升到安全審計(jì)流程中去,，這是一個(gè)循環(huán)往復(fù)的過(guò)程,，AI為安全服務(wù)，安全反過(guò)來(lái)再為AI應(yīng)用服務(wù),，這是一個(gè)以負(fù)責(zé)任的AI（Responsible AI）為基礎(chǔ)框架,，再使用合適的工具加以快速落地的過(guò)程。代聞強(qiáng)調(diào)：這個(gè)領(lǐng)域現(xiàn)在充滿了未知,，我們需要保持開(kāi)放的心態(tài)和謹(jǐn)慎樂(lè)觀,，讓生成式AI在企業(yè)服務(wù)中落地。

一方面,，亞馬遜云科技在全球獲得140多個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證,，并將AI技術(shù)應(yīng)用到其安全及合規(guī)服務(wù)中，能夠?yàn)榇笠?guī)模批量審查提供安全控制,，利用自動(dòng)化減少手工操作以降低錯(cuò)誤,，利用AI提供一致性判斷,，利用AI/ML技術(shù)實(shí)現(xiàn)自動(dòng)審查，全面提升合規(guī)效率,。

據(jù)介紹,，亞馬遜云科技通過(guò)在其500多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中使用AI技術(shù)，將審計(jì)時(shí)間節(jié)約了53%,。

另一方面,，亞馬遜云科技通過(guò)APN合作伙伴網(wǎng)絡(luò)提供數(shù)百種行業(yè)領(lǐng)先的安全解決方案，多層保護(hù)客戶的應(yīng)用和數(shù)據(jù)安全,，攜手構(gòu)建1+1>2的安全合作,。

在技術(shù)上包括網(wǎng)絡(luò)安全、主機(jī)安全,、應(yīng)用安全,、身份認(rèn)證、威脅檢測(cè)和事件分析,、數(shù)據(jù)治理以及安全自動(dòng)化運(yùn)維等,；咨詢方面則提供方案建議、合規(guī)建議以及全面的安全咨詢服務(wù)和合規(guī)服務(wù),。

來(lái)自數(shù)據(jù),、模型、應(yīng)用的層層挑戰(zhàn)

在人工智能時(shí)代，大語(yǔ)言模型承載著大量機(jī)構(gòu),、企業(yè)，和每個(gè)人的隱私,，而模型又與數(shù)據(jù)本身隔著多層神經(jīng)網(wǎng)絡(luò),，全棧安全則成為大模型自身迭代升級(jí),，再向應(yīng)用層延伸所必須不斷面對(duì)的問(wèn)題。

白帆談到：與傳統(tǒng)業(yè)務(wù)相比,，云上業(yè)務(wù)最大的區(qū)別是防守邊界感不一樣,，當(dāng)數(shù)據(jù)或業(yè)務(wù)遷移到云上時(shí)，首先概念上的改變是物理邊界變成了邏輯邊界,，邏輯邊界會(huì)使自身防護(hù)的略發(fā)生改變,，以前只需保護(hù)看得見(jiàn)的地方，現(xiàn)在的重點(diǎn)是抽象化,、看不見(jiàn)的地方,。

數(shù)據(jù)安全

高質(zhì)量數(shù)據(jù)是提升AI能力的關(guān)鍵，并且,，大語(yǔ)言模型,、生成式AI需要貫穿全周期的數(shù)據(jù)治理，從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲(chǔ)和查詢,，再到將數(shù)據(jù)傳輸給 AI平臺(tái)進(jìn)行模型的訓(xùn)練,、調(diào)優(yōu)和推理，以及全面實(shí)施數(shù)據(jù)分類(lèi)和治理,。

亞馬遜云科技提供了一整套的解決方案,、產(chǎn)品服務(wù)和最佳實(shí)踐，幫助企業(yè)加速落地端到端的云原生數(shù)據(jù)戰(zhàn)略,，給生成式AI 提供高質(zhì)量的數(shù)據(jù)支持：

• 對(duì)于存儲(chǔ)中的數(shù)據(jù),，亞馬遜云科技通過(guò)實(shí)施安全密鑰管理、靜態(tài)數(shù)據(jù)加密,、強(qiáng)制實(shí)施訪問(wèn)控制,、利用機(jī)制限制數(shù)據(jù)訪問(wèn)，保護(hù)存儲(chǔ)中的數(shù)據(jù),。其中,，針對(duì)高質(zhì)量的數(shù)據(jù)，亞馬遜云科技有兩個(gè)保護(hù)重點(diǎn),，防止數(shù)據(jù)泄漏以及防止數(shù)據(jù)篡改,。本次大會(huì)上，亞馬遜云科技推出了敏感數(shù)據(jù)保護(hù)解決方案,，可實(shí)現(xiàn)對(duì)企業(yè)敏感數(shù)據(jù)的自動(dòng)化發(fā)現(xiàn)并在統(tǒng)一平臺(tái)管理數(shù)據(jù)資產(chǎn),；
• 對(duì)于傳輸中的數(shù)據(jù)，亞馬遜云科技從實(shí)施安全密鑰和證書(shū)管理,、執(zhí)行傳輸中加密,、自動(dòng)檢測(cè)意外數(shù)據(jù)訪問(wèn)、對(duì)網(wǎng)絡(luò)通信進(jìn)行身份驗(yàn)證四個(gè)方面對(duì)傳輸中的數(shù)據(jù)進(jìn)行保護(hù),。通過(guò)跨區(qū)域之間的數(shù)據(jù)傳輸,、VPC內(nèi)部以及VPC之間的傳輸,、遷移上云的過(guò)程中、以及TLS1.2+AES256從整個(gè)的基礎(chǔ)架構(gòu)上實(shí)現(xiàn)應(yīng)用層的加密和傳輸?shù)谋Ｗo(hù),；
• 對(duì)于使用中的數(shù)據(jù),，亞馬遜云科技從身份認(rèn)證、隔離環(huán)境,、多方協(xié)作以及數(shù)據(jù)共享四個(gè)方面,，進(jìn)行使用中的數(shù)據(jù)保護(hù)。

模型安全

與紛紛推出大語(yǔ)言模型的科技企業(yè)不同,，亞馬遜云科技所發(fā)布的Amazon Bedrock和多種生成式AI服務(wù)和功能,，旨在幫助客戶構(gòu)建和擴(kuò)展自己的生成式AI應(yīng)用程序。Amazon Bedrock提供了廣泛的基礎(chǔ)模型因此客戶可以選擇最能滿足需求的模型,。

王曉野介紹說(shuō)：Amazon Bedrock的定位不是會(huì)放非常多的模型,，而是讓用戶有辦法最容易地使用生成式AI領(lǐng)域最領(lǐng)先的模型，所以我們會(huì)挑行業(yè)內(nèi)領(lǐng)先的模型,，希望用戶更容易地用到,，所以是用API的方式來(lái)推出。我們通過(guò)API以及跟包括IAM和VPC等基于云所構(gòu)建的環(huán)境,，把基礎(chǔ)設(shè)施上一系列最佳實(shí)踐通過(guò)Amazon Bedrock以API的方式提供出來(lái),，讓客戶更好地使用。

Amazon Bedrock通過(guò)接入基礎(chǔ)模型,，提供API可以借助大模型加速生成式AI的應(yīng)用程序和開(kāi)發(fā),，無(wú)須管理底層的基礎(chǔ)設(shè)施；并負(fù)責(zé)任地選取合作伙伴便于客戶最快速地找到最合適的,、能力最強(qiáng)的基礎(chǔ)模型,，例如AI21 Labs、Anthropic,、Stability AI,，最新的合作伙伴名單里增加了Cohere。

Amazon Bedrock使用組織內(nèi)部的數(shù)據(jù)來(lái)訓(xùn)練大模型,，同時(shí)給大模型做私有拷貝,，這個(gè)拷貝只提供給客戶服務(wù)，不會(huì)再與其他任何的大模型共享,。此外,，訓(xùn)練數(shù)據(jù)只是在客戶賬戶里來(lái)幫助工作，不會(huì)拿任何用戶的數(shù)據(jù)來(lái)增進(jìn)自己的模型,。這是很多企業(yè)在使用大模型時(shí)對(duì)于數(shù)據(jù)主權(quán),、數(shù)據(jù)保護(hù)方面的重要訴求。

同時(shí)，Amazon Bedrock全面使用亞馬遜云科技的安全功能,，如Amazon KMS,、Amazon IAM等,，在集成后可以全面管理加密,、權(quán)限控制和所有行為的日志。

應(yīng)用安全

對(duì)于每一個(gè)負(fù)責(zé)任的人工智能企業(yè)來(lái)說(shuō),，安全應(yīng)該貫穿到從開(kāi)發(fā)到持續(xù)集成,、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個(gè)反饋的過(guò)程里面來(lái),。

王曉野談到：把生成式AI應(yīng)用到安全領(lǐng)域,，最直接的方式是把應(yīng)用的場(chǎng)景做好，比如Amazon CodeWisperer用于代碼生成,，以及近期發(fā)布的Amazon CodeGuru Security,，亞馬遜云科技把內(nèi)部數(shù)據(jù)集訓(xùn)練出來(lái)的模型能力放到經(jīng)過(guò)安全檢測(cè)的應(yīng)用場(chǎng)景中，通過(guò)三層能力提供給客戶,，全面支持不同層的客戶用生成式AI,。

在開(kāi)發(fā)過(guò)程中，Amazon CodeWhisperer作為AI編程助手,，根據(jù)開(kāi)發(fā)者指令利用內(nèi)嵌的基礎(chǔ)模型實(shí)時(shí)生成代碼建議,，該服務(wù)內(nèi)置了代碼安全掃描功能，可幫助開(kāi)發(fā)者查找難以檢測(cè)的漏洞并提出補(bǔ)救建議,；Amazon CodeGuru Security可以掃描代碼,，在代碼里面尋找漏洞，包括調(diào)用包漏洞,，包括很多其他代碼邏輯的漏洞,。

在應(yīng)用運(yùn)行中，企業(yè)可構(gòu)建零信任的應(yīng)用安全訪問(wèn)策略,。這是一整套機(jī)制,，需要對(duì)訪問(wèn)大模型的應(yīng)用進(jìn)行權(quán)限管理，確保只有在擁有特定權(quán)限的應(yīng)用,，才能訪問(wèn)或者調(diào)用大模型里的制定API,。

亞馬遜云科技推出系列工具，幫助客戶構(gòu)建零信任機(jī)制：

• 使用Amazon Verified Access 搭建無(wú)需VPN的網(wǎng)絡(luò)驗(yàn)證系統(tǒng),、使用Amazon IAM或者客戶自己的用戶認(rèn)證系統(tǒng),，來(lái)完成這個(gè)認(rèn)證程序，建立可信任的網(wǎng)絡(luò)通道,；
• Amazon Verified Permissions為用戶構(gòu)建的應(yīng)用程序提供細(xì)粒度授權(quán)和權(quán)限管理,，用戶可以使用該服務(wù)管理其應(yīng)用程序的角色和屬性的訪問(wèn)控制；
• 發(fā)布開(kāi)源語(yǔ)言CEDAR，CEDAR用于編寫(xiě)和執(zhí)行授權(quán)策略的開(kāi)源的語(yǔ)言,，可以更加高效地創(chuàng)建所有的訪問(wèn)控制權(quán)限,。

代聞指出：零信任和網(wǎng)絡(luò)控制并不是一個(gè)二選一的關(guān)系，兩者相加才能實(shí)現(xiàn)端到端的應(yīng)用安全,，尤其是在大模型時(shí)代,。

針對(duì)網(wǎng)絡(luò)防護(hù)，Amazon Shield用于防DDos攻擊,；Amazon WAF提供防火墻支撐,；Amazon Firewall Manager可以輕松管制防火墻策略。據(jù)介紹,，亞馬遜云科技去年緩解了70萬(wàn)次DDos攻擊,，Amazon WAF上每天托管規(guī)則請(qǐng)求超過(guò)3500億條。

針對(duì)威脅識(shí)別,，Amazon GuardDuty使用了基于人工智能和機(jī)器學(xué)習(xí)的技術(shù),，使安全事件的誤報(bào)率減少50%。它能夠?qū)崿F(xiàn)初期的檢測(cè),，還可以做持續(xù)的分析,，它會(huì)使用機(jī)器學(xué)習(xí)的技術(shù)來(lái)檢測(cè)所有的威脅，以智能化的手段給予采取行動(dòng)的建議,。