新京報貝殼財經(jīng)訊 （記者俞金旻）2024世界人工智能大會上，如何讓大規(guī)模高價值數(shù)據(jù)可信流通成為不少業(yè)內(nèi)人士關(guān)注的重點。為了確保數(shù)據(jù)要素流通合規(guī),、安全和高效,，產(chǎn)學(xué)研界正積極推進一系列的技術(shù)標(biāo)準(zhǔn)制定,，聚焦解決不同隱私計算技術(shù)產(chǎn)品的通用安全分級,，受控環(huán)境下的數(shù)據(jù)匿名化,，以及數(shù)據(jù)離開運維域后的有效管控等問題,。與此同時,，隨著大模型能力的不斷增強，其安全性,、可靠性,、可控性受到前所未有的挑戰(zhàn)，如研發(fā)過程中引發(fā)信息泄露,、價值對齊,、機器幻覺等問題，以及落地過程中面臨的數(shù)據(jù),、模型,、算法及其運行的軟硬件環(huán)境安全風(fēng)險。2024世界人工智能大會主會場。新京報貝殼財經(jīng)記者 俞金旻 攝7月5日,，在2024WAIC分論壇上,，多家產(chǎn)學(xué)研機構(gòu)聯(lián)合發(fā)布多份白皮書，為數(shù)據(jù)要素流通行業(yè)當(dāng)下普遍遇到的挑戰(zhàn)和大模型安全實踐,，提供最新的技術(shù)思考和行業(yè)實踐,。新京報貝殼財經(jīng)記者注意到，本次發(fā)布的《隱私計算產(chǎn)品通用安全分級》白皮書逐一討論隱私計算安全分級面臨的諸多難點,，包括技術(shù)路線特征不同難以進行統(tǒng)一分級,、部分重要安全能力難以被分級和量化,、安全是系統(tǒng)性問題涉及的維度多,、范圍廣。針對以上挑戰(zhàn),，給出通用安全分級的設(shè)計思路,，包括按照攻防效果分級來屏蔽不同技術(shù)路線差異，在“可證安全”和“不安全”之間增加一個“抵御已知攻擊”的分級水位,，引入軟件信譽度等更多維度量化“實現(xiàn)安全”,，明確所有技術(shù)特征與安全分級的對應(yīng)關(guān)系。同日發(fā)布的《個人信息匿名化制度：技術(shù)與法律（2024）》白皮書由對外經(jīng)濟貿(mào)易大學(xué),、大數(shù)據(jù)技術(shù)標(biāo)準(zhǔn)推進委員會和螞蟻集團共同發(fā)布,。這是學(xué)術(shù)與產(chǎn)業(yè)界首次聯(lián)合從技術(shù)與法律雙重維度對個人信息匿名化問題做系統(tǒng)性梳理與闡釋、探尋可落地技術(shù)方案與數(shù)據(jù)流通解決路徑,。白皮書建議,，在數(shù)據(jù)基礎(chǔ)設(shè)施的規(guī)劃與建設(shè)過程中，應(yīng)充分考慮個人信息匿名化相關(guān)處理技術(shù)與制度規(guī)范內(nèi)容。為破解“個人信息匿名化”的困境,，必須從單一的法律視角轉(zhuǎn)向復(fù)合的“數(shù)據(jù)基礎(chǔ)設(shè)施”的路徑,。匿名化條款可以拓展為一套融合法律和技術(shù)的基礎(chǔ)設(shè)施，從而推動在不同行業(yè),、不同機構(gòu)之間實現(xiàn)可信,、安全的數(shù)據(jù)共享、開放,、交易,。大模型安全實踐總體框架,。螞蟻集團供圖5日下午,，由清華大學(xué)、中關(guān)村實驗室,、螞蟻集團等機構(gòu)聯(lián)合撰寫的《大模型安全實踐（2024）》白皮書也在2024世界人工智能大會上正式發(fā)布,。這也是國內(nèi)首份“大模型安全實踐”研究報告，為行業(yè)打造高價值參考體系,。白皮書首次系統(tǒng)化提出安全實踐總體框架,，從安全性、可靠性,、可控性等維度給到了技術(shù)實施方案,，同時提供了金融、醫(yī)療,、政務(wù)等領(lǐng)域的大模型安全應(yīng)用案例,，以及“五維一體”協(xié)同共治的治理框架。編輯 楊娟娟校對 盧茜