新京報(bào)貝殼財(cái)經(jīng)訊 （記者俞金旻）2024世界人工智能大會(huì)上,，如何讓大規(guī)模高價(jià)值數(shù)據(jù)可信流通成為不少業(yè)內(nèi)人士關(guān)注的重點(diǎn)。為了確保數(shù)據(jù)要素流通合規(guī),、安全和高效,，產(chǎn)學(xué)研界正積極推進(jìn)一系列的技術(shù)標(biāo)準(zhǔn)制定,，聚焦解決不同隱私計(jì)算技術(shù)產(chǎn)品的通用安全分級(jí),，受控環(huán)境下的數(shù)據(jù)匿名化，以及數(shù)據(jù)離開運(yùn)維域后的有效管控等問題,。與此同時(shí),，隨著大模型能力的不斷增強(qiáng)，其安全性,、可靠性,、可控性受到前所未有的挑戰(zhàn)，如研發(fā)過(guò)程中引發(fā)信息泄露,、價(jià)值對(duì)齊,、機(jī)器幻覺等問題，以及落地過(guò)程中面臨的數(shù)據(jù),、模型,、算法及其運(yùn)行的軟硬件環(huán)境安全風(fēng)險(xiǎn)。2024世界人工智能大會(huì)主會(huì)場(chǎng)。新京報(bào)貝殼財(cái)經(jīng)記者 俞金旻 攝7月5日,，在2024WAIC分論壇上,，多家產(chǎn)學(xué)研機(jī)構(gòu)聯(lián)合發(fā)布多份白皮書，為數(shù)據(jù)要素流通行業(yè)當(dāng)下普遍遇到的挑戰(zhàn)和大模型安全實(shí)踐,，提供最新的技術(shù)思考和行業(yè)實(shí)踐,。新京報(bào)貝殼財(cái)經(jīng)記者注意到，本次發(fā)布的《隱私計(jì)算產(chǎn)品通用安全分級(jí)》白皮書逐一討論隱私計(jì)算安全分級(jí)面臨的諸多難點(diǎn),，包括技術(shù)路線特征不同難以進(jìn)行統(tǒng)一分級(jí),、部分重要安全能力難以被分級(jí)和量化、安全是系統(tǒng)性問題涉及的維度多,、范圍廣,。針對(duì)以上挑戰(zhàn)，給出通用安全分級(jí)的設(shè)計(jì)思路,，包括按照攻防效果分級(jí)來(lái)屏蔽不同技術(shù)路線差異,，在“可證安全”和“不安全”之間增加一個(gè)“抵御已知攻擊”的分級(jí)水位，引入軟件信譽(yù)度等更多維度量化“實(shí)現(xiàn)安全”,，明確所有技術(shù)特征與安全分級(jí)的對(duì)應(yīng)關(guān)系,。同日發(fā)布的《個(gè)人信息匿名化制度：技術(shù)與法律（2024）》白皮書由對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)、大數(shù)據(jù)技術(shù)標(biāo)準(zhǔn)推進(jìn)委員會(huì)和螞蟻集團(tuán)共同發(fā)布,。這是學(xué)術(shù)與產(chǎn)業(yè)界首次聯(lián)合從技術(shù)與法律雙重維度對(duì)個(gè)人信息匿名化問題做系統(tǒng)性梳理與闡釋,、探尋可落地技術(shù)方案與數(shù)據(jù)流通解決路徑。白皮書建議,，在數(shù)據(jù)基礎(chǔ)設(shè)施的規(guī)劃與建設(shè)過(guò)程中,，應(yīng)充分考慮個(gè)人信息匿名化相關(guān)處理技術(shù)與制度規(guī)范內(nèi)容。為破解“個(gè)人信息匿名化”的困境,，必須從單一的法律視角轉(zhuǎn)向復(fù)合的“數(shù)據(jù)基礎(chǔ)設(shè)施”的路徑,。匿名化條款可以拓展為一套融合法律和技術(shù)的基礎(chǔ)設(shè)施，從而推動(dòng)在不同行業(yè),、不同機(jī)構(gòu)之間實(shí)現(xiàn)可信,、安全的數(shù)據(jù)共享,、開放、交易,。大模型安全實(shí)踐總體框架。螞蟻集團(tuán)供圖5日下午,，由清華大學(xué),、中關(guān)村實(shí)驗(yàn)室、螞蟻集團(tuán)等機(jī)構(gòu)聯(lián)合撰寫的《大模型安全實(shí)踐（2024）》白皮書也在2024世界人工智能大會(huì)上正式發(fā)布,。這也是國(guó)內(nèi)首份“大模型安全實(shí)踐”研究報(bào)告,，為行業(yè)打造高價(jià)值參考體系。白皮書首次系統(tǒng)化提出安全實(shí)踐總體框架,，從安全性,、可靠性、可控性等維度給到了技術(shù)實(shí)施方案,，同時(shí)提供了金融,、醫(yī)療、政務(wù)等領(lǐng)域的大模型安全應(yīng)用案例,，以及“五維一體”協(xié)同共治的治理框架,。編輯 楊娟娟校對(duì) 盧茜