4月15日至19日,，第27屆聯(lián)合國(guó)科技大會(huì)在瑞士日內(nèi)瓦召開。大會(huì)期間,，世界數(shù)字技術(shù)院（WDTA）發(fā)布了《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》和《大語(yǔ)言模型安全測(cè)試方法》兩項(xiàng)國(guó)際標(biāo)準(zhǔn),，這也是國(guó)際組織首次就大模型安全領(lǐng)域發(fā)布國(guó)際標(biāo)準(zhǔn)。自去年以來(lái)大語(yǔ)言模型技術(shù)火爆后,，大模型的安全問(wèn)題一直是國(guó)際關(guān)注的焦點(diǎn),。世界數(shù)字技術(shù)院（WDTA）是2023年4月在日內(nèi)瓦成立注冊(cè)的國(guó)際非政府組織，其遵從聯(lián)合國(guó)指導(dǎo)框架,，致力于在全球范圍內(nèi)推進(jìn)數(shù)字技術(shù),，促進(jìn)國(guó)際合作，其超越國(guó)界和企業(yè)利益,，倡導(dǎo)全球統(tǒng)一的標(biāo)準(zhǔn)和治理機(jī)制,。創(chuàng)始主席皮特麥哲（Peter Major）教授表示，“我們的目標(biāo)是制定全球數(shù)字標(biāo)準(zhǔn),，引領(lǐng)技術(shù)創(chuàng)新,，并加強(qiáng)國(guó)際合作?！敝档米⒁獾氖?，OpenAI、谷歌,、微軟,、Meta,、螞蟻集團(tuán)、華為,、科大訊飛,、國(guó)際數(shù)據(jù)空間協(xié)會(huì)(IDSA)、弗勞恩霍夫研究所,、中國(guó)電子等均為WDTA成員單位,。與會(huì)的世界數(shù)字技術(shù)院人工智能安全可信負(fù)責(zé)任工作組組長(zhǎng)黃連金表示,，隨著人工智能系統(tǒng)，特別是大語(yǔ)言模型繼續(xù)成為社會(huì)各個(gè)方面不可或缺的一部分,，以一個(gè)全面的標(biāo)準(zhǔn)來(lái)解決它們的安全挑戰(zhàn)變得至關(guān)重要,。這兩項(xiàng)標(biāo)準(zhǔn)匯集了全球AI安全領(lǐng)域的專家智慧，填補(bǔ)了大語(yǔ)言模型和生成式AI應(yīng)用方面安全測(cè)試領(lǐng)域的空白,，為業(yè)界提供了統(tǒng)一的測(cè)試框架和明確的測(cè)試方法,，有助于提高AI系統(tǒng)安全性，促進(jìn)AI技術(shù)負(fù)責(zé)任發(fā)展,，增強(qiáng)公眾信任,。WDTA牽頭《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》據(jù)了解，在發(fā)布的國(guó)際標(biāo)準(zhǔn)中,，《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》由WDTA作為牽頭單位,。黃連金介紹，《生成式AI應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》為測(cè)試和驗(yàn)證生成式AI應(yīng)用的安全性提供了一個(gè)框架,。該標(biāo)準(zhǔn)涵蓋了AI應(yīng)用生命周期的關(guān)鍵領(lǐng)域,包括基礎(chǔ)模型選擇,、嵌入和向量數(shù)據(jù)庫(kù)、提示執(zhí)行/推理,、智能行為,、微調(diào),、響應(yīng)處理和AI應(yīng)用運(yùn)行時(shí)安全等。主要目標(biāo)是確保AI應(yīng)用在整個(gè)生命周期內(nèi)的行為安全,并符合預(yù)期設(shè)計(jì),。據(jù)了解,，AI STR（安全、可信,、負(fù)責(zé)任）計(jì)劃是世界數(shù)字技術(shù)院的核心倡議,，旨在確保人工智能系統(tǒng)的安全性、可信性和責(zé)任性,。新京報(bào)貝殼財(cái)經(jīng)記者瀏覽世界數(shù)字技術(shù)院官網(wǎng)發(fā)現(xiàn),，其介紹稱AI STR計(jì)劃“代表了我們?nèi)绾伍_發(fā)和部署 AI 技術(shù)的范式轉(zhuǎn)變。在人工智能系統(tǒng)中倡導(dǎo)安全,、信任和負(fù)責(zé)任,，為更加合乎道德、更安全和公平的數(shù)字未來(lái)奠定了基礎(chǔ),，人工智能技術(shù)是進(jìn)步的推動(dòng)者,，而不是不確定性和傷害的來(lái)源。生成式AI應(yīng)用安全測(cè)試和驗(yàn)證標(biāo)準(zhǔn)是AI STR標(biāo)準(zhǔn)之一,。”此外,，與標(biāo)準(zhǔn)同時(shí)發(fā)布的還有一項(xiàng)《生成式人工智能人才發(fā)展框架》,，世界數(shù)字技術(shù)院介紹，ChatGPT,、Stable Diffusion 等生成式人工智能應(yīng)用程序迅速吸引了世界各地人們的注意力和想象力,，這要?dú)w功于它們廣泛的實(shí)用性——幾乎任何人都可以使用它們進(jìn)行交流和創(chuàng)建——以及更自然的人機(jī)對(duì)話。甚至,，最新的生成式 AI 應(yīng)用程序可以在員工的工作中執(zhí)行一系列日常任務(wù),，例如數(shù)據(jù)分類、業(yè)務(wù)報(bào)告生成,，甚至自動(dòng)生成測(cè)試代碼,。廣泛的利益相關(guān)者都在努力應(yīng)對(duì)生成式人工智能對(duì)商業(yè)和社會(huì)的影響，需要更多的人理解和參與,，從而就人工智能能力的范圍,、如何使用、應(yīng)用場(chǎng)景和約束形成共識(shí),，真正實(shí)現(xiàn)“人工智能為人類”,。世界數(shù)字技術(shù)院發(fā)布的兩項(xiàng)標(biāo)準(zhǔn)與一份發(fā)展框架文件 圖片來(lái)自世界數(shù)字技術(shù)院官網(wǎng)中國(guó)企業(yè)積極參與國(guó)際標(biāo)準(zhǔn)制定貝殼財(cái)經(jīng)記者注意到，本次會(huì)議期間不乏中國(guó)面孔,，如在關(guān)于“生成式大模型安全”的小組討論中,，加拿大工程院,、隱私AI、英偉達(dá),、微軟和螞蟻集團(tuán)的專家同臺(tái)對(duì)話,。中外專家參與大模型安全小組討論 圖片來(lái)自世界數(shù)字技術(shù)院官網(wǎng) 事實(shí)上，本次發(fā)布的兩項(xiàng)國(guó)際標(biāo)準(zhǔn)正是由OpenAI,、螞蟻集團(tuán),、科大訊飛、谷歌,、微軟,、英偉達(dá)、百度,、騰訊等單位的多名專家學(xué)者共同編制而成,。 其中，《大語(yǔ)言模型安全測(cè)試方法》由螞蟻集團(tuán)作為牽頭單位,。該標(biāo)準(zhǔn)則為大模型本身的安全性評(píng)估提供了一套全面,、嚴(yán)謹(jǐn)且實(shí)操性強(qiáng)的結(jié)構(gòu)性方案。它提出了大語(yǔ)言模型的安全風(fēng)險(xiǎn)分類,、攻擊的分類分級(jí)方法以及測(cè)試方法,，并率先給出了四種不同攻擊強(qiáng)度的攻擊手法分類標(biāo)準(zhǔn)，提供了嚴(yán)格的評(píng)估指標(biāo)和測(cè)試程序等,，可解決大語(yǔ)言模型固有的復(fù)雜性,，全面測(cè)試其抵御敵對(duì)攻擊的能力，使開發(fā)人員和組織能夠識(shí)別和緩解潛在漏洞,，并最終提高使用大語(yǔ)言模型構(gòu)建的人工智能系統(tǒng)的安全性和可靠性,。作為標(biāo)準(zhǔn)參與單位代表，螞蟻集團(tuán)機(jī)器智能部總經(jīng)理,、螞蟻安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)發(fā)言稱,，“隨著生成式人工智能的興起，我們相信它將釋放巨大的生產(chǎn)力,，但也對(duì)它帶來(lái)的各種新風(fēng)險(xiǎn)高度警惕,。大型科技公司應(yīng)當(dāng)在促進(jìn)生成式人工智能安全和負(fù)責(zé)任的發(fā)展中發(fā)揮關(guān)鍵作用，利用其資源,、專業(yè)知識(shí)和影響力推動(dòng)最佳實(shí)踐,，構(gòu)建一個(gè)優(yōu)先考慮安全、隱私和道德考量的生態(tài)系統(tǒng),。例如,，通過(guò)制定行業(yè)標(biāo)準(zhǔn)與指南，為開發(fā)和部署生成式人工智能系統(tǒng)的開發(fā)者和機(jī)構(gòu)提供清晰指導(dǎo),；投入研發(fā)并開放保障生成式人工智能安全的工具,，形成產(chǎn)業(yè)共治,。”貝殼財(cái)經(jīng)記者發(fā)現(xiàn),，目前國(guó)內(nèi)外主流廠商均在重點(diǎn)投入和關(guān)注大模型安全,，如OpenAI四年內(nèi)投入了20%的計(jì)算資源，成立專門團(tuán)隊(duì)構(gòu)建解決對(duì)齊問(wèn)題的超強(qiáng)AI,，谷歌等12家機(jī)構(gòu)聯(lián)合發(fā)布“模型安全性評(píng)估框架”,，英偉達(dá)推出了“護(hù)欄”軟件以防止AI模型失控，360和奇安信則發(fā)布了安全大模型以及上線了針對(duì)大模型安全的業(yè)務(wù),。而本次兩份國(guó)際標(biāo)準(zhǔn)的發(fā)布則為業(yè)界提供了統(tǒng)一的測(cè)試框架,。“這兩份標(biāo)準(zhǔn)的制定匯集了全球AI安全領(lǐng)域的專家智慧,填補(bǔ)了大語(yǔ)言模型和生成式AI應(yīng)用方面安全測(cè)試領(lǐng)域的空白,。它們?yōu)锳I企業(yè)提供了明確的測(cè)試要求和方法,有助于提高AI系統(tǒng)安全性,減少潛在風(fēng)險(xiǎn),促進(jìn)AI技術(shù)負(fù)責(zé)任發(fā)展,增強(qiáng)公眾信任,。呼吁業(yè)界積極采納這兩份標(biāo)準(zhǔn),共同努力提高AI系統(tǒng)的安全性和可靠性,并且參與WTDA AI STR 的標(biāo)準(zhǔn)制定工作，在AI技術(shù)快速迭代的過(guò)程中不斷地完善標(biāo)準(zhǔn),?！秉S連金說(shuō)。記者聯(lián)系郵箱：[email protected]新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹編輯 丁爽 校對(duì) 王心