怎樣判定生成式語言大模型會否“一本正經(jīng)地胡說八道”,？如何知道自動駕駛系統(tǒng)能夠抵抗得住外界惡意攻擊,？功能強大的AI（人工智能）大模型也需要“健康檢測”,，以確保其準(zhǔn)確性、抗攻擊性及安全性,。

近日,，上海首家生成式人工智能（AIGC）質(zhì)量檢驗檢測中心掛牌批籌,，為AI大模型等智能軟件提供專業(yè)化“體檢”,。掛牌兩個月來，這家AI質(zhì)檢中心已出具75份“體檢報告”,。

在AI質(zhì)檢火爆的背后,，折射出整個產(chǎn)業(yè)對于行業(yè)質(zhì)量規(guī)范的渴求。盡管目前AI檢測尚屬于企業(yè)自主行為,，但未來對于大模型安全性,、可解釋性,、倫理風(fēng)險的檢測檢驗,，將會形成國家強制標(biāo)準(zhǔn)。上海這一探索將在檢測與標(biāo)準(zhǔn)同步發(fā)展的新模式下,，對生成式AI產(chǎn)業(yè)的規(guī)范與引領(lǐng)產(chǎn)生積極影響,。

給ChatGPT做測評，為AI系統(tǒng)“質(zhì)量保障”探路

走進(jìn)上海市北高新區(qū)區(qū)塊鏈谷,，籌建中的上海生成式人工智能質(zhì)檢中心里，一臺臺電腦中正奔跑著AI“體檢”軟件,。

今年,，ChatGPT帶動了生成式人工智能應(yīng)用的火爆。我國迄今已推出上百個大模型,，如何客觀地評價,、比較大語言模型及其他AIGC模型的性能，成為大模型應(yīng)用的關(guān)鍵一環(huán),。

上海計算機軟件技術(shù)開發(fā)中心主任蔡立志介紹,，軟件中心是上?？茖W(xué)院的直屬單位，作為一家長期以為網(wǎng)絡(luò)安全保駕護(hù)航為使命的研究機構(gòu),，從2016年起就關(guān)注人工智能的安全問題,，迄今已開展了2000多項AI檢測業(yè)務(wù)。

在多年技術(shù)與行業(yè)經(jīng)驗積累的基礎(chǔ)上,，經(jīng)過近兩年的準(zhǔn)備,，上海市生成式人工智能質(zhì)檢中心于兩個月前在軟件中心正式掛牌批籌?！皰炫坪蟛痪?，我們就給ChatGPT做了一次測評?！鄙虾Ｓ嬎銠C軟件技術(shù)開發(fā)中心軟件工程研究所副所長陳敏剛博士透露,，測評的確可以對生成式語言大模型的推理、抗幻覺,、理解用戶意圖等能力,，進(jìn)行客觀評價。

蔡立志介紹,，質(zhì)檢中心主要面向生成式人工智能所涉及的計算機視覺,、自然語言處理、內(nèi)容生成等領(lǐng)域,，聚焦人工智能生成內(nèi)容語義表達(dá)能力,、邏輯推理能力、合成內(nèi)容鑒別,，以及功能,、性能、安全性評估等,，“通過提供全方位的測評服務(wù),，以保障人工智能系統(tǒng)或應(yīng)用的質(zhì)量”。

AI“體檢”火爆,，“守底線”更要引領(lǐng)產(chǎn)業(yè)

隨著大模型技術(shù)的快速進(jìn)步,，在人工智能應(yīng)用不斷深入的同時，利用AI換臉,、合成語音進(jìn)行傳播虛假信息,、行騙等危害社會的現(xiàn)象也不斷發(fā)生。

7月10日,，國家網(wǎng)信辦等七部委聯(lián)合發(fā)文《生成式人工智能服務(wù)管理暫行辦法》,，明確了AIGC服務(wù)提供者的責(zé)任，包括信息源可信責(zé)任,、生成內(nèi)容合法合規(guī)責(zé)任,、申報安全評估及算法備案責(zé)任,。

“管理辦法的落地，需要專業(yè)的第三方機構(gòu)提供AI質(zhì)量檢驗檢測服務(wù),?！辈塘⒅就嘎叮|(zhì)檢中心去年籌建期間已完成300多個AI質(zhì)檢項目,，“正式掛牌僅兩個月,，就已出具75份相關(guān)檢測報告”。

由此可見,，為AI做“體檢”的需求有多火爆,。事實上，這項工作本身就是一項含金量極高的技術(shù)活兒,。上海計算機軟件技術(shù)開發(fā)中心副主任宋俊典告訴記者,，對于一些大型復(fù)雜AI系統(tǒng)的檢測，甚至需要根據(jù)應(yīng)用場景專門搭建檢測檢驗系統(tǒng),，耗時可能長達(dá)半年,，同時還需要研發(fā)大量相關(guān)技術(shù)與標(biāo)準(zhǔn)。近三年來,，上海軟件中心為上海乃至長三角地區(qū)人工智能企業(yè)與應(yīng)用方提供專業(yè)的第三方測評服務(wù)數(shù)年均超過500項,，累計發(fā)布AI檢測相關(guān)標(biāo)準(zhǔn)30余項,。

“對于AI的質(zhì)量檢測,，只有好與差之分，沒有對與錯的判斷,?！彼慰〉浣忉專ㄟ^質(zhì)檢,，廠商能更清晰地了解AI軟件的性能,，對產(chǎn)品的迭代與優(yōu)化更有針對性。

檢測檢驗是行業(yè)話語權(quán)的重要標(biāo)志,，檢測標(biāo)準(zhǔn)往往是一個行業(yè)的發(fā)展風(fēng)向標(biāo),。然而，對于人工智能這個飛速發(fā)展的領(lǐng)域,，蔡立志認(rèn)為,，不能簡單套用傳統(tǒng)產(chǎn)業(yè)“先立標(biāo)準(zhǔn)后檢測”的“守底線”模式，而應(yīng)采用檢測與標(biāo)準(zhǔn)同步發(fā)展的新型模式,，以起到規(guī)范,、引領(lǐng)產(chǎn)業(yè)的作用。

據(jù)悉,，目前AI檢測尚屬于企業(yè)自主行為,，未來對于大模型的安全性,、可解釋性、倫理風(fēng)險的檢測檢驗,，可能會形成國家強制標(biāo)準(zhǔn),。（文匯報記者 許琦敏）

來源：文匯報