新民晚報(bào)訊（記者 馬亞寧）“無(wú)中生有”堪稱生成式人工智能強(qiáng)大學(xué)習(xí)能力的“本色”,?？墒牵趶臒o(wú)到有的過(guò)程中,，人工智能會(huì)不會(huì)犯錯(cuò),？近日,，由上海計(jì)算機(jī)軟件技術(shù)開(kāi)發(fā)中心籌建的上海市生成式人工智能質(zhì)量檢驗(yàn)檢測(cè)中心掛牌。作為上海首家批籌的人工智能領(lǐng)域質(zhì)檢中心,，其將幫助生成式人工智能在深度學(xué)習(xí),，智能生成過(guò)程中及時(shí)修偏糾錯(cuò),，助生成式AI產(chǎn)品名副其實(shí)，少走彎路,。

Chatgpt強(qiáng)大的智能潛力,，讓生成式AI瞬間火遍全球。今年5月發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》顯示,，我國(guó)已有79個(gè)10億級(jí)以上參數(shù)規(guī)模的大模型,。不過(guò)，在一些大語(yǔ)言模型應(yīng)用初期,，部分惡意用戶可能會(huì)通過(guò)角色扮演,、分步提問(wèn)等方式，規(guī)避大語(yǔ)言模型安全規(guī)則,，誘導(dǎo)其給出違反法律法規(guī)的回答,，或者生成違背倫理道德的內(nèi)容。如何客觀地評(píng)價(jià)大模型的性能,，同時(shí)讓剛剛萌芽且學(xué)習(xí)能力飛快的大模型應(yīng)用合禮,、合規(guī)，成為賦能各行各業(yè)的重要一環(huán),。

生成式人工智能質(zhì)量檢驗(yàn)檢測(cè)中心,，正是要檢測(cè)生成式AI產(chǎn)品中潛在的類似漏洞，提升人工智能系統(tǒng)的安全性,，減少各類風(fēng)險(xiǎn),。“我們會(huì)對(duì)送檢的人工智能軟件各項(xiàng)指標(biāo)進(jìn)行‘體檢’,，并出具詳細(xì)‘體檢報(bào)告’,。”上?？茖W(xué)院直屬上海計(jì)算機(jī)軟件技術(shù)開(kāi)發(fā)中心主任蔡立志說(shuō),，上海市生成式人工智能質(zhì)檢中心重點(diǎn)聚焦生成式人工智能、工業(yè)智能質(zhì)檢,、智慧醫(yī)療,、人臉識(shí)別、自動(dòng)駕駛領(lǐng)域的人工智能檢驗(yàn)檢測(cè),。

據(jù)介紹,，該質(zhì)檢中心將參考國(guó)內(nèi)外人工智能測(cè)評(píng)標(biāo)準(zhǔn)，自主研發(fā)人工智能深度安全和測(cè)評(píng)技術(shù)與工具,，包括對(duì)抗樣本生成與防御評(píng)估工具,、自然語(yǔ)言處理系統(tǒng)測(cè)評(píng)數(shù)據(jù)生成工具、人工智能虛假人臉檢測(cè)工具,、人工智能風(fēng)險(xiǎn)評(píng)估與治理工具等,，為企事業(yè)單位提供人工智能質(zhì)量“一站式”測(cè)評(píng)服務(wù),。

近年來(lái)，在上?？茖W(xué)院部署下,，上海計(jì)算機(jī)軟件技術(shù)開(kāi)發(fā)中心布局并開(kāi)展了人工智能的應(yīng)用、治理,、測(cè)評(píng)等技術(shù)研究與第三方技術(shù)服務(wù),，參與編寫(xiě)了《人工智能標(biāo)準(zhǔn)化白皮書(shū)（2021版）》，完成了《人工智能深度合成圖像系統(tǒng)技術(shù)規(guī)范》《人工智能計(jì)算機(jī)視覺(jué)系統(tǒng)測(cè)評(píng)規(guī)范》等30余項(xiàng)標(biāo)準(zhǔn)研制,，近三年來(lái)為人工智能企業(yè)與應(yīng)用方提供第三方測(cè)評(píng)年均超過(guò)500項(xiàng),。