■ 左宗鑫

狂飆近半年的生成式人工智能系上了“安全帶”。近日,，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委,、教育部,、科技部、工業(yè)和信息化部,、公安部,、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行,。

近年來,，生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟(jì)社會(huì)發(fā)展帶來新機(jī)遇的同時(shí),，也產(chǎn)生了傳播虛假信息,、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題,，如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注,。出臺(tái)《辦法》，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求,，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要,。

來源：Bing

統(tǒng)籌生成式人工智能發(fā)展和安全

以ChatGPT為代表的生成式人工智能的出現(xiàn),，意味著人工智能正式從1.0時(shí)代邁入2.0時(shí)代,。創(chuàng)新工場董事長兼CEO李開復(fù)曾斷言，AI 2.0是絕對(duì)不能錯(cuò)過的一次革命,，它會(huì)是一個(gè)平臺(tái)級(jí)別的趨勢(shì),，超過移動(dòng)互聯(lián)網(wǎng)10倍。彭博行業(yè)研究曾在報(bào)告中預(yù)計(jì),，ChatGPT將給生成式人工智能市場帶來為期十年的繁榮,，市場規(guī)模將以42%的速度擴(kuò)張,。

生成式人工智能技術(shù)，是指具有文本,、圖片,、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù),?！掇k法》提出，國家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。

《辦法》指出,，提供和使用生成式人工智能服務(wù)，應(yīng)遵守法律,、行政法規(guī),，尊重社會(huì)公德和倫理道德，遵守以下規(guī)定：

一是堅(jiān)持社會(huì)主義核心價(jià)值觀,，不得生成煽動(dòng)顛覆國家政權(quán),、推翻社會(huì)主義制度，危害國家安全和利益,、損害國家形象,，煽動(dòng)分裂國家、破壞國家統(tǒng)一和社會(huì)穩(wěn)定,，宣揚(yáng)恐怖主義,、極端主義，宣揚(yáng)民族仇恨,、民族歧視,，暴力、淫穢色情,，以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容。

二是在算法設(shè)計(jì),、訓(xùn)練數(shù)據(jù)選擇,、模型生成和優(yōu)化、提供服務(wù)等過程中,，采取有效措施防止產(chǎn)生民族,、信仰、國別、地域,、性別,、年齡、職業(yè),、健康等歧視,。

三是尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德,，保守商業(yè)秘密,，不得利用算法、數(shù)據(jù),、平臺(tái)等優(yōu)勢(shì),，實(shí)施壟斷和不正當(dāng)競爭行為。

四是尊重他人合法權(quán)益,，不得危害他人身心健康,，不得侵害他人肖像權(quán)、名譽(yù)權(quán),、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益。

五是基于服務(wù)類型特點(diǎn),，采取有效措施,，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性,。

鼓勵(lì)生成式人工智能研發(fā)創(chuàng)新

《辦法》立足于促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，提出了一系列鼓勵(lì)措施,。

一是鼓勵(lì)創(chuàng)新應(yīng)用,。生成式人工智能應(yīng)用場景豐富，可以與各行業(yè)深度結(jié)合,，助力實(shí)現(xiàn)各行業(yè)智能化變革,。《辦法》明確提出,，鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用，有助于生成式人工智能賦能千行百業(yè),。

二是鼓勵(lì)多方協(xié)作,。生成式人工智能在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面涉及多方主體，為此，《辦法》鼓勵(lì)行業(yè)組織,、企業(yè)以及各個(gè)相關(guān)機(jī)構(gòu)之間開展協(xié)作,。

三是鼓勵(lì)自主創(chuàng)新與國際合作。生成式人工智能尚處于發(fā)展階段,，而我國在生成式人工智能相關(guān)算法,、芯片等技術(shù)研發(fā)方面起步相對(duì)較晚?！掇k法》一方面鼓勵(lì)生成式人工智能相關(guān)基礎(chǔ)技術(shù)的自主創(chuàng)新,，另一方面鼓勵(lì)平等互利開展國際交流與合作，從而促進(jìn)我國人工智能技術(shù)發(fā)展,。

四是鼓勵(lì)資源共享,。算力是支撐數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的重要“底座”，數(shù)據(jù)是生成式人工智能的重要資源,。為此,，《辦法》提出推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)的措施，促進(jìn)算力資源協(xié)同共享,，提升算力資源利用效能,。

強(qiáng)調(diào)促進(jìn)創(chuàng)新與規(guī)范引導(dǎo)并重

“在人工智能技術(shù)迎來重要發(fā)展的時(shí)期，我們不僅要讓相關(guān)新技術(shù)新應(yīng)用充分釋放出創(chuàng)新活力,，也要在安全監(jiān)管與創(chuàng)新引導(dǎo)之間掌握好平衡,。”國家計(jì)算機(jī)網(wǎng)絡(luò)與信息安全管理中心高級(jí)工程師張震表示,，《辦法》的制定和出臺(tái),，是我國推進(jìn)生成式人工智能服務(wù)領(lǐng)域治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展,、引導(dǎo)技術(shù)向善的重要舉措,。

《辦法》明確，提供和使用生成式人工智能服務(wù),，應(yīng)當(dāng)遵守法律,、行政法規(guī)，尊重社會(huì)公德和倫理道德,。

首先,，在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇,、模型生成和優(yōu)化,、提供服務(wù)等過程中，要采取有效措施防止產(chǎn)生民族,、信仰,、國別,、地域、性別,、年齡,、職業(yè)、健康等歧視,。

其次,，尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德,，保守商業(yè)秘密,，不得利用算法、數(shù)據(jù),、平臺(tái)等優(yōu)勢(shì),，實(shí)施壟斷和不正當(dāng)競爭行為。

再次,，尊重他人合法權(quán)益,，不得危害他人身心健康，不得侵害他人肖像權(quán),、名譽(yù)權(quán),、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益,。

最后,，基于服務(wù)類型特點(diǎn)，采取有效措施,，提升生成式人工智能服務(wù)的透明度,，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

“《辦法》是在區(qū)塊鏈、汽車數(shù)據(jù),、算法推薦,、深度合成等立法之后，我國對(duì)新興領(lǐng)域立法的又一次探索?！?strong>中國信息通信研究院政策與經(jīng)濟(jì)研究所所長辛勇飛表示,，《辦法》充分協(xié)調(diào)了發(fā)展與安全之間的關(guān)系，一方面提出了生成式人工智能發(fā)展的鼓勵(lì)措施,，另一方面明確了生成式人工智能的法律底線,，構(gòu)建了生成式人工智能精細(xì)化治理體系，有利于推動(dòng)生成式人工智能健康有序發(fā)展,，為世界貢獻(xiàn)人工智能治理的中國智慧和中國方案,。

審核：余早早

責(zé)編：霍悅

編輯：胡娜