作為潛在最大單一市場(chǎng)，我國(guó)對(duì)人工智能將抱以何態(tài)度成為行業(yè)人士們關(guān)心的熱點(diǎn),。
ChatGPT面世幾個(gè)月以來(lái),，引發(fā)了人們對(duì)于生成式人工智能（AIGC）的廣泛關(guān)注,，從ChatGPT到文心一言,，再到GPT-4的誕生，生成式人工智能的浪潮滾滾向前,。
然而,，在國(guó)內(nèi)外近半年來(lái)的體驗(yàn)中，生成式人工智能也凸顯許多問(wèn)題,，讓各國(guó)對(duì)于生成式人工智能服務(wù)的“警惕性”提高了不少,。今年3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局發(fā)布新規(guī),，宣布禁止使用OpenAI旗下的聊天人工智能ChatGPT并限制OpenAI處理意大利用戶信息,，意大利自此成為首個(gè)官方禁用ChatGPT的西方國(guó)家。同時(shí),，以馬斯克等人為代表的眾多企業(yè)家及科學(xué)家聯(lián)名請(qǐng)?jiān)笗和８呒?jí)別的人工智能訓(xùn)練,，以應(yīng)對(duì)高階人工智能對(duì)人類社會(huì)可能產(chǎn)生的影響乃至危險(xiǎn)。
作為潛在最大單一市場(chǎng),，我國(guó)對(duì)人工智能將抱以何態(tài)度成為行業(yè)人士們關(guān)心的熱點(diǎn),。4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱“管理辦法”或“辦法”）,，為人工智能行業(yè)監(jiān)管的中國(guó)態(tài)度發(fā)出了信號(hào),。《辦法》秉承著發(fā)展的主基調(diào),，劃定責(zé)任主體,，制定行業(yè)底線，為中國(guó)的生成式人工智能健康發(fā)展亮起綠燈,。
《辦法》如何定義生成式人工智能發(fā)展,？規(guī)范了哪些重要方面？將起到怎樣的作用,？今天,，《中國(guó)科技信息》對(duì)其展開(kāi)解讀。
《辦法》的發(fā)布，是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》在生成式人工智能領(lǐng)域的細(xì)化和延伸,。
“國(guó)家支持人工智能算法,、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用,、國(guó)際合作,，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具,、計(jì)算和數(shù)據(jù)資源,。”《辦法》對(duì)生成式人工智能產(chǎn)業(yè)抱持著支持和鼓勵(lì)態(tài)度,。
根據(jù)《辦法》,，“生成式人工智能”是指基于算法、模型,、規(guī)則生成文本,、圖片、聲音,、視頻,、代碼等內(nèi)容的技術(shù)。值得注意的是,，對(duì)生成式人工智能的定義中不僅包含文字，目前常見(jiàn)的“文生圖”“文生視頻”等也將被納入管理,。管理范圍則是,，面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的產(chǎn)品。
目前，包括百度,、騰訊,、阿里、華為,、京東,、360等多家國(guó)內(nèi)科技巨頭均已宣布在生成式人工智能產(chǎn)業(yè)有相應(yīng)布局，無(wú)疑將被納入監(jiān)管范圍,。ChatGPT,、New Bing、Midjourney等產(chǎn)品雖然未面向中國(guó)境內(nèi)公眾提供服務(wù),，但如果第三方通過(guò)API等方式提供前述產(chǎn)品功能的,，將一并納入監(jiān)管范圍內(nèi)，需要遵守相關(guān)義務(wù)要求。
嚴(yán)格備案審批流程 從源頭規(guī)范產(chǎn)業(yè)發(fā)展
對(duì)于這一個(gè)新興且發(fā)展迅猛的行業(yè)來(lái)說(shuō),，規(guī)范和治理需要嚴(yán)格從源頭入手,。因此，《辦法》在準(zhǔn)入資格方面規(guī)定,，在利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更,、注銷(xiāo)備案手續(xù),。
通過(guò)審批備案的服務(wù)方，在生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí),，應(yīng)當(dāng)制定清晰,、具體、可操作的標(biāo)注規(guī)則,，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn),，抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。同時(shí),，不能使用生成式人工智能進(jìn)行炒作,。提供者應(yīng)當(dāng)指導(dǎo)用戶科學(xué)認(rèn)識(shí)和理性使用生成式人工智能生成的內(nèi)容，不利用生成內(nèi)容損害他人形象,、名譽(yù)以及其他合法權(quán)益,，不進(jìn)行商業(yè)炒作、不正當(dāng)營(yíng)銷(xiāo),。
伴隨著生成式人工智能技術(shù)的深入,，互聯(lián)網(wǎng)上越來(lái)越多不良分子,，利用相關(guān)技術(shù)提供“出格”服務(wù)，例如此前引起廣泛抵制的“一鍵脫衣”以及“AI詐騙”等,。在此方面,，《辦法》要求，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求,，尊重社會(huì)公德,、公序良俗，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀,，不得含有顛覆國(guó)家政權(quán),、推翻社會(huì)主義制度，煽動(dòng)分裂國(guó)家,、破壞國(guó)家統(tǒng)一,，宣揚(yáng)恐怖主義,、極端主義，宣揚(yáng)民族仇恨,、民族歧視,，暴力、淫穢色情信息,，虛假信息,，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容。
強(qiáng)調(diào)個(gè)人隱私保護(hù) 規(guī)則“賞罰分明”
在生成式人工智能時(shí)代,，個(gè)體在互聯(lián)網(wǎng)上的每一個(gè)行為都會(huì)留下數(shù)字腳印或數(shù)字影子等數(shù)據(jù)痕跡,，這導(dǎo)致個(gè)人隱私保護(hù)問(wèn)題成為突出問(wèn)題，生成式人工智能服務(wù)相關(guān)問(wèn)題尤為敏感,。
對(duì)此,，《辦法》提到,，提供者在提供服務(wù)過(guò)程中，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù),。數(shù)據(jù)包含個(gè)人信息的,，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形,，不得非法留存能夠推斷出用戶身份的輸入信息,，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫(huà)像，不得向他人提供用戶輸入信息,。
同時(shí),，必須尊重他人合法利益，防止傷害他人身心健康,，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私,，侵犯知識(shí)產(chǎn)權(quán),。禁止非法獲取、披露,、利用個(gè)人信息和隱私,、商業(yè)秘密。
為了杜絕后患,，《辦法》要求,，對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容,，除采取內(nèi)容過(guò)濾等措施外,，應(yīng)在3個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止再次生成,。同時(shí)，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片,、視頻等內(nèi)容進(jìn)行標(biāo)識(shí),。
而對(duì)于法律、行政法規(guī)暫未詳細(xì)規(guī)定的一些不當(dāng)行為,，《辦法》規(guī)定由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)依據(jù)職責(zé)給予警告,、通報(bào)批評(píng)，責(zé)令限期改正,；拒不改正或者情節(jié)嚴(yán)重的,，責(zé)令暫停或者終止其利用生成式人工智能提供服務(wù),，并處一萬(wàn)元以上十萬(wàn)元以下罰款,。
總體而言，在規(guī)范行業(yè)發(fā)展的同時(shí),，也為生成式人工智能發(fā)展留有一定空間,。目前《辦法》仍處于征求意見(jiàn)階段，未來(lái)還可能收納各方意見(jiàn)進(jìn)行調(diào)整,?！掇k法》正式發(fā)布之后，將有助于行業(yè)健康發(fā)展,，遏制不良行為,。專家認(rèn)為，這一舉措顯示出我國(guó)對(duì)生成式人工智能服務(wù)發(fā)展的關(guān)注和支持,，希望通過(guò)規(guī)范管理,，保障人工智能技術(shù)在安全、合規(guī)的環(huán)境中發(fā)展,，同時(shí)保護(hù)用戶的隱私和權(quán)益,。未來(lái)也可將有代表性的人工智能公司納入治理體系，同監(jiān)管機(jī)關(guān)合作開(kāi)發(fā)與技術(shù)發(fā)展和市場(chǎng)競(jìng)爭(zhēng)相適應(yīng)的監(jiān)管框架,。
主管單位：中國(guó)科學(xué)技術(shù)協(xié)會(huì)
主辦單位：中國(guó)科技新聞學(xué)會(huì)
內(nèi)容轉(zhuǎn)載請(qǐng)聯(lián)系微信：zkxxx1999
在線投稿平臺(tái)：www.cnkjxx.com
尋求報(bào)道,、內(nèi)容合作，請(qǐng)聯(lián)系微信：15811564659
雜志收錄情況：《中國(guó)知網(wǎng)》《中國(guó)期刊核心期刊（遴選）數(shù)據(jù)庫(kù)》《中國(guó)學(xué)術(shù)期刊綜合評(píng)價(jià)數(shù)據(jù)庫(kù)（CAJCED）統(tǒng)計(jì)源期刊》《中國(guó)期刊全文數(shù)據(jù)庫(kù)（CJFD）》《中國(guó)科協(xié),、中國(guó)圖書(shū)館學(xué)會(huì)（解讀科學(xué)發(fā)展觀推薦書(shū)目）》
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述，版權(quán)歸原作者所有,。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1018356.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
