自動(dòng)駕駛、聊天機(jī)器人、電商直播甚至醫(yī)療保健,，近年來(lái)人工智能在多領(lǐng)域的研究和應(yīng)用給我們的生活和工作帶來(lái)了高效和便利,。但是也有不法分子為了牟利,，利用人工智能技術(shù)進(jìn)行詐騙,，比如利用AI換臉冒充熟人詐騙，或者制作發(fā)布假新聞混淆視聽(tīng),、賺取流量等等,。

00:27

昨天（13日），國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部,、科技部等7部門(mén)公布《生成式人工智能服務(wù)管理暫行辦法》,，自2023年8月15日起施行。國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，出臺(tái)《辦法》旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民,、法人和其他組織的合法權(quán)益,。

《辦法》從哪些方面規(guī)范生成式人工智能的發(fā)展和應(yīng)用？又是如何針對(duì)當(dāng)前存在的一些濫用人工智能技術(shù)亂象來(lái)對(duì)癥下藥,？一起看↓

《管理暫行辦法》從多個(gè)方面“劃紅線”

《辦法》要求,，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律,、行政法規(guī),，尊重社會(huì)公德和倫理道德，遵守以下規(guī)定：

堅(jiān)持社會(huì)主義核心價(jià)值觀,，不得生成煽動(dòng)顛覆國(guó)家政權(quán),、推翻社會(huì)主義制度，危害國(guó)家安全和利益,、損害國(guó)家形象,，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定,，宣揚(yáng)恐怖主義,、極端主義，宣揚(yáng)民族仇恨,、民族歧視,，暴力、淫穢色情,，以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容；

在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇,、模型生成和優(yōu)化,、提供服務(wù)等過(guò)程中，采取有效措施防止產(chǎn)生民族,、信仰,、國(guó)別,、地域、性別,、年齡,、職業(yè)、健康等歧視,；

尊重知識(shí)產(chǎn)權(quán),、商業(yè)道德，保守商業(yè)秘密,，不得利用算法,、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì),，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為,；

尊重他人合法權(quán)益，不得危害他人身心健康,，不得侵害他人肖像權(quán),、名譽(yù)權(quán)、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益,；

基于服務(wù)類(lèi)型特點(diǎn)，采取有效措施,，提升生成式人工智能服務(wù)的透明度,，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

何為生成式人工智能,？

生成式人工智能技術(shù),，是指具有文本、圖片,、音頻,、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。

生成式人工智能服務(wù)提供者,，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過(guò)提供可編程接口等方式提供生成式人工智能服務(wù)）的組織,、個(gè)人。

生成式人工智能服務(wù)使用者,，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織,、個(gè)人。

“AI換臉”詐騙 10分鐘被騙取430萬(wàn)元

作為生成式人工智能的一種技術(shù),，近期,，“AI換臉”的應(yīng)用范圍越來(lái)越廣，但存在濫用之嫌,，甚至有人利用AI換臉實(shí)施犯罪,。

近日,，內(nèi)蒙古包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。來(lái)自福建的郭先生是一家科技公司的法人代表,。今年4月，他的好友突然通過(guò)微信視頻聯(lián)系他,，稱自己的朋友在外地競(jìng)標(biāo),，需要430萬(wàn)元保證金，想借用郭先生公司的賬戶走賬,?；趯?duì)好友的信任，加上已經(jīng)視頻聊天“確認(rèn)”了身份,，郭先生在10分鐘內(nèi),，先后分兩筆把430萬(wàn)元轉(zhuǎn)到了對(duì)方的銀行賬戶上。事后,，郭先生才得知,，原來(lái)是騙子通過(guò)AI換臉和擬聲技術(shù)實(shí)施的騙局。

利用人工智能技術(shù)造謠 一網(wǎng)民被依法查處

自2022年12月以來(lái),，一款名為ChatGPT的人工智能應(yīng)用掀起來(lái)一股科技熱潮,，它能夠通過(guò)學(xué)習(xí)和理解人類(lèi)的語(yǔ)言來(lái)進(jìn)行對(duì)話，根據(jù)用戶需求撰寫(xiě)郵件,、視頻腳本,、文案、代碼等等,，被視為具有可快速,、批量生產(chǎn)訊息的生產(chǎn)力工具，然而卻有人打起了借此非法牟利的歪心思,。

近期,，根據(jù)公安部網(wǎng)安局總體部署，江蘇公安網(wǎng)安部門(mén)深入推進(jìn)網(wǎng)絡(luò)謠言打擊整治專(zhuān)項(xiàng)行動(dòng),，依法查處一名利用人工智能技術(shù)編造謠言網(wǎng)民,。

今年4月10日，鹽城市公安局網(wǎng)安支隊(duì)接到上級(jí)通報(bào)稱,，該市一網(wǎng)民發(fā)布“浙江溫州一名女大學(xué)生在晚歸途中遭持刀襲擊并強(qiáng)奸”的虛假信息,。鹽城網(wǎng)安支隊(duì)立即會(huì)同屬地警方展開(kāi)調(diào)查，查明造謠人員系鹽城阜寧縣網(wǎng)民朱某鋒,，并對(duì)其依法傳喚,。到案后，朱某峰對(duì)其造謠行為供認(rèn)不諱,。

阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)民警邱侗：據(jù)其交代為了博取眼球、吸引流量,，以獲取平臺(tái)給予的創(chuàng)作者獎(jiǎng)金,，他就利用了這款時(shí)下流行的ChatGPT人工智能軟件杜撰了該謠言。而編造發(fā)布此類(lèi)謠言極易引發(fā)群眾恐慌,，造成不良社會(huì)影響,，從而構(gòu)成違法犯罪。

網(wǎng)民 朱某鋒：我就跟機(jī)器人聊,，讓它幫我寫(xiě)一篇強(qiáng)奸案文章,，內(nèi)容要求逼真，字?jǐn)?shù)1500字,。然后它就自動(dòng)生成了,，內(nèi)容的真實(shí)性我沒(méi)有考慮。

為顯真實(shí),，朱某峰還在網(wǎng)上找到一張白衣女性的圖片,，附在文章中一同發(fā)布。目前,，公安機(jī)關(guān)根據(jù)《中華人民共和國(guó)治安管理處罰法》第二十五條之規(guī)定,，已對(duì)朱某峰行政罰款貳佰元，并責(zé)令其清理不實(shí)信息,，關(guān)停相關(guān)自媒體賬號(hào),。

網(wǎng)民 朱某鋒：我認(rèn)識(shí)到錯(cuò)誤的嚴(yán)重性了,，誠(chéng)懇接受民警的處罰與批評(píng)教育，今后做守法網(wǎng)民,，不造謠,、不傳謠。

阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)民警邱侗：在此提醒廣大網(wǎng)民,，網(wǎng)絡(luò)并非法外之地,，人工智能技術(shù)應(yīng)用應(yīng)嚴(yán)格遵守法律底線，在正當(dāng),、合法的領(lǐng)域合理使用,。

《辦法》針對(duì)典型亂象從三方面對(duì)癥下藥

針對(duì)生成式人工智能出現(xiàn)濫用甚至違法現(xiàn)象，《生成式人工智能服務(wù)管理暫行辦法》如何對(duì)癥下藥,？

中國(guó)科學(xué)技術(shù)大學(xué)公共事務(wù)學(xué)院,、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟表示：

一是針對(duì)技術(shù)本身。例如要求使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型，涉及個(gè)人信息的應(yīng)當(dāng)取得個(gè)人同意或者屬于不需要取得同意的情形,。這便是針對(duì)生成式人工智能輸出結(jié)果容易受到輸入數(shù)據(jù)影響而制定的,。

二是針對(duì)服務(wù)的提供過(guò)程。例如要求生成式人工智能服務(wù)提供者依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,，履行網(wǎng)絡(luò)信息安全義務(wù),。提供者應(yīng)當(dāng)對(duì)使用者的輸入信息和使用記錄依法履行保護(hù)義務(wù)。提供者如果發(fā)現(xiàn)使用者從事違法活動(dòng),，應(yīng)當(dāng)采取處置措施,。

三是針對(duì)產(chǎn)業(yè)發(fā)展。為了防止被卡脖子,，鼓勵(lì)生成式人工智能算法、框架,、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,。為了防止無(wú)序發(fā)展，要求推動(dòng)相關(guān)基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),，促進(jìn)算力資源協(xié)同共享,，提升算力資源利用效能。

目前生成式人工智能應(yīng)用中出現(xiàn)了傳播虛假信息、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題,，需要及時(shí)規(guī)制。但總體而言生成式人工智能仍處于發(fā)展的初期階段,，風(fēng)險(xiǎn)沒(méi)有完全暴露,，應(yīng)用前景難以估量，所以應(yīng)當(dāng)采取包容審慎的態(tài)度,，堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合，要采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,。所以這次的管理辦法稱為“暫行辦法”,，便是有這方面的考慮,。文件針對(duì)已經(jīng)出現(xiàn)的濫用,、違法現(xiàn)象提出了管理措施，但對(duì)于生成式人工智能技術(shù)的未來(lái)發(fā)展留下了巨大的空間,。

人工智能蓬勃發(fā)展 核心產(chǎn)業(yè)規(guī)模達(dá)五千億元

記者從相關(guān)部門(mén)了解到,，我國(guó)人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元,，企業(yè)數(shù)量超過(guò)4300家,，創(chuàng)新成果不斷涌現(xiàn),。未來(lái)，人工智能產(chǎn)業(yè)發(fā)展前景可觀,，我們也期待,，隨著《生成式人工智能服務(wù)管理暫行辦法》的實(shí)施，人工智能在各領(lǐng)域的發(fā)展和應(yīng)用更加健康規(guī)范,，從各方面,、多層次地助力人們的工作和生活。