自動駕駛、聊天機器人,、電商直播甚至醫(yī)療保健，近年來人工智能在多領(lǐng)域的研究和應(yīng)用給我們的生活和工作帶來了高效和便利,。但是也有不法分子為了牟利,，利用人工智能技術(shù)進行詐騙，比如利用AI換臉冒充熟人詐騙,，或者制作發(fā)布假新聞混淆視聽,、賺取流量等等,。

00:27

昨天（13日）,，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委,、教育部、科技部等7部門公布《生成式人工智能服務(wù)管理暫行辦法》,，自2023年8月15日起施行,。國家網(wǎng)信辦有關(guān)負責(zé)人表示，出臺《辦法》旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護國家安全和社會公共利益,，保護公民、法人和其他組織的合法權(quán)益,。

《辦法》從哪些方面規(guī)范生成式人工智能的發(fā)展和應(yīng)用,？又是如何針對當前存在的一些濫用人工智能技術(shù)亂象來對癥下藥？一起看↓

《管理暫行辦法》從多個方面“劃紅線”

《辦法》要求,，提供和使用生成式人工智能服務(wù),，應(yīng)當遵守法律、行政法規(guī),，尊重社會公德和倫理道德,，遵守以下規(guī)定：

堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán),、推翻社會主義制度,，危害國家安全和利益、損害國家形象,，煽動分裂國家,、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義,、極端主義,，宣揚民族仇恨、民族歧視,，暴力,、淫穢色情，以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容,；

在算法設(shè)計,、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務(wù)等過程中,，采取有效措施防止產(chǎn)生民族、信仰、國別,、地域,、性別、年齡,、職業(yè)、健康等歧視,；

尊重知識產(chǎn)權(quán),、商業(yè)道德，保守商業(yè)秘密,，不得利用算法,、數(shù)據(jù)、平臺等優(yōu)勢,，實施壟斷和不正當競爭行為,；

尊重他人合法權(quán)益，不得危害他人身心健康,，不得侵害他人肖像權(quán),、名譽權(quán)、榮譽權(quán),、隱私權(quán)和個人信息權(quán)益,；

基于服務(wù)類型特點，采取有效措施,，提升生成式人工智能服務(wù)的透明度,，提高生成內(nèi)容的準確性和可靠性。

何為生成式人工智能,？

生成式人工智能技術(shù),，是指具有文本、圖片,、音頻,、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。

生成式人工智能服務(wù)提供者,，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過提供可編程接口等方式提供生成式人工智能服務(wù)）的組織,、個人。

生成式人工智能服務(wù)使用者,，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織,、個人。

“AI換臉”詐騙 10分鐘被騙取430萬元

作為生成式人工智能的一種技術(shù),，近期,，“AI換臉”的應(yīng)用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪,。

近日,，內(nèi)蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例。來自福建的郭先生是一家科技公司的法人代表,。今年4月,，他的好友突然通過微信視頻聯(lián)系他，稱自己的朋友在外地競標,，需要430萬元保證金,，想借用郭先生公司的賬戶走賬?；趯糜训男湃?，加上已經(jīng)視頻聊天“確認”了身份，郭先生在10分鐘內(nèi),，先后分兩筆把430萬元轉(zhuǎn)到了對方的銀行賬戶上,。事后，郭先生才得知,，原來是騙子通過AI換臉和擬聲技術(shù)實施的騙局,。

利用人工智能技術(shù)造謠 一網(wǎng)民被依法查處

自2022年12月以來，一款名為ChatGPT的人工智能應(yīng)用掀起來一股科技熱潮,，它能夠通過學(xué)習(xí)和理解人類的語言來進行對話,，根據(jù)用戶需求撰寫郵件、視頻腳本,、文案,、代碼等等,，被視為具有可快速,、批量生產(chǎn)訊息的生產(chǎn)力工具，然而卻有人打起了借此非法牟利的歪心思,。

近期,，根據(jù)公安部網(wǎng)安局總體部署，江蘇公安網(wǎng)安部門深入推進網(wǎng)絡(luò)謠言打擊整治專項行動,，依法查處一名利用人工智能技術(shù)編造謠言網(wǎng)民,。

今年4月10日，鹽城市公安局網(wǎng)安支隊接到上級通報稱,，該市一網(wǎng)民發(fā)布“浙江溫州一名女大學(xué)生在晚歸途中遭持刀襲擊并強奸”的虛假信息,。鹽城網(wǎng)安支隊立即會同屬地警方展開調(diào)查，查明造謠人員系鹽城阜寧縣網(wǎng)民朱某鋒,，并對其依法傳喚,。到案后，朱某峰對其造謠行為供認不諱。

阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊民警邱侗：據(jù)其交代為了博取眼球、吸引流量,，以獲取平臺給予的創(chuàng)作者獎金,，他就利用了這款時下流行的ChatGPT人工智能軟件杜撰了該謠言。而編造發(fā)布此類謠言極易引發(fā)群眾恐慌,，造成不良社會影響,，從而構(gòu)成違法犯罪。

網(wǎng)民 朱某鋒：我就跟機器人聊,，讓它幫我寫一篇強奸案文章，內(nèi)容要求逼真,，字數(shù)1500字,。然后它就自動生成了，內(nèi)容的真實性我沒有考慮,。

為顯真實,，朱某峰還在網(wǎng)上找到一張白衣女性的圖片，附在文章中一同發(fā)布,。目前,，公安機關(guān)根據(jù)《中華人民共和國治安管理處罰法》第二十五條之規(guī)定，已對朱某峰行政罰款貳佰元,，并責(zé)令其清理不實信息,，關(guān)停相關(guān)自媒體賬號。

網(wǎng)民 朱某鋒：我認識到錯誤的嚴重性了，誠懇接受民警的處罰與批評教育,，今后做守法網(wǎng)民,，不造謠、不傳謠,。

阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊民警邱侗：在此提醒廣大網(wǎng)民,，網(wǎng)絡(luò)并非法外之地，人工智能技術(shù)應(yīng)用應(yīng)嚴格遵守法律底線,，在正當,、合法的領(lǐng)域合理使用。

《辦法》針對典型亂象從三方面對癥下藥

針對生成式人工智能出現(xiàn)濫用甚至違法現(xiàn)象,，《生成式人工智能服務(wù)管理暫行辦法》如何對癥下藥,？

中國科學(xué)技術(shù)大學(xué)公共事務(wù)學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟表示：

一是針對技術(shù)本身。例如要求使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,，涉及個人信息的應(yīng)當取得個人同意或者屬于不需要取得同意的情形,。這便是針對生成式人工智能輸出結(jié)果容易受到輸入數(shù)據(jù)影響而制定的。

二是針對服務(wù)的提供過程,。例如要求生成式人工智能服務(wù)提供者依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,，履行網(wǎng)絡(luò)信息安全義務(wù)。提供者應(yīng)當對使用者的輸入信息和使用記錄依法履行保護義務(wù),。提供者如果發(fā)現(xiàn)使用者從事違法活動,，應(yīng)當采取處置措施。

三是針對產(chǎn)業(yè)發(fā)展,。為了防止被卡脖子,，鼓勵生成式人工智能算法、框架,、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新,。為了防止無序發(fā)展，要求推動相關(guān)基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè),，促進算力資源協(xié)同共享,，提升算力資源利用效能。

目前生成式人工智能應(yīng)用中出現(xiàn)了傳播虛假信息、侵害個人信息權(quán)益,、數(shù)據(jù)安全和偏見歧視等問題,，需要及時規(guī)制。但總體而言生成式人工智能仍處于發(fā)展的初期階段,，風(fēng)險沒有完全暴露,，應(yīng)用前景難以估量，所以應(yīng)當采取包容審慎的態(tài)度,，堅持發(fā)展和安全并重,、促進創(chuàng)新和依法治理相結(jié)合，要采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,。所以這次的管理辦法稱為“暫行辦法”,，便是有這方面的考慮。文件針對已經(jīng)出現(xiàn)的濫用,、違法現(xiàn)象提出了管理措施,，但對于生成式人工智能技術(shù)的未來發(fā)展留下了巨大的空間。

人工智能蓬勃發(fā)展 核心產(chǎn)業(yè)規(guī)模達五千億元

記者從相關(guān)部門了解到,，我國人工智能產(chǎn)業(yè)蓬勃發(fā)展,，核心產(chǎn)業(yè)規(guī)模達到5000億元,，企業(yè)數(shù)量超過4300家，創(chuàng)新成果不斷涌現(xiàn),。未來,，人工智能產(chǎn)業(yè)發(fā)展前景可觀，我們也期待,，隨著《生成式人工智能服務(wù)管理暫行辦法》的實施,，人工智能在各領(lǐng)域的發(fā)展和應(yīng)用更加健康規(guī)范，從各方面,、多層次地助力人們的工作和生活,。