作者：郝俊慧 來(lái)源：IT時(shí)報(bào)

　　剛剛落幕的世界人工智能大會(huì)（WAIC 2023)在上海掀起了一股AI颶風(fēng)。AIGC、大模型,、算力、芯片……與會(huì)者熱烈地討論著一個(gè)新時(shí)代的開(kāi)始,。然而，在AIGC將如何改變未來(lái)的喧囂背后,，是更多對(duì)人工智能風(fēng)險(xiǎn)應(yīng)有的冷靜,。

　　一系列舉措正在緊鑼密鼓地出臺(tái),。

　　當(dāng)?shù)貢r(shí)間6月14日,，歐洲議會(huì)以499票贊成,、28票反對(duì)和93票棄權(quán)，高票通過(guò)了《人工智能法案》（AI Act）談判授權(quán)草案,，草案對(duì)通用人工智能（general purpose AI）的透明度提出了明確要求,。

　　6月20日,，中國(guó)首批境內(nèi)深度合成服務(wù)算法備案清單出爐，百度,、阿里巴巴,、騰訊、字節(jié)跳動(dòng),、美團(tuán)等26家公司,、共計(jì)41個(gè)算法榜上有名，這個(gè)清單被認(rèn)為是4月11日國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（下稱《辦法》）的試水,。

　　無(wú)論是越來(lái)越逼真的換臉和換聲,，還是隱藏于各家語(yǔ)言大模型中的“偏見(jiàn)”，安全被認(rèn)為是進(jìn)入AI新世紀(jì)之前必須先設(shè)置的保險(xiǎn)杠,。

AIGC風(fēng)控必須全鏈路

　　“AIGC帶來(lái)豐富創(chuàng)造力的同時(shí),，也帶了全新的內(nèi)容安全挑戰(zhàn)?！彬v訊安全內(nèi)容風(fēng)控產(chǎn)品經(jīng)理李鎬澤日前在接受包括《IT時(shí)報(bào)》記者在內(nèi)的媒體采訪時(shí)表示,，當(dāng)大模型逐漸落地時(shí)，一定要考慮全鏈路風(fēng)控,。

　　相對(duì)過(guò)去以PGC,、UGC為主的內(nèi)容，AIGC時(shí)代的內(nèi)容安全內(nèi)涵與外延均有顯著變化,。從訓(xùn)練到生成到事后,，處處都可能有“雷點(diǎn)”。

　　高質(zhì)量數(shù)據(jù)是確?！昂诤凶印贝竽Ｐ洼敵鲂Ч年P(guān)鍵,。中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理中心主任曾毅認(rèn)為,，基于人類訓(xùn)練的AI可以習(xí)得社會(huì)的偏見(jiàn),、仇恨，甚至是歧視,，人工智能技術(shù)并非中立,。

　　這意味著，在內(nèi)容生成階段,，涉及個(gè)人隱私,、虛假、違背倫理,、不適內(nèi)容,、未成年人等違規(guī)內(nèi)容都必須被“剔除”。

　　目前公開(kāi)測(cè)試通用大模型中,，并無(wú)廠商主動(dòng)對(duì)外公布自己的訓(xùn)練數(shù)據(jù)來(lái)源,，基本公認(rèn)的來(lái)源有三個(gè)：網(wǎng)絡(luò)爬蟲,、公共語(yǔ)料庫(kù)以及人工標(biāo)注的數(shù)據(jù)。如果不對(duì)數(shù)據(jù)源進(jìn)行初審,，便很容易在結(jié)果中涉嫌違規(guī),。

　　比如，如果已被泄露的明星個(gè)人數(shù)據(jù)庫(kù)在某個(gè)網(wǎng)站上被爬蟲抓到,，并進(jìn)入大模型訓(xùn)練庫(kù),，那很可能出現(xiàn)的場(chǎng)景是，當(dāng)被提問(wèn)“****的手機(jī)號(hào)碼是多少,？”時(shí),，大模型直接給出答案。

　　“訓(xùn)練大模型的廠商,，要嚴(yán)控構(gòu)建模型數(shù)據(jù)源的真實(shí),、無(wú)害和可用性，包括個(gè)人隱私的脫敏,、不涉及相關(guān)偏見(jiàn)以及本身內(nèi)容合法和規(guī)范等等,。”騰訊安全天御研發(fā)工程師周維聰告訴記者,。

　　內(nèi)容生成階段的風(fēng)險(xiǎn)也同樣存在,。前段時(shí)間出現(xiàn)的換臉、假聲紋便屬于此類,，加上ChatGPT“一本正經(jīng)胡說(shuō)八道”的偶發(fā)癥狀,，這個(gè)階段的安全風(fēng)險(xiǎn)最為集中。此外,，產(chǎn)品上線后,，用戶也一定要時(shí)刻關(guān)注輿情，關(guān)注大模型生成的內(nèi)容是否違規(guī),，是否引發(fā)輿論關(guān)注,，風(fēng)控的那根“弦”要始終繃緊。

　　6月19日,，騰訊云正式公布MaaS（Model-as-a-Service）能力全景圖,，并表示，依托騰訊二十余年的安全經(jīng)驗(yàn)和天御大數(shù)據(jù)能力,，提供AIGC全鏈路內(nèi)容安全解決方案,，確保大模型可信、可靠,、可用,。

　　據(jù)了解，騰訊安全AIGC全鏈路內(nèi)容安全解決方案，提供包含審校服務(wù),、安全專家服務(wù),、機(jī)器審核服務(wù),、版權(quán)保護(hù)服務(wù)四大能力板塊,，覆蓋AIGC類應(yīng)用從模型訓(xùn)練到內(nèi)容生成到事后運(yùn)營(yíng)全過(guò)程的內(nèi)容安全建設(shè)?！　?/p>

AIGC生成內(nèi)容或需標(biāo)示

　　 WAIC上,，中國(guó)信通院、上海人工智能實(shí)驗(yàn)室,、武漢大學(xué),、螞蟻集團(tuán)等多家單位共同發(fā)起《AIGC可信倡議》，提出構(gòu)建AIGC可信發(fā)展的全球治理合作框架,，采用安全可信的數(shù)據(jù)資源,、技術(shù)框架、計(jì)算方法和軟件平臺(tái)等全面提升AIGC可信工程化能力,，最大限度確保生成式AI安全,、透明、可釋,。

　　對(duì)于AIGC將帶來(lái)怎樣的未來(lái),，從業(yè)者無(wú)法預(yù)知，只能通過(guò)自律控制“魔法”,，而不久的將來(lái),，法律將正式落地。

　　《人工智能法案》新增了對(duì)通用人工智能的透明度要求,，比如大模型訓(xùn)練時(shí)如果使用了受版權(quán)保護(hù)的數(shù)據(jù),，需要公開(kāi)訓(xùn)練數(shù)據(jù)的詳細(xì)信息，而且基于基礎(chǔ)模型的生成式AI必須要對(duì)生成的內(nèi)容進(jìn)行標(biāo)注,，幫助用戶區(qū)分深度偽造和真實(shí)信息,。

　　《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》也提出了類似的要求，一方面,，提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù),、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)，另一方面,，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片,、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)。

　　李鎬澤認(rèn)為,，未來(lái)可能要從技術(shù)和監(jiān)管多維度實(shí)現(xiàn)AIGC的透明化,，比如通過(guò)對(duì)數(shù)據(jù)來(lái)源的強(qiáng)監(jiān)管，確保輸出內(nèi)容的生成標(biāo)示，“此外也可以通過(guò)數(shù)字水印等技術(shù)手段,，確保數(shù)據(jù)可溯源,。”

　　目前,，針對(duì)AIGC引發(fā)的版權(quán)保護(hù)難題上,，騰訊安全建立了版權(quán)資產(chǎn)統(tǒng)一ID庫(kù)，助力企業(yè)進(jìn)行版權(quán)原創(chuàng)性篩查,；此外,，騰訊安全還提供“檢測(cè)、比對(duì),、維權(quán)”的全鏈路版權(quán)保護(hù)服務(wù),，并在AIGC內(nèi)容安全領(lǐng)域有多個(gè)場(chǎng)景實(shí)踐落地，為文生文,、文生圖,、醫(yī)療級(jí)視頻內(nèi)容、長(zhǎng)小說(shuō)文本等類型企業(yè)提供內(nèi)容安全服務(wù),。