作者：小巖

編輯：彩云

來(lái)源：新火種

12月19日,，抖音官方發(fā)布了一則重要公告，宣布將嚴(yán)厲打擊包括AIGC在內(nèi)的6種新型違規(guī)行為,。所謂AIGC,，指的就是當(dāng)下發(fā)展勢(shì)頭正勁的生成式人工智能,。之所以要打擊AIGC,，其實(shí)是為了重點(diǎn)打擊新型養(yǎng)號(hào)行為。

抖音志在打擊黑灰產(chǎn),，而AIGC造假成了繞不過(guò)去的“路障”,。

事實(shí)上，抖音此次重拳出擊的主要目的是打擊黑灰產(chǎn)業(yè)違規(guī)“漲粉養(yǎng)號(hào)”的行為,。因?yàn)槎兑粼谌粘Ｑ膊橹邪l(fā)現(xiàn)，很多黑灰產(chǎn)組織正視圖通過(guò)AIGC造假,，盜取他人直播內(nèi)容并加以剪輯,，以官方名義公布培訓(xùn)課程等方式，批量發(fā)布低質(zhì)量的違法違規(guī)內(nèi)容,，并試圖以此達(dá)到快速漲粉,，養(yǎng)號(hào)的目的。

其中,，利用AIGC技術(shù)創(chuàng)建虛擬人物,，使其冒充真人進(jìn)行直播便是其中最典型，最常見(jiàn)的一個(gè),。如果你有刷短視頻的習(xí)慣,，就一定曾刷到過(guò)虛擬人在直播或是在說(shuō)話的內(nèi)容。他們或是仿照真人主播一樣進(jìn)行虛擬帶貨,，或是在那里大談特談情感雞湯,，知識(shí)科普，理財(cái)致富等方面的內(nèi)容,。

相較于真人主播實(shí)打?qū)嵉倪M(jìn)行直播帶貨或者發(fā)布內(nèi)容，用虛擬人來(lái)完成這些工作就顯得輕松許多,。試想一下,，真人主播很難進(jìn)行時(shí)長(zhǎng)為8-10小時(shí)的直播，這個(gè)工作強(qiáng)度高負(fù)荷到難以想象,，但虛擬人不存在無(wú)法適應(yīng)高強(qiáng)度工作的問(wèn)題,。即便不進(jìn)行流量投放，單靠拉長(zhǎng)直播時(shí)長(zhǎng)這一點(diǎn),，也足以完成養(yǎng)號(hào)漲粉,，為粉絲進(jìn)行人群畫(huà)像，從而獲得更精準(zhǔn)的新客的目的,。即便虛擬人的直播實(shí)績(jī)沒(méi)有真人理想,，即便虛擬人的直播間只有幾十人或十幾人,，也依然不乏支付訂單和評(píng)論區(qū)留言的出現(xiàn)。

抖音曾出手堵AIGC的漏洞：顯著標(biāo)識(shí),，后果自負(fù),。

事實(shí)上，這并非抖音第一次對(duì)AIGC提出規(guī)范和要求,。

早在今年5月9日,，抖音官方曾發(fā)布消息，首次對(duì)AIGC提出平臺(tái)規(guī)范和行業(yè)倡議,。敲重點(diǎn)來(lái)說(shuō),，其中有兩方面的內(nèi)容很關(guān)鍵，也格外引發(fā)關(guān)注,。一是對(duì)AIGC內(nèi)容的標(biāo)注,，二是虛擬人的注冊(cè)認(rèn)證。

先來(lái)說(shuō)說(shuō)對(duì)AIGC的標(biāo)注,，簡(jiǎn)單來(lái)說(shuō)就是要“貼水印”,。

抖音在相關(guān)規(guī)范里明確表示，包括AI寫(xiě)作,，AI文字編輯,，AI語(yǔ)音合成在內(nèi)的，有可能造成混淆的深度合成服務(wù),，都要明確的打上水印,，做出標(biāo)注。不管你使用的是今年大火的ChatGPT,，Midjourney,，國(guó)內(nèi)的文心一格，文心一言等文字和圖片生成產(chǎn)品,，還是魔音工坊等語(yǔ)音生成類產(chǎn)品,，都在“做標(biāo)注”的范疇里。對(duì)于標(biāo)識(shí)方法,，簡(jiǎn)單來(lái)說(shuō),，就是要在各類圖片和視頻文件的“左上角”打上“AI生成”的字樣，以及使用的生成工具的名稱與公司名水印,。

對(duì)于抖音要求的“貼水印”,，多數(shù)服務(wù)商的反應(yīng)較為樂(lè)觀，普遍覺(jué)得加上水印不會(huì)影響內(nèi)容的傳播,，反而能達(dá)到以正視聽(tīng),，確保真實(shí)性的目的。很多人認(rèn)為“這是非常正確的決定”，也必將會(huì)在未來(lái)“成為常態(tài)”,。

相比于AIGC內(nèi)容的標(biāo)識(shí)，虛擬人的情況就復(fù)雜了許多,。

彼時(shí),，抖音在公告中明確提出，支持虛擬人發(fā)展,，但虛擬人需要認(rèn)證,，并且禁止完全無(wú)人的AI直播。根據(jù)用途,，抖音上的虛擬人可為兩類,，一類是“娛樂(lè)型”的虛擬主播；一類則是功能型的虛擬人,，最直觀的就是那些需要完成直播帶貨目標(biāo)的虛擬人,。

不過(guò)，對(duì)于虛擬人直播帶貨的行為,，用戶們并不算太買賬。觀看直播的用戶們會(huì)覺(jué)得與真人主播相比,，虛擬人的直播內(nèi)容質(zhì)量較差,，語(yǔ)言木訥，毫無(wú)新意可言,。對(duì)于廣大商家來(lái)說(shuō),，利用虛擬人帶貨也并非上上簽的選擇，虛擬人不僅很難完成KPI,，實(shí)現(xiàn)創(chuàng)收,，還容易被平臺(tái)判處違規(guī)。

事情的發(fā)展的確如此,。時(shí)隔半年之后,，抖音官方提高了門檻和要求，直接提出了“禁止AIGC造假”的要求,，向AIGC亮出來(lái)了明牌,。算是進(jìn)一步明確了抖音官方的立場(chǎng)和屬性。

抖音率先雷霆出擊,，或許會(huì)成為行業(yè)的風(fēng)向標(biāo),。

ChatGPT打開(kāi)了人工智能的新大門，讓我們見(jiàn)識(shí)到了人工智能的強(qiáng)大,，與此同時(shí),，相應(yīng)的潘多拉魔盒隨之開(kāi)啟。

隨著技術(shù)的不斷成熟，AIGC逐步從概念階段走向?qū)嶋H落地階段,，爭(zhēng)議和風(fēng)險(xiǎn)也就應(yīng)運(yùn)而生,。一段時(shí)間以來(lái)，關(guān)于人工智能生成內(nèi)容以假亂真,，數(shù)據(jù)泄露以及侵權(quán)的案例頻頻出現(xiàn),，也就進(jìn)一步放大了人工智能可能社會(huì)造成的危險(xiǎn)。

如今的AIGC在短視頻賽道被廣泛應(yīng)用,，創(chuàng)作者,，主播，用戶,，商家,，廣告主等平臺(tái)生態(tài)參與者無(wú)一例外，都會(huì)涉及到AIGC,。這也是抖音率先出擊,，出臺(tái)相應(yīng)的行業(yè)規(guī)范的重要原因。

監(jiān)管和創(chuàng)新技術(shù),，創(chuàng)新模式之間永遠(yuǎn)存在著“跟”和“被跟”的關(guān)系,。一定會(huì)先有技術(shù)，然后產(chǎn)生風(fēng)險(xiǎn),，繼而產(chǎn)生規(guī)范的必要,。有了監(jiān)管，行業(yè)的發(fā)展會(huì)朝著更有利的方向發(fā)展,。

當(dāng)然,，規(guī)范的出臺(tái)并不意味著一勞永逸。在執(zhí)行監(jiān)管的過(guò)程中,，我們?nèi)匀粫?huì)遇到實(shí)際上的問(wèn)題,。譬如該如何進(jìn)行具體的責(zé)任界定？該如何進(jìn)行取證,？但無(wú)論如何,，對(duì)于人工智能的監(jiān)管已經(jīng)提上日程了，這是十分值得欣慰的,。