ChatGPT生成式AI,，是當(dāng)下的業(yè)界熱點(diǎn)。

ChatGPT模型的訓(xùn)練數(shù)據(jù)源于互聯(lián)網(wǎng),，就有可能把網(wǎng)絡(luò)上的偏見,、不道德的文字?jǐn)?shù)據(jù)，引入到對(duì)話中,。因此,，需要制定相應(yīng)的法規(guī)和規(guī)范，從數(shù)據(jù)采集,、模型訓(xùn)練到具體應(yīng)用過(guò)程中,，加強(qiáng)監(jiān)管以確保ChatGPT技術(shù)的可持續(xù)、健康發(fā)展。

應(yīng)該看到的是,，現(xiàn)在一些輿論為了吸引眼球,，故意渲染焦慮與恐慌，這可能會(huì)導(dǎo)致過(guò)度的監(jiān)管,，對(duì)生成式人工智能服務(wù)者提出過(guò)高的合規(guī)義務(wù),，進(jìn)而影響中國(guó)在chatGPT領(lǐng)域達(dá)到世界一流水平。顯然,，這就與監(jiān)管的目的背道而馳了,。監(jiān)管的目的，在于約束可能的負(fù)面因素,，進(jìn)而促進(jìn),、鼓勵(lì)發(fā)展我國(guó)的人工智能發(fā)展。

所以,，應(yīng)該厘清chatGPT的風(fēng)險(xiǎn)點(diǎn)的特征,，認(rèn)識(shí)風(fēng)險(xiǎn)，才能以最小的代價(jià)實(shí)現(xiàn)安全,，避免過(guò)度監(jiān)管,。

生成式AI生成的內(nèi)容，必須真實(shí)準(zhǔn)確嗎,？

生成式AI本質(zhì)上是基于概率組合,。AI根據(jù)歷史語(yǔ)料及語(yǔ)料中的文字概率分布來(lái)生成內(nèi)容，它并不能理解內(nèi)容,，也就無(wú)法完全保證生成結(jié)果的準(zhǔn)確性和穩(wěn)定性,。

通過(guò)規(guī)則干預(yù)能夠過(guò)濾掉已知的壞信息，對(duì)未知badcase可以通過(guò)模型進(jìn)一步優(yōu)化，達(dá)到一定程度降低出現(xiàn)badcase的概率,，比如通過(guò)RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)）以及搜索增強(qiáng)等方式,，可以盡可能提高輸出內(nèi)容準(zhǔn)確性的概率，但始終無(wú)法100%保證真實(shí)準(zhǔn)確,。這一點(diǎn)世界上任何一家生成式AI都無(wú)法做到,。

生產(chǎn)式AI難以“溯源”

一個(gè)有十萬(wàn)用戶的網(wǎng)站，每天新生成的網(wǎng)頁(yè)并不會(huì)太多,，網(wǎng)站很容易對(duì)內(nèi)容進(jìn)行管理,。微博，雖然用戶每天發(fā)送的微博以億計(jì)算,，但人的行為是相對(duì)穩(wěn)定的,，事后監(jiān)管，也很容易找到相應(yīng)的用戶,，消除風(fēng)險(xiǎn)點(diǎn),。所以，微博這種用戶生成式業(yè)態(tài),，監(jiān)管成本雖然比網(wǎng)站大了很多,，但還在接受范圍之內(nèi)。

但是,，當(dāng)下人工智能深度學(xué)習(xí)已經(jīng)越來(lái)越復(fù)雜,，這帶來(lái)的一個(gè)特征就是，它已經(jīng)接近一個(gè)黑箱,，即便是研發(fā)者也很難逆向去解析它,，找到出問(wèn)題的地方。更簡(jiǎn)單地說(shuō),，找到風(fēng)險(xiǎn)用戶容易,，不影響產(chǎn)品繼續(xù)運(yùn)營(yíng)，但要審查每一條生成內(nèi)容,，找到AI出問(wèn)題的機(jī)制,，恐怕要花上好幾個(gè)月，甚至一兩年的時(shí)間,。所以,，過(guò)度的準(zhǔn)確性合規(guī)要求，在生成式AI發(fā)育探索初期,，會(huì)抑制模型能力的挖掘和應(yīng)用層面的創(chuàng)新,，甚至使得成本巨大，讓整個(gè)生成式AI在技術(shù)上,、商業(yè)上都無(wú)法運(yùn)行,。

標(biāo)注生成式AI內(nèi)容,，會(huì)降低行業(yè)價(jià)值

有觀點(diǎn)認(rèn)為，只要對(duì)AI生成的圖片,、視頻標(biāo)識(shí)等內(nèi)容進(jìn)行標(biāo)識(shí),，就可以避免以假亂真，發(fā)布各種虛假信息,。

AI對(duì)產(chǎn)業(yè)的影響非?？欤F(xiàn)在已經(jīng)有公司開始裁剪原畫師了,。AI生成的內(nèi)容,，會(huì)大量用于海報(bào)、視頻,、電影,。

如果一刀切強(qiáng)制要求對(duì)AI生成的圖片與視頻加上標(biāo)識(shí)，哪怕在圖片,、視頻的下方有一個(gè)小小的水印“AI生成”標(biāo)識(shí),，也會(huì)讓觀眾出戲，影響體驗(yàn),。另一方面,，別有用心的人很容易擦除標(biāo)識(shí)。如果把水印鋪滿,，那就不是影響體驗(yàn)而是整個(gè)AI生成的內(nèi)容不可用。

實(shí)際上,，現(xiàn)在人工借助計(jì)算機(jī),，已經(jīng)可以大量地生成以假亂真的圖片與內(nèi)容，這些內(nèi)容現(xiàn)在并不需要標(biāo)識(shí),，也沒(méi)有造成社會(huì)大亂,。這還會(huì)帶來(lái)法律邏輯上的混亂，比如,，AI生成的圖片,、視頻，拿去人工稍微修改一個(gè)像素,，這算人工生成還是AI生成呢,？如果AI生成內(nèi)容要標(biāo)識(shí)，為了在邏輯上堵住漏洞,，photoshop生成的內(nèi)容要不要標(biāo)識(shí)呢,？美顏相機(jī)要不要標(biāo)識(shí)呢？

某種程度上,，這些風(fēng)險(xiǎn),，內(nèi)生于AI,，是無(wú)法根除的，不過(guò),，也不是沒(méi)有高效的辦法去應(yīng)對(duì),。

用“中游監(jiān)管”解決以上風(fēng)險(xiǎn)

生成式人工智能的內(nèi)容發(fā)布有兩個(gè)特征。一,，它生成的內(nèi)容,，不像網(wǎng)頁(yè)那樣面向大規(guī)模受眾，而是僅面向一個(gè)用戶,。二,，它提供的是素材，扮演的是助手角色,，如果該內(nèi)容會(huì)向公眾發(fā)布,，仍然由發(fā)布人負(fù)責(zé)。

所以,，對(duì)于生成式AI監(jiān)管,，“中游監(jiān)管”就足夠了。在國(guó)內(nèi)完善的監(jiān)管下,，內(nèi)容的發(fā)布是高度有序的,，只要管控好“下游”最終發(fā)布渠道，就不會(huì)有新增風(fēng)險(xiǎn),。

如果要求AI產(chǎn)品的開發(fā)者,，要對(duì)他人利用AI自行生成的文本、圖像,、聲音承擔(dān)作為“內(nèi)容生產(chǎn)者的責(zé)任”,，這就相當(dāng)于把監(jiān)管，不是放在ISP層面,，網(wǎng)站層面,，而是放在了WORD、WPS,、輸入法,、photoshop層面，要求這些公司對(duì)最終發(fā)布的內(nèi)容負(fù)責(zé),。顯然,，微軟、金山,、搜狗,、Adobe都做不到這一點(diǎn)。

其實(shí)“中游監(jiān)管”的思路,，早有應(yīng)用,?！渡疃群铣梢?guī)定》第六條就是一種“中游監(jiān)管”思路，可以參考借鑒,。第六條規(guī)定,，“任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播法律、行政法規(guī)禁止的信息,，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益,、損害國(guó)家形象、侵害社會(huì)公共利益,、擾亂經(jīng)濟(jì)和社會(huì)秩序,、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng),?！薄袄谩眱蓚€(gè)字，點(diǎn)清楚了深度合成的“中游”特性,，從這個(gè)角度去監(jiān)管,，就能以最小的代價(jià)得到最大的收益。

中國(guó)AI的發(fā)展,，需要保駕護(hù)航而不是紅旗法案

19世紀(jì)末,，汽車剛出現(xiàn)的時(shí)候，由于技術(shù)不成熟,，制度,、人未適應(yīng)，車禍較多,。1865年，以公共安全為由,，英國(guó)議會(huì)針對(duì)汽車制定了史上第一部機(jī)動(dòng)車道路安全法規(guī),。法規(guī)規(guī)定，汽車時(shí)速不得超過(guò)4英里（6.4公里）,；必須有3人駕駛,，其中1人要在車前50米，不斷搖動(dòng)紅旗,，為機(jī)動(dòng)車開道,。這就是著名的《紅旗法案》?！都t旗法案》不但影響了英國(guó)交通的發(fā)展,，還使得英國(guó)汽車業(yè)在此后三十年里一蹶不振,，被德國(guó)、法國(guó),、意大利,，以及后來(lái)的美國(guó)徹底超過(guò)。

顯然,，當(dāng)下中國(guó)的AI趕超,，需要保駕護(hù)航，而不是紅旗法案,。

某種程度上,，我們現(xiàn)在所說(shuō)的創(chuàng)新，都是一種追趕式創(chuàng)新,，它避免了最大的“不安全”——跑錯(cuò)賽道,、選錯(cuò)技術(shù)發(fā)展樹的風(fēng)險(xiǎn)。正因?yàn)楸苊饬诉@種試錯(cuò)的風(fēng)險(xiǎn),，所以,，只要開足馬力，就能很快地接近,、達(dá)到甚至超過(guò)技術(shù)原創(chuàng)國(guó)家,。這就像用一輛F1全開油門去趕超普通跑車。

但是,，如果在這個(gè)過(guò)程中,，加上了不必要的負(fù)擔(dān)、成本,，就會(huì)影響趕超的過(guò)程,，可能導(dǎo)致差距越來(lái)越大。這就像給一輛F1方程式賽車加上200公斤的安全框,，配上副駕駛安全員,，再規(guī)定不準(zhǔn)踩死油門，不準(zhǔn)快速過(guò)彎,，那就肯定趕不上已經(jīng)在前面的普通跑車,。而如果國(guó)內(nèi)沒(méi)有替代，最終所有的需求都會(huì)轉(zhuǎn)向其他國(guó)家的公司,。

文/財(cái)經(jīng)評(píng)論人 劉遠(yuǎn)舉

編輯 陳莉 校對(duì) 柳寶慶