ChatGPT生成式AI,，是當(dāng)下的業(yè)界熱點(diǎn)。

ChatGPT模型的訓(xùn)練數(shù)據(jù)源于互聯(lián)網(wǎng)，就有可能把網(wǎng)絡(luò)上的偏見,、不道德的文字?jǐn)?shù)據(jù)，引入到對話中,。因此,，需要制定相應(yīng)的法規(guī)和規(guī)范，從數(shù)據(jù)采集,、模型訓(xùn)練到具體應(yīng)用過程中,，加強(qiáng)監(jiān)管以確保ChatGPT技術(shù)的可持續(xù)、健康發(fā)展。

應(yīng)該看到的是,，現(xiàn)在一些輿論為了吸引眼球,，故意渲染焦慮與恐慌，這可能會(huì)導(dǎo)致過度的監(jiān)管,，對生成式人工智能服務(wù)者提出過高的合規(guī)義務(wù),，進(jìn)而影響中國在chatGPT領(lǐng)域達(dá)到世界一流水平。顯然,，這就與監(jiān)管的目的背道而馳了,。監(jiān)管的目的，在于約束可能的負(fù)面因素,，進(jìn)而促進(jìn),、鼓勵(lì)發(fā)展我國的人工智能發(fā)展,。

所以，應(yīng)該厘清chatGPT的風(fēng)險(xiǎn)點(diǎn)的特征,，認(rèn)識(shí)風(fēng)險(xiǎn),，才能以最小的代價(jià)實(shí)現(xiàn)安全，避免過度監(jiān)管,。

生成式AI生成的內(nèi)容,，必須真實(shí)準(zhǔn)確嗎？

生成式AI本質(zhì)上是基于概率組合,。AI根據(jù)歷史語料及語料中的文字概率分布來生成內(nèi)容,，它并不能理解內(nèi)容，也就無法完全保證生成結(jié)果的準(zhǔn)確性和穩(wěn)定性,。

通過規(guī)則干預(yù)能夠過濾掉已知的壞信息,，對未知badcase可以通過模型進(jìn)一步優(yōu)化，達(dá)到一定程度降低出現(xiàn)badcase的概率，比如通過RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)）以及搜索增強(qiáng)等方式,，可以盡可能提高輸出內(nèi)容準(zhǔn)確性的概率,，但始終無法100%保證真實(shí)準(zhǔn)確。這一點(diǎn)世界上任何一家生成式AI都無法做到,。

生產(chǎn)式AI難以“溯源”

一個(gè)有十萬用戶的網(wǎng)站,，每天新生成的網(wǎng)頁并不會(huì)太多，網(wǎng)站很容易對內(nèi)容進(jìn)行管理,。微博,，雖然用戶每天發(fā)送的微博以億計(jì)算，但人的行為是相對穩(wěn)定的,，事后監(jiān)管,，也很容易找到相應(yīng)的用戶，消除風(fēng)險(xiǎn)點(diǎn),。所以,，微博這種用戶生成式業(yè)態(tài)，監(jiān)管成本雖然比網(wǎng)站大了很多,，但還在接受范圍之內(nèi),。

但是，當(dāng)下人工智能深度學(xué)習(xí)已經(jīng)越來越復(fù)雜,，這帶來的一個(gè)特征就是,，它已經(jīng)接近一個(gè)黑箱，即便是研發(fā)者也很難逆向去解析它,，找到出問題的地方,。更簡單地說,，找到風(fēng)險(xiǎn)用戶容易,，不影響產(chǎn)品繼續(xù)運(yùn)營，但要審查每一條生成內(nèi)容,，找到AI出問題的機(jī)制,，恐怕要花上好幾個(gè)月，甚至一兩年的時(shí)間,。所以,，過度的準(zhǔn)確性合規(guī)要求，在生成式AI發(fā)育探索初期,，會(huì)抑制模型能力的挖掘和應(yīng)用層面的創(chuàng)新,，甚至使得成本巨大，讓整個(gè)生成式AI在技術(shù)上,、商業(yè)上都無法運(yùn)行,。

標(biāo)注生成式AI內(nèi)容，會(huì)降低行業(yè)價(jià)值

有觀點(diǎn)認(rèn)為，只要對AI生成的圖片,、視頻標(biāo)識(shí)等內(nèi)容進(jìn)行標(biāo)識(shí),，就可以避免以假亂真，發(fā)布各種虛假信息,。

AI對產(chǎn)業(yè)的影響非?？欤F(xiàn)在已經(jīng)有公司開始裁剪原畫師了,。AI生成的內(nèi)容,，會(huì)大量用于海報(bào)、視頻,、電影,。

如果一刀切強(qiáng)制要求對AI生成的圖片與視頻加上標(biāo)識(shí)，哪怕在圖片,、視頻的下方有一個(gè)小小的水印“AI生成”標(biāo)識(shí),，也會(huì)讓觀眾出戲，影響體驗(yàn),。另一方面,，別有用心的人很容易擦除標(biāo)識(shí)。如果把水印鋪滿,，那就不是影響體驗(yàn)而是整個(gè)AI生成的內(nèi)容不可用,。

實(shí)際上，現(xiàn)在人工借助計(jì)算機(jī),，已經(jīng)可以大量地生成以假亂真的圖片與內(nèi)容,，這些內(nèi)容現(xiàn)在并不需要標(biāo)識(shí)，也沒有造成社會(huì)大亂,。這還會(huì)帶來法律邏輯上的混亂,，比如，AI生成的圖片,、視頻,，拿去人工稍微修改一個(gè)像素，這算人工生成還是AI生成呢,？如果AI生成內(nèi)容要標(biāo)識(shí),，為了在邏輯上堵住漏洞，photoshop生成的內(nèi)容要不要標(biāo)識(shí)呢,？美顏相機(jī)要不要標(biāo)識(shí)呢,？

某種程度上，這些風(fēng)險(xiǎn),，內(nèi)生于AI,，是無法根除的,，不過，也不是沒有高效的辦法去應(yīng)對,。

用“中游監(jiān)管”解決以上風(fēng)險(xiǎn)

生成式人工智能的內(nèi)容發(fā)布有兩個(gè)特征,。一，它生成的內(nèi)容,，不像網(wǎng)頁那樣面向大規(guī)模受眾,，而是僅面向一個(gè)用戶。二,，它提供的是素材,，扮演的是助手角色，如果該內(nèi)容會(huì)向公眾發(fā)布,，仍然由發(fā)布人負(fù)責(zé),。

所以，對于生成式AI監(jiān)管,，“中游監(jiān)管”就足夠了,。在國內(nèi)完善的監(jiān)管下，內(nèi)容的發(fā)布是高度有序的,，只要管控好“下游”最終發(fā)布渠道,，就不會(huì)有新增風(fēng)險(xiǎn)。

如果要求AI產(chǎn)品的開發(fā)者,，要對他人利用AI自行生成的文本,、圖像、聲音承擔(dān)作為“內(nèi)容生產(chǎn)者的責(zé)任”,，這就相當(dāng)于把監(jiān)管,，不是放在ISP層面，網(wǎng)站層面,，而是放在了WORD,、WPS、輸入法,、photoshop層面,，要求這些公司對最終發(fā)布的內(nèi)容負(fù)責(zé),。顯然,，微軟、金山,、搜狗,、Adobe都做不到這一點(diǎn)。

其實(shí)“中游監(jiān)管”的思路,，早有應(yīng)用,?！渡疃群铣梢?guī)定》第六條就是一種“中游監(jiān)管”思路，可以參考借鑒,。第六條規(guī)定,，“任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播法律、行政法規(guī)禁止的信息,，不得利用深度合成服務(wù)從事危害國家安全和利益,、損害國家形象、侵害社會(huì)公共利益,、擾亂經(jīng)濟(jì)和社會(huì)秩序,、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng),?！薄袄谩眱蓚€(gè)字，點(diǎn)清楚了深度合成的“中游”特性,，從這個(gè)角度去監(jiān)管,，就能以最小的代價(jià)得到最大的收益。

中國AI的發(fā)展,，需要保駕護(hù)航而不是紅旗法案

19世紀(jì)末,，汽車剛出現(xiàn)的時(shí)候，由于技術(shù)不成熟,，制度,、人未適應(yīng)，車禍較多,。1865年,，以公共安全為由，英國議會(huì)針對汽車制定了史上第一部機(jī)動(dòng)車道路安全法規(guī),。法規(guī)規(guī)定,，汽車時(shí)速不得超過4英里（6.4公里）；必須有3人駕駛,，其中1人要在車前50米,，不斷搖動(dòng)紅旗，為機(jī)動(dòng)車開道,。這就是著名的《紅旗法案》,。《紅旗法案》不但影響了英國交通的發(fā)展,，還使得英國汽車業(yè)在此后三十年里一蹶不振,，被德國,、法國、意大利,，以及后來的美國徹底超過,。

顯然，當(dāng)下中國的AI趕超,，需要保駕護(hù)航,，而不是紅旗法案。

某種程度上,，我們現(xiàn)在所說的創(chuàng)新,，都是一種追趕式創(chuàng)新，它避免了最大的“不安全”——跑錯(cuò)賽道,、選錯(cuò)技術(shù)發(fā)展樹的風(fēng)險(xiǎn),。正因?yàn)楸苊饬诉@種試錯(cuò)的風(fēng)險(xiǎn)，所以,，只要開足馬力,，就能很快地接近、達(dá)到甚至超過技術(shù)原創(chuàng)國家,。這就像用一輛F1全開油門去趕超普通跑車,。

但是，如果在這個(gè)過程中,，加上了不必要的負(fù)擔(dān),、成本，就會(huì)影響趕超的過程,，可能導(dǎo)致差距越來越大,。這就像給一輛F1方程式賽車加上200公斤的安全框，配上副駕駛安全員,，再規(guī)定不準(zhǔn)踩死油門,，不準(zhǔn)快速過彎，那就肯定趕不上已經(jīng)在前面的普通跑車,。而如果國內(nèi)沒有替代,，最終所有的需求都會(huì)轉(zhuǎn)向其他國家的公司。

文/財(cái)經(jīng)評論人 劉遠(yuǎn)舉

編輯 陳莉 校對 柳寶慶