圖/IC

ChatGPT（生成式預(yù)訓(xùn)練轉(zhuǎn)換器）正遭遇“圍剿”。

4月3日,，德國(guó)聯(lián)邦數(shù)據(jù)保護(hù)專(zhuān)員發(fā)言人稱(chēng),，出于數(shù)據(jù)保護(hù)方面的考慮，暫時(shí)禁止在德國(guó)使用ChatGPT原則上是可能的,。而3月底,，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT,，并限制開(kāi)發(fā)這一平臺(tái)的OpenAI公司處理意大利用戶信息,。

意大利這一舉動(dòng)，被視作打響了人類(lèi)保衛(wèi)戰(zhàn)的第一槍?zhuān)胺鈿ⅰ盋hatGPT,，在意大利高層也引發(fā)了激烈討論,。

五天用戶破百萬(wàn)，2個(gè)月用戶上億,，ChatGPT爆火,，將生成式AI推上了風(fēng)口。用戶追捧從側(cè)面說(shuō)明這絕非一次概念炒作,，而是實(shí)實(shí)在在的技術(shù)改善,，而機(jī)器學(xué)習(xí)算法締造的生成式AI，具備在橫向領(lǐng)域應(yīng)用的能力——ChatGPT可以是聊天AI（人工智能）,，也可以應(yīng)用在編程以及搜索上,。針對(duì)這種能力有一句口號(hào)：萬(wàn)物皆可GPT。

譽(yù)滿后必然是毀滿,。早在2022年6月,，谷歌一位工程師交上了21頁(yè)調(diào)查報(bào)告，認(rèn)為谷歌AI模型LaMDA已經(jīng)擁有人格,，再訓(xùn)練下去會(huì)導(dǎo)致不可預(yù)見(jiàn)的后果,。如今,，ChatGPT同樣面臨這樣的挑戰(zhàn)。

擔(dān)憂AIGC（人工智能生成內(nèi)容）具備人格并引發(fā)災(zāi)難的人不在少數(shù),。近期,，OpenAI創(chuàng)始投資人馬斯克聯(lián)名千人要求“暫停巨型AI實(shí)驗(yàn)”，將ChatGPT停留在GPT4.0階段,。連OpenAI的CEO奧特曼都認(rèn)為,，開(kāi)源GPT算法是非常危險(xiǎn)的行為，因?yàn)槿绻粔娜耸褂脤⑽：o(wú)窮,。

大家到底在擔(dān)心什么,？第一個(gè)層面是ChatGPT可能取代人類(lèi)，甚至?xí)霈F(xiàn)科幻片中清洗人類(lèi)的危險(xiǎn),。這部分擔(dān)憂實(shí)際上源自于科幻,，也源自于哲學(xué)范疇，對(duì)人格和AI人格區(qū)別化界定,。最早的小說(shuō)可能是《佛蘭肯斯坦》,。

第二個(gè)層面是ChatGPT可能破壞數(shù)據(jù)安全。諸如AIGC有爬取數(shù)據(jù)的功能,，這會(huì)讓數(shù)據(jù)隱私在互聯(lián)網(wǎng)時(shí)代更加無(wú)所遁形,。

第三個(gè)層面是信息繭房。由ChatGPT引導(dǎo)的信息搜索結(jié)果,，可能導(dǎo)致新的信息繭房,，也就是我們只能獲得ChatGPT給予的信息。相比于搜索推薦和內(nèi)容算法推薦,，ChatGPT推送信息更加精準(zhǔn),，我們這一代還會(huì)手動(dòng)找一找信息來(lái)源,，“后浪們”會(huì)不會(huì)產(chǎn)生依賴(lài)？

第四個(gè)層面是GPT遭遇濫用危害無(wú)窮,。萬(wàn)物皆可GPT,，GPT會(huì)應(yīng)用到任何領(lǐng)域。如果這項(xiàng)功能被別有用心的人掌握,，勢(shì)必會(huì)產(chǎn)生惡劣影響,，不亞于恐怖分子掌握了核武器。

實(shí)際上,，對(duì)于取代人類(lèi)之說(shuō),，無(wú)需憂慮。機(jī)器學(xué)習(xí)下,，AI的確是技術(shù)黑箱,，但說(shuō)到底還是數(shù)學(xué)、統(tǒng)計(jì)學(xué),、計(jì)算機(jī)學(xué)的融合體,，是一堆函數(shù)和數(shù)學(xué)模型的最終產(chǎn)物。這種擔(dān)憂本身來(lái)自于科幻,，也來(lái)自于人類(lèi)獨(dú)特的想象力,。如果AI是提升人類(lèi)認(rèn)知水平和科技水平的一種工具，我們應(yīng)該用AI來(lái)提高認(rèn)知,，應(yīng)對(duì)其他潛在風(fēng)險(xiǎn),，而不是去猜測(cè)可能性。

不過(guò),，ChatGPT帶來(lái)的數(shù)據(jù)安全和信息繭房問(wèn)題,，要給與重視。AIGC說(shuō)到底是一種工具,，而且是一種強(qiáng)大的工具,，爬取數(shù)據(jù)，建立信息繭房和被別有用心的人掌控,，造成的破壞不容小覷,。直白點(diǎn)說(shuō)，它會(huì)成為收割金錢(qián)和利益的工具,。

懼怕被收割,，就不發(fā)展AIGC嗎？并非如此,，一方面人類(lèi)從未成功阻止過(guò)一項(xiàng)有用技術(shù)的發(fā)展,，技術(shù)的進(jìn)步只會(huì)降低工具門(mén)檻，最終讓技術(shù)更加不可控,。另一方面,，人類(lèi)應(yīng)對(duì)技術(shù)帶來(lái)的負(fù)外部性,，一般是靠技術(shù)本身。比如,，應(yīng)對(duì)核武器的手段就是核武器本身,，我們稱(chēng)之為“黑暗森林”。因此,，監(jiān)管AI的方式,，在規(guī)則層面很難找到突破口，因?yàn)锳I本身太復(fù)雜,，只有AI才能監(jiān)管AI,。所以，應(yīng)鼓勵(lì)人們?cè)缛照莆者@些關(guān)鍵技術(shù),，應(yīng)用到關(guān)鍵領(lǐng)域。

對(duì)于AIGC的監(jiān)管有必要,，監(jiān)管目標(biāo)不應(yīng)該是AI的人格,，而是用AI的人，了解他們想要達(dá)到的目的,。一定程度上來(lái)說(shuō),，我們不能被封殺AIGC的口號(hào)影響，但生成式AI技術(shù)的出現(xiàn)不僅帶來(lái)了巨大機(jī)遇,，同時(shí)也帶來(lái)了風(fēng)險(xiǎn),。

近年來(lái)，隨著技術(shù)進(jìn)步,，生成式AI在文化創(chuàng)意產(chǎn)業(yè),、新聞媒體、金融,、醫(yī)療等領(lǐng)域得到廣泛應(yīng)用,。其一大風(fēng)險(xiǎn)是可能被用于惡意目的，因此,，政府,、企業(yè)和其他相關(guān)組織應(yīng)該加強(qiáng)監(jiān)管，盡可能地預(yù)防生成式AI濫用,，要預(yù)見(jiàn)風(fēng)險(xiǎn),，提早筑起一道防護(hù)墻。

文/盤(pán)和林（浙江大學(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任,、研究員,，工信部信息通信經(jīng)濟(jì)專(zhuān)家委員會(huì)委員）

編輯 王進(jìn)雨

校對(duì) 柳寶慶