圖/IC

ChatGPT（生成式預(yù)訓練轉(zhuǎn)換器）正遭遇“圍剿”,。

4月3日，德國聯(lián)邦數(shù)據(jù)保護專員發(fā)言人稱,，出于數(shù)據(jù)保護方面的考慮,，暫時禁止在德國使用ChatGPT原則上是可能的。而3月底,，意大利個人數(shù)據(jù)保護局宣布,，從即日起禁止使用聊天機器人ChatGPT，并限制開發(fā)這一平臺的OpenAI公司處理意大利用戶信息,。

意大利這一舉動,，被視作打響了人類保衛(wèi)戰(zhàn)的第一槍,，但“封殺”ChatGPT，在意大利高層也引發(fā)了激烈討論,。

五天用戶破百萬,，2個月用戶上億，ChatGPT爆火,，將生成式AI推上了風口,。用戶追捧從側(cè)面說明這絕非一次概念炒作，而是實實在在的技術(shù)改善,，而機器學習算法締造的生成式AI,，具備在橫向領(lǐng)域應(yīng)用的能力——ChatGPT可以是聊天AI（人工智能），也可以應(yīng)用在編程以及搜索上,。針對這種能力有一句口號：萬物皆可GPT。

譽滿后必然是毀滿,。早在2022年6月,，谷歌一位工程師交上了21頁調(diào)查報告，認為谷歌AI模型LaMDA已經(jīng)擁有人格,，再訓練下去會導致不可預(yù)見的后果,。如今，ChatGPT同樣面臨這樣的挑戰(zhàn),。

擔憂AIGC（人工智能生成內(nèi)容）具備人格并引發(fā)災(zāi)難的人不在少數(shù),。近期,，OpenAI創(chuàng)始投資人馬斯克聯(lián)名千人要求“暫停巨型AI實驗”，將ChatGPT停留在GPT4.0階段,。連OpenAI的CEO奧特曼都認為,，開源GPT算法是非常危險的行為,，因為如果被壞人使用將危害無窮。

大家到底在擔心什么,？第一個層面是ChatGPT可能取代人類,，甚至會出現(xiàn)科幻片中清洗人類的危險。這部分擔憂實際上源自于科幻,，也源自于哲學范疇,，對人格和AI人格區(qū)別化界定。最早的小說可能是《佛蘭肯斯坦》,。

第二個層面是ChatGPT可能破壞數(shù)據(jù)安全,。諸如AIGC有爬取數(shù)據(jù)的功能，這會讓數(shù)據(jù)隱私在互聯(lián)網(wǎng)時代更加無所遁形,。

第三個層面是信息繭房,。由ChatGPT引導的信息搜索結(jié)果，可能導致新的信息繭房,，也就是我們只能獲得ChatGPT給予的信息,。相比于搜索推薦和內(nèi)容算法推薦，ChatGPT推送信息更加精準,，我們這一代還會手動找一找信息來源,，“后浪們”會不會產(chǎn)生依賴？

第四個層面是GPT遭遇濫用危害無窮,。萬物皆可GPT,，GPT會應(yīng)用到任何領(lǐng)域。如果這項功能被別有用心的人掌握,，勢必會產(chǎn)生惡劣影響,，不亞于恐怖分子掌握了核武器。

實際上,，對于取代人類之說,，無需憂慮。機器學習下,，AI的確是技術(shù)黑箱,，但說到底還是數(shù)學、統(tǒng)計學,、計算機學的融合體,，是一堆函數(shù)和數(shù)學模型的最終產(chǎn)物。這種擔憂本身來自于科幻,，也來自于人類獨特的想象力,。如果AI是提升人類認知水平和科技水平的一種工具，我們應(yīng)該用AI來提高認知,，應(yīng)對其他潛在風險，而不是去猜測可能性。

不過,，ChatGPT帶來的數(shù)據(jù)安全和信息繭房問題,，要給與重視,。AIGC說到底是一種工具，而且是一種強大的工具，爬取數(shù)據(jù)，建立信息繭房和被別有用心的人掌控,，造成的破壞不容小覷。直白點說,，它會成為收割金錢和利益的工具,。

懼怕被收割，就不發(fā)展AIGC嗎,？并非如此,，一方面人類從未成功阻止過一項有用技術(shù)的發(fā)展，技術(shù)的進步只會降低工具門檻,，最終讓技術(shù)更加不可控,。另一方面，人類應(yīng)對技術(shù)帶來的負外部性,，一般是靠技術(shù)本身,。比如,，應(yīng)對核武器的手段就是核武器本身,，我們稱之為“黑暗森林”。因此,，監(jiān)管AI的方式,，在規(guī)則層面很難找到突破口，因為AI本身太復(fù)雜,，只有AI才能監(jiān)管AI,。所以，應(yīng)鼓勵人們早日掌握這些關(guān)鍵技術(shù),，應(yīng)用到關(guān)鍵領(lǐng)域,。

對于AIGC的監(jiān)管有必要，監(jiān)管目標不應(yīng)該是AI的人格,，而是用AI的人,，了解他們想要達到的目的。一定程度上來說,，我們不能被封殺AIGC的口號影響,，但生成式AI技術(shù)的出現(xiàn)不僅帶來了巨大機遇，同時也帶來了風險,。

近年來,，隨著技術(shù)進步,，生成式AI在文化創(chuàng)意產(chǎn)業(yè)、新聞媒體,、金融,、醫(yī)療等領(lǐng)域得到廣泛應(yīng)用。其一大風險是可能被用于惡意目的,，因此,，政府、企業(yè)和其他相關(guān)組織應(yīng)該加強監(jiān)管,，盡可能地預(yù)防生成式AI濫用,，要預(yù)見風險，提早筑起一道防護墻,。

文/盤和林（浙江大學國際聯(lián)合商學院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任,、研究員，工信部信息通信經(jīng)濟專家委員會委員）

編輯 王進雨

校對 柳寶慶