潮新聞 記者 林婧ChatGPT一周年界面,，圖片源于微博今年11月30日,，有史以來最強(qiáng)大的語言處理工具——ChatGPT正式上線一周年,，有風(fēng)君關(guān)注的一位設(shè)計(jì)師博主發(fā)了一個(gè)話題標(biāo)簽：人類存活確認(rèn),。這個(gè)帶著十足戲謔意味的標(biāo)簽,，調(diào)侃了一年以來ChatGPT帶給人類社會(huì)的深刻變革,。身處輿論中心的ChatGPT和其開發(fā)公司OpenAI也不平靜，意大利下線禁令,、多次版權(quán)侵權(quán)投訴,、創(chuàng)始人的罷免風(fēng)波……但它的智慧與強(qiáng)大、高效與博學(xué),，一次次讓人驚嘆折服,。近日，著名科學(xué)期刊《Nature》發(fā)布了2023年度十大人物（Nature’s 10）,，旨在評(píng)選出為科學(xué)領(lǐng)域做出重要貢獻(xiàn)并引起人們對(duì)關(guān)鍵問題關(guān)注的個(gè)人,，一般為5位男性和5位女性。與以往不同的是,，今年的Nature’s 10包含了大型語言模型（LLM）ChatGPT,，這是有史以來第一次“非人類”入選。一乍一看ChatGPT似乎被賦予了“人”的屬性,，事實(shí)上,，ChatGPT應(yīng)該算第十一位人物。今年,，《Natue》依然將十大人物頒給了10個(gè)人,，包括美國國家點(diǎn)火裝置首席設(shè)計(jì)師、物理學(xué)家安妮·克里奇（Annie Kritcher）,、本大阪大學(xué)的發(fā)育生物學(xué)家林克彥（Katsuhiko Hayashi）,，以及ChatGPT的開發(fā)者之一——OpenAI公司首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）等10位人物,。Nature’s 10界面，圖片源于官網(wǎng)當(dāng)然,，ChatGPT創(chuàng)造了歷史,，也改變了《Nature》的評(píng)和選規(guī)則，但這樣的結(jié)果似乎是“情理之中,、意料之外”,。《Nature》特寫部主編理查德·蒙納斯特斯基（Richard Monastersky）表示，ChatGPT占領(lǐng)了今年的各種新聞?lì)^條,，科學(xué)界乃至整個(gè)社會(huì)都切身體會(huì)到其影響,。雖然這個(gè)工具不算人物，也不完全滿足《Nature》十大人物的評(píng)選條件,，但《Nature》將其破例納入榜單,，以承認(rèn)生成式人工智能給科學(xué)發(fā)展和進(jìn)步帶來的巨大改變。從知名度和影響力來看,，似乎ChatGPT比其他十位更大,，雖然它剛剛過了一周歲生日。但自上線以來,，每一個(gè)小小舉動(dòng)都能橫掃世界各大社交媒體熱搜榜,，它的影響力已經(jīng)不局限于某一單一領(lǐng)域了，ChatGPT帶來的是一種對(duì)整個(gè)社會(huì)的,、震撼人心的沖擊,。施普林格·自然（Springer Nature，一家致力于為全球科研界提供最佳服務(wù)的出版機(jī)構(gòu)）指出,，《Nature》年度十大人物評(píng)選發(fā)布并非一個(gè)獎(jiǎng)項(xiàng),，也不是全球前十排行榜，它是對(duì)當(dāng)年重要科學(xué)進(jìn)展,、事件及其中一些關(guān)鍵人物和他們同事的記錄,。十大人物由《Nature》編輯選出，集中反映影響2023年一些最重要科學(xué)事件的個(gè)人,。二ChatGPT不是一個(gè)“人”,，而是千萬個(gè)人，是無數(shù)人的集結(jié)和投影,。脫胎擁有數(shù)千億參數(shù)的神經(jīng)網(wǎng)絡(luò),，使用了約45TB數(shù)據(jù)進(jìn)行訓(xùn)練，從具有1.17億個(gè)參數(shù)的GPT-1,、15億個(gè)參數(shù)的GPT-2,、1750億個(gè)參數(shù)的GPT-3，到如今很多人在使用的GPT-3.5和支持圖像輸入的GPT-4,，ChatGPT在不斷地被甄別和完善,，成長為一個(gè)知識(shí)領(lǐng)域的百科全書式的“巨人”。圖片源于視覺中國這個(gè)“巨人”比無數(shù)位學(xué)者,、作家、醫(yī)生,、會(huì)計(jì)師,、設(shè)計(jì)師,、教師、記者等等專業(yè)人士更“博學(xué)”,，而能夠入選也就順理成章了,。“巨人”也有著顯而易見的局限和弊病,?！禢ature》也關(guān)注到了ChatGPT 的危險(xiǎn)之處：首先是它可以幫助作弊者和抄襲者，其次它能不可逆轉(zhuǎn)地污染科學(xué)知識(shí)的源泉,，再次它存在錯(cuò)誤和偏見問題,，能夠生成不準(zhǔn)確不真實(shí)的信息，特別是不存在的參考文獻(xiàn),。新浪微博CEO夾總（王高飛,，大V“來去之間”）就曾因此鬧過烏龍。今年3月,，金融行業(yè)罕見的一例債券事件：瑞士信貸被瑞士銀行收購后,，其總額高達(dá)160億瑞士法郎（約合172.4億美元）的額外一級(jí)資本債券（Additional Tier 1 Capital）將被減記為零。此消息一出,，金融專業(yè)人士@一玶海岸在微博上指出此前只有2017年西班牙大眾銀行破產(chǎn)出現(xiàn)過此類情況,。夾總則在轉(zhuǎn)發(fā)時(shí)貼出了ChatGPT給出的回答，說這樣的例子在2016年的葡萄牙BCP銀行事件中也出現(xiàn)過,。但遭到@一玶海岸的質(zhì)疑,，最后查證ChatGPT給出的答案是編造的，且提供的兩個(gè)信源也是查無此事,。@來去之間發(fā)的微博，圖片源于微博經(jīng)此一遭,，“AI信息污染”的話題被熱議,，網(wǎng)友們也紛紛留言“GPT不但捏造‘事實(shí)’，而且連它自己都信了,?！?@一玶海岸也留言道表示，哪怕是業(yè)內(nèi)人士,，面對(duì)如此逼真的假答案,，估計(jì)也根本看不出來。三《Nature》對(duì)于AI產(chǎn)品的態(tài)度也是趨于保守的,。從它將ChatGPT的創(chuàng)造者之一蘇茨克維,，同時(shí)也是保守的AI領(lǐng)域頂尖科學(xué)家選為今年的十大人物就能看出,。在早前的的各類新聞報(bào)道中,，蘇茨克維認(rèn)為,，ChatGPT和其他AI如果不受到人類的有效控制，就有可能造成巨大風(fēng)險(xiǎn)和災(zāi)難,。為此,，他積極推進(jìn)OpenAI的 “超級(jí)對(duì)齊 ”項(xiàng)目專注于控制人工智能系統(tǒng),。于此同時(shí)，他還贊同OpenAI和其他一些公司應(yīng)將其代碼和訓(xùn)練數(shù)據(jù)保密,，“從長遠(yuǎn)來看,，封閉系統(tǒng)將避免讓他人制造出強(qiáng)大的人工智能，這是負(fù)責(zé)任的做法,?！倍羞@些失誤、信息污染,，都是AI在學(xué)習(xí)訓(xùn)練之初會(huì)產(chǎn)生的問題,，因此我們需要對(duì)AI提供的產(chǎn)品和答案進(jìn)行人工審核和查證，并且還應(yīng)加以法律的繩索,。這一方面,，歐盟起步甚早。2019年以來,，先后發(fā)布了人工智能倫理準(zhǔn)則并出臺(tái)《人工智能白皮書》,。并在兩年后提出《人工智能法案》提案的談判授權(quán)草案。本月初,，歐洲議會(huì),、歐盟成員國和歐盟委員會(huì)三方就該法案達(dá)成協(xié)議，預(yù)計(jì)將于2024年初生效,，并應(yīng)在兩年后實(shí)施,。圖片源于視覺中國作為全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)，《人工智能法案》或?qū)槿蚍秶鷥?nèi)監(jiān)管人工智能技術(shù)定下基調(diào),。雖然最終文本沒有對(duì)外公布,，但從目前公布的信息中可以得知，法案將AI系統(tǒng)分為低風(fēng)險(xiǎn),、高風(fēng)險(xiǎn),、不可接受風(fēng)險(xiǎn)、特定透明度風(fēng)險(xiǎn)等不同等級(jí),，按照風(fēng)險(xiǎn)級(jí)別制定相應(yīng)規(guī)定,。此外，它還明確規(guī)定使用包含個(gè)人信息的語料,，所需獲得授權(quán)同意的條件和標(biāo)準(zhǔn),；要求生成式人工智能服務(wù)提供者在服務(wù)上線前和發(fā)生重大變更時(shí)均需安全評(píng)估，并定期監(jiān)督抽檢,；強(qiáng)調(diào)人工智能的有效監(jiān)管需要不同部門之間的合作與協(xié)同,，以及廣泛的公眾參與等等。雖然不完美,，但對(duì)各國立法都有極強(qiáng)的借鑒意義,。生成式人工智能的革命一旦開始就無法回頭，探尋AI大模型的有效監(jiān)管路徑變得極為迫切,。ChatGPT這類AI系統(tǒng)像是科幻片里被人類科學(xué)家制造出的“超級(jí)嬰兒”,，以勢不可擋的速度成長著，沒有人知道它們還有多少未發(fā)掘潛力,，是否依然受限于算力或訓(xùn)練數(shù)據(jù),，而意識(shí)到其可怕之處的科學(xué)家們只能迅速調(diào)整策略，想方設(shè)法地教導(dǎo)它,、約束它,。人類存活確認(rèn)？暫且確認(rèn),?！稗D(zhuǎn)載請(qǐng)注明出處”