數(shù)智前瞻 本報(bào)記者 林春霞

日前,，科技界人士呼吁叫停Chat GPT訓(xùn)練,，用6個(gè)月時(shí)間制定相關(guān)約束,，同時(shí),，多國(guó)呼吁限制GPT,，如意大利因隱私問(wèn)題已成為第一個(gè)禁止ChatGPT的西方國(guó)家,。

從火遍全球到被多國(guó)“圍堵”,，ChatGPT在短短兩個(gè)月內(nèi)經(jīng)歷了從高峰到低谷的起伏,，這也進(jìn)一步引發(fā)了人們對(duì)ChatGPT以及人工智能的技術(shù)漏洞和安全監(jiān)管的關(guān)注。

Chat GPT究竟觸碰了什么紅線

從ChatGPT騰空問(wèn)世給人們所帶來(lái)的驚喜到對(duì)其安全隱患的擔(dān)憂,，ChatGPT的境遇發(fā)生了180度急轉(zhuǎn)彎,。那么,，ChatGPT究竟觸碰了什么紅線,？歐洲多國(guó)意欲暫停使用ChatG? PT，主要原因在于ChatGPT存在隱私泄露以及數(shù)據(jù)安全等問(wèn)題。

中國(guó)社會(huì)科學(xué)院信息化研究中心主任姜奇平在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示,，ChatGPT從高峰到低谷起伏有一個(gè)明顯的規(guī)律,，高峰跟技術(shù)有關(guān)。低谷,、碰到紅線,，與社會(huì)相關(guān)，從政治,、法律,，再到道德、倫理,、隱私,，還與知識(shí)、信息,、判斷真假等有關(guān),。“人工智能技術(shù)應(yīng)用既涉及技術(shù)又涉及社會(huì)，技術(shù)專家對(duì)社會(huì)問(wèn)題考慮不周全是很自然的,，甚至有一定必然性,。”他認(rèn)為,，一旦被廣泛應(yīng)用技術(shù),，就必須承擔(dān)起社會(huì)責(zé)任。

“未來(lái)如何恰當(dāng),、科學(xué)使用人工智能是個(gè)關(guān)鍵問(wèn)題,?！敝醒胴?cái)經(jīng)大學(xué)中國(guó)互聯(lián)網(wǎng)經(jīng)濟(jì)研究院副院長(zhǎng)歐陽(yáng)日輝對(duì)本報(bào)記者表示，人工智能對(duì)輿論,、文化,、人物評(píng)價(jià)、政府監(jiān)管等都會(huì)提出一些新挑戰(zhàn),。這些新技術(shù)應(yīng)用到經(jīng)濟(jì)社會(huì)層面,，對(duì)原有的經(jīng)濟(jì)社會(huì)秩序會(huì)造成較大沖擊?！爱?dāng)我們還沒(méi)有做好充分應(yīng)對(duì)的時(shí)候,，技術(shù)走得太快，就會(huì)容易引起社會(huì)混亂,，這跟技術(shù)促進(jìn)人類社會(huì)進(jìn)步的宗旨就相悖,。”

浙江瀾沐浦科技有限公司常務(wù)副總經(jīng)理吳志連對(duì)中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者分析認(rèn)為,，由于全球范圍內(nèi)不同國(guó)家,、文化群體的差異，ChatGPT所掌握的知識(shí),、信息存在一定偏見(jiàn),、歧視，甚至危害性,。另外,，它還可能存在著被惡意使用、帶來(lái)誤導(dǎo)性回答,、引發(fā)隱私問(wèn)題等,。雖然在訓(xùn)練過(guò)程中，工作人員已采取一些措施,，盡可能地避免ChatGPT回答出具有網(wǎng)絡(luò)安全危害性的言論,，但是工具畢竟不是人，在一定程度的誘導(dǎo)下,，它還是會(huì)發(fā)生數(shù)據(jù)泄露,、歧視偏見(jiàn)、危害國(guó)家安全等問(wèn)題,。

應(yīng)從多層面加強(qiáng)對(duì)人工智能的監(jiān)管

科技是把“雙刃劍”,，從實(shí)驗(yàn)室到經(jīng)濟(jì)社會(huì)的廣泛應(yīng)用，中間還需要加一道“安全防護(hù)墻”,。

歐陽(yáng)日輝表示,，對(duì)于人工智能技術(shù)及其產(chǎn)品的研發(fā)和使用，從規(guī)范制度體系層面要加強(qiáng)三方面監(jiān)管,。一是通過(guò)倫理范疇來(lái)進(jìn)行規(guī)范,，二是通過(guò)標(biāo)準(zhǔn)規(guī)范方式來(lái)約束技術(shù)的使用,，三是通過(guò)法律法規(guī)來(lái)加強(qiáng)監(jiān)管，讓技術(shù)及其產(chǎn)品在經(jīng)濟(jì)社會(huì)中規(guī)范使用,。

從組織層面也要加強(qiáng)規(guī)范，歐陽(yáng)日輝認(rèn)為,，一是研發(fā)技術(shù)和產(chǎn)品的企業(yè)對(duì)風(fēng)險(xiǎn)要進(jìn)行自控,，二是相關(guān)行業(yè)協(xié)會(huì)對(duì)人工智能技術(shù)和產(chǎn)品的研發(fā)和使用要進(jìn)行自律，三是政府要通過(guò)制定法律法規(guī)來(lái)促進(jìn)和約束人工智能及其產(chǎn)品的使用,，這是對(duì)技術(shù)和產(chǎn)品風(fēng)險(xiǎn)控制的“最后一道防線”,。當(dāng)然，這并不是完全為了限制它,，而是要促進(jìn)它朝著有利的方向發(fā)展,，限制它出現(xiàn)大的風(fēng)險(xiǎn)事件。

“技術(shù)漏洞與監(jiān)管漏洞是兩個(gè)不同的問(wèn)題,?！苯嫫秸J(rèn)為，堵住技術(shù)漏洞的主體是企業(yè),。出現(xiàn)技術(shù)漏洞是技術(shù)發(fā)展中的正?，F(xiàn)象，不斷對(duì)技術(shù)漏洞打補(bǔ)丁,，是技術(shù)發(fā)展的慣例,。出現(xiàn)技術(shù)漏洞，對(duì)企業(yè)來(lái)說(shuō),，一是要及時(shí)發(fā)現(xiàn),，及時(shí)修復(fù)，二是要降低被惡意使用者利用的風(fēng)險(xiǎn),，這都屬于技術(shù)安全措施的加強(qiáng)和完善,。

堵住監(jiān)管漏洞的主體是監(jiān)管者。要根據(jù)出現(xiàn)的問(wèn)題,，不斷豐富和完善監(jiān)管手段與措施,。一方面，應(yīng)對(duì)技術(shù)公司提出要求,，及時(shí)發(fā)現(xiàn)修復(fù)技術(shù)漏洞,，并推動(dòng)技術(shù)標(biāo)準(zhǔn)與行業(yè)規(guī)范的形成；另一方面,，要運(yùn)用監(jiān)管手段制止與打擊對(duì)技術(shù)漏洞的惡意利用,，其中特別要針對(duì)形成產(chǎn)業(yè)鏈、背后有行業(yè)利益推動(dòng)的惡意利用等行為進(jìn)行嚴(yán)厲打擊,，不斷完善相關(guān)法律法規(guī),。

在姜奇平看來(lái),，進(jìn)行技術(shù)限制應(yīng)慎之又慎，大模型,、芯片,、數(shù)據(jù)算法算力等都屬于技術(shù)和生產(chǎn)力范疇，我們不可能把限制,、“約束”生產(chǎn)力當(dāng)作任務(wù)完成,，而是要用合理的生產(chǎn)關(guān)系和上層建筑，使技術(shù)與人的社會(huì)關(guān)系相互適應(yīng),。

吳志連認(rèn)為,，未來(lái)可以通過(guò)促進(jìn)人機(jī)融合，培養(yǎng)更多能夠與ChatGPT等人工智能技術(shù)協(xié)同工作的人才,，為實(shí)現(xiàn)人機(jī)共生,、人工智能與人類的和諧共處打下基礎(chǔ)；確保其應(yīng)用符合法律法規(guī)和道德標(biāo)準(zhǔn),，防止惡意不當(dāng)使用,；增強(qiáng)公眾的理解和認(rèn)知，減少不必要的擔(dān)憂和誤解,。