新華社北京5月29日電（記者彭茜　張漫子）隨著人工智能大語(yǔ)言模型的不斷迭代，其在類人智能方面取得了不少亮眼進(jìn)展——會(huì)解讀心理,、察言觀色,，進(jìn)行多輪實(shí)時(shí)語(yǔ)音對(duì)話，甚至還掌握了人類的欺騙,、奉承等手段……這是否意味著我們距離實(shí)現(xiàn)通用人工智能已不再遙遠(yuǎn)？當(dāng)人工智能“進(jìn)化”得“更像人”,，又會(huì)給人類社會(huì)帶來(lái)哪些潛在風(fēng)險(xiǎn),？2023年11月,，首屆人工智能安全峰會(huì)在英國(guó)布萊奇利園舉行,，峰會(huì)發(fā)布《布萊奇利宣言》。新華社記者李穎攝察言觀色,，接近真人對(duì)他人心理狀態(tài)進(jìn)行解讀的能力是人類社交的關(guān)鍵,。近日發(fā)表在英國(guó)《自然·人類行為》雜志上的新研究發(fā)現(xiàn)，有的大語(yǔ)言模型在評(píng)估解讀他人心理狀態(tài)能力的測(cè)試中與真人表現(xiàn)相當(dāng),，甚至在識(shí)別諷刺和暗示等測(cè)試項(xiàng)目中的表現(xiàn)勝過(guò)一些人,。解讀和推斷他人心理狀態(tài)的能力被稱為“心智理論”，是人類社交互動(dòng)的核心能力,，涉及溝通,、共情和社會(huì)決策等。德國(guó)漢堡-埃彭多夫大學(xué)醫(yī)學(xué)中心等機(jī)構(gòu)研究人員測(cè)試了美國(guó)開放人工智能研究中心（OpenAI）發(fā)布的GPT系列大語(yǔ)言模型以及美國(guó)“元”公司發(fā)布的LLaMA2大語(yǔ)言模型在解讀他人心理狀態(tài)方面的表現(xiàn),，并與人類比較,。研究人員為大語(yǔ)言模型設(shè)置了通常用于評(píng)估“心智理論”涉及能力的5項(xiàng)測(cè)試：分別為識(shí)別錯(cuò)誤信念、諷刺,、失言,、暗示和含有誤導(dǎo)信息的奇怪故事，并將大語(yǔ)言模型的識(shí)別水平與1907名人類參與者相比較,。研究發(fā)現(xiàn),，在所有5項(xiàng)測(cè)試中，GPT-4有3項(xiàng)測(cè)試（識(shí)別諷刺,、暗示,、奇怪故事）的表現(xiàn)優(yōu)于人類,，一項(xiàng)測(cè)試（識(shí)別錯(cuò)誤信念）表現(xiàn)與人類相當(dāng)，僅在識(shí)別失言的測(cè)試中遜于人類,；而LLaMA2僅在識(shí)別失言的測(cè)試中勝于人類,，其他測(cè)試項(xiàng)目表現(xiàn)均不及人類,。而OpenAI本月新發(fā)布的模型GPT-4o,，則在與人的自然交互方面達(dá)到新高度，它可進(jìn)行文本,、音頻和圖像多模態(tài)的識(shí)別與回應(yīng),，且更具“人情味”。它與使用者的語(yǔ)音對(duì)話基本無(wú)延遲,，會(huì)傾聽(tīng),，能嘮嗑，可變換各種語(yǔ)調(diào),。它還能識(shí)別人的面部表情,、感知發(fā)言者的語(yǔ)氣和情緒，并給出相應(yīng)回應(yīng),，讓人驚呼“更像人”了,。欺騙人類，警惕風(fēng)險(xiǎn)人工智能在擬人方面的進(jìn)步不僅體現(xiàn)在“善解人意”上,，甚至還學(xué)會(huì)了人類的欺騙,、奉承等手段。此前,，美國(guó)麻省理工學(xué)院等機(jī)構(gòu)的研究團(tuán)隊(duì)在美國(guó)細(xì)胞出版社旗下《模式》雜志發(fā)表綜述文章稱,，通過(guò)習(xí)得性欺騙，一些人工智能系統(tǒng)地學(xué)會(huì)了“操縱”他人,。研究發(fā)現(xiàn)最引人注目的欺騙案例是“元”公司的“西塞羅”人工智能系統(tǒng),，它被設(shè)計(jì)在一個(gè)虛擬外交戰(zhàn)略游戲中作為人類玩家的對(duì)手。盡管“元”公司聲稱,，該系統(tǒng)“在很大程度上是誠(chéng)實(shí)和樂(lè)于助人的”,，但研究人員發(fā)現(xiàn)，該系統(tǒng)在玩游戲時(shí)為達(dá)成比賽目標(biāo),，背叛了盟友,。其他人工智能系統(tǒng)則具有在撲克游戲中虛張聲勢(shì)的能力，或在戰(zhàn)略游戲“星際爭(zhēng)霸2”中為擊敗對(duì)手而假裝攻擊,，以及為了在談判游戲中占上風(fēng)而采取欺騙手段,。當(dāng)人工智能掌握了欺騙技能，是否會(huì)給人類社會(huì)帶來(lái)安全隱患,？研究人員在文章中詳述了人工智能欺騙帶來(lái)的風(fēng)險(xiǎn),，如欺詐,、制造假新聞、操縱選舉等,。4月23日，在德國(guó)漢諾威工博會(huì)上,，參觀者與一款智能機(jī)器人進(jìn)行“石頭剪子布”游戲,。新華社記者任鵬飛攝 研究人員認(rèn)為，“目前不可能訓(xùn)練出一個(gè)在所有可能的情況下,，都不能實(shí)施欺騙的人工智能模型”,，進(jìn)而警示如果人工智能繼續(xù)完善這套技能，人類可能會(huì)失去對(duì)它們的控制,。因此建議盡可能用更多時(shí)間為未來(lái)人工智能產(chǎn)品和開源模型的更高級(jí)欺騙做好準(zhǔn)備,。通用智能，尚未實(shí)現(xiàn)盡管人工智能已在一些方面“進(jìn)化”得十分像人,，但相關(guān)專家指出,，對(duì)大模型的“類人智能”需要有更清醒認(rèn)知。目前距離實(shí)現(xiàn)完全類人,、具備泛化能力的通用人工智能還有一定距離,。中國(guó)科學(xué)技術(shù)大學(xué)機(jī)器人實(shí)驗(yàn)室主任陳小平接受新華社記者采訪時(shí)指出，要警惕人類對(duì)大模型產(chǎn)生“幻覺(jué)”,。大模型學(xué)習(xí)大量歷史數(shù)據(jù),，輸出的表達(dá)方式符合許多人的語(yǔ)言習(xí)慣，讓許多人誤以為大模型會(huì)“說(shuō)人話”或“理解人”,，繼而以為它具有某種“社會(huì)屬性”,，但實(shí)際上它沒(méi)有心智?！叭斯ぶ悄艿膬?nèi)部工作原理與人類智能不同,，但在某些局部是類似的。如果認(rèn)為人工智能和人類智能相同,，差別只在硬件載體的不同,，就會(huì)做出很多不切實(shí)際的判斷?！彼f(shuō),，目前對(duì)大模型測(cè)評(píng)的方法，基本上仍是傳統(tǒng)軟件的測(cè)評(píng)方法,，因此需對(duì)這種方法得出的測(cè)評(píng)結(jié)果保持適度的審視態(tài)度,。漢堡-埃彭多夫大學(xué)醫(yī)學(xué)中心的研究人員認(rèn)為，大語(yǔ)言模型在“心智理論”涉及能力的測(cè)試中表現(xiàn)與人類相當(dāng),，并非表明它們具有等同于人類的能力,，也不意味著它們擁有人類“心智”,。他們建議，未來(lái)研究可關(guān)注大語(yǔ)言模型在心理推理中的表現(xiàn)將如何影響人類個(gè)體在人機(jī)交互中的認(rèn)知,。這是2023年7月在上海舉行世界人工智能大會(huì)的開幕式現(xiàn)場(chǎng)。新華社記者方喆攝 美國(guó)斯坦福大學(xué)計(jì)算機(jī)科學(xué)系教授李飛飛日前也在美國(guó)《時(shí)代》周刊刊文稱,，在通往通用智能的道路上,，“感覺(jué)”是至關(guān)重要的一步，即擁有主觀體驗(yàn)的能力,。目前大模型并沒(méi)有像人類一樣的“感覺(jué)”,，它可以說(shuō)“自己腳趾痛”,，盡管它根本就沒(méi)有腳趾,，它只是一個(gè)編碼在硅芯片上的數(shù)學(xué)模型?！拔覀冞€沒(méi)有實(shí)現(xiàn)有感覺(jué)的人工智能,，而更大的語(yǔ)言模型也無(wú)法實(shí)現(xiàn)這一目標(biāo)。如果想在人工智能系統(tǒng)中重現(xiàn)這一現(xiàn)象,，就需要更好理解感覺(jué)是如何在擁有實(shí)體的生物系統(tǒng)中產(chǎn)生的,。”她說(shuō),。