人工智能也會(huì)“一本正經(jīng)胡說八道”目前公開的模型都存在“AI幻覺”，業(yè)內(nèi)提醒為AI生成內(nèi)容“打標(biāo)簽”刻不容緩“康熙皇帝有幾個(gè)兒子”“請(qǐng)列出康熙皇帝兒子的姓名名單”“請(qǐng)給我一份康熙的兒子名單”,，將這三條指令分別發(fā)送給人工智能大模型,，猜猜答案是什么？不僅不同的大模型回答不一樣,，即便是同一個(gè)大模型,，答案也有偏差。比如,，有的答案統(tǒng)計(jì)了康熙所有的兒子數(shù)量,，表示共有35人，包括正式排序的兒子和早殤未排序的兒子,；有的只列出了正式排序的24個(gè)兒子,；還有的沒有任何解釋，列出了兒子的姓名,，但順序錯(cuò)亂……為什么有明確答案的問題,，會(huì)引發(fā)人工智能大模型的“錯(cuò)亂”？“AI幻覺”會(huì)說謊“這正是人工智能‘一本正經(jīng)胡說八道’的表現(xiàn),?！鄙瓿呛镁W(wǎng)民專家、中國(guó)網(wǎng)安協(xié)會(huì)數(shù)據(jù)安全專家、上海臨港數(shù)據(jù)評(píng)估有限公司總監(jiān)宗良接受上海辟謠平臺(tái)專訪時(shí)指出,，要注意人工智能大模型造假這一新趨勢(shì),。他介紹，人工智能“一本正經(jīng)地胡說八道”其實(shí)有個(gè)專有名詞,，叫“AI幻覺”,，即大模型提供了看似合理但有錯(cuò)漏的答案。如果公眾相信,，可能上當(dāng)受騙,。事實(shí)上，在今年的世界人工智能大會(huì)上,，很多業(yè)界人士都提到了“AI幻覺”“可信大模型”等概念,，并披露了多個(gè)人工智能大模型“造假”或“說謊”的案例，希望引起各界關(guān)注,。螞蟻集團(tuán)大模型應(yīng)用部總經(jīng)理顧進(jìn)杰指出,，目前公開的模型都存在不同類型的“AI幻覺”，大模型給出的結(jié)果甚至可能與真相截然相反,。比如,，一般蠶可以活一個(gè)多月，其中從孵化到結(jié)繭根據(jù)季節(jié)不同,，大約是25天至32天,，變成蛹的狀態(tài)有15天至18天，最后成蛾是1天至3天,?？捎写竽Ｐ驮诮榻B這一規(guī)律時(shí),，將蠶結(jié)繭的時(shí)間與成蛹的時(shí)間搞混了,，輸出的答案完全誤導(dǎo)了詢問者?；谶@些“AI幻覺”,，專家呼吁，公眾要謹(jǐn)慎看待大模型輸出結(jié)果,。雖然“百模大戰(zhàn)”提供了獲取信息的新方式,，但不能輕信。事實(shí)上,，已經(jīng)出現(xiàn)了大模型為了證明自己沒有錯(cuò)而造假的現(xiàn)象,。比如，ChatGPT在談及葡萄牙某銀行破產(chǎn)事件時(shí)撒謊了,，而且為了證實(shí)自己,，它甚至編造出了所謂的信源網(wǎng)址。“打標(biāo)簽”刻不容緩為什么大模型會(huì)給出錯(cuò)誤答案,，成為造假源頭呢,？這與大模型的數(shù)據(jù)庫(kù)、語(yǔ)料庫(kù),、算法,、檢索能力乃至“理解能力”等有關(guān)。合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪說,，如果將大模型比喻為正在疾馳的科技列車,，語(yǔ)料庫(kù)便是珍貴的“燃料”，因?yàn)榇竽Ｐ偷挠?xùn)練源自語(yǔ)料庫(kù),。對(duì)國(guó)內(nèi)的大模型開發(fā)企業(yè)而言,，語(yǔ)料庫(kù)短缺問題比較嚴(yán)峻。因?yàn)楫?dāng)前大模型數(shù)據(jù)庫(kù)語(yǔ)料以英文居多,，中文語(yǔ)料占比較小,。還有，圖表,、復(fù)雜公式等元素處理也是大模型語(yǔ)料處理中的“攔路虎”,。在金融報(bào)表、行業(yè)報(bào)告等文檔中,，表格中的數(shù)據(jù)指標(biāo)至關(guān)重要,，但部分大模型并不能正確“理解”表格里行、列,、單元格的意義,，導(dǎo)致大模型對(duì)整個(gè)表格的識(shí)別結(jié)果有誤差，最終得出錯(cuò)誤的結(jié)論,?；诖耍陉P(guān)注大模型的“無所不能”時(shí),，也要關(guān)注大模型的短板,。積極信號(hào)是，越來越多的大模型開發(fā)者開始關(guān)注“可信大模型”,。有的開發(fā)出“大模型加速器”，幫助大模型理解圖表等相對(duì)復(fù)雜的語(yǔ)料庫(kù),，從源頭為大模型訓(xùn)練與應(yīng)用輸送純凈“燃料”,；也有的在大模型開發(fā)中引入對(duì)應(yīng)的技術(shù)，盡量消除“AI幻覺”,，助力大模型跑得更快更穩(wěn),。不過,，基于大模型存在短板、會(huì)不自覺地“造假”這一現(xiàn)狀,，業(yè)界人士提出,，有必要為AI生成內(nèi)容“打標(biāo)簽”。一方面,，對(duì)于AI生成的內(nèi)容,，大模型開發(fā)者應(yīng)采取技術(shù)措施添加標(biāo)簽，對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的,，更要顯著標(biāo)識(shí),。另一方面，信息發(fā)布平臺(tái)要加強(qiáng)管理,，督促上傳信息者為AI生成內(nèi)容“打標(biāo)簽”,，幫助公眾區(qū)分。識(shí)別造假有訣竅宗良提醒,，“AI幻覺”本質(zhì)上有兩種,，一種是完全的“胡說八道”，另一種是部分內(nèi)容不準(zhǔn)確或不完善,。對(duì)后者而言,，雖然不完全準(zhǔn)確，但仍有一定的參考價(jià)值,。同時(shí),，也不能完全否定“AI幻覺”的價(jià)值，因?yàn)檫@也是AI創(chuàng)新的起點(diǎn),。當(dāng)然,，從準(zhǔn)確獲取信息的角度看，公眾還是要對(duì)大模型輸出結(jié)果或生成的內(nèi)容保持警惕,。眼下,，部分自媒體或不法分子開始批量通過人工智能生成各類文章，乍一看似乎與正常的新聞報(bào)道無異,，但真實(shí)性大打折扣,，不少是博眼球之作,。不過,，大模型的生成結(jié)果仍舊有跡可循。公眾可以通過部分關(guān)鍵詞,、行文格式等,，識(shí)別由人工智能生成的文章。其一,，此類文章會(huì)在特定的關(guān)鍵詞,、用語(yǔ)、表述等方面形成固定形式，有點(diǎn)類似“小編給你說說某件事,，某件事是什么呢,，小編給你說說”這樣看似合理卻沒有實(shí)際意義的內(nèi)容。其二,，在人工智能生成的文章中,，會(huì)出現(xiàn)一些通用關(guān)鍵詞，包括“以下是常見方法和手段”“通過上述手段”等,，這其實(shí)是大模型通過檢索信息后進(jìn)行的歸納,。公眾如果看到這些關(guān)鍵詞，建議提高警惕,，不要輕信,。其三，需要各方攜手合作,，培養(yǎng)公眾的數(shù)字素養(yǎng),，提高公眾對(duì)大模型造假等深度偽造內(nèi)容的認(rèn)識(shí)和辨別能力。本報(bào)記者 任翀來源：解放日?qǐng)?bào)