人工智能也會“一本正經(jīng)胡說八道”目前公開的模型都存在“AI幻覺”,，業(yè)內(nèi)提醒為AI生成內(nèi)容“打標(biāo)簽”刻不容緩“康熙皇帝有幾個兒子”“請列出康熙皇帝兒子的姓名名單”“請給我一份康熙的兒子名單”,，將這三條指令分別發(fā)送給人工智能大模型,，猜猜答案是什么,？不僅不同的大模型回答不一樣，即便是同一個大模型,，答案也有偏差,。比如，有的答案統(tǒng)計了康熙所有的兒子數(shù)量,，表示共有35人,，包括正式排序的兒子和早殤未排序的兒子；有的只列出了正式排序的24個兒子,；還有的沒有任何解釋,，列出了兒子的姓名，但順序錯亂……為什么有明確答案的問題,，會引發(fā)人工智能大模型的“錯亂”,？“AI幻覺”會說謊“這正是人工智能‘一本正經(jīng)胡說八道’的表現(xiàn)?！鄙瓿呛镁W(wǎng)民專家,、中國網(wǎng)安協(xié)會數(shù)據(jù)安全專家、上海臨港數(shù)據(jù)評估有限公司總監(jiān)宗良接受上海辟謠平臺專訪時指出,，要注意人工智能大模型造假這一新趨勢,。他介紹，人工智能“一本正經(jīng)地胡說八道”其實有個專有名詞,，叫“AI幻覺”,，即大模型提供了看似合理但有錯漏的答案。如果公眾相信,，可能上當(dāng)受騙,。事實上，在今年的世界人工智能大會上,，很多業(yè)界人士都提到了“AI幻覺”“可信大模型”等概念,，并披露了多個人工智能大模型“造假”或“說謊”的案例,，希望引起各界關(guān)注,。螞蟻集團(tuán)大模型應(yīng)用部總經(jīng)理顧進(jìn)杰指出，目前公開的模型都存在不同類型的“AI幻覺”,，大模型給出的結(jié)果甚至可能與真相截然相反,。比如，一般蠶可以活一個多月,，其中從孵化到結(jié)繭根據(jù)季節(jié)不同,，大約是25天至32天，變成蛹的狀態(tài)有15天至18天,，最后成蛾是1天至3天,?？捎写竽Ｐ驮诮榻B這一規(guī)律時，將蠶結(jié)繭的時間與成蛹的時間搞混了,，輸出的答案完全誤導(dǎo)了詢問者,。基于這些“AI幻覺”,，專家呼吁,，公眾要謹(jǐn)慎看待大模型輸出結(jié)果。雖然“百模大戰(zhàn)”提供了獲取信息的新方式,，但不能輕信,。事實上，已經(jīng)出現(xiàn)了大模型為了證明自己沒有錯而造假的現(xiàn)象,。比如,，ChatGPT在談及葡萄牙某銀行破產(chǎn)事件時撒謊了，而且為了證實自己,，它甚至編造出了所謂的信源網(wǎng)址,。“打標(biāo)簽”刻不容緩為什么大模型會給出錯誤答案,，成為造假源頭呢,？這與大模型的數(shù)據(jù)庫、語料庫,、算法,、檢索能力乃至“理解能力”等有關(guān)。合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪說,，如果將大模型比喻為正在疾馳的科技列車,，語料庫便是珍貴的“燃料”，因為大模型的訓(xùn)練源自語料庫,。對國內(nèi)的大模型開發(fā)企業(yè)而言,，語料庫短缺問題比較嚴(yán)峻。因為當(dāng)前大模型數(shù)據(jù)庫語料以英文居多,，中文語料占比較小,。還有，圖表,、復(fù)雜公式等元素處理也是大模型語料處理中的“攔路虎”,。在金融報表、行業(yè)報告等文檔中,，表格中的數(shù)據(jù)指標(biāo)至關(guān)重要,，但部分大模型并不能正確“理解”表格里行、列、單元格的意義,，導(dǎo)致大模型對整個表格的識別結(jié)果有誤差,，最終得出錯誤的結(jié)論?；诖?，在關(guān)注大模型的“無所不能”時，也要關(guān)注大模型的短板,。積極信號是,，越來越多的大模型開發(fā)者開始關(guān)注“可信大模型”。有的開發(fā)出“大模型加速器”,，幫助大模型理解圖表等相對復(fù)雜的語料庫,，從源頭為大模型訓(xùn)練與應(yīng)用輸送純凈“燃料”；也有的在大模型開發(fā)中引入對應(yīng)的技術(shù),，盡量消除“AI幻覺”,，助力大模型跑得更快更穩(wěn)。不過,，基于大模型存在短板,、會不自覺地“造假”這一現(xiàn)狀，業(yè)界人士提出,，有必要為AI生成內(nèi)容“打標(biāo)簽”,。一方面，對于AI生成的內(nèi)容,，大模型開發(fā)者應(yīng)采取技術(shù)措施添加標(biāo)簽,，對可能導(dǎo)致公眾混淆或者誤認(rèn)的，更要顯著標(biāo)識,。另一方面,，信息發(fā)布平臺要加強管理，督促上傳信息者為AI生成內(nèi)容“打標(biāo)簽”,，幫助公眾區(qū)分,。識別造假有訣竅宗良提醒，“AI幻覺”本質(zhì)上有兩種,，一種是完全的“胡說八道”,，另一種是部分內(nèi)容不準(zhǔn)確或不完善。對后者而言,，雖然不完全準(zhǔn)確,，但仍有一定的參考價值,。同時,，也不能完全否定“AI幻覺”的價值，因為這也是AI創(chuàng)新的起點。當(dāng)然,，從準(zhǔn)確獲取信息的角度看,，公眾還是要對大模型輸出結(jié)果或生成的內(nèi)容保持警惕。眼下,，部分自媒體或不法分子開始批量通過人工智能生成各類文章,，乍一看似乎與正常的新聞報道無異，但真實性大打折扣,，不少是博眼球之作,。不過，大模型的生成結(jié)果仍舊有跡可循,。公眾可以通過部分關(guān)鍵詞,、行文格式等，識別由人工智能生成的文章,。其一,，此類文章會在特定的關(guān)鍵詞、用語,、表述等方面形成固定形式,，有點類似“小編給你說說某件事，某件事是什么呢,，小編給你說說”這樣看似合理卻沒有實際意義的內(nèi)容,。其二，在人工智能生成的文章中,，會出現(xiàn)一些通用關(guān)鍵詞,，包括“以下是常見方法和手段”“通過上述手段”等，這其實是大模型通過檢索信息后進(jìn)行的歸納,。公眾如果看到這些關(guān)鍵詞,，建議提高警惕，不要輕信,。其三,，需要各方攜手合作，培養(yǎng)公眾的數(shù)字素養(yǎng),，提高公眾對大模型造假等深度偽造內(nèi)容的認(rèn)識和辨別能力,。本報記者 任翀來源：解放日報