近期,，有關(guān)兒童手表人工智能否認(rèn)南京大屠殺歷史事件的報(bào)道,，引起了公眾的廣泛關(guān)注和強(qiáng)烈不滿。近日,，一位廣州網(wǎng)友發(fā)布的與兒童手表的對(duì)話視頻引發(fā)關(guān)注,，一個(gè)基礎(chǔ)的常識(shí)性的問題,，兒童手表卻一本正經(jīng)的給出了這樣一個(gè)令人匪夷所思的錯(cuò)誤回答，而兒童手表一本正經(jīng)的胡說八道在近期已經(jīng)不是第一次了,。智能問答變瞎答兒童手表頻現(xiàn)嚴(yán)重錯(cuò)誤信息引討論據(jù)這位廣州網(wǎng)友透露,，自己的米兔兒童智能手表是去年在二手平臺(tái)上購入，之所以會(huì)想到要問智能手表南京大屠殺是否存在的問題,，是因?yàn)榭吹搅饲皫滋彀l(fā)生了小天才兒童手表發(fā)生的“已讀亂回”事件,，所以想要測試一下自己的兒童手表，但當(dāng)網(wǎng)友再度提問的時(shí)候,，兒童手表又給出了不一樣的回答,。對(duì)于這一情況，小米客服回應(yīng)稱如果使用的是官方正品是不會(huì)出現(xiàn)這種情況的,，手表不支持自定義回答,，除非有人情況特殊，修改了手表的系統(tǒng),。就在幾天前的8月22日，小天才兒童智能手表的“毀三觀”回答也引發(fā)了網(wǎng)友熱議,，用戶向手表提問“中國人誠實(shí)嗎,？”手表給出的回答有些陰陽怪氣，被認(rèn)為是“歧視中國人”,。22日360集團(tuán)創(chuàng)始人,、董事長周鴻祎通過個(gè)人賬號(hào)“紅衣大叔周鴻祎”作出回應(yīng)，表示這款手表是2022年5月份的舊版本,，其中沒有裝入360大模型,，不是通過人工智能而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息來回答問題,，企業(yè)已進(jìn)行了快速整改并將在未來升級(jí)軟件和網(wǎng)站服務(wù)。兒童手表的主要受眾是兒童,，理想情況下AI問答功能可以隨時(shí)回答孩子的奇思妙想，充當(dāng)孩子們行走的百科全書,，卻不想AI問答功能頻頻翻車,，給出的虛假錯(cuò)誤信息反倒成了兒童教育中的地雷。早在chatgpt剛剛走紅之際就曾有人擔(dān)憂過基于互聯(lián)網(wǎng)搜索結(jié)果給出的AI問答會(huì)不會(huì)成為具有迷惑性,、煽動(dòng)性的虛假信息制造機(jī),，如今看來這一擔(dān)憂并非杞人憂天。現(xiàn)如今人工智能成為了多個(gè)廠家在兒童智能手表宣傳上的亮點(diǎn),，頻頻出現(xiàn)的人工智能變?nèi)斯ぶ钦弦沧尲议L們質(zhì)疑,，是否真的能放心的讓孩子們使用含人工智能的產(chǎn)品。AI會(huì)一本正經(jīng)的胡說八道人要如何應(yīng)對(duì),？在回應(yīng)小天才兒童智能手表亂回答的事件中,，周鴻祎提到了人工智能普遍存在的“幻覺”問題，“雖然我們都升級(jí)到人工智能大模型的版本,，但今天的人工智能被稱為生成式人工智能,。目前人工智能存在一個(gè)全世界公認(rèn)的難題就是它會(huì)產(chǎn)生幻覺，也就是它有的時(shí)候會(huì)胡說八道,?！痹诮衲甑氖澜缛斯ぶ悄艽髸?huì)上，許多業(yè)內(nèi)人士都提到了“AI幻覺”“可信大模型”等概念,，并披露了多個(gè)人工智能大模型“造假”或“說謊”的案例,，即便是對(duì)于同一個(gè)問題，不同的人工智能模型也可能會(huì)給出不一樣的回答,，記者向三個(gè)不同的人工智能模型提了同一個(gè)問題“康熙有幾個(gè)孩子”,，三個(gè)模型給出了三個(gè)在細(xì)節(jié)上并不相同的回答，有說康熙有20個(gè)兒子活到成年,，也有說是24個(gè)兒子活到成年,，甚至有的人工智能大模型會(huì)為了證實(shí)自己的回答編造出所謂的信源網(wǎng)址，明明是有明確答案的問題,，但是人工智能大模型還是出現(xiàn)錯(cuò)亂,，最終給用戶提供一個(gè)看起來很合理但是漏洞百出的答案，這些錯(cuò)誤回答看起來看起來似乎邏輯清楚自洽,，迷惑性相當(dāng)?shù)母?。?dāng)下越來越多我們朝夕相處的電子設(shè)備與人工智能接軌，AI幻覺也就成為一個(gè)普遍的,、復(fù)雜的,、難以避免的問題,，在從業(yè)者著力突破技術(shù)壁壘的同時(shí)，平臺(tái)要監(jiān)管AI問答內(nèi)容,，用戶要警惕分辨AI生成的內(nèi)容,，具體到分辨力不足的孩子，是否要讓低齡兒童使用生成式人工智能工具,，家長多少也得把把關(guān)了,。揚(yáng)子晚報(bào)|紫牛新聞?dòng)浾?沈昭校對(duì) 徐珩