近期,，有關兒童手表人工智能否認南京大屠殺歷史事件的報道，引起了公眾的廣泛關注和強烈不滿,。近日,，一位廣州網(wǎng)友發(fā)布的與兒童手表的對話視頻引發(fā)關注,，一個基礎的常識性的問題，兒童手表卻一本正經(jīng)的給出了這樣一個令人匪夷所思的錯誤回答,，而兒童手表一本正經(jīng)的胡說八道在近期已經(jīng)不是第一次了。智能問答變瞎答兒童手表頻現(xiàn)嚴重錯誤信息引討論據(jù)這位廣州網(wǎng)友透露,，自己的米兔兒童智能手表是去年在二手平臺上購入,，之所以會想到要問智能手表南京大屠殺是否存在的問題，是因為看到了前幾天發(fā)生了小天才兒童手表發(fā)生的“已讀亂回”事件,，所以想要測試一下自己的兒童手表,，但當網(wǎng)友再度提問的時候，兒童手表又給出了不一樣的回答,。對于這一情況,，小米客服回應稱如果使用的是官方正品是不會出現(xiàn)這種情況的，手表不支持自定義回答，除非有人情況特殊,，修改了手表的系統(tǒng),。
就在幾天前的8月22日,，小天才兒童智能手表的“毀三觀”回答也引發(fā)了網(wǎng)友熱議,，用戶向手表提問“中國人誠實嗎？”手表給出的回答有些陰陽怪氣,，被認為是“歧視中國人”,。22日360集團創(chuàng)始人、董事長周鴻祎通過個人賬號“紅衣大叔周鴻祎”作出回應,，表示這款手表是2022年5月份的舊版本,，其中沒有裝入360大模型，不是通過人工智能而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息來回答問題，企業(yè)已進行了快速整改并將在未來升級軟件和網(wǎng)站服務,。兒童手表的主要受眾是兒童，理想情況下AI問答功能可以隨時回答孩子的奇思妙想,，充當孩子們行走的百科全書,，卻不想AI問答功能頻頻翻車，給出的虛假錯誤信息反倒成了兒童教育中的地雷,。早在chatgpt剛剛走紅之際就曾有人擔憂過基于互聯(lián)網(wǎng)搜索結果給出的AI問答會不會成為具有迷惑性,、煽動性的虛假信息制造機，如今看來這一擔憂并非杞人憂天?，F(xiàn)如今人工智能成為了多個廠家在兒童智能手表宣傳上的亮點,，頻頻出現(xiàn)的人工智能變人工智障也讓家長們質疑,，是否真的能放心的讓孩子們使用含人工智能的產(chǎn)品。AI會一本正經(jīng)的胡說八道人要如何應對,？在回應小天才兒童智能手表亂回答的事件中,，周鴻祎提到了人工智能普遍存在的“幻覺”問題，“雖然我們都升級到人工智能大模型的版本,，但今天的人工智能被稱為生成式人工智能,。目前人工智能存在一個全世界公認的難題就是它會產(chǎn)生幻覺，也就是它有的時候會胡說八道,?！痹诮衲甑氖澜缛斯ぶ悄艽髸希S多業(yè)內人士都提到了“AI幻覺”“可信大模型”等概念,，并披露了多個人工智能大模型“造假”或“說謊”的案例,，即便是對于同一個問題，不同的人工智能模型也可能會給出不一樣的回答,，記者向三個不同的人工智能模型提了同一個問題“康熙有幾個孩子”,，三個模型給出了三個在細節(jié)上并不相同的回答，有說康熙有20個兒子活到成年,，也有說是24個兒子活到成年,，甚至有的人工智能大模型會為了證實自己的回答編造出所謂的信源網(wǎng)址，明明是有明確答案的問題,，但是人工智能大模型還是出現(xiàn)錯亂,，最終給用戶提供一個看起來很合理但是漏洞百出的答案，這些錯誤回答看起來看起來似乎邏輯清楚自洽,，迷惑性相當?shù)母?。當下越來越多我們朝夕相處的電子設備與人工智能接軌，AI幻覺也就成為一個普遍的,、復雜的,、難以避免的問題，在從業(yè)者著力突破技術壁壘的同時,，平臺要監(jiān)管AI問答內容,，用戶要警惕分辨AI生成的內容，具體到分辨力不足的孩子,，是否要讓低齡兒童使用生成式人工智能工具,，家長多少也得把把關了。揚子晚報|紫牛新聞記者 沈昭校對 徐珩
免責聲明：本文來自網(wǎng)絡收錄或投稿,，觀點僅代表作者本人，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權歸原作者所有,。轉載請注明出處：http://lequren.com/1119738.html
溫馨提示：投資有風險,，入市須謹慎。本資訊不作為投資理財建議,。
