中新網(wǎng)北京3月7日電 (記者 孫自法)近些年來，人工智能(AI)技術的迅猛發(fā)展和廣泛應用,，因其很多方面的優(yōu)越表現(xiàn)超過人類而備受關注。不過,，中國科學院自動化研究所(中科院自動化所)團隊最新完成的一項研究發(fā)現(xiàn)，基于人工智能的神經(jīng)網(wǎng)絡和深度學習模型對幻覺輪廓“視而不見”，人類與人工智能的“角逐”在幻覺認知上“扳回一局”,。

受人類和生物視覺系統(tǒng)中廣泛存在的幻覺輪廓現(xiàn)象啟發(fā),，中科院自動化所曾毅研究團隊提出一種將機器學習視覺數(shù)據(jù)集轉換成幻覺輪廓樣本的方法，量化測量當前的深度學習模型對幻覺輪廓識別能力,，實驗結果證明,，從經(jīng)典的到最先進的深度神經(jīng)網(wǎng)絡都難以像人一樣具有較好的幻覺輪廓識別能力，即使是當前最先進的深度學習算法在交錯光柵效應(幻覺識別能力之一)的識別上也與人類水平相距甚遠,。

這項人工智能與人類在幻覺輪廓方面尚有顯著認知差距的重要研究成果論文,，近日在細胞出版社旗下專業(yè)學術期刊《模式》(Patterns)上發(fā)表。該研究表明,，目前，人類的視覺系統(tǒng)在幻覺認知問題上具有高度魯棒性(也稱穩(wěn)健性,，一般指在異常和危險情況下系統(tǒng)自適應能力強健穩(wěn)定),，基于人工智能的深度學習系統(tǒng)與生物視覺系統(tǒng)相比仍然存在根本性缺陷。

為何研究,？

論文通訊作者,、中科院自動化所類腦認知智能研究組負責人曾毅研究員介紹說，幻覺輪廓是認知心理學中經(jīng)典的幻覺現(xiàn)象,，在沒有顏色對比度或亮度梯度的情況下,，生物視覺系統(tǒng)能夠感知到一個清晰的邊界,。這一現(xiàn)象已經(jīng)在人類和多種動物物種中被廣泛發(fā)現(xiàn)，包括哺乳動物,、鳥類和昆蟲等,。

獨立進化的視覺系統(tǒng)中普遍存在幻覺輪廓感知能力，表明它在生物視覺處理中具有基礎和關鍵的作用,，因此,，幻覺輪廓感知也應該是人工智能視覺系統(tǒng)所必須具備的能力。

此前,，深度學習模型的幻覺輪廓感知相關研究相對較少,，研究深度學習模型對幻覺輪廓感知的魯棒性比圖像干擾魯棒性更加復雜，主要障礙是幻覺輪廓的樣本有限,。大多數(shù)研究分析的幻覺輪廓都是在先前的心理學文獻中手動設計,，而這些測試圖片無法直接與深度學習模型訓練的任務相匹配，同時由于數(shù)量很少,，無法形成一個有相對規(guī)模的測試集,，很難以機器學習的方式去衡量深度學習模型的幻覺輪廓感知能力。

如何研究,？

曾毅指出,，這次主要研究了深度學習對交錯光柵幻覺的識別能力，交錯光柵幻覺是一個經(jīng)典的幻覺輪廓現(xiàn)象,，位移的光柵會在沒有亮度對比的情況下誘發(fā)出虛假的邊緣和形狀,。標準的交錯光柵錯覺能夠讓人類在實際上沒有物理邊界的情況下感知到中間的垂直線。交錯光柵幻覺被廣泛應用于生理學研究中,，以探索幻覺輪廓的生物視覺處理,。

中科院自動化所類腦認知智能研究組提出一種名為交錯光柵扭曲的圖像干擾方法，作為量化神經(jīng)網(wǎng)絡模型幻覺輪廓感知能力的工具,。該方法可直接應用于具有外部輪廓而沒有紋理信息的剪影圖像,，從而系統(tǒng)性地生成大量幻覺輪廓圖像。由于不同的參數(shù)設置能夠產(chǎn)生不同程度的幻覺效應,，這項研究對人類被試者進行測試,，用于了解不同的干擾參數(shù)對人類被試的幻覺輪廓感知能力的影響。

對于深度學習模型,，這項研究訓練全連接網(wǎng)絡和卷積網(wǎng)絡,，收集了109種公開可用的預訓練模型。同時,，這項研究也招募了24名人類受試者,，從而評估不同的參數(shù)設置下，人類的幻覺輪廓感知能力以及其對數(shù)字和圖像識別的影響,。

有何收獲,？

論文第一作者,、中科院自動化所類腦認知智能研究組工程師范津宇說，這項研究結合認知科學和人工智能,，提出將傳統(tǒng)機器視覺數(shù)據(jù)集轉換成認知科學中的交錯光柵幻覺圖像,，首次對大量的公開預訓練神經(jīng)網(wǎng)絡模型的幻覺輪廓感知能力進行量化測量，并從神經(jīng)元動力學角度和行為學兩個角度,，檢驗深度學習和神經(jīng)網(wǎng)絡模型對幻覺輪廓的感知,。

本次研究實驗中的所有深度神經(jīng)網(wǎng)絡模型無論是否被訓練、使用什么方式訓練,，都產(chǎn)生了神經(jīng)動力學層面的沿著幻覺輪廓的激活,。然而即使如此，這一神經(jīng)動力學層面的激活并沒有能夠幫助到深度神經(jīng)網(wǎng)絡最終在行為學層面識別出幻覺輪廓,。而唯一擁有相對好的幻覺輪廓感知能力的深度增強模型,，則表現(xiàn)出端點激活效應，從而揭示未來突破這個問題重點在于端點激活和幻覺輪廓的關系,。

曾毅總結稱,，本項研究成果亮點可概括為四個方面：一是提出系統(tǒng)性生成幻覺輪廓樣本的方法；二是將視覺認知和機器學習數(shù)據(jù)集結合,，實現(xiàn)對神經(jīng)網(wǎng)絡幻覺輪廓感知能力的量化,；三是測試大量公開的預訓練神經(jīng)網(wǎng)絡模型；四是發(fā)現(xiàn)幻覺輪廓感知較好的模型展現(xiàn)出計算神經(jīng)科學理論預言的端點激活現(xiàn)象,。

這項研究最大的特點是從認知科學的角度檢驗和部分重新審視了當前看似成功的人工神經(jīng)網(wǎng)絡模型,，并且證明人工神經(jīng)網(wǎng)絡模型與人腦視覺處理過程仍然存在著很大差距，這還只是人工智能與人類認知顯著距離的“冰山一角”,，大腦運作的機理和智能的本質將繼續(xù)啟發(fā)人工智能,，特別是神經(jīng)網(wǎng)絡的研究。

“如果想從本質上取得突破,，人工智能需要借鑒并受自然演化,、腦與心智的啟發(fā)，建立智能的理論體系,，這樣的人工智能才會有長遠的未來,。”曾毅說,。(完)

來源：中國新聞網(wǎng)