科學家發現深度神經網絡對幻覺輪廓“視而不見”
近日，中科院自動化所研究員曾毅團隊研究發現，從經典的到最先進的深度神經網絡都難以像人一樣具有較好的幻覺輪廓識別能力。相關研究成果發表于細胞出版社旗下期刊《模式》。
神經網絡和深度學習模型在過去十年中看似取得巨大成功，在許多給定的視覺任務中在指定方面超過了人類表現。然而，神經網絡的性能仍然會隨著各種圖像扭曲和損壞而降低。一個非常極端的例子是對抗攻擊，通過在圖片上施加人眼難以察覺的微擾，能夠使神經網絡模型徹底失效。而人類的視覺系統在這些問題上具有高度魯棒性，說明深度學習與生物視覺系統相比仍然存在根本性缺陷。
為此，曾毅團隊提出了一種名為交錯光柵扭曲的圖像干擾方法，作為量化神經網絡模型幻覺輪廓感知能力的工具。結果表明，大多數預訓練模型的表現接近隨機。另外可以觀測到當交錯光柵之間的距離較小時，存在一些模型的結果與其他模型的分布有較顯著的差別。他們最終發現，使用深度增強技術訓練的模型相比其他模型能夠顯著增強模型對交錯光柵扭曲數據集的識別。
該研究還招募了24名人類受試者，以評估不同的參數設置下，人類的幻覺輪廓感知能力以及其對數字和圖像識別的影響。研究發現，即使是當前最先進的深度學習算法在交錯光柵效應的識別上也與人類水平相距甚遠。
論文第一作者、中科院自動化所工程師范津宇認為，該研究結合了認知科學和人工智能，提出了將傳統機器視覺數據集轉換成認知科學中的交錯光柵幻覺圖像，并首次對大量的公開預訓練神經網絡模型的幻覺輪廓感知能力的量化測量，從神經元動力學角度和行為學角度兩個檢驗深度學習和神經網絡模型對幻覺輪廓的感知。
“這項研究從認知科學的角度檢驗和部分重新審視了當前看似成功的人工神經網絡模型，并且證明人工神經網絡模型與生物視覺處理過程仍然存在著很大差距，大腦運作的機理和智能的本質將繼續啟發人工智能，特別是神經網絡的研究。”曾毅說。
在他看來，要想從本質上取得突破，人工智能需要借鑒和受自然演化、腦與心智的啟發，建立智能的理論體系，這樣的人工智能才會有長遠的未來。
相關論文信息：https://doi.org/10.1016/j.patter.2023.100695
