從中國科學院自動化研究所微信公眾號獲悉,近日該所神經計算與腦機交互(NeuBCI)課題組與中國科學院腦科學與智能技術卓越創新中心的聯合團隊結合行為實驗與神經影像分析,首次證實多模態大語言模型(MLLMs)能夠自發形成與人類高度相似的物體概念表征系統。這項研究不僅為人工智能認知科學開辟了新路徑,更為構建類人認知結構的人工智能系統提供了理論框架。相關研究成果以 Human-like object concept representations emerge naturally in multimodal large language models 為題,發表于《自然 機器智能》(Nature Machine Intelligence)。
人類能夠對自然界中的物體進行概念化,這一認知能力長期以來被視為人類智能的核心。當我們看到“狗”“汽車”或“蘋果”時,不僅能識別它們的物理特征(尺寸、顏色、形狀等),還能理解其功能、情感價值和文化意義 —— 這種多維度的概念表征構成了人類認知的基石。
傳統人工智能研究聚焦于物體識別準確率,卻鮮少探討模型是否真正“理解”物體含義。論文通訊作者何暉光研究員指出:“當前 AI 能區分貓狗圖片,但這種‘識別’與人類‘理解’貓狗的本質區別仍有待揭示。”團隊從認知神經科學經典理論出發,設計了一套融合計算建模、行為實驗與腦科學的創新范式。研究采用認知心理學經典的“三選一異類識別任務”(triplet odd-one-out),要求大模型與人類從物體概念三元組(來自 1854 種日常概念的任意組合)中選出最不相似的選項。通過分析 470 萬次行為判斷數據,團隊首次構建了 AI 大模型的“概念地圖”。
實驗范式示意圖。a,物體概念集及帶有語言描述的圖像示例。b-d,分別針對 LLM、MLLM 和人類的行為實驗范式和概念嵌入空間。
研究人員從海量大模型行為數據中提取出 66 個“心智維度”,并為這些維度賦予了語義標簽。研究發現,這些維度是高度可解釋的,且與大腦類別選擇區域(如處理面孔的 FFA、處理場景的 PPA、處理軀體的 EBA)的神經活動模式顯著相關。
研究還對比了多個模型在行為選擇模式上與人類的一致性(Human consistency)。結果顯示,多模態大模型(如 Gemini_Pro_Vision、Qwen2_VL)在一致性方面表現更優。此外,研究還揭示了人類在做決策時更傾向于結合視覺特征和語義信息進行判斷,而大模型則傾向于依賴語義標簽和抽象概念。本研究表明大語言模型并非“隨機鸚鵡”,其內部存在著類似人類對現實世界概念的理解。