7月26日，在2025世界人工智能大會(huì)（WAIC 2025）舉辦期間，中國(guó)工程院院士、人機(jī)混合增強(qiáng)智能全國(guó)重點(diǎn)實(shí)驗(yàn)室主任鄭南寧表示，大模型目前仍在著困境，在模型能力不斷擴(kuò)展同時(shí)，其“幻覺(jué)”現(xiàn)象已成為制約其可靠性與實(shí)用性的關(guān)鍵問(wèn)題之一。

所謂幻覺(jué)，即在缺乏事實(shí)支撐或邏輯校驗(yàn)的情況下，生成出語(yǔ)義連貫但事實(shí)錯(cuò)誤或虛構(gòu)的信息?；糜X(jué)不僅體現(xiàn)在細(xì)節(jié)性誤報(bào)，更可能在多輪對(duì)話、復(fù)雜任務(wù)規(guī)劃中造成系統(tǒng)性誤導(dǎo)。

“幻覺(jué)的成因在于當(dāng)前大模型仍以統(tǒng)計(jì)相關(guān)性驅(qū)動(dòng)語(yǔ)言生成，缺乏對(duì)世界知識(shí)的結(jié)構(gòu)化表征與因果推理能力，無(wú)法對(duì)生成內(nèi)容進(jìn)行驗(yàn)證、糾錯(cuò)或自我否定，難以實(shí)現(xiàn)真正的認(rèn)知躍遷?！编嵞蠈幷f(shuō)。