當前，我國AI大模型的應用呈現迅猛增長(cháng)態(tài)勢。QuestMobile發(fā)布的最新數據顯示，DeepSeek上線(xiàn)次月（2025年2月），活躍用戶(hù)規模就突破了1.8億。但在A(yíng)I應用大眾化的同時(shí)，也有不少網(wǎng)友驚呼：與AI的蜜月期還沒(méi)有結束，就發(fā)現它在騙我！

　　有人用AI查資料，發(fā)現AI會(huì )編造假論文，期刊名稱(chēng)、論文標題、作者、網(wǎng)址等信息一應俱全，可全是編的；曾有一條“80后死亡率突破5.2%”的假新聞廣為流傳，據辟謠者分析，最初的信源可能來(lái)自AI對話(huà)……

　　這其實(shí)不是新問(wèn)題，而是在大模型誕生之初就存在的老毛病——AI幻覺(jué)。甚至有專(zhuān)家認為，AI幻覺(jué)是大模型的“基因病”。因為AI大模型訓練依賴(lài)海量數據，但數據的真實(shí)性卻無(wú)人擔保。AI大模型訓練過(guò)程中，是將海量數據高度壓縮抽象，輸入的是內容之間關(guān)系的數學(xué)表征，而不是內容本身。AI與人類(lèi)對話(huà)時(shí)，模型基于統計概率生成文本，追求流暢性而非真實(shí)性，很容易編出看似流暢但完全不符合事實(shí)的內容。

　　既然AI幻覺(jué)是“基因病”，那這病能治嗎？要怎么治？

　　首先，AI幻覺(jué)也帶來(lái)了AI的“超能力”，沒(méi)必要根除。

　　AI幻覺(jué)也有好的一面。AI自主生成內容是大語(yǔ)言模型的突出特點(diǎn)，是最具想象力的技術(shù)突破。作為大模型與生俱來(lái)的特點(diǎn)，AI幻覺(jué)決定了大模型的創(chuàng )造力，對實(shí)現通用人工智能（AGI）非常重要，并可在科研、文藝等領(lǐng)域發(fā)揮作用。

　　比如，游戲開(kāi)發(fā)、動(dòng)漫設計、小說(shuō)創(chuàng )作等領(lǐng)域歡迎奇思妙想，AI幻覺(jué)可以突破思維定式，為創(chuàng )作提供靈感。再如，科學(xué)研究中往往也需要非常規思路來(lái)破局闖關(guān)，AI不走尋常路的創(chuàng )造力，可以推動(dòng)科研工作出現“AI幻覺(jué)—實(shí)驗驗證—理論重構”的新范式。

　　其次，AI幻覺(jué)雖不可根除，但可以控制。

　　對于A(yíng)I幻覺(jué)，我們不能放任自流。一方面，AI幻覺(jué)產(chǎn)生大量虛假信息，這些虛假信息被新一代AI系統學(xué)習，就會(huì )形成“數據污染—算法吸收—再污染”的惡性循環(huán)。另一方面，在企業(yè)生產(chǎn)、醫療、法律等容錯率很低的領(lǐng)域，AI幻覺(jué)可是“要命”的大毛病。因此，我們要從技術(shù)研發(fā)和管理機制上雙管齊下，防范AI幻覺(jué)信息的泛濫。

　　技術(shù)層面，檢索增強生成（RAG）技術(shù)、多模型交叉驗證、動(dòng)態(tài)知識更新機制等，都已被證明是減少AI幻覺(jué)的有效手段。未來(lái)，還需要繼續提升訓練數據質(zhì)量與清洗標準，嚴格檢測數據的來(lái)源和真實(shí)性，減少噪聲干擾；引入強化學(xué)習與人類(lèi)反饋機制，提升AI邏輯推理能力；增強AI大模型檢測能力，用AI監管AI。

　　用戶(hù)層面，對AI輸出的答案不要直接采信，可以用多個(gè)AI模型分別生成答案再交叉驗證、對照取優(yōu)，對關(guān)鍵任務(wù)輸出更有必要采取人工交叉驗證，結合文獻數據庫、行業(yè)知識圖譜等專(zhuān)業(yè)工具作出判斷。

　　監管層面，“標注AI生成內容”已成為我國監管部門(mén)推動(dòng)的方向，這體現了對生成式人工智能的透明度要求，將提高AI生成內容的可追溯性和可解釋性。未來(lái)，我們還應加快人工智能法立法進(jìn)程，建立全周期全鏈條監管體系。

　　實(shí)現“不被AI忽悠”目標，既需要算法工程師構建底層安全防線(xiàn)，也需要全社會(huì )共同建設可信AI生態(tài)。期待中國AI產(chǎn)業(yè)解決好這道AI幻覺(jué)控制難題，在創(chuàng )造力與真實(shí)性之間取得平衡。（本文來(lái)源：經(jīng)濟日報 作者：佘惠敏）