每經(jīng)記者｜張韻    每經(jīng)編輯｜魏官紅    

“在生成式AI（人工智能）的熱潮下，價(jià)值挖掘與風(fēng)險(xiǎn)防控的失衡已成為企業(yè)必須跨越的鴻溝。”“2025世界人工智能大會(huì)”期間，德勤中國(guó)提出，技術(shù)狂奔與風(fēng)險(xiǎn)管理的落差，本質(zhì)是傳統(tǒng)框架難以適配新變量。

如何讓生成式AI的潛力真正轉(zhuǎn)化為可持續(xù)的商業(yè)價(jià)值？德勤科技、媒體、電信行業(yè)主管合伙人程中在接受《每日經(jīng)濟(jì)新聞》記者（以下簡(jiǎn)稱NBD）專訪時(shí)表示，生成式AI治理并非是可暫緩的選項(xiàng)，企業(yè)須盡快行動(dòng)起來(lái)。人員上明確權(quán)責(zé)、提升素養(yǎng)，流程上貫穿全生命周期控險(xiǎn)合規(guī)，技術(shù)上借平臺(tái)破解黑箱難題，三者協(xié)同才能在競(jìng)爭(zhēng)中占據(jù)主動(dòng)。

“過(guò)去一年，我們看到一種趨勢(shì)：企業(yè)已從追問(wèn)要不要做生成式AI，轉(zhuǎn)向如何做得更好。”程中認(rèn)為，真正的競(jìng)爭(zhēng)在于誰(shuí)能更快將技術(shù)轉(zhuǎn)化為業(yè)務(wù)流程的實(shí)際增效，其中，聚焦至關(guān)重要，需優(yōu)先投資可驗(yàn)證回報(bào)的實(shí)際案例。

德勤科技、媒體、電信行業(yè)主管合伙人程中

圖片來(lái)源：企業(yè)供圖

企業(yè)AI投資需經(jīng)歷漫長(zhǎng)陣痛期

NBD：在企業(yè)的AI化重構(gòu)過(guò)程中，推動(dòng)AI邁向真正能被財(cái)務(wù)報(bào)表驗(yàn)證的ROI（投資回報(bào)率）閉環(huán)需要經(jīng)歷怎樣的陣痛期？

程中：AI化重構(gòu)過(guò)程通常有四個(gè)階段。企業(yè)起初需要建立AI戰(zhàn)略愿景，這個(gè)時(shí)候，管理層對(duì)AI的ROI預(yù)期與實(shí)際存在較大落差，且各部門(mén)多為自發(fā)推進(jìn)項(xiàng)目，缺乏統(tǒng)一的方向與協(xié)同機(jī)制。

到了試點(diǎn)探索階段，企業(yè)會(huì)通過(guò)小范圍試點(diǎn)來(lái)驗(yàn)證AI在具體場(chǎng)景的可行性與效率提升潛力，但存在“價(jià)值量化難”的問(wèn)題。同時(shí)，IT（信息技術(shù)）部門(mén)與業(yè)務(wù)部門(mén)協(xié)作不暢，模型部署與業(yè)務(wù)流程嵌入脫節(jié)。

接下來(lái)企業(yè)會(huì)將AI深度嵌入核心業(yè)務(wù)流程，此時(shí)業(yè)務(wù)團(tuán)隊(duì)容易對(duì)傳統(tǒng)流程產(chǎn)生路徑依賴，導(dǎo)致對(duì)AI決策的信任度不足。

最后才是財(cái)務(wù)映射階段，企業(yè)建立起AI投資與財(cái)務(wù)指標(biāo)的直接關(guān)聯(lián)。當(dāng)然這個(gè)時(shí)候，企業(yè)仍會(huì)面臨陣痛，比如AI帶來(lái)的客戶滿意度提升等間接收益難以量化入賬。

NBD：面對(duì)企業(yè)舊系統(tǒng)改造的高成本，是否有輕量化方案實(shí)現(xiàn)整體的AI架構(gòu)升級(jí)？企業(yè)現(xiàn)有AI投資應(yīng)該如何規(guī)避技術(shù)路線顛覆帶來(lái)的成本風(fēng)險(xiǎn)？

程中：多數(shù)傳統(tǒng)企業(yè)面臨遺留系統(tǒng)復(fù)雜、預(yù)算有限、AI人才缺乏等挑戰(zhàn)，可通過(guò)“輕架構(gòu)、軟集成、分布式演進(jìn)”實(shí)現(xiàn)AI架構(gòu)升級(jí)。

所謂輕架構(gòu)是將AI能力封裝為API服務(wù)，降低對(duì)核心系統(tǒng)的重構(gòu)壓力；軟集成是采用智能體、RPA（機(jī)器人流程自動(dòng)化）與AI協(xié)同工具，將AI接入現(xiàn)有流程而非替代流程；分布式演進(jìn)則是聚焦高ROI、高數(shù)據(jù)成熟度的場(chǎng)景（如客服、報(bào)告生成、供應(yīng)鏈預(yù)測(cè)）優(yōu)先落地，而非追求一次性全流程打通。

為規(guī)避技術(shù)路線顛覆帶來(lái)的成本風(fēng)險(xiǎn)，建議企業(yè)對(duì)現(xiàn)有AI投資保持技術(shù)選型的靈活性，提前布局新興技術(shù)，具備快速切換技術(shù)路線的能力。此外，通過(guò)與技術(shù)供應(yīng)商簽訂靈活合同，約定技術(shù)升級(jí)、維護(hù)責(zé)任，也可降低技術(shù)路線變更成本。

如何破除幻覺(jué)與黑箱？投資可信AI

NBD：在流程中嵌入AI后，企業(yè)的日常決策如何擺脫大模型幻覺(jué)帶來(lái)的負(fù)面影響？您認(rèn)為最該優(yōu)先解決哪類幻覺(jué)？德勤如何幫助企業(yè)量化幻覺(jué)導(dǎo)致的隱性成本？

程中：“幻覺(jué)”表現(xiàn)為輸出流暢但存在事實(shí)錯(cuò)誤或邏輯不嚴(yán)謹(jǐn)，可能損害業(yè)務(wù)判斷和合規(guī)性。德勤提出的“可信人工智能框架”建議企業(yè)構(gòu)建多層防線，比如明確人工審核角色，設(shè)置結(jié)構(gòu)化事實(shí)核查環(huán)節(jié)，建立留痕和持續(xù)學(xué)習(xí)機(jī)制。

我們認(rèn)為，最優(yōu)先應(yīng)解決的是結(jié)構(gòu)性幻覺(jué)。這類幻覺(jué)常出現(xiàn)在AI輸出表格、圖表、摘要、數(shù)據(jù)分析結(jié)果時(shí)，表面上看邏輯清晰、格式整齊，但基礎(chǔ)數(shù)據(jù)虛構(gòu)、推理鏈條斷裂，極易誤導(dǎo)決策者，風(fēng)險(xiǎn)高于開(kāi)放式文本幻覺(jué)。

正如你所說(shuō)，幻覺(jué)帶來(lái)的成本具有“隱形特征”，會(huì)產(chǎn)生客戶被誤導(dǎo)、運(yùn)營(yíng)錯(cuò)誤、內(nèi)容重復(fù)勞動(dòng)，乃至聲譽(yù)或法律風(fēng)險(xiǎn)的嚴(yán)重后果。要量化這些隱形成本，可以通過(guò)評(píng)估模型輸出準(zhǔn)確率、重復(fù)率等指標(biāo)；用實(shí)際運(yùn)營(yíng)數(shù)據(jù)建模潛在影響；核算重工成本的時(shí)間和人效損失，形成ROI對(duì)比分析。

NBD：具體到醫(yī)療診斷、金融合規(guī)、司法文書(shū)等容錯(cuò)率近零的場(chǎng)景，該如何降低AI風(fēng)險(xiǎn)？

程中：我們建議通過(guò)系統(tǒng)性手段構(gòu)建幻覺(jué)熔斷機(jī)制，確保AI輸出不直接用于高風(fēng)險(xiǎn)決策。技術(shù)路線選擇需滿足“確定性+可控性”，建議優(yōu)先采用小模型與專家規(guī)則的混合架構(gòu)，尤其在法律、合規(guī)等規(guī)則明確領(lǐng)域，其可靠性優(yōu)于黑箱大模型。另外，用行業(yè)領(lǐng)域數(shù)據(jù)對(duì)模型微調(diào)，并對(duì)接專屬知識(shí)庫(kù)，可以提升輸出準(zhǔn)確率與可解釋性。技術(shù)選型時(shí)必須具備詳細(xì)日志能力，支持模型輸出可追溯與責(zé)任歸因。

圖片來(lái)源：企業(yè)供圖

NBD：當(dāng)發(fā)展AI智能體提高到了企業(yè)的戰(zhàn)略高度，董事會(huì)應(yīng)該如何驅(qū)動(dòng)員工更好地訓(xùn)練與應(yīng)用智能體？對(duì)于媒體部署AI智能體完成基礎(chǔ)寫(xiě)稿任務(wù)，您會(huì)提出怎樣的風(fēng)險(xiǎn)警示與戰(zhàn)略路線？

程中：我們建議董事會(huì)重新定義“人機(jī)”的價(jià)值邊界，強(qiáng)調(diào)AI智能體是“增強(qiáng)工具”而非“替代者”，提供培訓(xùn)與獎(jiǎng)勵(lì)。比如，在媒體行業(yè)中，讓編輯參與智能體的Prompt調(diào)教、內(nèi)容審核和標(biāo)準(zhǔn)制定，也要注意設(shè)置“AI使用紅線”，如敏感內(nèi)容必須通過(guò)人工審核。

當(dāng)前，AI寫(xiě)稿仍存在缺乏深度、事實(shí)偏差、版權(quán)糾紛、輿論爭(zhēng)議等風(fēng)險(xiǎn)，在戰(zhàn)略選擇上，建議先用于基礎(chǔ)場(chǎng)景，如資訊、數(shù)據(jù)稿等，然后對(duì)AI智能體進(jìn)行針對(duì)性訓(xùn)練，利用自有數(shù)據(jù)提升其對(duì)媒體風(fēng)格、內(nèi)容要求的適應(yīng)性，采用“試驗(yàn)沙盒+反饋閉環(huán)”機(jī)制，從低風(fēng)險(xiǎn)場(chǎng)景逐步拓展，在應(yīng)用中持續(xù)優(yōu)化，使AI智能體逐步成為團(tuán)隊(duì)的可靠協(xié)作伙伴。

生成式AI步入價(jià)值創(chuàng)造關(guān)鍵期

NBD：當(dāng)董事會(huì)要求徹底消除幻覺(jué)并破解黑箱難題，您會(huì)如何做出建議？您認(rèn)為有效的AI治理范式應(yīng)該如何進(jìn)行？

程中：我認(rèn)為，要消除幻覺(jué)并破解黑箱難題，企業(yè)不僅要明確AI使用邊界，還要提升技術(shù)的透明性與可解釋性，將AI治理運(yùn)營(yíng)化。

有效的AI治理范式應(yīng)該是從被動(dòng)到主動(dòng)的轉(zhuǎn)變，如在戰(zhàn)略層面，制定清晰的AI發(fā)展戰(zhàn)略與目標(biāo)，明確AI在企業(yè)中的定位與作用；在組織層面，設(shè)立專門(mén)的AI治理團(tuán)隊(duì)，負(fù)責(zé)監(jiān)督AI應(yīng)用合規(guī)性、風(fēng)險(xiǎn)管理等；在技術(shù)層面，采用可解釋AI技術(shù)、數(shù)據(jù)治理工具，保障AI系統(tǒng)透明、可控；在文化層面，培養(yǎng)員工AI素養(yǎng)，樹(shù)立正確使用AI的意識(shí)與態(tài)度。

NBD：多數(shù)企業(yè)仍將AI安全視為負(fù)擔(dān)，如何破解這種思維慣性？安全投入在直接驅(qū)動(dòng)營(yíng)收時(shí)有怎樣的具體表現(xiàn)？

程中：與將AI簡(jiǎn)單疊加于遺留系統(tǒng)的零散方案不同，首先企業(yè)應(yīng)該構(gòu)建統(tǒng)一架構(gòu)，使AI成為核心支柱，并在各流程中整合治理模型。德勤藍(lán)圖可以幫助企業(yè)有效完成網(wǎng)絡(luò)戰(zhàn)略與企業(yè)AI轉(zhuǎn)型的協(xié)同規(guī)劃，企業(yè)也要建設(shè)AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全團(tuán)隊(duì)，提升團(tuán)隊(duì)與AI工具的協(xié)作能力。

保障數(shù)據(jù)安全可防止因數(shù)據(jù)泄露導(dǎo)致的客戶流失，維持甚至增加營(yíng)收。滿足合規(guī)要求，企業(yè)能避免巨額罰款，確保業(yè)務(wù)正常開(kāi)展。安全可靠的AI系統(tǒng)可提升客戶滿意度與忠誠(chéng)度，促進(jìn)客戶復(fù)購(gòu)與口碑傳播，間接增加營(yíng)收。

在實(shí)踐中，某金融服務(wù)公司將AI集成到網(wǎng)絡(luò)安全架構(gòu)，實(shí)現(xiàn)威脅檢測(cè)自動(dòng)化，事件響應(yīng)時(shí)間減少60%；某制造企業(yè)通過(guò)德勤治理框架，減少40%的停機(jī)時(shí)間，生產(chǎn)效率提升直接帶動(dòng)營(yíng)收增長(zhǎng)。