每經(jīng)記者｜張 韻    每經(jīng)編輯｜魏官紅    

“在生成式AI（人工智能）的熱潮下，價值挖掘與風(fēng)險防控的失衡已成為企業(yè)必須跨越的鴻溝。”2025世界人工智能大會暨人工智能全球治理高級別會議（WAIC2025）期間，德勤中國提出，技術(shù)狂奔與風(fēng)險管理的落差，本質(zhì)是傳統(tǒng)框架難以適配新變量。

視覺中國圖

如何讓生成式AI的潛力真正轉(zhuǎn)化為可持續(xù)的商業(yè)價值？德勤中國科技、媒體、電信（TMT）行業(yè)主管合伙人程中在接受《每日經(jīng)濟(jì)新聞》記者（以下簡稱NBD）專訪時表示，生成式AI治理并非是可暫緩的選項，企業(yè)須盡快行動起來。人員上明確權(quán)責(zé)、提升素養(yǎng)，流程上貫穿全生命周期控險合規(guī)，技術(shù)上借平臺破解黑箱難題，三者協(xié)同才能在競爭中占據(jù)主動。

“過去一年，我們看到一種趨勢：企業(yè)已從追問要不要做生成式AI，轉(zhuǎn)向如何做得更好。”程中認(rèn)為，（企業(yè)間）真正的競爭，在于誰能更快將技術(shù)轉(zhuǎn)化為業(yè)務(wù)流程的實際增效，其中，聚焦至關(guān)重要，需優(yōu)先投資可驗證回報的實際案例。

談企業(yè)AI化重構(gòu)：要經(jīng)歷漫長陣痛期

NBD：在企業(yè)的AI化重構(gòu)過程中，推動AI邁向真正能被財務(wù)報表驗證的ROI（投資回報率）閉環(huán)需要經(jīng)歷怎樣的陣痛期？

程中：AI化重構(gòu)過程通常有四個階段。企業(yè)起初需要建立AI戰(zhàn)略愿景，這個時候，管理層對AI的ROI預(yù)期與實際存在較大落差，且各部門多為自發(fā)推進(jìn)項目，缺乏統(tǒng)一的方向與協(xié)同機(jī)制。

到了試點(diǎn)探索階段，企業(yè)會通過小范圍試點(diǎn)來驗證AI在具體場景的可行性與效率提升潛力，但存在“價值量化難”的問題。同時，IT（信息技術(shù)）部門與業(yè)務(wù)部門協(xié)作不暢，模型部署與業(yè)務(wù)流程嵌入脫節(jié)。

接下來企業(yè)會將AI深度嵌入核心業(yè)務(wù)流程，此時業(yè)務(wù)團(tuán)隊容易對傳統(tǒng)流程產(chǎn)生路徑依賴，導(dǎo)致對AI決策的信任度不足。

最后才是財務(wù)映射階段，企業(yè)建立起AI投資與財務(wù)指標(biāo)的直接關(guān)聯(lián)。當(dāng)然這個時候，企業(yè)仍會面臨陣痛，比如AI帶來的客戶滿意度提升等間接收益難以量化入賬。

NBD：面對企業(yè)舊系統(tǒng)改造的高成本，是否有輕量化方案實現(xiàn)整體的AI架構(gòu)升級？企業(yè)現(xiàn)有AI投資應(yīng)該如何規(guī)避技術(shù)路線顛覆帶來的成本風(fēng)險？

程中：多數(shù)傳統(tǒng)企業(yè)面臨遺留系統(tǒng)復(fù)雜、預(yù)算有限、AI人才缺乏等挑戰(zhàn)，可通過“輕架構(gòu)、軟集成、分布式演進(jìn)”實現(xiàn)AI架構(gòu)升級。

所謂輕架構(gòu)是將AI能力封裝為API服務(wù)，降低對核心系統(tǒng)的重構(gòu)壓力；軟集成是采用智能體、RPA（機(jī)器人流程自動化）與AI協(xié)同工具，將AI接入現(xiàn)有流程而非替代流程；分布式演進(jìn)則是聚焦高ROI、高數(shù)據(jù)成熟度的場景（如客服、報告生成、供應(yīng)鏈預(yù)測）優(yōu)先落地，而非追求一次性全流程打通。

為規(guī)避技術(shù)路線顛覆帶來的成本風(fēng)險，建議企業(yè)對現(xiàn)有AI投資保持技術(shù)選型的靈活性，提前布局新興技術(shù)，具備快速切換技術(shù)路線的能力。此外，通過與技術(shù)供應(yīng)商簽訂靈活合同，約定技術(shù)升級、維護(hù)責(zé)任，也可降低技術(shù)路線變更成本。

談AI智能體：是“增強(qiáng)工具”而非“替代者”

NBD：在流程中嵌入AI后，企業(yè)的日常決策如何擺脫大模型幻覺帶來的負(fù)面影響？您認(rèn)為最該優(yōu)先解決哪類幻覺？德勤如何幫助企業(yè)量化幻覺導(dǎo)致的隱性成本？

程中：“幻覺”表現(xiàn)為輸出流暢但存在事實錯誤或邏輯不嚴(yán)謹(jǐn)，可能損害業(yè)務(wù)判斷和合規(guī)性。德勤提出的“可信人工智能框架”建議企業(yè)構(gòu)建多層防線，比如明確人工審核角色，設(shè)置結(jié)構(gòu)化事實核查環(huán)節(jié)，建立留痕和持續(xù)學(xué)習(xí)機(jī)制。

我們認(rèn)為，最優(yōu)先應(yīng)解決的是結(jié)構(gòu)性幻覺。這類幻覺常出現(xiàn)在AI輸出表格、圖表、摘要、數(shù)據(jù)分析結(jié)果時，表面上看邏輯清晰、格式整齊，但基礎(chǔ)數(shù)據(jù)虛構(gòu)、推理鏈條斷裂，極易誤導(dǎo)決策者，風(fēng)險高于開放式文本幻覺。

正如你所說，幻覺帶來的成本具有“隱形特征”，會產(chǎn)生客戶被誤導(dǎo)、運(yùn)營錯誤、內(nèi)容重復(fù)勞動乃至聲譽(yù)或法律風(fēng)險的嚴(yán)重后果。要量化這些隱形成本，可以通過評估模型輸出準(zhǔn)確率、重復(fù)率等指標(biāo)；用實際運(yùn)營數(shù)據(jù)建模潛在影響；核算重工成本的時間和人效損失，形成ROI對比分析。

NBD：當(dāng)發(fā)展AI智能體提高到了企業(yè)的戰(zhàn)略高度，董事會應(yīng)該如何驅(qū)動員工更好地訓(xùn)練與應(yīng)用智能體？對于媒體部署AI智能體完成基礎(chǔ)寫稿任務(wù)，您會提出怎樣的風(fēng)險警示與戰(zhàn)略路線？

程中：我們建議董事會重新定義“人機(jī)”的價值邊界，強(qiáng)調(diào)AI智能體是“增強(qiáng)工具”而非“替代者”，提供培訓(xùn)與獎勵。比如，在媒體行業(yè)中，讓編輯參與智能體的Prompt調(diào)教、內(nèi)容審核和標(biāo)準(zhǔn)制定，也要注意設(shè)置“AI使用紅線”，如敏感內(nèi)容必須通過人工審核。

當(dāng)前，AI寫稿仍存在缺乏深度、事實偏差、版權(quán)糾紛、輿論爭議等風(fēng)險，在戰(zhàn)略選擇上，建議先用于基礎(chǔ)場景，如資訊、數(shù)據(jù)稿等，然后對AI智能體進(jìn)行針對性訓(xùn)練，利用自有數(shù)據(jù)提升其對媒體風(fēng)格、內(nèi)容要求的適應(yīng)性，采用“試驗沙盒+反饋閉環(huán)”機(jī)制，從低風(fēng)險場景逐步拓展，在應(yīng)用中持續(xù)優(yōu)化，使AI智能體逐步成為團(tuán)隊的可靠協(xié)作伙伴。

談AI治理范式：應(yīng)從被動到主動轉(zhuǎn)變

NBD：當(dāng)董事會要求徹底消除幻覺并破解黑箱難題，您會如何做出建議？您認(rèn)為有效的AI治理范式應(yīng)該如何進(jìn)行？

程中：我認(rèn)為，要消除幻覺并破解黑箱難題，企業(yè)不僅要明確AI使用邊界，還要提升技術(shù)的透明性與可解釋性，將AI治理運(yùn)營化。

有效的AI治理范式應(yīng)該是從被動到主動的轉(zhuǎn)變，如在戰(zhàn)略層面，制定清晰的AI發(fā)展戰(zhàn)略與目標(biāo)，明確AI在企業(yè)中的定位與作用；在組織層面，設(shè)立專門的AI治理團(tuán)隊，負(fù)責(zé)監(jiān)督AI應(yīng)用合規(guī)性、風(fēng)險管理等；在技術(shù)層面，采用可解釋AI技術(shù)、數(shù)據(jù)治理工具，保障AI系統(tǒng)透明、可控；在文化層面，培養(yǎng)員工AI素養(yǎng)，樹立正確使用AI的意識與態(tài)度。

NBD：多數(shù)企業(yè)仍將AI安全視為負(fù)擔(dān)，如何破解這種思維慣性？安全投入在直接驅(qū)動營收時有怎樣的具體表現(xiàn)？

程中：與將AI簡單疊加于遺留系統(tǒng)的零散方案不同，企業(yè)應(yīng)該構(gòu)建統(tǒng)一架構(gòu)，使AI成為核心支柱，并在各流程中整合治理模型。德勤藍(lán)圖可以幫助企業(yè)有效完成網(wǎng)絡(luò)戰(zhàn)略與企業(yè)AI轉(zhuǎn)型的協(xié)同規(guī)劃，企業(yè)也要建設(shè)AI驅(qū)動的網(wǎng)絡(luò)安全團(tuán)隊，提升團(tuán)隊與AI工具的協(xié)作能力。

保障數(shù)據(jù)安全可防止因數(shù)據(jù)泄露導(dǎo)致的客戶流失，維持甚至增加營收。滿足合規(guī)要求，企業(yè)能避免巨額罰款，確保業(yè)務(wù)正常開展。安全可靠的AI系統(tǒng)可提升客戶滿意度與忠誠度，促進(jìn)客戶復(fù)購與口碑傳播，間接增加營收。

在實踐中，比如，某金融服務(wù)公司將AI集成到網(wǎng)絡(luò)安全架構(gòu)，實現(xiàn)威脅檢測自動化，事件響應(yīng)時間減少60%。

封面圖片來源：視覺中國圖