3月23日，在中國(guó)發(fā)展高層論壇2026年年會(huì)“人工智能治理：挑戰(zhàn)與合作專(zhuān)題研討會(huì)”上，清華大學(xué)蘇世民書(shū)院院長(zhǎng)、教授薛瀾表示，智能體快速發(fā)展背后帶來(lái)多重風(fēng)險(xiǎn)挑戰(zhàn)，治理工作應(yīng)轉(zhuǎn)變思路，從技術(shù)、監(jiān)管及社會(huì)層面做好風(fēng)險(xiǎn)應(yīng)對(duì)。
薛瀾認(rèn)為，智能體作為人工智能的重要新形態(tài)，與傳統(tǒng)AI大模型有本質(zhì)區(qū)別。如果將傳統(tǒng)AI大模型比作“大腦”，智能體則為這個(gè)“大腦”裝上了“手”、工具與記憶，使其能夠自主完成復(fù)雜的實(shí)際任務(wù)，實(shí)現(xiàn)了從“對(duì)話(huà)式AI”向“行動(dòng)式AI”的關(guān)鍵跨越。當(dāng)下國(guó)內(nèi)爆火的“養(yǎng)龍蝦”（OpenClaw）作為開(kāi)源AI智能體框架，正是智能體技術(shù)落地應(yīng)用的典型代表。
就如何應(yīng)對(duì)惡意使用、故障問(wèn)題、系統(tǒng)性風(fēng)險(xiǎn)等智能體治理挑戰(zhàn)，薛瀾認(rèn)為，應(yīng)堅(jiān)持“以人為本、智能向善”的基本原則，并采取適合智能體特點(diǎn)的“敏捷治理、多元共治”模式。他提出，治理模式可在原有大語(yǔ)言模型治理基礎(chǔ)上進(jìn)行三點(diǎn)調(diào)整：從內(nèi)容安全延伸到行為安全，從靜態(tài)邊界管理轉(zhuǎn)向動(dòng)態(tài)邊界管理，從單純的風(fēng)險(xiǎn)防控轉(zhuǎn)向可信交互。
在具體的治理舉措上，薛瀾提出三方面建議：
技術(shù)層面，安全可控是底線(xiàn)，通過(guò)技術(shù)架構(gòu)設(shè)計(jì)確保智能體的行為可驗(yàn)證、可干預(yù)。具體包括實(shí)施權(quán)限隔離、內(nèi)控機(jī)制，讓人類(lèi)掌握關(guān)鍵環(huán)節(jié)的控制權(quán)；搭建全流程的安全部署體系，持續(xù)進(jìn)行監(jiān)控評(píng)估，實(shí)現(xiàn)核心執(zhí)行環(huán)境的安全保障。
監(jiān)管層面，權(quán)責(zé)清晰是基礎(chǔ)，通過(guò)制度設(shè)計(jì)明確各方主體責(zé)任，為技術(shù)創(chuàng)新提供明確的規(guī)則指引；建立分級(jí)監(jiān)管體系，根據(jù)智能體的應(yīng)用場(chǎng)景與風(fēng)險(xiǎn)等級(jí)匹配相應(yīng)的監(jiān)管力度。
社會(huì)層面，構(gòu)建起全方位的風(fēng)險(xiǎn)應(yīng)對(duì)體系。一是培養(yǎng)從業(yè)者與智能體協(xié)作的新技能，適配人機(jī)協(xié)作的未來(lái)就業(yè)模式；二是完善就業(yè)保障機(jī)制，建立健全專(zhuān)業(yè)的社會(huì)培訓(xùn)與轉(zhuǎn)崗機(jī)制；三是強(qiáng)化社會(huì)保障，健全失業(yè)與再就業(yè)支持體系，彌補(bǔ)就業(yè)轉(zhuǎn)型過(guò)程中的銜接缺口；四是加強(qiáng)公共教育，提升全社會(huì)對(duì)人工智能的認(rèn)知水平與風(fēng)險(xiǎn)識(shí)別能力，既避免盲目跟風(fēng)，也引導(dǎo)社會(huì)理性擁抱智能體技術(shù)。
中國(guó)發(fā)展高層論壇2026年年會(huì)于3月22日-23日在北京舉行。本次年會(huì)由國(guó)務(wù)院發(fā)展研究中心主辦，主題為“‘十五五’的中國(guó)：高質(zhì)量發(fā)展與共創(chuàng)新機(jī)遇”。
編輯：李華山
