原標(biāo)題：專家解讀｜以規(guī)范應(yīng)用護航智能體發(fā)展行穩(wěn)致遠(yuǎn)

　　當(dāng)前，以自主感知、記憶、決策、交互與執(zhí)行為核心的智能體技術(shù)，正從前沿技術(shù)探索邁向規(guī)模化應(yīng)用，并加速進入各種垂類場景，新的應(yīng)用形態(tài)及商業(yè)模式持續(xù)涌現(xiàn)，成為塑造新質(zhì)生產(chǎn)力、推動社會智能化轉(zhuǎn)型的重要驅(qū)動力。然而，智能體在延續(xù)人工智能技術(shù)現(xiàn)有各類風(fēng)險的同時，也帶來權(quán)限過大、行為失控、工具投毒等新型風(fēng)險，引發(fā)全社會廣泛關(guān)注。近日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部聯(lián)合印發(fā)《智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展實施意見》（以下簡稱《實施意見》），旨在進一步落實國務(wù)院《關(guān)于深入實施“人工智能+”行動的意見》，促進智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展?！秾嵤┮庖姟废到y(tǒng)回應(yīng)如何在智能體技術(shù)快速迭代演進，潛在風(fēng)險日益復(fù)雜的背景下，確保其行進在安全、可靠、可信的軌道上。

　　一、智能體新技術(shù)發(fā)展帶來新治理挑戰(zhàn)

　　智能體技術(shù)的發(fā)展使人工智能治理的邏輯發(fā)生深刻變化。相較于大模型，智能體進一步展現(xiàn)出自主性、交互性等特征，能夠理解復(fù)雜目標(biāo)、自主規(guī)劃并執(zhí)行一系列任務(wù)。這也意味著人工智能的風(fēng)險性質(zhì)已經(jīng)從內(nèi)容風(fēng)險向行為風(fēng)險擴散，且影響范圍更廣，傳導(dǎo)速度更快，責(zé)任主體更加模糊。一方面，智能體在復(fù)雜環(huán)境中出現(xiàn)的錯誤決策或越權(quán)操作可能直接導(dǎo)致事故，另一方面，攻擊者也可能通過工具投毒等各類新型手段劫持智能體用于違法犯罪行為。這一根本變化，使得智能體治理不僅要對靜態(tài)“輸出內(nèi)容”進行管理，也要對動態(tài)“行為邊界”進行規(guī)范。

　　二、多措并舉筑牢智能體安全防范底線

　　《實施意見》的出臺，正是對現(xiàn)有人工智能治理體系的必要深化與拓展，從明確產(chǎn)品準(zhǔn)則、防范安全風(fēng)險、完善治理體系、強化行業(yè)自律四個方面著手，多措并舉構(gòu)建智能體治理體系。

　　一是明確產(chǎn)品準(zhǔn)則?！秾嵤┮庖姟芳皶r回應(yīng)了智能體授權(quán)決策邊界這一關(guān)鍵問題，要求厘清僅限用戶本人決策、需由用戶授權(quán)決策、智能體自主決策等不同決策方式的合理界限，確保用戶對智能體自主決策享有知情權(quán)和最終決策權(quán)。加強智能體行為管控，確保智能體行為合法合規(guī)、可追溯、可驗證。同時確保智能體行為符合主流價值導(dǎo)向，重點防范未成年人、老年人等群體的沉迷成癮、情感依賴風(fēng)險。

　　二是防范安全風(fēng)險。《實施意見》重點關(guān)注智能體內(nèi)生安全、供應(yīng)鏈安全及應(yīng)用衍生安全風(fēng)險，通過推動相關(guān)安全技術(shù)研究和風(fēng)險識別預(yù)警提升風(fēng)險防范能力，要求強化對智能體全鏈條安全風(fēng)險的防范，尤其是避免智能體被惡意用于違法犯罪行為，防止智能體風(fēng)險的衍生和擴散。

　　三是完善治理體系。敏捷治理強調(diào)治理機制的適應(yīng)性與響應(yīng)速度，《實施意見》明確提出要構(gòu)建分類分級的治理框架，根據(jù)應(yīng)用場景和潛在影響，審慎穩(wěn)妥地開展智能體分級治理，并針對不同風(fēng)險級別應(yīng)用場景，采取備案、檢測、產(chǎn)品召回、信息報告、平臺管理、行業(yè)自律等多元舉措實現(xiàn)高效治理，推動健全第三方專業(yè)合規(guī)服務(wù)體系。

　　四是強化行業(yè)自律。行業(yè)自律可填補法律剛性規(guī)制與技術(shù)創(chuàng)新靈活性之間的“治理間隙”，快速匯聚共識?！秾嵤┮庖姟饭膭钚袠I(yè)組織、主要企業(yè)聯(lián)合制定智能體功能合規(guī)、算法治理等規(guī)范細(xì)則。聚焦智能體開發(fā)者、開發(fā)平臺、分發(fā)平臺、服務(wù)提供者等多元主體，指導(dǎo)建立公平合理的平臺規(guī)則及用戶協(xié)議，加強智能體相關(guān)風(fēng)險的宣傳教育和用戶培訓(xùn)。并鼓勵探索智能體信用評價機制，引導(dǎo)各方參與信用評價，共同營造良好發(fā)展環(huán)境。

　　三、邁向可信的智能未來

　　《實施意見》的出臺有助于為智能體這一快速演進的技術(shù)領(lǐng)域，構(gòu)建起一套基礎(chǔ)性的治理和發(fā)展框架。

　　一是為產(chǎn)業(yè)提供確定性的發(fā)展預(yù)期。清晰的政策規(guī)則能降低市場不確定性，幫助企業(yè)明確研發(fā)與商業(yè)化的邊界，將資源和投資更有效地集中于符合規(guī)范的技術(shù)創(chuàng)新與場景探索，有助于形成穩(wěn)定、可持續(xù)的產(chǎn)業(yè)發(fā)展環(huán)境，避免因規(guī)則缺失或模糊而引發(fā)的市場無序狀態(tài)。

　　二是在社會層面構(gòu)建風(fēng)險防護網(wǎng)?！秾嵤┮庖姟吠ㄟ^設(shè)定全鏈條安全要求，特別是對關(guān)鍵領(lǐng)域和脆弱群體的重點保護，系統(tǒng)性預(yù)防智能體技術(shù)濫用、決策失控等風(fēng)險，保護國家安全、公共利益和人民權(quán)益，為智能體技術(shù)在全社會規(guī)模化應(yīng)用建立必要的安全信任基礎(chǔ)。

　　四、結(jié)語

　　展望未來，隨著智能體技術(shù)突破與應(yīng)用深化，社會各界更需要“邊發(fā)展、邊學(xué)習(xí)、邊治理”的定力和智慧。唯有在創(chuàng)新與規(guī)范之間找到動態(tài)平衡，在技術(shù)能力與社會理性之間建立持續(xù)對話，我們才能真正駕馭智能體這一強大工具，使其成為經(jīng)濟高質(zhì)量發(fā)展和社會進步的建設(shè)性力量，共同邁向一個安全、可靠、可信的智能未來。（作者：薛瀾，清華大學(xué)文科資深教授、清華大學(xué)蘇世民書院院長）