人工智能發(fā)展日新月異，其引發(fā)的安全風(fēng)險與治理挑戰(zhàn)也在持續(xù)演進(jìn)。為增強(qiáng)對新型風(fēng)險的前瞻性識別與主動應(yīng)對能力，人工智能安全治理框架勢必需要進(jìn)行優(yōu)化調(diào)整與升級。

一、重要意義

《人工智能安全治理框架》2.0版（以下簡稱《框架》2.0版）是中國人工智能治理實(shí)踐持續(xù)探索的經(jīng)驗(yàn)?zāi)?，同時為全球人工智能治理貢獻(xiàn)出了中國智慧和方案，體現(xiàn)了中國在推動技術(shù)高質(zhì)量發(fā)展的同時，對風(fēng)險防控的高度重視。

首先，《框架》2.0版是中國人工智能安全治理實(shí)踐不斷深化的成果。《框架》2.0版并非簡單更新，而是基于對技術(shù)演進(jìn)規(guī)律的深刻洞察和對實(shí)際治理需求的精準(zhǔn)把握，進(jìn)行了系統(tǒng)性升級。通過“持續(xù)跟蹤風(fēng)險變化、完善優(yōu)化風(fēng)險分類、研究探索風(fēng)險分級、動態(tài)調(diào)整更新防范治理措施”，體現(xiàn)了中國治理模式的敏捷性，以治理框架與技術(shù)發(fā)展同步為目標(biāo)，提供動態(tài)、開放、演進(jìn)的“中國范式”。

其次，《框架》2.0版為中國人工智能安全治理提供清晰的基本思路與路線圖。《框架》2.0版注重產(chǎn)業(yè)需求與國際合作，不僅明確了風(fēng)險識別、評估、分級、處置的全流程治理機(jī)制，還提出了政府、企業(yè)、科研機(jī)構(gòu)、社會組織等多元主體共同參與，推動形成跨國界、跨領(lǐng)域、跨行業(yè)的協(xié)同治理格局，力求打破“先發(fā)展后治理”或“重發(fā)展輕治理”的傳統(tǒng)路徑依賴，實(shí)現(xiàn)促進(jìn)人工智能發(fā)展與保障安全的動態(tài)平衡，為中國人工智能產(chǎn)業(yè)的健康可持續(xù)發(fā)展打下了堅實(shí)基礎(chǔ)。

最后，相較于歐美已有的人工智能安全治理方案，《框架》2.0版具有一定的進(jìn)步性與獨(dú)特性。不同于美國以產(chǎn)業(yè)競爭為核心、歐盟以權(quán)利驅(qū)動為指引，《框架》2.0版堅持“發(fā)展”與“安全”并重，既防范風(fēng)險，又不抑制創(chuàng)新，秉持敏捷治理理念，為新技術(shù)、新業(yè)態(tài)預(yù)留成長空間，體現(xiàn)出更強(qiáng)的平衡性與前瞻性。同時，《框架》2.0版突出“全流程治理、動態(tài)調(diào)整”，既提升了治理效率，也降低了企業(yè)的合規(guī)不確定性，體現(xiàn)了中國安全治理模式對技術(shù)快速迭代的適應(yīng)性優(yōu)勢。此外，《框架》2.0版提出“推動多邊機(jī)制下人工智能安全治理合作”“促進(jìn)技術(shù)成果普惠共享”，強(qiáng)調(diào)構(gòu)建開放、公正、非歧視的全球人工智能治理環(huán)境，體現(xiàn)了中國作為負(fù)責(zé)任大國的擔(dān)當(dāng)。

二、內(nèi)容優(yōu)化

相較于《人工智能安全治理框架》1.0版（以下簡稱《框架》），《框架》2.0版在以下三個關(guān)鍵方面作出了顯著優(yōu)化：

一是風(fēng)險分類分級維度進(jìn)一步拓展。在分類上，新增了“應(yīng)用衍生安全風(fēng)險”，將人工智能安全風(fēng)險的認(rèn)知維度拓展為“技術(shù)內(nèi)生安全、技術(shù)應(yīng)用安全、應(yīng)用衍生安全”，這一調(diào)整區(qū)分了人工智能應(yīng)用的直接風(fēng)險與其在社會環(huán)境和倫理層面可能帶來的間接影響，增強(qiáng)了人工智能風(fēng)險分類的系統(tǒng)性和層次性。在分級上，《框架》未明確提及分級機(jī)制，《框架》2.0版進(jìn)一步提出“從應(yīng)用場景、智能化水平、應(yīng)用規(guī)模入手，對安全風(fēng)險進(jìn)行科學(xué)評價分級，進(jìn)而采取針對性、差異化安全防范措施”，同時初步明確了分級要素、風(fēng)險級別、風(fēng)險定級等重要內(nèi)容，為人工智能風(fēng)險分級的實(shí)踐提供確切依據(jù)。

二是綜合治理措施進(jìn)一步深化。在數(shù)量上，《框架》2.0版增加了4條具體措施建議。在內(nèi)容上，《框架》2.0版對《框架》的既有提議進(jìn)行了延展和擴(kuò)充，提出了更具有可行性的措施：其一，從方向性的制度建議到明確立法與標(biāo)準(zhǔn)建設(shè)，明確推動人工智能高位階立法，并鼓勵地方出臺實(shí)施細(xì)則，并新增“人工智能科技倫理準(zhǔn)則”建設(shè)的要求；其二，從單點(diǎn)監(jiān)管模式轉(zhuǎn)向全流程治理模式，細(xì)化了包括供應(yīng)鏈安全保障、開源生態(tài)治理、用途追溯等在內(nèi)的跨環(huán)節(jié)協(xié)同機(jī)制，尤其關(guān)注生成合成內(nèi)容等重點(diǎn)板塊，進(jìn)一步壓實(shí)多方主體共治責(zé)任；其三，在安全保障的同時，促進(jìn)人工智能發(fā)展的政策導(dǎo)向逐漸凸顯，新增“安全有效釋放重要行業(yè)應(yīng)用需求”，倡導(dǎo)各行業(yè)結(jié)合自身屬性和實(shí)際情況，因“行”制宜，制定本行業(yè)的應(yīng)用安全指南，構(gòu)建差異化、個性化、針對性更強(qiáng)的安全應(yīng)用路徑。

三是應(yīng)用指引由靜態(tài)角色建議轉(zhuǎn)向動態(tài)流程規(guī)范。《框架》主要依照研發(fā)者、服務(wù)提供者、使用者、社會公眾四種角色提出原則性建議，內(nèi)容多為概括要求，如“加強(qiáng)訓(xùn)練數(shù)據(jù)內(nèi)容和質(zhì)量的抽查檢測”等；《框架》2.0版則明確劃分為“算法研發(fā)、建設(shè)部署、運(yùn)行管理、訪問使用”四個階段，強(qiáng)調(diào)“怎么做”，提供可落地的技術(shù)工具與治理思路，如“采取分類模型、人工抽檢等方式，過濾錯誤或不良內(nèi)容”，時間節(jié)點(diǎn)更加清晰，行為指引更加明確。同時，《框架》對重點(diǎn)領(lǐng)域的界定較為寬泛，僅籠統(tǒng)列出政府、關(guān)鍵基礎(chǔ)設(shè)施等，《框架》2.0版則細(xì)化了更多元的高風(fēng)險場景，如政務(wù)公開、司法取證、智能駕駛等。此外，針對“二次開發(fā)”，《框架》2.0版新增了安全審計、遵守協(xié)議、修復(fù)潛在漏洞等方面要求；針對服務(wù)對象，除未成年人外，《框架》2.0版著重強(qiáng)調(diào)了面向“老年人及特殊群體”提供人工智能服務(wù)，應(yīng)充分考慮可用性和安全性。

《人工智能安全治理框架》2.0版的發(fā)布，標(biāo)志著我國在人工智能治理體系建設(shè)方面邁入更為系統(tǒng)、精細(xì)、聚焦的發(fā)展新階段?！犊蚣堋?.0版不僅拓展了風(fēng)險分類分級的維度、全面深化了各項(xiàng)綜合治理措施，還實(shí)現(xiàn)了從靜態(tài)角色指引到動態(tài)流程規(guī)范的重要轉(zhuǎn)型，體現(xiàn)出我國人工智能安全治理框架從“節(jié)點(diǎn)治理”到“全流程治理”的深刻轉(zhuǎn)變。（作者：張凌寒，中國政法大學(xué)）