黨的二十屆三中全會(huì)通過(guò)《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國(guó)式現(xiàn)代化的決定》，提出“建立人工智能安全監(jiān)管制度”“完善生成式人工智能發(fā)展和管理機(jī)制”。當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革深入發(fā)展，人工智能賦能經(jīng)濟(jì)社會(huì)千行百業(yè)，特別是生成式人工智能深刻影響人們的工作生活，也帶來(lái)一系列新挑戰(zhàn)。在推進(jìn)人工智能創(chuàng)新應(yīng)用的同時(shí)，要深入貫徹落實(shí)總體國(guó)家安全觀，形成人工智能安全治理的強(qiáng)大合力，推動(dòng)人工智能安全發(fā)展。

加強(qiáng)人工智能安全治理意義重大

加強(qiáng)人工智能安全治理是深入貫徹落實(shí)總體國(guó)家安全觀的需要。新時(shí)代以來(lái)，以習(xí)近平同志為核心的黨中央高度關(guān)注人工智能安全發(fā)展，強(qiáng)調(diào)“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控”。加強(qiáng)人工智能安全治理，關(guān)系加快培育和發(fā)展以人工智能為重要引擎的新質(zhì)生產(chǎn)力，關(guān)系國(guó)家重大戰(zhàn)略實(shí)施和重點(diǎn)領(lǐng)域安全能力建設(shè)，關(guān)系推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化，關(guān)系推動(dòng)人工智能造福全人類，必須統(tǒng)籌發(fā)展和安全，加強(qiáng)頂層設(shè)計(jì)、適當(dāng)前瞻部署，堅(jiān)持系統(tǒng)觀念、協(xié)同推進(jìn)，有力應(yīng)對(duì)人工智能快速發(fā)展所帶來(lái)的挑戰(zhàn)。

加強(qiáng)人工智能安全治理是防范人工智能技術(shù)現(xiàn)實(shí)風(fēng)險(xiǎn)的需要。全球性安全組織開放式Web應(yīng)用程序安全項(xiàng)目指出，人工智能大模型存在十大安全風(fēng)險(xiǎn)，包括提示詞注入、訓(xùn)練數(shù)據(jù)投毒、模型拒絕服務(wù)、供應(yīng)鏈漏洞、敏感信息泄露、不安全的插件設(shè)計(jì)、過(guò)度代理、過(guò)度依賴、模型盜竊等。我國(guó)奇安信集團(tuán)發(fā)布的《2024人工智能安全報(bào)告》指出，2023年基于人工智能的深度偽造欺詐增加30倍，基于人工智能的釣魚郵件增加10倍。

加強(qiáng)人工智能安全治理是應(yīng)對(duì)各國(guó)搶抓安全治理主導(dǎo)權(quán)的需要。根據(jù)有關(guān)機(jī)構(gòu)Insight Partners的分析，美國(guó)在公共安全領(lǐng)域的人工智能支出預(yù)計(jì)將從2022年的93億美元增加到2030年的710億美元，增長(zhǎng)超過(guò)6倍。同時(shí)，美國(guó)宣布成立人工智能安全研究所聯(lián)盟，匯集200多家科技企業(yè)、高等院校、金融組織和政府機(jī)構(gòu)等單位，包括谷歌、英偉達(dá)、麻省理工學(xué)院、蘭德公司等，旨在支持安全可信的人工智能的開發(fā)部署，爭(zhēng)奪國(guó)際人工智能安全治理主導(dǎo)權(quán)。

人工智能安全治理的主要關(guān)切

人工智能安全治理攸關(guān)人類命運(yùn)，引起國(guó)際社會(huì)各界廣泛關(guān)注和討論，目前各方主要關(guān)切以下領(lǐng)域。

一是尊重人工智能主權(quán)和文化多樣性。聯(lián)合國(guó)教科文組織強(qiáng)調(diào)在人工智能系統(tǒng)的整個(gè)生命周期內(nèi)，確保尊重、保護(hù)和促進(jìn)多樣性，要符合國(guó)際人權(quán)法、標(biāo)準(zhǔn)和原則，以及人口、文化、性別和社會(huì)多樣性。有關(guān)方面提出“主權(quán)人工智能”概念，認(rèn)為人工智能強(qiáng)大的學(xué)習(xí)和推演能力使其成為世界文明的重要生產(chǎn)工具，可用來(lái)編纂整個(gè)國(guó)家的文化、社會(huì)智慧、常識(shí)、歷史等各類數(shù)據(jù)，每個(gè)國(guó)家都應(yīng)擁有自主人工智能基礎(chǔ)設(shè)施，在保護(hù)自己文化的同時(shí)利用其經(jīng)濟(jì)潛力。

二是以人為本、智能向善。2023年12月，聯(lián)合國(guó)人工智能咨詢機(jī)構(gòu)發(fā)布《以人為本的人工智能治理》報(bào)告，強(qiáng)調(diào)最大限度地發(fā)揮其對(duì)人類的益處?；粮裨凇度斯ぶ悄苘娍刂贰芬晃闹泻粲?，從國(guó)家層面建立“全球人工智能秩序”，以防止人工智能最危險(xiǎn)和潛在的災(zāi)難性后果。OpenAI的CEO山姆·奧爾特曼呼吁：“建立一個(gè)像國(guó)際原子能機(jī)構(gòu)的機(jī)構(gòu)來(lái)監(jiān)督人工智能的發(fā)展?！?/p>

三是包容性、平等性。《布萊切利宣言》指出，發(fā)展人工智能要促進(jìn)包容性經(jīng)濟(jì)增長(zhǎng)、可持續(xù)發(fā)展和創(chuàng)新，強(qiáng)調(diào)“包容性人工智能和彌合數(shù)字鴻溝的重要性”。牛津大學(xué)對(duì)全球181個(gè)國(guó)家在公共服務(wù)中使用人工智能情況評(píng)估顯示，得分最低的地區(qū)包括南半球大部分地區(qū)，例如撒哈拉以南非洲、一些中亞和南亞國(guó)家，人工智能準(zhǔn)備程度的差異將加劇全球不平等。

四是安全、可靠、可信。保證人工智能系統(tǒng)生命周期中的數(shù)據(jù)集、流程和決策的可追溯性十分必要，參與者應(yīng)采取與人工智能發(fā)展階段相適應(yīng)的系統(tǒng)風(fēng)險(xiǎn)管理方法，解決隱私、數(shù)字安全、偏見等相關(guān)風(fēng)險(xiǎn)。人工智能系統(tǒng)應(yīng)保持透明和負(fù)責(zé)任的對(duì)外資料披露，促進(jìn)公眾對(duì)系統(tǒng)輸入和輸出內(nèi)容的理解。

五是多邊主義、國(guó)際合作。世界經(jīng)濟(jì)論壇《多方合作才能實(shí)現(xiàn)負(fù)責(zé)任的人工智能治理》報(bào)告指出，對(duì)先進(jìn)的人工智能進(jìn)行集體監(jiān)督不僅有利，而且勢(shì)在必行。全球局勢(shì)正處于一個(gè)關(guān)鍵時(shí)刻，既要迅速發(fā)展人工智能技術(shù)，又迫切需要治理引導(dǎo)這一飛速發(fā)展的技術(shù)，在二者之間找到平衡，多方參與的人工智能治理是降低其技術(shù)風(fēng)險(xiǎn)并最大化利用其可能性的最合適的方式。

六是分類監(jiān)管、可問(wèn)責(zé)性。歐盟《人工智能法案》提出，根據(jù)人工智能對(duì)社會(huì)造成危害的能力，遵循“基于風(fēng)險(xiǎn)”的方法來(lái)分級(jí)監(jiān)管人工智能：風(fēng)險(xiǎn)越高，規(guī)則越嚴(yán)格。2023年經(jīng)合組織發(fā)布《推進(jìn)AI問(wèn)責(zé)制：圍繞可信賴AI生命周期的治理和管理風(fēng)險(xiǎn)》報(bào)告，強(qiáng)調(diào)人工智能問(wèn)責(zé)性原則，建議人工智能治理能夠提供針對(duì)風(fēng)險(xiǎn)管理流程的審查，包括對(duì)流程和結(jié)果的監(jiān)測(cè)、審查、記錄、溝通和協(xié)商，同時(shí)提供多種機(jī)制，將人工智能風(fēng)險(xiǎn)管理流程嵌入更廣泛的組織治理。

積極構(gòu)建我國(guó)人工智能安全治理體系

人工智能安全治理體系要面向未來(lái)“人機(jī)物”協(xié)同社會(huì)、智能化產(chǎn)業(yè)體系、數(shù)實(shí)一體世界、人類命運(yùn)共同體，堅(jiān)持“多層、多維、多方”推進(jìn)，從硬件層、模型層、工具層、應(yīng)用層等多個(gè)層次，主權(quán)安全、產(chǎn)業(yè)鏈安全、意識(shí)形態(tài)安全和能源資源安全等多個(gè)維度，建立自主可控、智能向善、綜合防護(hù)、架構(gòu)健全的安全治理體系。

首先，構(gòu)建“多層次”安全體系。

一是硬件層安全方面，確保人工智能產(chǎn)業(yè)的硬件底座安全。在芯片、服務(wù)器和智能終端層面，增強(qiáng)芯片硬件設(shè)計(jì)安全性，采用先進(jìn)檢測(cè)技術(shù)識(shí)別硬件木馬或后門。在智算中心和算力網(wǎng)絡(luò)層面，實(shí)施物理層安全技術(shù)加密，強(qiáng)化身份認(rèn)證和密鑰管理，加強(qiáng)網(wǎng)絡(luò)安全管理。二是大模型安全方面，增強(qiáng)人工智能應(yīng)用的安全性、可靠性和合規(guī)性。有效管理人工智能研發(fā)、部署和應(yīng)用，構(gòu)建源頭語(yǔ)料審查、生成內(nèi)容審核、倫理規(guī)范對(duì)齊等機(jī)制，開展通用、專用領(lǐng)域模型的評(píng)測(cè)審計(jì)，識(shí)別潛在風(fēng)險(xiǎn)，推進(jìn)最佳實(shí)踐。三是工具層安全方面，維護(hù)我國(guó)人工智能開發(fā)生態(tài)安全。推動(dòng)自主操作系統(tǒng)研發(fā)，減少對(duì)外技術(shù)依賴。積極推廣基于自主技術(shù)的并行計(jì)算框架與工具鏈，確保人工智能開發(fā)軟件安全。四是應(yīng)用層安全方面，確保人工智能安全嵌入現(xiàn)有工控系統(tǒng)、生產(chǎn)裝備、社會(huì)運(yùn)行和基礎(chǔ)設(shè)施。在汽車、機(jī)器人、石化等工業(yè)領(lǐng)域，加強(qiáng)人工智能系統(tǒng)安全測(cè)試，確保智能系統(tǒng)和設(shè)備安全可靠運(yùn)行。在民生、公共服務(wù)領(lǐng)域，嚴(yán)格用戶數(shù)據(jù)管理和安全審計(jì)，確保社會(huì)治理有序高效。在交通、電力、金融等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域，充分利用人工智能技術(shù)建立監(jiān)測(cè)預(yù)警系統(tǒng)，建立部署人工智能系統(tǒng)后的網(wǎng)絡(luò)隔離、數(shù)據(jù)加密、入侵檢測(cè)和人類及時(shí)接管等安全機(jī)制。

其次，推進(jìn)“多維度”安全治理。

一是主權(quán)安全方面，從技術(shù)與內(nèi)生安全、數(shù)據(jù)與隱私安全、系統(tǒng)與應(yīng)用安全、檢測(cè)與監(jiān)管安全等多方面綜合施策，提高國(guó)家人工智能系統(tǒng)的抗攻擊能力。二是產(chǎn)業(yè)鏈安全方面，從關(guān)鍵技術(shù)保障、前沿科技布局、產(chǎn)業(yè)鏈自主可控、產(chǎn)業(yè)生態(tài)協(xié)同、標(biāo)準(zhǔn)制定實(shí)施等方面入手，提升我國(guó)在全球人工智能產(chǎn)業(yè)中的話語(yǔ)權(quán)和影響力。三是意識(shí)形態(tài)安全方面，加強(qiáng)對(duì)數(shù)據(jù)語(yǔ)料、算法規(guī)則、價(jià)值導(dǎo)向的管理，確保生成式人工智能產(chǎn)出內(nèi)容符合國(guó)家要求、彰顯中國(guó)特色。四是能源資源安全方面，加強(qiáng)人工智能產(chǎn)業(yè)用能用水趨勢(shì)預(yù)判，完善人工智能能效水效評(píng)價(jià)及標(biāo)準(zhǔn)體系，加強(qiáng)人工智能產(chǎn)業(yè)節(jié)能降碳節(jié)水技術(shù)攻關(guān)，優(yōu)化智算中心空間布局。

最后，形成“多方面”工作合力。

一是促進(jìn)政府、企業(yè)聯(lián)動(dòng)。在加強(qiáng)政府對(duì)人工智能發(fā)展監(jiān)管的同時(shí)，發(fā)揮內(nèi)部大市場(chǎng)和新技術(shù)高效應(yīng)用推廣的優(yōu)勢(shì)，鼓勵(lì)企業(yè)通過(guò)自愿行為準(zhǔn)則進(jìn)行自我監(jiān)管，探索適應(yīng)不同行業(yè)應(yīng)用需求的監(jiān)管規(guī)則。二是促進(jìn)科技、產(chǎn)業(yè)聯(lián)動(dòng)。建立產(chǎn)學(xué)研合作平臺(tái)，支持高校和研究機(jī)構(gòu)的安全技術(shù)創(chuàng)新，聯(lián)合制定安全技術(shù)標(biāo)準(zhǔn)和規(guī)范，推動(dòng)產(chǎn)業(yè)界人工智能應(yīng)用安全能力建設(shè)。三是促進(jìn)“平急兩用”聯(lián)動(dòng)。人工智能大模型是新型基礎(chǔ)設(shè)施的關(guān)鍵底座，要確保在平時(shí)和應(yīng)急情況下都能發(fā)揮效能，有效提高使用效率和公共安全保障能力。四是促進(jìn)國(guó)內(nèi)、國(guó)外聯(lián)動(dòng)。主動(dòng)參與全球人工智能安全治理體系分工合作，深度融入全球創(chuàng)新網(wǎng)絡(luò)，積極參與國(guó)際標(biāo)準(zhǔn)制定和國(guó)際組織構(gòu)建，提出人工智能安全治理中國(guó)方案，引領(lǐng)全球人工智能安全治理向更加科學(xué)合理、公平正義方向發(fā)展。

文章來(lái)源：電子信息產(chǎn)業(yè)網(wǎng)