2025年12月1日，由中國互聯網協會主辦，中國信息通信研究院（簡稱“中國信通院”）承辦，北京市通信與互聯網協會、云計算標準和開源推進委員會聯合協辦的2025“人工智能+”產業生態大會“人工智能與安全論壇”在京召開。本屆論壇聚焦人工智能安全治理發展趨勢，從產業發展、關鍵技術、應用實踐等角度，全面展示中國信息通信研究院最新研究成果，各行業專家圍繞前沿的行業研究與落地實踐經驗開展交流分享，為行業探尋一條高質量發展之路。
中國互聯網協會專家咨詢委員會常務副主任、工業和信息化部原總工程師趙志國、北京市通信管理局黨組成員、副局長王暉、中國信通院黨委副書記王曉麗等領導出席會議并致辭。致辭環節由中國信通院云計算與大數據研究所副所長栗蔚主持。
中國互聯網協會專家咨詢委員會常務副主任、工業和信息化部原總工程師趙志國表示，人工智能正成為全球科技競爭的最前沿，統籌人工智能的發展與安全已成為關乎產業全局的關鍵議題。為此，趙志國提出三點建議：一是筑牢技術根基，聚焦可信算法、對抗防御等核心技術，構建具備內生安全能力的人工智能底座；二是深化融合應用，拓展人工智能在威脅識別、態勢感知等場景的深度應用，提升風險響應與防護能力；三是完善治理生態，加快標準體系建設，推動產業協同與國際合作，共同營造安全、可信的人工智能發展環境。
北京市通信管理局黨組成員、副局長王暉表示，“十五五”規劃建議提出要“加強網絡、數據、人工智能等新興領域國家安全能力建設”，為我們下一步工作提供了根本遵循。信息通信與人工智能深度融合，積極賦能科技、產業、消費、民生、治理、全球合作等重點領域。未來，我們將圍繞突出政策引領、夯實安全基礎、強化技術攻關等方面，全面筑牢信息通信行業網絡和數據安全防護底座，以高水平安全護航人工智能產業高質量發展。
中國信通院黨委副書記王曉麗表示，堅持發展與安全并重、統籌人工智能的創新應用與安全治理，是保障人工智能健康有序發展的核心前提與必然要求。總體看，我國人工智能安全產業發展正邁入高質量發展軌道，政策環境持續優化，技術創新應用不斷涌現，產業融合持續深化升級。未來，中國信通院將堅持使命定位，持續布局人工智能安全產業前瞻領域研究，大力推動產業基礎設施生態與標準體系建設，促進相關產業創新發展。
在成果發布環節，中國信通院發布一系列最新研究和實踐成果。這些成果既凝結著對行業痛點的深度剖析，也展現了產學研用協同攻關的突破性進展，為企業人工智能安全建設提供了兼具前瞻性與落地性的智力支撐。
為積極營造安全可信網絡生態環境，中國信通院面向創新安全技術領域供需雙方開展“可信安全”系列評估，覆蓋可信云安全、可信AI云安全等領域，成為新安全技術領域研發、選型和應用的重要參考。論壇公布了最新一批的可信安全評估結果。
可信云安全系列評估
可信AI云安全系列評估
為深入貫徹落實中央經濟工作會議關于“以科技創新引領新質生產力發展，開展‘人工智能+’行動，培育未來產業”的重要精神，中國互聯網協會舉辦首屆“AI領航杯”“人工智能+”應用與技能大賽，中國信息通信研究院承辦其中的“AI+安全”賽道。經過初賽、決賽及全國總決賽的激烈角逐，最終評定出獲獎項目48個。其中，一等獎項目3個；二等獎項目8個；三等獎項目15個；優秀獎項目22個。中國互聯網協會副秘書長裴瑋在論壇上公布了AI安全賽道獲獎結果。
在數字經濟與人工智能深度融合的背景下，云計算為智能體規模化落地提供了核心支撐，促使云上智能體迎來爆發式發展，并廣泛應用至政務、通信、能源、金融等關鍵行業。然而智能體特性帶來了如身份偽造、決策失控等多重安全挑戰，構建適配行業需求的安全防護體系已成為產業迫切需求。
在此背景下，中國互聯網協會、云計算標準和開源推進委員會聯合相關企業，依托各方在云上智能體安全領域的研究成果與實踐經驗，圍繞云上智能體發展背景、安全防護體系建設路徑以及安全產業未來發展趨勢形成《云上智能體安全發展研究報告》，旨在為云廠商、安全廠商、行業用戶等相關主體提供智能體安全建設參考與實踐指引，推動我國智能體行業在安全可信道路上趨深行穩。論壇上，中國互聯網協會副秘書長裴瑋和中國通信標準化協會TC608云計算標準和開源推進委員會主席、中國信息通信研究院云大所副所長栗蔚對報告進行了發布。
《云上智能體安全發展研究報告》發布
《云上智能體安全發展研究報告》致謝單位及個人
端云協同高效聯動，推動了智能體在金融、通信、政務等關鍵領域的規模化落地應用。然而隨著智能體與用戶、應用的交互場景頻次與復雜度不斷攀升，帶來了如身份冒用、權限濫用、數據泄露等諸多安全風險，嚴重威脅著用戶隱私與應用的安全。構建由用戶和應用雙重授權的安全機制，已成為產業規范發展的迫切需求。在此背景下，云計算標準和開源推進委員會聯合中國信息通信研究院、北京郵電大學、北京國家金融科技認證中心有限公司、天翼安全科技有限公司等相關單位，依托各方在端云協同技術、智能體安全、授權認證等領域的研究成果與實踐經驗，圍繞端云協同智能體交互場景特性，研制形成《端云協同 智能體交互雙重授權安全指引》，并在會上正式發布。為相關主體提供智能體交互雙重授權的安全建設與實踐指引，推動智能體在我國更多場景的落地應用實現安全合規發展。論壇上，中國信息通信研究院云大所副所長栗蔚和北京郵電大學網絡空間安全學院副教授徐國勝共同對指引進行了發布。
《端云協同智能體交互雙重授權安全指引》發布
2025年，智能體產業生態迎來爆發式增長，智能體依托云計算核心算力支撐實現規模化落地，深度滲透政務、金融等核心關鍵領域的同時，其安全風險也隨應用深化同步凸顯。中國信通院云計算與大數據研究所開源和軟件安全部主任郭雪分享了“云上智能體安全風險洞察與應對實踐”暨《云上智能體安全發展研究報告》解讀。
郭雪表示，當前云上智能體正處于規模化落地的關鍵窗口期，既要看到其在垂域場景中釋放的創新價值，更要正視技術演進伴生的安全挑戰。云上智能體風險已呈現出傳導速度快、影響范圍廣、隱蔽性強的演化特征。安全防護體系建設需兼顧技術適配性與落地可行性，通過標準引領規范、技術創新突破、生態協同三維共治，筑牢云上智能體安全發展底座。
云上智能體安全風險洞察與應對實踐
中國信通院云計算與大數據研究所開源和軟件安全部馬銘洋圍繞“云上人工智能安全態勢發展思考與洞察”主題展開分享，從云上人工智能的演進脈絡切入，剖析了其在多場景落地過程中凸顯的安全風險，系統梳理了當前云上人工智能安全產業的發展格局，就安全治理路徑進行了多維度深度探析，并對行業未來發展趨勢作出展望。
馬銘洋提出，面對人工智能催生的新型安全威脅，傳統安全工具已難以有效抵御，“AI對抗AI”將成為未來安全防護的核心方向。人工智能進一步加劇了網絡攻防的不對稱性，產業層面亟需攻克智能化安全技術瓶頸。當前，安全產業正以人工智能為核心引擎，驅動技術創新與產品迭代雙向升級，推動安全體系向內生防御、主動智能及韌性自治的方向轉型。
云上人工智能安全態勢發展思考與洞察
在專題分享環節，中國信通院邀請中國移動集團數智化部研發創新中心副總經理吳晶、中電信人工智能科技（北京）有限公司AI安全總監丁揚、360數字安全集團副總裁余凱、北京興云數科技術有限公司信息安全總監馮鑫等嘉賓圍繞行業實踐進行專題分享。
啟明星辰信息技術集團股份有限公司副總裁周濤，奇安信集團廣西人工智能安全研究院副院長、AI安全實驗室主任王茜，中國電信安全公司副總工程師、中國電信集團首席專家常力元圍繞“智能化時代下，人工智能安全的挑戰、機遇與破局之道”主題展開圓桌對話與深度分享。
云計算作為人工智能健康發展的能量基石，促進AI原生應用從概念探索邁入規模化落地階段。其核心架構通過聯動云基礎設施形成全鏈路運轉模式，使身份偽造、模型投毒等風險更具隱蔽性。傳統事后補丁式的防護體系難以實現有效管控，建立基于云計算的AI原生安全防護標準成為產業得迫切需求。
在此背景下，中國信息通信研究院于會上啟動《AI原生云安全能力成熟度要求》撰寫工作，旨在明確AI原生云安全能力核心維度、評價框架、指標體系等關鍵內容，為各類主體提供建設與評估指南。加速基于云計算的安全技術與AI原生場景適配，為應用規模化落地筑牢安全底座。
隨著2025“人工智能+”產業生態大會——人工智能與安全論壇落幕，中國信通院將持續發揮產業創新發展平臺作用，通過標準制定、產業研究、測試評估等機制，推動云上人工智能安全產業高質量發展，為數字經濟提供堅實的安全保障。展望未來，隨著產學研用各方的深度協同與持續深耕下，一個兼具安全可信、開放協同的人工智能安全新生態將持續演進，為全球數字經濟的蓬勃發展筑牢安全根基、注入持久動能。 
