政務大模型是專注在政務領域的行業(yè)大模型，政務大模型在通用大模型基礎上，通過檢索增強生成或者模型微調(diào)等技術手段，使模型更加貼合政務的特點和需求。
基于政務大模型的應用，為政府決策、公共服務、帶來了全新的變革。政務大模型應用也伴隨著各種潛在的風險。政務大模型安全風險主要包括七個主要類型，即數(shù)據(jù)安全風險、訓練語料安全風險、模型安全風險、應用安全風險、軟件供應鏈安全風險、生成內(nèi)容風險、大模型自身風險。
政務大模型的安全治理框架是保障其安全、合規(guī)運行的基礎。全面的安全治理框架，需要滿足合規(guī)要求、建立完善安全機制、提供安全技術保障。其中，合規(guī)是安全治理首要原則，涉及多項法律法規(guī)、規(guī)章制度的遵循。安全技術保障是政務大模型安全治理框架的核心，涵蓋從基礎安全措施、數(shù)據(jù)安全、大模型開發(fā)安全到運行安全等方面。
政務大模型的安全治理上，需要政府、企業(yè)、研究機構、監(jiān)管機構等各方協(xié)作，形成良性互動生態(tài)體系，構建安全、可靠、有序的環(huán)境，充分發(fā)揮政務大模型在提升政府服務效能、推動社會進步方面的積極作用。
附件：政務大模型安全治理框架：安全風險主要包括七個主要類型,大模型開發(fā)安全到運行安全等方面
某公司開發(fā)的“駕培平臺”未履行數(shù)據(jù)安全保護義務依法處以警告并處罰款人民幣5萬元的行政處罰;未建立完善的絡數(shù)據(jù)安全管理制度被罰款10萬元
涉及數(shù)據(jù)安全的事件27起、涉及個人信息安全事件14起、一案雙查事件 18起，涉及個人及黑產(chǎn)團伙犯罪事件10起，涉及內(nèi)鬼作案或內(nèi)部人員違規(guī)事件 5起
大模型有潛力成為安全防護的核心,從而改變安全的工作模式,從依賴安全人員調(diào)度和使用安全工具，轉(zhuǎn)變?yōu)橐源竽Ｐ蜑楹诵恼{(diào)度并智能化使用安全工具
圍繞組織架構的搭建,管理制度的完善,技術保障體系的建立以及運營流程的規(guī)劃等方面設計了一套全方位,立體的網(wǎng)絡安全保障方案,為用戶在重大活動網(wǎng)絡安全保障時提供全面有效的實戰(zhàn)型指導
利用最頻繁且對企業(yè)危害較高的漏洞，包含了詳細的漏洞基礎信息、檢測規(guī)則和修復方案，企業(yè)可根據(jù)自身資產(chǎn)信息進行針對性的排查、配置封堵策略和漏洞修復相關工作
從人工智能隱私保護的內(nèi)涵出發(fā),從人工智能全生命周期系統(tǒng)梳理人工智能通用隱私風險和生成式人工智能隱私風險,分析了人工智能隱私保護技術和平臺
安全平行切面的核心思想是將編程語言環(huán)境下的Aspect-oriented Programming推廣應用到安全架構建設中，構建與業(yè)務正交融合的安全橫切面
通過梳理銀行業(yè)數(shù)字化轉(zhuǎn)型下面臨的業(yè)務安全核心問題,幫助銀行業(yè)機構深入了解當前行業(yè)的業(yè)務安全挑戰(zhàn)和趨勢,加強安全管理和風險防范能力,保護業(yè)務的安全平穩(wěn)運行
企業(yè)可以從API的上線運行階段入手,基于IPDRR安全模型實現(xiàn)API安全閉環(huán)管理,結合自身的業(yè)務情況有序開展API安全實踐,全面保護API的安全性和可靠性
針對復雜多樣的企業(yè)網(wǎng)絡環(huán)境,對典型零信任架構的關鍵技術能力進行分析,重點討論了每種架構的技術特點和應用場景,為全面建設零信任的實施方案提供參考
以云原生安全管理的變革為主線對中國云原生安全市場現(xiàn)狀進行了年度洞察,以期為中國云原生安全的發(fā)展和企業(yè)云原生安全建設提供借鑒和參考
以路特斯機器人的信息安全保護實踐作為藍本進行介紹，拋磚引玉，希望將路特斯機器 人在智能駕駛方面的信息安全建設的思考和實踐經(jīng)驗分享給行業(yè)各位
