8月28日，在2025上海網絡安全產業創新大會上，上海人工智能安全工作委員會揭牌成立，旨在推動“AI+安全”技術協同與治理創新，應對深度偽造、數據投毒等新型威脅，重塑產業防御范式。

證券時報記者獲悉，上海人工智能安全工作委員會在上海市經信委的指導下，由上海市人工智能行業協會設立，委員會代表包括上海儀電集團、商湯科技、稀宇極智、階躍星辰、斗象科技、上海觀安等多家企業。

上海觀安聯合創始人、CTO胡紹勇接受證券時報記者采訪時表示，AI技術在對生產力提質增效同時，也涌現了模型竊取、數據投毒等新型威脅，傳統的安全防護思路已難以應對，建議從體系化和結構性的思路來防范人工智能技術風險。

“以大模型為例，在其生命周期的每個關鍵節點都應做好安全防護。比如，訓練階段，應對數據源進行驗證以及對訓練數據進行安全檢測，以保證訓練數據的可靠；開發階段，保障軟件供應鏈的安全，保證編碼中沒有安全性漏洞；測試和發布前，要做好大模型的安全檢測，包括社會倫理問題；上線時要有安全運營的措施?！焙B勇說。

在胡紹勇看來，設立人工智能安全工作委員會，可針對大模型各個維度的安全風險進行集思廣益，聯合產業鏈上下游共同推出相應標準、指南等，共同防范風險。

上海市經信委總工程師裘薇指出，上海網絡安全產業規模較“十四五”初已實現倍增。面向未來，上海將重點推動“‘安全+AI’雙向融合”，布局智能機器人、低空經濟等新興領域安全產業，并以普陀網絡安全產業示范園為核心，進一步提升發展能級，建設面向長三角乃至全國的網絡安全產業承載區；聯動徐匯“模速空間”、浦東張江等載體，構建全市協同發展格局，持續打造頭部網安企業標桿，面向AI安全、車聯網安全、軟件供應鏈安全等新興領域培育“小而精”網安主體；建設一批安全能力平臺，牽引產品迭代和服務升級，提升重點領域安全防護能力，以合規促發展。

上海普陀區副區長周如意表示，作為上海市唯一的市級網絡安全產業示范區，普陀已形成“政策、平臺、技術、生態”四位一體發展格局。通過共建“國家安全與應急管理研究院”等舉措，全區集聚網安企業近百家，2024年產業營收突破70億元。未來，普陀將深度融入沿滬寧產業創新帶國家戰略，打造區域網絡安全“引力場”。

大會上，《2024年度上海市網絡安全產業創新攻關成果目錄》正式發布，涵蓋AI安全、量子安全等14個方向的20項創新成果。