隨著人工智能、大數據、云計算、區塊鏈等新技術的深入發展,新的網絡安全挑戰與風險也不可避免地涌現出來。如何應對數字時代的網絡安全新挑戰?在今天(11日)舉行的2023年國家網絡安全宣傳周上海地區主論壇上,專家學者們給出了一些建議與想法。

應對大模型新風險,數據安全至關重要

中國工程院院士、復旦大學金融科技研究院院長柴洪峰對金融數據和垂直領域大模型的安全及倫理問題提出建議。“監管機構應加強對金融大模型的審查和風險評估,對關鍵人物和系統應建立審查和測試的機制,確保其性能和安全性。”他說,為確保大模型在金融領域的應用符合法規與道德要求,應通過政產學研的合作,制定相關政策和指南;而對于金融大模型的部署與使用,則需要協同共治,提升透明度,保證數據質量和可解釋性的機制,幫助用戶與監管機構理解模型的決策依據,并確保其不帶有偏見或歧視性。

“對于傳統的通用大模型,人們可以建立行業領域的小模型,在數據安全領域通過各種數據標簽、數據類型、日志等,形成數據安全的助手。”上海觀安信息技術股份有限公司聯合創始人胡紹勇表示,而AIGC(生成式人工智能)技術本身就存在著敏感數據和違規應用的可能性,因此,數據安全運營是非常重要的。

胡紹勇指出,目前在數據安全治理過程中,一個正在探索落地的方向是數據安全專家或者安全助手,另外,還可以利用大模型對數據資產的識別進行進一步提升,不少安全企業已在此方面做出了嘗試。

網絡安全不斷變化,需社會各界共同守護

公安部第三研究所網絡安全法律研究中心主任、研究員黃道麗認為,現在網絡安全面臨的最大挑戰是如何把制度的能力轉化為實際的治理能力。“法律的特性是穩定,但網絡安全風險和網絡安全形勢卻是不斷變化的,”她說,這需要產業界、運營者、數據處理者以及社會第三方共同推進。

上海市信息安全測評認證中心創新研究院副院長徐御從城市數據安全的角度指出,隨著系統數量的規模變大、復雜度提高,數據資源的暴露面和脆弱性都會增加。“網絡安全從原來以系統與網絡為核心,轉變成以數據為核心。”他說。

上海交通大學人工智能研究院院長宋海濤則表示,唯有進一步擁抱科技的力量,構建產業發展在全要素過程中的人才體系,加強網絡安全方面倫理和治理體系的研究和建設,才能更好保護人民群眾的生命財產安全。