數(shù)字時代網(wǎng)絡安全新挑戰(zhàn)如何“見招拆招”

隨著人工智能、大數(shù)據(jù)、云計算、區(qū)塊鏈等新技術的深入發(fā)展，新的網(wǎng)絡安全挑戰(zhàn)與風險也不可避免地涌現(xiàn)出來。如何應對數(shù)字時代的網(wǎng)絡安全新挑戰(zhàn)?在今天(11日)舉行的2023年國家網(wǎng)絡安全宣傳周上海地區(qū)主論壇上，專家學者們給出了一些建議與想法。

應對大模型新風險，數(shù)據(jù)安全至關重要

中國工程院院士、復旦大學金融科技研究院院長柴洪峰對金融數(shù)據(jù)和垂直領域大模型的安全及倫理問題提出建議。“監(jiān)管機構應加強對金融大模型的審查和風險評估，對關鍵人物和系統(tǒng)應建立審查和測試的機制，確保其性能和安全性。”他說，為確保大模型在金融領域的應用符合法規(guī)與道德要求，應通過政產學研的合作，制定相關政策和指南;而對于金融大模型的部署與使用，則需要協(xié)同共治，提升透明度，保證數(shù)據(jù)質量和可解釋性的機制，幫助用戶與監(jiān)管機構理解模型的決策依據(jù)，并確保其不帶有偏見或歧視性。

“對于傳統(tǒng)的通用大模型，人們可以建立行業(yè)領域的小模型，在數(shù)據(jù)安全領域通過各種數(shù)據(jù)標簽、數(shù)據(jù)類型、日志等，形成數(shù)據(jù)安全的助手。”上海觀安信息技術股份有限公司聯(lián)合創(chuàng)始人胡紹勇表示，而AIGC(生成式人工智能)技術本身就存在著敏感數(shù)據(jù)和違規(guī)應用的可能性，因此，數(shù)據(jù)安全運營是非常重要的。

胡紹勇指出，目前在數(shù)據(jù)安全治理過程中，一個正在探索落地的方向是數(shù)據(jù)安全專家或者安全助手，另外，還可以利用大模型對數(shù)據(jù)資產的識別進行進一步提升，不少安全企業(yè)已在此方面做出了嘗試。

網(wǎng)絡安全不斷變化，需社會各界共同守護

公安部第三研究所網(wǎng)絡安全法律研究中心主任、研究員黃道麗認為，現(xiàn)在網(wǎng)絡安全面臨的最大挑戰(zhàn)是如何把制度的能力轉化為實際的治理能力。“法律的特性是穩(wěn)定，但網(wǎng)絡安全風險和網(wǎng)絡安全形勢卻是不斷變化的，”她說，這需要產業(yè)界、運營者、數(shù)據(jù)處理者以及社會第三方共同推進。

上海市信息安全測評認證中心創(chuàng)新研究院副院長徐御從城市數(shù)據(jù)安全的角度指出，隨著系統(tǒng)數(shù)量的規(guī)模變大、復雜度提高，數(shù)據(jù)資源的暴露面和脆弱性都會增加。“網(wǎng)絡安全從原來以系統(tǒng)與網(wǎng)絡為核心，轉變成以數(shù)據(jù)為核心。”他說。

上海交通大學人工智能研究院院長宋海濤則表示，唯有進一步擁抱科技的力量，構建產業(yè)發(fā)展在全要素過程中的人才體系，加強網(wǎng)絡安全方面?zhèn)惱砗椭卫眢w系的研究和建設，才能更好保護人民群眾的生命財產安全。