人民網(wǎng)北京6月16日電 （記者許維娜）“人工智能技術不僅是賦能數(shù)字中國建設的重要工具，也是推動網(wǎng)絡安全從‘被動防御’向‘主動免疫’躍升的關鍵引擎。依托機器學習、自然語言處理等技術，可以實現(xiàn)風險識別智能化、威脅檢測自動化、攻擊溯源精準化?！眹倚畔⒅行狞h委書記、主任徐強日前在“2025網(wǎng)絡安全創(chuàng)新發(fā)展大會”上表示。
徐強還表示，需警惕人工智能自身的安全隱患正成為新的風險源，沒有安全的人工智能，其技術普及推廣便缺乏可持續(xù)性。因此，必須堅持“同步規(guī)劃、同步建設、同步運行”原則，構建覆蓋算法、數(shù)據(jù)、應用、部署的全棧式安全防護體系，確保人工智能在安全、可靠、可控的軌道上健康發(fā)展。
公安部網(wǎng)絡安全等級保護評估中心主任助理王勇結合大模型安全檢測評估實踐經(jīng)驗，介紹了大模型安全風險防范思路。他表示，隨著大模型迅猛發(fā)展，賦能千行百業(yè)，也暴露出了大量的安全風險，包括：內(nèi)生安全風險，如模型算法安全、數(shù)據(jù)安全、系統(tǒng)安全；應用安全風險，如倫理道德、濫用誤用、版權侵犯等。因此，亟須建立完善的大模型安全檢測評估體系，需要開展兼具常態(tài)化安全評估（靜態(tài)）與動態(tài)安全檢測相結合的大模型安全檢測評估工作，面向大模型系統(tǒng)通用安全、大模型全生命周期開展大模型系統(tǒng)安全能力驗證，構建一個安全可控、可持續(xù)發(fā)展的大模型安全生態(tài)。
中國社會科學院國際法學研究所副研究員何晶晶則認為，隨著AI時代的來臨，AI技術對各行各業(yè)都產(chǎn)生了深刻影響，特別是對數(shù)據(jù)安全、數(shù)據(jù)合規(guī)產(chǎn)生了新的挑戰(zhàn)。一系列的法律標準出臺，對數(shù)據(jù)合規(guī)提出了新的要求，AI時代的數(shù)據(jù)合規(guī)更加重要。為應對AI時代下數(shù)據(jù)合規(guī)帶來的新問題與新挑戰(zhàn)，各類企事業(yè)單位需要結合已有的合規(guī)實踐案例，利用新興技術以技治技，提高合規(guī)能力，確保組織發(fā)展行穩(wěn)致遠。