2025中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會（以下簡稱 “數(shù)博會”）期間，360數(shù)字安全集團(tuán)總裁胡振泉受邀出席“數(shù)據(jù)安全治理與發(fā)展”交流活動。他聚焦AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理難題，系統(tǒng)剖析AI領(lǐng)域關(guān)鍵數(shù)據(jù)面臨的內(nèi)外部雙重安全挑戰(zhàn)，并提出“以模制?！毙路妒剑运拇笾悄荏w為AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理提供可落地的實(shí)踐路徑。

360數(shù)字安全集團(tuán)總裁胡振泉

AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)入“爆發(fā)期”

胡振泉表示，當(dāng)前大模型技術(shù)加速落地、智能體規(guī)模化應(yīng)用，AI已成為推動產(chǎn)業(yè)升級的核心動力。但技術(shù)紅利背后，AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全風(fēng)險(xiǎn)正進(jìn)入“集中爆發(fā)期”，呈現(xiàn)“內(nèi)憂外患”的態(tài)勢。值得一提的是，針對AI系統(tǒng)的戰(zhàn)略性攻擊成為大國博弈關(guān)鍵戰(zhàn)場，黑客可借AI竊取核心數(shù)據(jù)、生成虛假內(nèi)容、操控社會輿論，甚至破壞物理世界運(yùn)行；專業(yè)化黑灰產(chǎn)組織更將AI與APT攻擊結(jié)合，用AI生成木馬、病毒等工具打造“數(shù)字黑客”智能體，加劇數(shù)據(jù)泄露與網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。

“AI領(lǐng)域數(shù)據(jù)安全問題已遠(yuǎn)超傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全范疇?！焙袢獜?qiáng)調(diào)，AI安全問題可劃分為傳統(tǒng)安全、AI內(nèi)容安全、AI應(yīng)用安全及未來安全四大類，而其中最為關(guān)鍵的數(shù)據(jù)安全治理的核心，是確保數(shù)據(jù)承載的“信息”安全、合法、健康。當(dāng)前，AI生成虛假數(shù)據(jù)用于欺詐、輸出錯(cuò)誤敏感信息、遭惡意提示詞誘導(dǎo)泄露數(shù)據(jù)、因“幻覺”杜撰虛假數(shù)據(jù)等問題頻發(fā)，不僅阻礙政企單位AI落地，更可能引發(fā)數(shù)據(jù)安全事故、意識形態(tài)扭曲等風(fēng)險(xiǎn)，對AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理提出更高要求。

他進(jìn)一步指出，傳統(tǒng)安全手段難以應(yīng)對AI數(shù)據(jù)安全新挑戰(zhàn)。傳統(tǒng)安全企業(yè)缺乏大模型深度研究能力，僅能解決基礎(chǔ)數(shù)據(jù)安全問題；現(xiàn)有大模型企業(yè)對數(shù)據(jù)安全、內(nèi)容安全認(rèn)知不足，二者均無法突破AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理瓶頸。

360“以模制?！睒?gòu)建AI數(shù)據(jù)安全治理新體系

在此背景下，360基于自身AI實(shí)踐與數(shù)據(jù)安全治理經(jīng)驗(yàn)，提出“以模制?！盇I安全治理新范式——通過大模型安全衛(wèi)士應(yīng)對AI數(shù)據(jù)安全問題，實(shí)現(xiàn)“數(shù)網(wǎng)智安一體化”，筑牢AI數(shù)據(jù)安全防線。具體來看，可靠層面，結(jié)合安全大腦與私有化部署，保障數(shù)據(jù)存儲、使用全流程安全；可信層面，借助RAG知識增強(qiáng)與搜索增強(qiáng)，減少大模型“幻覺”，保障輸出數(shù)據(jù)準(zhǔn)確性；向善層面，以內(nèi)容護(hù)欄與風(fēng)控大模型，防范AI被惡意利用生成有害數(shù)據(jù)；可控層面，依托Agent管控與全程審計(jì)，規(guī)避智能體被惡意操作導(dǎo)致的關(guān)鍵數(shù)據(jù)被不可逆地破壞。

在場景化落地過程中，360大模型安全衛(wèi)士針對不同AI應(yīng)用場景的特性，制定了差異化數(shù)據(jù)安全治理策略：面向境內(nèi)AI公共開放服務(wù)，重點(diǎn)圍繞“備案合規(guī)+全量數(shù)據(jù)內(nèi)容安全審核”構(gòu)建防護(hù)體系，確保服務(wù)符合監(jiān)管要求與內(nèi)容安全標(biāo)準(zhǔn)；針對政企私域AI專用服務(wù)，聚焦“客戶隱私數(shù)據(jù)保護(hù)、企業(yè)機(jī)密數(shù)據(jù)防泄露、意識形態(tài)數(shù)據(jù)導(dǎo)向把控” 三大核心，匹配內(nèi)部業(yè)務(wù)數(shù)據(jù)安全需求；對于政企跨境AI服務(wù)，則以“跨境數(shù)據(jù)訪問權(quán)限管控、傳輸加密、存儲合規(guī)”為關(guān)鍵，解決數(shù)據(jù)跨境流動中的安全與合規(guī)難題。

為將“以模制?！狈妒睫D(zhuǎn)化為實(shí)際防護(hù)能力，360大模型安全衛(wèi)士進(jìn)一步構(gòu)建四大核心措施，形成AI數(shù)據(jù)安全閉環(huán)治理：一是內(nèi)容安全智能體，通過幻覺抑制、內(nèi)容護(hù)欄大模型，解決 AI 生成數(shù)據(jù)虛假、違規(guī)問題；二是 AI Agent 安全智能體，依托行為、權(quán)限、數(shù)據(jù)框架，規(guī)避智能體執(zhí)行中的數(shù)據(jù)失控風(fēng)險(xiǎn)；三是軟件安全智能體，識別 AI 供應(yīng)鏈開源組件漏洞，從源頭杜絕數(shù)據(jù)泄露；四是AI安全評估智能體，通過紅藍(lán)對抗靶場檢測數(shù)據(jù)安全短板，強(qiáng)化防護(hù)能力。

“數(shù)據(jù)安全治理與發(fā)展”交流活動作為本屆數(shù)博會的重要活動之一，由中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會執(zhí)委會主辦，中國互聯(lián)網(wǎng)協(xié)會承辦，中國互聯(lián)網(wǎng)協(xié)會數(shù)據(jù)安全與治理工作委員會、貴州大數(shù)據(jù)安全工程研究中心、貴州省互聯(lián)網(wǎng)協(xié)會支持。本次活動共500余人參會，得到了與會嘉賓的一致好評。中國互聯(lián)網(wǎng)協(xié)會將繼續(xù)廣泛開展相關(guān)活動，為推動數(shù)據(jù)安全產(chǎn)業(yè)高質(zhì)量發(fā)展貢獻(xiàn)力量。